kommuniverset

To historier, der til forveksling ligner almindelige it-nyheder, men som tilsammen flytter noget grundlæggende for alle, der har kundedata i en stak af tredjepartsværktøjer. Altså os.

Hvad der faktisk skete

Foto: Heye Jensen på Unsplash

Computerworld dokumenterer, at AI-modeller har offentliggjort tusindvis af billeder af dybt fortrolige software-projekter fra flere hundrede store selskaber. Skærmbilleder fra interne systemer, som modellerne har fået serveret under træning og nu gengiver. Mekanismen kræver ingen hackere: interne skærmbilleder af tickets, dashboards og wikisider ender der, hvor webcrawlere kan nå dem, blandt andet i supportfora og på dokumentationssider. Derfra ind i træningsdata. Derfra ud igen, offentligt og søgbart.

Samme uge beskriver Version2, hvordan alvorlige sårbarheder i Citrix NetScaler, altså det produkt der bogstaveligt talt udgør det yderste forsvarslag mellem systemer og internet, tvang PET, Forsvaret, Politiet og Københavns Lufthavn til at slukke for deres systemer over en weekend. Flere eksperter vurderer, at der er tale om et alvorligt brud med potentielt store konsekvenser.

Læg mærke til, hvem der fejlede. Ikke de ramte selskaber. Ikke myndighederne, hvis beredskab tilsyneladende fungerede, siden de kunne handle hurtigt. I første tilfælde var det den globale maskine, der fodrer AI-modeller med data. I andet var det sikkerhedsleverandørens egen kode. Ofrene gjorde intet forkert, og det er netop dét, der ændrer risikomodellen.

Mønsteret: Fortrolighed er blevet en leverandørkæde-egenskab

I tyve år har vi kunnet sige, at vores data er sikre, fordi vores perimeter er sikker. Begge hændelser viser, at perimeteren ikke længere er vores. Fortrolighed er blevet en leverandørkæde-egenskab, præcis som oppetid blev det for 15 år siden, da vi flyttede infrastruktur til cloud og lærte at leve med andres statussider. Forskellen: der findes en statusside for nedbrud, men ikke for »din fortrolige skærm er lige genudgivet af en model«.

Vi skrev forrige uge i Bekvem uvidenhed er blevet en juridisk gældspost, at Datatilsynet behandler AI-assistenter som et selvstændigt kapitel blandt databehandlere, og at kortlægningen af AI-stakken derfor ikke er valgfri. Det var et tilsynssignal: risikoen var juridisk formuleret, men empirisk tynd. Det er den ikke længere. Hvad der nu er bekræftet: følsomme data fra hundreder af virksomheder er reelt trængt ud gennem selve værktøjslaget, både via modeller og via kendt sikkerhedssoftware. Den juridiske mekanik skal ikke gentages her, men belægget ændrer samtalen med både bestyrelse og leverandører: »det sker ikke for os« er ikke længere et argument, men en antagelse, der er modbevist et sted, du ikke kontrollerer.

Og konsekvensen af konsekvensen: hvis alt, der nogensinde er skærmdumpet og delt uden for firewallen, principielt kan genfindes i en model, så skal interne dashboards, kampagneplaner og kundesegmenteringer designes, som om de var offentlige. Aggreger, maskér, adskil de følsomme felter. Det er dyrere end at antage, at skærmen forbliver privat. Det er også billigere end alternativet.

Martechs egen variant: Optage-laget, som ingen ejer

Her bliver det ubehageligt for marketing, for screenshot-lækagen er ikke et fjernt problem. Martech-stakken indeholder et helt lag af værktøjer, hvis kernefunktion er præcis den: optagelse. Session replay-værktøjer som Hotjar, FullStory og Contentsquare gemmer skærmoptagelser af rigtige brugere med tilhørende PII. AI-mødenotatprogrammer transskriberer alt, der siges, inklusive kundetal. Supportchatbots logger samtaler. AI-assistenter i CRM og Office sender prompts og vedhæftede filer gennem tredjepartsinfrastruktur.

Det er industrialiseret skærmdumpning med kundedata. Og det ligger i en ejerskabsgråzone: konfigureret af marketing, styret af ingen, sjældent omtalt i DPIA’er. Vi kaldte CDP’en en gældspost efter bankens databrud; optage-laget er den samme post, bare med mindre opmærksomhed og flere involverede parter.

Citrix-hændelsen tilføjer den anden halvdel: din kampagneinfrastruktur kører bag samme klasse af edge-software og SaaS. Spørgsmålet er ikke, om der kommer et hul i noget, du bruger. Spørgsmålet er, om du kan slukke hurtigt, når det sker.

Hvad du gør nu, og hvad der kan vente

Prioriteret, med realistiske omkostninger:

1. Kortlæg optage-laget (to uger, internt arbejde). Hvert værktøj, der optager skærme, sessioner, møder eller prompts, inklusive AI-funktioner slået til i eksisterende SaaS. Output: én side pr. Værktøj: hvad fanger den, hvor gemmer den, hvem kan lukke den.
2. Defaults og masking (denne kvartal). Skift til enterprise-aftaler med skriftlig garanti mod træning på jeres data, hvor de findes. Maskér PII i session replay, før der gemmes. Brug syntetiske data til AI-eksperimenter. Regn med en meromkostning pr. Sæde; det er den budgetlinje, der ikke fandtes i fjor.
3. Kill-switch-øvelse (én time, når punkt 1 er gjort). PET og Forsvaret kunne slukke, fordi nogen havde mandat og procedure. Version2s kommentarfelt rammer plet med spørgsmålet om teknikeren havde et actioncard eller skulle op gennem chefferne. Marketing-ækvivalenten: hvem kan stoppe en kampagne, en tracking-pixel eller en chatbot uden tre dages vendor-ticket? Skriv det ned og prøv det én gang. En times øvelse mod en weekends eksponering er dårlig handel at afstå.
4. Kontrakter (vent til fornyelse). Underretning om brud i timer, ikke uger. Sletning af data ved exit. Nej-tak-til-træning skriftligt, ikke mundtligt.

Hvad der kan vente: panisk leverandørskifte. Citrix-episoden viser, at selv institutioner med maksimale sikkerhedsbudgetter vælger kontrolleret nedlukning frem for flugt. Lektionen er beredskab, ikke boykot.

Næste gang en leverandør forsikrer om, at »vi træner ikke på jeres data«, så stil det omvendte spørgsmål: hvad gør I, når jeres kode får et hul, og hvor hurtigt må vi lukke? Svaret afslører, om de har forstået den uge, der lige er gået. Det bør resten af markedet nemlig have.

Læs også

• Bekvem uvidenhed er blevet en juridisk gældspost
• Fødselsdatoer er den dyreste fødselsdagskampagne: Lektionen fra bankens databrud
• Hverken Christiansborg eller OpenAI har svarene: Prissæt AI-styringsvakuumet selv