EU-kommisjonen ønsker total chat-kontroll.

EUs illevarslende plan om å masseskanne borgernes private meldinger blir nå presset inn bakdøra – det ville innebære masseovervåking i massiv og enestående skala.

Thomas Fazi.

I teorien burde Chat Control ha blitt begravet forrige måned. EUs illevarslende plan om å masseskanne borgernes private meldinger ble møtt med overveldende offentlig motstand i Tyskland, og landets regjering nektet å godkjenne den. Men Brussel trekker seg sjelden tilbake bare fordi publikum krever det. Og derfor, som vanlig, blir en omarbeidet versjon av teksten allerede presset frem – denne gangen ute av syne, bak lukkede dører.

Chat Control, tidligere kjent som forordningen om seksuelt misbruk av barn, ble først foreslått av EU-kommisjonen i 2022. Den opprinnelige planen ville ha gjort det obligatorisk for e-post- og messenger-leverandører å skanne privat, til og med kryptert, kommunikasjon – med det påståtte målet å oppdage materiale med seksuelt misbruk av barn.

Verktøyet ble solgt som et nobelt korstog mot noen av verdens mest forferdelige forbrytelser. Men kritikere hevdet at verktøyet risikerte å bli en blåkopi for generalisert overvåking, ved i hovedsak å gi stater og EU-institusjoner muligheten til å skanne alle private meldinger.

Et åpent brev signert av 18 av Europas ledende akademikere innen nettsikkerhet og personvern advarte om at det siste forslaget utgjør «høy risiko for samfunnet uten klare fordeler for barn». Den første, etter deres syn, er utvidelsen av «frivillig» skanning, inkludert automatisert tekstanalyse ved hjelp av AI for å identifisere tvetydig «grooming»-atferd. Denne tilnærmingen, hevder de, er dypt feilaktig. Nåværende AI-systemer er ikke i stand til å skille ordentlig mellom uskyldige samtaler og krenkende atferd. Som ekspertene forklarer, risikerer AI-drevet grooming-deteksjon å feie et stort antall normale, private samtaler inn i en slepenot, overvelde etterforskere med falske positiver og avsløre intim kommunikasjon for tredjeparter.

Forkjemper for digitale rettigheter og tidligere MEP Patrick Breyer understreket videre denne faren ved å bemerke at ingen AI pålitelig kan skille mellom uskyldig flørt, humoristisk sarkasme – og kriminell grooming. Han advarte om at dette utgjør en form for digital heksejakt, der blotte forekomsten av ord som «kjærlighet» eller «møtes» i en samtale mellom familiemedlemmer, partnere eller venner kan utløse påtrengende gransking. Dette er ikke barnevern, har Breyer hevdet, men massemistanke rettet mot hele befolkningen.

Selv under det eksisterende frivillige regimet advarer tysk føderale politi om at omtrent halvparten av alle mottatte rapporter er kriminelt irrelevante, noe som representerer titusenvis av lekkede juridiske samtaler årlig. Ifølge det sveitsiske føderale politiet er 80 % av maskinrapportert innhold ikke ulovlig. Det kan for eksempel omfatte ufarlige feriebilder som viser nakne barn som leker på en strand. Den nye teksten vil øke disse risikoene dramatisk.

Ytterligere bekymringer oppstår fra artikkel 4 i det nye kompromissforslaget, som krever at leverandører implementerer «alle passende risikoreduserende tiltak». Denne klausulen kan tillate myndighetene å presse krypterte meldingstjenester til å muliggjøre skanning, selv om dette undergraver deres kjernesikkerhetsmodell. I praksis kan dette bety at leverandører som WhatsApp, Signal eller Telegram må skanne meldinger på brukernes enheter før kryptering brukes.

Electronic Frontier Foundation har bemerket at denne tilnærmingen risikerer å skape en permanent sikkerhetsinfrastruktur, en som gradvis kan bli universell. Meta, Google og Microsoft skanner allerede ukryptert innhold frivillig; å utvide denne praksisen til kryptert innhold ville bare kreve tekniske endringer. Dessuten kan det som begynner som et frivillig alternativ lett bli obligatorisk i praksis, ettersom plattformer står overfor omdømmemessig, juridisk og markedsmessig press for å «samarbeide» med myndighetene. Videre påvirker dette ikke bare folk i EU, men alle rundt om i verden, inkludert USA. Hvis plattformer bestemmer seg for å bli i EU, vil de bli tvunget til å skanne samtalene til alle i blokken. Hvis du ikke er i EU, men du chatter med noen som er det, blir personvernet ditt også kompromittert.

Denne artikkelen ble publisert på bloggen til Thomas Fazi.