USA och Kina uppges f\u00f6rbereda s\u00e4rskilda samtal om AI-s\u00e4kerhet i mitten av september, med cyberattacker och informationsutbyte mellan AI-laboratorier p\u00e5 den f\u00f6reslagna agendan. Men Vita huset s\u00e4ger att n\u00e5got s\u00e5dant m\u00f6te f\u00f6r n\u00e4rvarande inte \u00e4r planerat. Bakom de motstridiga beskeden finns en s\u00e4kerhetsfr\u00e5ga som ocks\u00e5 ber\u00f6r Europa: hur avancerad AI ska kunna utvecklas utan att ge angripare allt starkare verktyg.<\/p>\n
Reuters publicerade uppgifterna den 4 september med h\u00e4nvisning till tv\u00e5 k\u00e4llor med insyn i f\u00f6rberedelserna. USA:s finansminister Scott Bessent uppges leda den amerikanska sidan. N\u00e5gon fastst\u00e4lld plats eller fullst\u00e4ndig deltagarlista finns inte.<\/p>\n
Enligt nyhetsbyr\u00e5n v\u00e4ntas Donald Trump och Xi Jinping m\u00f6tas i Washington den 24 september. AI-dialogen skulle d\u00e4rmed kunna f\u00f6reg\u00e5 presidenternas m\u00f6te, men Vita husets motbesked inneb\u00e4r att tidpunkten inte kan betraktas som bekr\u00e4ftad.<\/p>\n
Cyberattacker och laboratoriernas ansvar<\/p>\n
Det amerikanska f\u00f6rslaget omfattar enligt Reuters samarbete f\u00f6r att bevaka AI-drivna cyberattacker. Amerikanska och kinesiska AI-laboratorier skulle ocks\u00e5 kunna utbyta information och sj\u00e4lva \u00f6vervaka risker f\u00f6r att f\u00f6rebygga angrepp. Den slutliga agendan \u00e4r fortfarande \u00f6ppen.<\/p>\n
Ett s\u00e5dant uppl\u00e4gg skulle beh\u00f6va l\u00f6sa flera praktiska fr\u00e5gor. Vilka uppt\u00e4ckter ska delas? Hur snabbt m\u00e5ste ett laboratorium varna andra? Och hur ska mottagaren kunna bed\u00f6ma en varning utan att f\u00e5 tillg\u00e5ng till f\u00f6retagshemligheter?<\/p>\n
Skillnaden mellan ett allm\u00e4nt l\u00f6fte om s\u00e4ker AI och anv\u00e4ndbart samarbete ligger i s\u00e5dana detaljer. En kontaktv\u00e4g beh\u00f6ver ha ansvariga mottagare och informationen m\u00e5ste g\u00e5 att agera p\u00e5. Annars riskerar ett gemensamt uttalande att f\u00e5 liten betydelse n\u00e4r en allvarlig incident intr\u00e4ffar.<\/p>\n
AI kan g\u00f6ra k\u00e4nda angrepp snabbare<\/p>\n
Cyberhotet handlar delvis om att s\u00e5dant som angripare redan g\u00f6r kan g\u00e5 snabbare och kr\u00e4va mindre arbete.<\/p>\n
Brittiska cybers\u00e4kerhetsmyndigheten NCSC beskriver i sin bed\u00f6mning fram till 2027 hur AI kan effektivisera kartl\u00e4ggning av m\u00e5l, s\u00f6kning efter s\u00e5rbarheter, utveckling av angreppsverktyg och bearbetning av stulna uppgifter. Tekniken kan \u00e4ven anv\u00e4ndas f\u00f6r social manipulation, d\u00e4r m\u00e4nniskor luras att l\u00e4mna information eller ge tillg\u00e5ng till system.<\/p>\n
Myndigheten bed\u00f6mer att fler statliga och icke-statliga akt\u00f6rer kan f\u00e5 tillg\u00e5ng till f\u00f6rst\u00e4rkt angreppsf\u00f6rm\u00e5ga. Det \u00e4r en bed\u00f6mning av hotets utveckling, inte ett m\u00e5tt p\u00e5 hur stor andel av alla attacker som redan utf\u00f6rs med AI.<\/p>\n
Det \u00e4r ocks\u00e5 skillnad mellan en angripare som tar hj\u00e4lp av en modell och ett system som genomf\u00f6r flera arbetsmoment mer sj\u00e4lvst\u00e4ndigt. Begreppet AI-driven cyberattack s\u00e4ger i sig inte hur mycket en m\u00e4nniska styr.<\/p>\n
F\u00f6r den som ska skydda ett n\u00e4tverk spelar b\u00e5da formerna roll. Det beh\u00f6vs ingen helt sj\u00e4lvst\u00e4ndig AI f\u00f6r att effektivare s\u00e5rbarhetss\u00f6kning eller fler angreppsf\u00f6rs\u00f6k ska skapa problem.<\/p>\n
Rivalerna har talat om riskerna tidigare<\/p>\n
USA och Kina h\u00f6ll sitt f\u00f6rsta mellanstatliga AI-samtal i Gen\u00e8ve den 14 maj 2024. D\u00e5 diskuterades risker, styrning och hur tekniken skulle kunna utvecklas.<\/p>\n
I den kinesiska regeringens redog\u00f6relse fanns samtidigt protester mot amerikanska begr\u00e4nsningar inom AI. S\u00e4kerhetsfr\u00e5gorna och konflikten om tekniken behandlades allts\u00e5 parallellt redan d\u00e5.<\/p>\n
En forskningssammanst\u00e4llning av Akash Wasil och Tim Durgin visar ocks\u00e5 att tekniska och politiska profiler i b\u00e5da l\u00e4nderna offentligt har uttryckt oro f\u00f6r avancerad AI och f\u00f6rlust av m\u00e4nsklig kontroll. Studien bygger p\u00e5 offentliga uttalanden. Den visar gemensamma farh\u00e5gor, men s\u00e4ger inte att regeringarna \u00e4r \u00f6verens om vilka \u00e5tg\u00e4rder som beh\u00f6vs.<\/p>\n
Den m\u00f6jliga nyttan av en ny dialog \u00e4r \u00e4nd\u00e5 begriplig. En incident som drabbar digital infrastruktur eller en leverant\u00f6r kan f\u00e5 f\u00f6ljder \u00f6ver nationsgr\u00e4nserna. \u00c4ven konkurrenter kan d\u00e4rf\u00f6r ha intresse av att f\u00e5 en tidig varning och m\u00f6jlighet att begr\u00e4nsa skadan.<\/p>\n
Informationsutbyte kr\u00e4ver f\u00f6rtroende<\/p>\n
Samma information som hj\u00e4lper ett annat laboratorium att f\u00f6rst\u00e5 en risk kan avsl\u00f6ja n\u00e5got om den egna modellens f\u00f6rm\u00e5ga eller svagheter. F\u00f6r f\u00f6retagen kan det r\u00f6ra aff\u00e4rshemligheter. F\u00f6r regeringarna kan informationen ber\u00f6ra nationell s\u00e4kerhet.<\/p>\n
Det \u00e4r en rimlig f\u00f6rklaring till varf\u00f6r ett begr\u00e4nsat samarbete om incidenter kan vara l\u00e4ttare att f\u00f6rest\u00e4lla sig \u00e4n l\u00e5ngtg\u00e5ende gemensam kontroll \u00f6ver utvecklingen. L\u00e4nderna beh\u00f6ver d\u00e5 komma \u00f6verens om vilken information som \u00e4r n\u00f6dv\u00e4ndig f\u00f6r att hantera en risk, \u00e4ven om de forts\u00e4tter konkurrera om tekniken.<\/p>\n
Men det \u00e4r en analys av vad som skulle kunna fungera. N\u00e5gon s\u00e5dan f\u00e4rdig modell f\u00f6r samarbetet har inte presenterats.<\/p>\n
Internationella kontakter sker ocks\u00e5 i bredare format. Den 2 september enades G20:s innovationsministrar om ett gemensamt uttalande och de s\u00e5 kallade Carolina-principerna. B\u00e5de Kina och EU deltog. Vita husets redog\u00f6relse betonar innovationsv\u00e4nliga ramverk, forskning, kommersialisering och betrodd teknikanv\u00e4ndning.<\/p>\n
Det visar att det finns utrymme f\u00f6r gemensamma formuleringar. Hur l\u00e4nderna sedan oms\u00e4tter dem i kontroll, ansvar och informationsdelning \u00e4r en annan fr\u00e5ga.<\/p>\n
EU har redan krav p\u00e5 modeller med systemrisk<\/p>\n
Europa har ett eget regelverk f\u00f6r de risker som nu diskuteras.<\/p>\n
Artikel 55 i EU:s AI-f\u00f6rordning st\u00e4ller s\u00e4rskilda krav p\u00e5 leverant\u00f6rer av AI-modeller f\u00f6r allm\u00e4nna \u00e4ndam\u00e5l med systemrisk. Det omfattar utv\u00e4rderingar och tester d\u00e4r modellen uts\u00e4tts f\u00f6r f\u00f6rs\u00f6k att framkalla brister, bed\u00f6mning och begr\u00e4nsning av systemrisker samt rapportering av allvarliga incidenter.<\/p>\n
Leverant\u00f6rerna ska \u00e4ven s\u00e4kerst\u00e4lla ett tillr\u00e4ckligt cyberskydd f\u00f6r modellen och dess fysiska infrastruktur.<\/p>\n