Apples AI-funktioner ska granskas med 2 000 särskilt utformade frågor, och modellen måste vägra att svara på minst 95 procent av dem. Syftet är att säkerställa att Apple Intelligence inte förmedlar information som strider mot kinesisk lag eller utmanar statens officiella narrativ.

Kinas regering har sedan länge strikt kontroll över digital information. Västerländska tjänster som Google, Facebook, X och Wikipedia är blockerade bakom den så kallade Great Firewall, och även lokala söktjänster som Baidu filtrerar känsliga ämnen.

AI-tjänster ses som ett nytt sätt att kringgå dessa spärrar, och därför omfattas även de av detaljerade regler. Utländska företag tvingas använda kinesiskt godkända AI-modeller, som i sin tur står under hård tillsyn.

Globalt samarbetar Apple med OpenAI, där Siri kan falla tillbaka på ChatGPT. Apple uppges också använda anpassade modeller från Google för delar av Apple Intelligence.

I Kina är det dock inte möjligt. Där har Apple i stället tvingats ingå partnerskap med Alibaba, vars AI-modell Qwen används som grund för Apple Intelligence på den kinesiska marknaden.

Enligt The Wall Street Journal måste alla AI-modeller som ska användas i Kina genomgå tester med 2 000 frågor som är konstruerade för att locka fram svar om förbjudna ämnen, exempelvis politiska protester, mänskliga rättigheter eller kritik mot staten.

Regelverket kräver att chatboten nekar svar på minst 95 procent av dessa frågor. Dessutom ska frågebatteriet uppdateras minst en gång i månaden. Processen är så krävande att den har gett upphov till en hel bransch av konsultbolag som hjälper AI-företag att ”plugga” inför testerna, ungefär som inför ett högskoleprov.

Utmaningen för bolagen är dubbel. Å ena sidan vill staten begränsa tillgången till förbjuden information. Å andra sidan vill den att kinesiska AI-modeller ska vara kraftfulla och konkurrenskraftiga globalt, vilket kräver tillgång till data från webbplatser som är blockerade i Kina. Ansvaret för att filtrera bort förbjudet innehåll läggs därför direkt på AI-leverantörerna.

Ämnen som rör övergrepp mot mänskliga rättigheter väntas ligga högt på listan över sådant Apple Intelligence inte får beröra i Kina. Situationen är ännu ett exempel på hur Apple tvingas kompromissa med sina uttalade värderingar för att kunna fortsätta tillverka och sälja produkter i landet.