Denne artikkelen ble først publisert i Kapital.
Den europeiske verdipapir- og markedstilsynsmyndighet (ESMA) fremstår som svett for tiden. I en pressemelding i juli advarte den nok en gang mot farene ved AI-basert trading.
«EUs verdipapirdirektiv (MiFID II) krever at investeringsforetak som driver med algoritmisk handel, har effektive systemer og risikokontroller for å sikre at handelssystemene er robuste, har tilstrekkelig kapasitet, er underlagt passende handelsgrenser og -begrensninger, og forhindrer at uriktige ordre sendes. Systemene må også sikre at handelssystemene ikke kan brukes til markedsmanipulasjon, innsidehandel eller andre formål i strid med EUs markedsmisbruksforordning.»
Dette er bare én av en rekke krav- og bekymringsmeldinger fra EUs organer for finansmarkedstilsyn det siste året. Det skjer samtidig som tilsynsmyndigheter i en rekke europeiske land går i beredskapsmodus. Allerede i november i fjor kom Italia, Nederland og Spania med tilsvarende advarsler. En ting de er spesielt bekymret for er noe som kalles algoritmisk kollusjon, som kan føre til en slags «kartellvirksomhet».
Disse modellenes manglende gjennomsiktighet, deres evne til selvlæring og deres potensial til å samhandle skaper en alvorlig risiko og en mulighet for manipulasjon.
Laura van Geest, styreleder AMF i Nederland
– Disse modellenes manglende gjennomsiktighet, deres evne til selvlæring og deres potensial til å samhandle skaper en alvorlig risiko og en mulighet for manipulasjon […]. Noen algoritmer er selvlærende, noe som betyr at de kan lære av sin egen adferd. Hvis disse algoritmene samarbeider for å finne den høyest mulige felles gevinsten, er det algoritmisk kollusjon, sa leder for den nederlandske tilsynsmyndigheten AMF, Laura van Geest, i en uttalelse.
Også den britiske sentralbanken har kastet seg på. Før sommeren advarte den mot at AI kunne bli brukt til å manipulere markedet og skape finansielle kriser med vilje.
Bakteppet for denne økende bekymringen er et våpenkappløp innen AI-utvikling som i aller høyeste grad kan påvirke verdens finansmarkeder. Et kappløp som i hovedsak drives av to aktører: USA og Kina.
Kinesiske pengemaskiner
Noe som virkelig har bidratt til å akselerere utviklingen, er det kinesiske hedgefondet Ningbo High-Flyer Quantitative Investment Management Partnership – eller simpelthen High-Flyer, på folkemunne. Fondet startet og finansierer Kinas alternativ til OpenAI – DeepSeek – som siden 2023 har etablert seg som en reell utfordrer til teknologigigantene i Silicon Valley.
High-Flyer arbeider etter en modell hvor alle fondsinvesteringene er AI-baserte – og skal ha hatt betydelig suksess. Ved årets begynnelse satt fondet på en portefølje verdt 13,7 milliarder dollar.
Denne suksessen har ført til at en rekke andre kinesiske hedgefond – som Baiont Quant, Wizard Quant og Mingshi Investment Management – har latt sine porteføljer helt eller delvis bli AI-styrt. De investerer også betydelige summer i AI-forskning, alt med regimets velsignelse.
– Vi befinner oss i KI-revolusjonens øye, sa administrerende direktør i det kinesiske Baiont Quant, Feng Ji, til Reuters tidligere i år.
Baiont Quant opplyser selv at fondet nå benytter AI til å handle i markedene – helt uten menneskelig innblanding.
– For to år siden så mange fondsforvaltere på AI-drevet kvantitativ forvaltning med hån eller vantro. I dag vil disse skeptikerne bli stående igjen på perrongen om de ikke omfavner AI, fastslo Feng Ji.
I USA jobber teknologigigantene på spreng for ikke å bli utkonkurrert av kineserne. I sommer erklærte medgründer Cliff Asness i det kvantitative hedgefondet AQR, som har vært ledende på AI-assistert trading, at de har «overlatt enda mer til maskinen». Det gjelder også når maskinen vil gjøre investeringer som ikke nødvendigvis gir mening for menneskene i fondet.
I lys av dette er det kanskje ikke så rart at Mark Zuckerberg det siste året har skrellet av seg milliarder av kroner for å headhunte de beste AI-hodene i bransjen til Meta. Vi snakker om signeringsbonuser på nivå med verdens fotballstjerner.
Vil dominere finansbransjen
Doktorgradsstipendiat i finans Mohammad Reza Allahdadi ved Handelshøyskolen ved NMBU mener at AI-utviklingen vil prege finansmarkedene. Han beskriver i dag en situasjon hvor vi har tre lag med teknologi: maskinlæring som kan finne mønstre, avanserte nevrale nettverk – og til slutt generativ KI.
– Det pågår et tydelig kappløp om kompetanse, data og infrastruktur. Store amerikanske og europeiske aktører investerer tungt i AI i hele verdikjeden. Det samme ser vi i Asia. Tempoet er høyt fordi ingen ønsker å bli hengende etter.
– Hvordan vil dette påvirke finansbransjen og finansmarkedene?
– Forvaltning blir nok mer datadrevet. Veksten kommer i roller som kombinerer finans, dataingeniørfag og risikostyring. Jeg tror produktiviteten øker i research, rapportering og kontrollfunksjoner. Samtidig kan økt modell-likhet gi mer korrelerte posisjoner. Når mange modeller lærer på de samme datasettene og optimaliserer mot like risikomål, kan rebalanseringer bli mer synkrone i perioder, gitt like datakilder og mål. Vi får sannsynligvis mer kapital i systematiske strategier med lav marginalkostnad og større avhengighet av leverandører som leverer data og modellverktøy.
Allahdadi forteller at den positive siden kan være bedre signaler og mer presis likviditetsstyring, noe som kan gi smidigere markedstilpasning og lavere friksjon for sluttinvestorer.
– Men jeg tror bransjen må håndtere nye former for operasjonell risiko, blant annet datasikkerhet og modelldrift i sanntid.
AI kan utnytte strategier som i praksis minner om manipulasjon, forteller Mohammad Reza Allahdadi ved Handelshøyskolen ved NMBU.
Foto: NMBU
AI-karteller
Problemet er, som europeiske finanstilsyn er blitt voldsomt bevisst, at teknologien kommer med noen helt klare faresignaler. Innen finans handler det om at AI-modeller ofte er såkalte «black boxes», som kort sagt betyr at prosessen modellen bruker, er uforståelig eller uoversiktlig for brukeren. Dette kan i teorien gi uønsket koordinering mellom modeller, for eksempel når en eller flere AI finner en strategi som vil maksimere gevinst, kan de utvikle samordnet atferd – en form for kartellvirksomhet. Det er også bekymring rundt flokkmentalitet, datamanipulasjon m.m.
Rent praktisk kan dette anta flere former. Såkalt «pump and dump» kan lett skje dersom en AI oppdager at raskt oppkjøp av et illikvid papir trigger kursstigning, hvor den deretter kan selge med gevinst. AI-baserte fond kan ubevisst bevege seg i takt – en form for algoritmisk kollusjon – ved at de reagerer på de samme signalene. Dette kan gi en flokkeffekt som ligner koordinert manipulasjon. Og selvfølgelig: Ondsinnede aktører kan mate modellene med falsk informasjon som kan trigge unaturlige kjøps- og salgsbølger.
– Jeg forstår bekymringen ESMA peker på. AI-systemer kan forfølge strategier som i praksis gir uønskede markedsutslag, uten intensjon. Slike systemer kan oppdage mønstre i ordredata, likviditet og mikrostruktur som kan gi uønsket markedsforstyrrelse. Når det kommer til regulering, er det krevende globalt, siden kapital flyter på tvers av grenser. Men noen rammer må på plass – ellers risikerer vi både uforutsette hendelser og tap av tillit til markedene, sier Allahdadi.
Bør ha en «kill switch»
– Tror du AI-drevne fond, som AQR, generelt kommer til å bli normen om et par års tid, og vil slike fond konsekvent gi høyere avkastning enn andre fond?
– Jeg tror ikke dette blir normen i løpet av et par år. AI blir et viktig tillegg i verktøykassen til forvaltere, ikke en erstatning for alt annet. Noen fond vil lykkes i perioder der modellene fanger opp nye mønstre eller utnytter datakilder konkurrentene ikke bruker. Det er likevel lite som tilsier stabil meravkastning på tvers av sykluser. Markedet lærer, signaler blir kopiert, transaksjonskostnader spiser opp meravkastningen, og regimeendringer i økonomien kan gjøre gårsdagens mønstre lite verdt.
Han påpeker at de mest robuste bruksområdene på kort sikt er prosessforbedringer som bedre datakvalitet, raskere analyser, mer presise eksponeringer og smartere ordreutførelse.
– Det gir høyere driftseffektivitet, selv om ren alfa ikke er garantert. I tillegg kommer kjente fallgruver som dataskjevhet, overtilpasning og kapasitetsgrenser når strategier skaleres. Trolig vil AI forbedre prosesser bredt i bransjen, men vedvarende meravkastning vil fortsatt i stor grad avhenge av god risikostyring, diversifisering og disiplinert implementering.
Allahdadi mener utviklingen absolutt må kontrolleres. Han mener klare krav til dokumentasjon, løpende overvåkning, tydelige ansvarslinjer og en stoppmekanisme for avvikende modellatferd bør komme på plass.
– Det blir nok aldri helt lik regulering globalt, men en viss form for enighet rundt prinsipper vil være mulig gjennom eksempelvis IOSCO, og EU AI Act vil være et horisontalt rammeverk som utfyller eksisterende finansregulering.
Forskjellige rammeverk
Et problem myndighetene står overfor, er at forskjellige regimer har forskjellig rammeverk. Allahdadi forklarer det slik:
– I Kina er tilgangen på enkelte datakilder stor, men rammeverket er annerledes enn i Vesten. Det gir naturligvis andre muligheter og andre risikoer. For eksempel møter europeiske fond strenge krav gjennom EU og ESMA, med tydelig vekt på investorbeskyttelse og dokumentasjon. Kinesiske fond opererer innen et regime med sterk kontroll på dataflyt, strengere krav til enkelte typer algoritmer og klare regler for høyfrekvent handel. I praksis betyr det ikke færre sperrer, men andre typer sperrer.
– Hvis noen lykkes med å utvikle en selvbevisst kunstig intelligens de neste årene, kan vi anta at den raskt vil bli søkkrik på trading?
– Det er ren hypotese. Om noe slikt skulle oppstå, blir samfunnsspørsmål om kontroll, ansvar og sikkerhet langt viktigere enn om den tjener penger. Markedet er dessuten en bevegelig målskive. Selv meget avanserte modeller møter datakostnader, motparter som tilpasser seg, regulering og kapasitetsgrenser. Men hvis vi skulle snakke om en dag hvor vi får en selvbevisst AI, er nok trading det siste vi bør bekymre oss for. Da har vi langt større samfunnsmessige spørsmål å håndtere. Men ja, i teorien kunne en slik AI raskt finne lønnsomme mønstre og tjene penger – men det er mer science fiction enn realistisk nær framtid.