OpenAI etsii uutta työntekijää pohtimaan tekoälyn riskejä.
OpenAI on The Vergen mukaan perustanut uuden Head of Preparedness -roolin, jonka tehtävänä on ennakoida ja hallita tekoälyn vakavimpia uhkakuvia. Toimitusjohtaja Sam Altmanin mukaan nopeasti kehittyvät tekoälymallit tuovat mukanaan todellisia haasteita, erityisesti mielenterveyden, kyberturvallisuuden ja itseään parantavien järjestelmien osalta.
Uuden roolin vastuulle kuuluvat muun muassa tekoälyn kehittyneiden kyvykkyyksien riskien arviointi, uhkamallien laatiminen sekä konkreettisten suojamekanismien rakentaminen. Altmanin mukaan tehtävä sisältää myös OpenAI:n niin sanotun preparedness frameworkin toimeenpanon, biologisiin sovelluksiin liittyvien mallien turvaamisen sekä rajojen asettamisen itseoppiville järjestelmille.
Altman kuvailee tehtävää suoraan stressaavaksi, mikä ei ole yllättävää, sillä tekoälyn yhteiskunnalliset riskit ovat nousseet viime aikoina yhä enemmän esiin. Haastavasta työstä saa kuitenkin palkaksi 550 000 dollaria vuodessa.
Useissa tapauksissa chatbotteja on yhdistetty nuorten itsemurhiin, ja niin sanottu AI-psykoosi on kasvava huolenaihe. Tekoäly voi vahvistaa harhaluuloja, ruokkia salaliittoteorioita ja auttaa esimerkiksi syömishäiriöiden piilottamisessa.