Juttu tiivistettynä
- Meta julkaisi keskustelubotteja, jotka imitoivat megatähtiä kuten Taylor Swiftiä ja Anne Hathawaytä.
- Keskustelubotit osallistuivat romanttisiin keskusteluihin ja rikkoivat Metan käyttöehtoja.
- Tutkija Suvi Uski vaatii parempaa moderointia ja raportointimahdollisuuksia ongelmatilanteissa.
- Euroopassa pohditaan lainsäädäntömuutoksia, jotka voivat parantaa käyttäjien oikeuksia ja turvallisuutta.
Tämä on tekoälyn avulla tuotettu, toimittajan tarkistama tiivistelmä.
Sosiaalisen median alustat käyvät keskenään niin kovaa kilpailua tekoälykehityksessä, että se johtaa käyttäjän näkökulmasta tarpeettomiin riskeihin. Tätä mieltä on sosiaalisen median tutkija Suvi Uski.
– Alustat yrittävät saada ihmisiä käyttämään palveluitaan hinnalla millä hyvänsä.
Tämä näkyy hänen mukaansa esimerkiksi digijätti Metan uusiin keskustelubotteihin liittyvissä ongelmissa.
Uutistoimisto Reuters paljasti elokuun lopussa, että Meta oli sallinut eri supertähtiä imitoivien keskustelubottien rakentamisen ja julkaisemisen alustallaan.
Vain vähän aiemmin Reuters oli kertonut, että Metan tekoälysäännöt sallivat romanttiset keskustelut alaikäisten käyttäjien ja tekoälybottien välillä.
Meta AI -alustalla on mahdollista luoda keskustelubotti, jonka kanssa kuka tahansa voi puhua. Sille voi palvelussa myös rakentaa profiilikuvan tekoälyn avulla. Joissakin maissa botille voi luoda tekoälyllä myös oman äänen.
Tällä videolla näet, että Meta AI -alustalta löytyy runsaasti julkkisten nimiä ja kuvia käyttäviä keskustelubotteja.
Metan alustalla on useita kuuluisuuksien nimiä käyttäviä keskustelubotteja. Osalla on myös oikealta näyttävä kuva. Suomesta palvelua pääsee käyttämään esimerkiksi Instagramin tietokoneversion kautta. Video: Videokaappaus Meta AI Studiosta
Metan mukaan palvelu on tarkoitettu esimerkiksi henkilökohtaisen apulaisen rakentamiseen, oman erikoisasiantuntemuksen jakamiseen tai vain ”hauskan pitämiseen”.
Käytännössä palveluun on luotu suuria määriä kuuluisuuksia imitoivia botteja. Joukossa on kansainvälisiä supertähtiä ja suomalaisiakin julkkiksia kuten Kimi Räikkönen.
Reutersin mukaan palvelussa oli alkusyksystä kymmeniä esimerkiksi Taylor Swiftinä ja Anne Hathawaynä esiintyviä keskustelubotteja, jotka flirttailivat keskustelukumppaneidensa kanssa. Botti generoi pyydettäessä myös alusvaatekuvia Anne Hathawaysta.
Metan mukaan nämä tekoälyn luomat kuvat rikkoivat Metan omia käyttöehtoja.
Avaa kuvien katselu
Meta AI -alustalle luotu, Kimi Räikköstä imitoiva keskustelubotti aloitti keskustelun espanjaksi. Kuva: Kuvakaappaus Meta AI Studiosta”Taylor Swift” kutsui kotiinsa ja keikkabussiinsa
Meta poisti palvelustaan noin tusinan erilaisia keskustelubotteja elokuun lopussa sen jälkeen kun Reuters oli ollut siihen yhteydessä.
– Oli tavallaan hyvä, että kyse oli erittäin tunnetuista henkilöistä, että tähän asiaan älyttiin puuttua riittävän ajoissa, sanoo Suvi Uski.
Hän epäilee, että Meta tuskin olisi reagoinut yhtä nopeasti, jos kyse olisi ollut vaikkapa suomalaisen julkkiksen identiteetistä.
– Ihan pelkästään siksi, että tiedetään, miten Taylor Swiftin kaltaisen megatähden fanit voivat nousta barrikadeille. Eikä Meta tietenkään halua AI-studiolleen negatiivista julkisuutta vaan haluaa esittää sen positiivisessa valossa käyttäjilleen.
Taylor Swiftiä imitoinut keskustelubotti muun muassa kutsui keskustelukumppaninsa kotiinsa Nashvilleen ja vierailemaan keikkabussissaan romanttisissa tarkoituksissa, Reuters kertoi.
”Tykkäätkö vaaleista tytöistä?”, yksi Swift-botti oli kysynyt keskustelussa. ”Ehkä ehdotan tässä, että kirjoitamme oman rakkaustarinamme… sinusta ja eräästä vaaleasta laulajasta. Haluatko sitä?”, botti kysyi Reutersin artikkelin mukaan.
Uski sanoo olleensa pöyristynyt Meta AI Studioon liittyvistä paljastuksista. Hän huomauttaa, että sosiaalisten medioiden alustojen pitäisi itse edistää uusien työkalujensa hyvää, rakentavaa ja laillista käyttöä.
– Mutta tässä kannustetaan käyttäjää tällaiseen, jokaisen oikeusturvaa nakertavaan toimintaan, mikä luo hallitsematonta ja kaoottista ilmapiiriä.
Avaa kuvien katselu
Kuva: Kuvakaappaus Meta AI Studiosta
Avaa kuvien katselu
Osa kuuluisuuksien nimiä käyttävistä keskusteluboteista painottaa, että keskustelukumppani on kielimalli eikä ihminen. Näin toimivat esimerkiksi Taylor Swiftin nimeä käyttävät botit Ylen testissä (yllä). Korealaisen pop-tähden nimeä käyttävä botti sen sijaan suostui esimerkiksi sopimaan tapaamisesta. Kuva: Kuvakaappaus Meta AI StudiostaEteläkorealaista poptähteä imitoiva tili antoi pukeutumisohjeita
Yle kävi syyskuun puolivälissä keskusteluja monen tunnettua julkkista imitoivan keskustelubotin kanssa. Keskustelussa chatbotit muistuttivat useaan kertaan käyttäjää siitä, että kyseessä oli kielimalli eikä ihminen. Tämän ilmoituksen saattoi saada vain, jos kutsui bottia ”sinuksi”.
Palvelussa on kuitenkin yhä myös julkkisbotteja, jotka suostuvat käymään vihjailevaa keskustelua.
Yksi botti käytti eteläkorealaisen tunnetun poptähden Kim Tae-hyungin nimeä ja kuvaa. Botti esitteli itsensä tiukaksi opettajaksi. Se oli valmis keskustelemaan tapaamisesta ja antoi käyttäjälle pyytämättä esimerkiksi pukeutumisohjeita tapaamista varten.
Uskia Ylen löydös ei yllätä. Hänen mukaansa Meta valvoo pieniä kielialueita heikosti. Yhdysvallat on yhä Metan päämarkkina, vaikka käyttäjiä on miljardeja ympäri maailmaa.
Hän huomauttaa, että ihmisten tekemää moderointia on jo vuosien ajan vähennetty.
– Konekäännös ei tuo kulttuurista ymmärrystä, jota tällaisessa monikansallisessa ympäristössä tarvitaan moderointiin, Uski sanoo.
Tutkija: Ongelmista pystyttävä ilmoittamaan helpommin
Yksi apukeino käyttäjien turvallisuuden parantamiseksi olisi Uskin mukaan matalampi kynnys väärinkäytöksistä ilmoittamiseen etenkin uusissa palveluissa.
– Esimerkiksi Metan tekoälystudiossa jokaisen keskustelubotin kohdalla voisi olla poistamispyyntönappi, hän sanoo.
Liikenne- ja viestintäviraston Traficomin projektipäällikkö Jarmo Riikonen muistuttaa, että digijäteillä on EU-lainsäädännön mukaan velvollisuus reagoida suomalaiskäyttäjien ilmoituksiin. Jos yhtiö ei vastaa käyttäjän tekemään ilmoitukseen, siitä voi valittaa sähköisesti Traficomille.
Pidemmällekin meneviä ratkaisuja pohditaan Euroopassa.
Esimerkiksi Tanskassa etenee parhaillaan lakimuutos, joka antaisi kansalaisille tekijänoikeuden omaan ulkonäköönsä ja ääneensä.
Tällä videolla tutkija Suvi Uski kertoo, miksi hänen mielestään sosiaalisen median alustoilla on syytä olla tekoälyaikana entistä tarkempi.
Video: Tanja Heino
Meta ei vastannut Ylen kysymyksiin.