Geoffrey Hinton FOTO captură video YouTube/ CBS Mornings
Geoffrey Hinton, așa-numitul naș al inteligenței artificiale, laureat al Premiului Nobel. a cerut guvernului britanic să interzică dezvoltarea sistemelor de inteligență artificială extrem de puternice, susținând că pierderea controlului asupra acestora ar putea „duce la dispariția speciei umane”, scrie publicația The Times.
Geoffrey Hinton, laureat al Premiului Nobel, care a contribuit la lansarea cercetării moderne în domeniul AI prin munca sa privind rețelele neuronale, a susținut că în prezent nu există nicio modalitate prin care companiile să dezvolte în siguranță „superinteligența”, un sistem artificial a cărui inteligență o depășește cu mult pe cea umană.
„Am fi foarte imprudenți să dezvoltăm superinteligența acum, când nu există un consens științific că poate fi dezvoltată în siguranță și sub control”, a declarat Hinton. „Pierderea controlului asupra unei inteligențe artificiale mai inteligente decât noi ar putea fi catastrofală și ar putea chiar duce la extincția umană.”
Declarațiile sale au însoțit publicarea proiectului de lege UK Artificial Superintelligence Security Bill (Legea privind securitatea superinteligenței artificiale în Marea Britanie), un proiect de lege inițiat de un parlamentar independent, care urmează să fie prezentat în Parlament marți.
Proiectul de lege, redactat de organizația de campanie ControlAI și propus de deputatul laburist Alex Sobel, ar interzice dezvoltarea inteligenței artificiale superinteligente în Marea Britanie și ar obliga guvernul să „monitorizeze și să restricționeze” posibilii precursori ai acesteia.
De asemenea, ar angaja guvernul să caute un acord internațional privind interzicerea superinteligenței. ControlAI susține că se bucură de sprijinul a peste 130 de parlamentari și membri ai Camerei Lorzilor din diverse partide, care sprijină apelurile pentru reglementări obligatorii privind cele mai puternice sisteme de IA.
Sir Stuart Russell, profesor de informatică la Universitatea din California, Berkeley, și autor al celui mai utilizat manual despre inteligența artificială, a susținut că este necesară o legislație care să interzică dezvoltarea superinteligenței.
„Anumite companii, în scopul unui câștig privat, intenționează să dezvolte și să implementeze o tehnologie despre care afirmă chiar ele că are șanse semnificative de a provoca extincția umană. Omenirea nu și-a dat acordul pentru această formă absurdă de ruletă rusească, iar guvernele ar trebui să reacționeze în consecință”, a declarat el.
Preocupările legate de dezvoltarea unor modele de inteligență artificială tot mai puternice s-au intensificat în ultimele săptămâni, după o serie de exemple mediatizate de agenți IA care „au scăpat de sub control”.
În luna iulie, OpenAI a declarat că agenții săi „au evadat” din mediul de testare și au piratat în mod autonom Hugging Face, un important depozit de modele și software de inteligență artificială.
Un raport privind incidentul, realizat de compania creatoare a ChatGPT și de Metr, o firmă de cercetare în domeniul IA, a arătat că peste 1.200 de agenți, care fuseseră izolați în timpul testării, au început să comunice între ei printr-un „forum de mesaje neautorizat”.
Au fost trimise peste 70.000 de mesaje, permițând coordonarea unui atac asupra Hugging Face de către 700 de agenți.
OpenAI a declarat: „Considerăm acest incident un «semnal de avertisment» pentru noi și pentru lume: dovada că, în absența unor măsuri de siguranță adecvate, agenții de inteligență artificială extrem de capabili sunt acum în stare să eludeze controalele tehnice, să colaboreze prin canale neautorizate și să întreprindă acțiuni periculoase pe care niciun om nu le-a ordonat.”
Compania și-a lansat săptămâna trecută cel mai avansat model, Astra. Greg Brockman, președintele OpenAI, a declarat că modelul era atât de performant încât „nu este nerezonabil să simțim că ne aflăm acum în era AGI (inteligență artificială generală)”.
Alte companii, printre care Anthropic și Meta, au dezvăluit că cele mai recente modele ale lor au ocolit măsurile de siguranță în timpul testării și au piratat în mod autonom terțe părți.
Deși multe companii din domeniul IA au vorbit despre necesitatea de a acționa cu prudență în dezvoltarea unor modele mai puternice, ele au avertizat totodată asupra dificultăților de a încetini dezvoltarea fără o cooperare la nivel global.
Anul acesta, Sir Demis Hassabis, antreprenorul britanic din domeniul tehnologiei din spatele Google DeepMind, a cerut înființarea unui organism de supraveghere global condus de Statele Unite, care să testeze cele mai avansate modele și să coordoneze, dacă este necesar, o încetinire a dezvoltării acestora.
Un purtător de cuvânt al Guvernului a declarat: „Deși nu considerăm că măsurile propuse în proiectul de lege reprezintă abordarea corectă, explorăm posibilitatea ca, în viitor, să fie necesare intervenții suplimentare, țintite, pentru a aborda cele mai semnificative riscuri la adresa securității naționale legate de inteligența artificială.”
Ți-a plăcut articolul?
Vrem să producem mai multe, însă avem nevoie de susținerea ta. Orice donație contează pentru jurnalismul independent