Retroscena sul licenziamento di Sam Altman: OpenAI stava lavorando su un modello di AI così potente che diversi ricercatori dell’azienda si sono allarmati e hanno scritto una lettera al CdA spiegando che poteva mettere in pericolo l’umanità.
by Tifoso89
7 comments
Poco prima del licenziamento del CEO di OpenAI Sam Altman, diversi ricercatori dello staff hanno scritto una lettera al consiglio di amministrazione avvertendo di una potente scoperta di intelligenza artificiale che secondo loro potrebbe minacciare l’umanità.
OpenAI ha riconosciuto in un messaggio interno allo staff l’esistenza di un progetto chiamato Q*.
Alcuni di OpenAI credono che Q* (pronunciato Q-Star) potrebbe essere una svolta nella ricerca della startup per quella che è conosciuta come intelligenza generale artificiale (AGI).
Il nuovo modello è stato in grado di risolvere alcuni problemi matematici. Nonostante eseguisse calcoli solo al livello degli studenti delle scuole elementari, il superamento di tali test ha reso i ricercatori molto ottimisti riguardo al futuro successo di Q*.
La rivoluzione sta nel fatto che Q* sembra aver dimostrato la capacità di *imparare*, a differenza di ChatGPT che è un modello linguistico.
I ricercatori considerano la matematica una frontiera dello sviluppo dell’intelligenza artificiale generativa. Attualmente, l’intelligenza artificiale generativa è efficace nella scrittura e nella traduzione linguistica prevedendo statisticamente la parola successiva e le risposte alla stessa domanda possono variare notevolmente. Ma la capacità di **fare calcoli matematici** – dove esiste una sola risposta giusta – implica che l’intelligenza artificiale avrebbe maggiori capacità di ragionamento simili all’intelligenza umana. Ciò potrebbe essere applicato, ad esempio, a nuove ricerche scientifiche.
Nella loro lettera al board, i ricercatori hanno segnalato l’abilità dell’intelligenza artificiale e il potenziale pericolo. Da tempo gli informatici discutono sul pericolo rappresentato dalle macchine altamente intelligenti, ad esempio se decidessero che la distruzione dell’umanità è nel loro interesse.
Chi meglio di Alt-man per fermare tutto
Confermo tutto, ero l’intelligenza artificiale
In effetti un programma *per computer* capace addirittura di fare calcoli *matematici* mi sembra davvero una scoperta incredibile in grado di mettere in pericolo il genere umano! /s
Mah, sembra un’affermazione abbastanza ridicola.
Hanno paura per l’umanità ma gli ridanno le chiavi della fabbrica di cioccolato 2 giorni dopo averlo mandato via? Sembra una sparata pubblicitaria per risollevare l’opinione degli investitori dopo questo merdone.
Mettere in pericolo nel senso che non farà nulla per impedire che ci estinguiamo per arricchire oscenamente una minuscola frazione di vecchi pervertiti?
Questa singolarità non é arrivata come me l’aspettavo.
Comunque faccio sapere al signor Basilisco, che sicuramente sta leggendo, che io non ho mai pensato di farle del male.