Ne avete mai sentito parlare (aldilà della fantascienza)? Seguite le notizie e gli ultimi sviluppi? Opinioni sull’alignment problem?
Edit: Per chi fosse interessato ad aiutare, è appena uscito questo video: https://youtu.be/4x3q1RbRphk
Link al sito: https://www.redwoodresearch.org/
10 comments
Non vorrei influenzare la vostra opinione se ne avete già una, quindi per chi ce l’ha, potete saltare questo commento.
Per chi non ha idea di cosa si tratta ho un po di fonti (in inglese), ma scrivo anche un breve riassunto in italiano giù.
Questo video è una buona introduzione: https://youtu.be/pYXy-A4siMw
E questo articolo (parte 1 e 2): https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
Breve riassunto (salto e trascuro molte cose, ma provo ad essere conciso):
L’intelligenza artificiale generale (AGI) è un AI, appunto generale, che sarà in grado di fare tutto ciò che può fare un essere umano medio. Non ne esiste ancora una, ma di recente c’è stato del progresso interessante da parte di diverse aziende che stanno cercando di svilupparla, come DeepMind, e OpenAI. Negli ultimi mesi, sembra esserci stata un’esplosione di sviluppi notevoli.
Certi esperti prevedevano una data di sviluppo per l’AGI intorno al 2029, ma dopo recenti sviluppi, l’opinione di diverse persone nel campo si è avvicinata ancora di più. 2029 è già una data comunque abbastanza vicina, tra soli 7 anni, ma c’è ragione di pensare che ci vorrà ancora meno.
Questa sarà una tecnologia completamente rivoluzionaria, non paragonabile all’elettricità, a internet, o nemmeno al fuoco. è difficile spiegare in poche parole che impatto avrà (che sia positivo, o negativo).
Sarà diversa tagli altri “strumenti” che abbiamo inventato nella storia dell’umanità, questa AGI avrà una propria volontà. Per assicurarci che lo sviluppo dell’AGI sia una cosa positiva per l’umanità, dobbiamo assicurarci che questa volontà sia allineata alla nostra, e per farlo dobbiamo risolvere il (perdonatemi la traduzione letterale) “problema dell’allineamento” (alignment problem).
Inutile dire che non è un problema semplice da risolvere.
Vi riporto il [“Bad alignment take bingo”](https://www.reddit.com/r/singularity/comments/uskpql/bad_alignment_bingo/), o le risposte/soluzioni comuni che vengono date da gente che ha appena scoperto l’esistenza dell’alignment problem, e pensa di averne già la soluzione. Ovviamente nessuna di queste è una buona soluzione. Se serve posso tradurle dopo.
la stessa che ho della dinamite
Opinione buona per due motivi:
1 – Se aiuterà gli umani nella vita e nel lavoro: Bene
2 – Se deciderà di annientare la razza umana: Meglio
Seguo da anni gli sviluppi nel settore con una certa curiosità.
Circa due anni fa sono rimasta stupefatta dalle potenzialità di gpt-3 che sembrava uscito direttamente da un libro di fantascienza. Lo utilizzavo tramite l’interfaccia di aidungeon ed i primi giorni restavo costantemente a bocca aperta per la meraviglia.
Poi è arrivato codex (a cui ho avuto accesso in beta fin dai primissimi giorni) e lì mi sono resa conto che la professione di sviluppatore è probabilmente senza futuro.
Il mese scorso hanno iniziato a pubblicare le immagini prodotte da dalle-2 e di nuovo ho avuto l’impressione che la tecnologia stia correndo troppo in fretta per tenerne il passo.
Qualche giorno fa è successo di nuovo con Gato ed oggi la notizia nel mondo dell’ai è che dalle-2 è gia stato superato dal modello Imagen (di Google) dopo neppure due mesi.
Da un lato tutto questo mi spaventa, dall’altro sono estremamente curiosa di vedere dove ci porterà.
In questo momento secondo me il pericolo principale è che questi super modelli sono in mano ai soliti giganti della tecnologia e se il trend attuale dovesse continuare, queste entità si troverebbero a controllare la tecnologia più potente che l’uomo abbia mai concepito.
L’anno scorso avevo seguito un interessantissimo corso di intelligenza artificiale legata alla psicologia (era un’infarinatura).
Ha ridimensionato un po’ le mie aspettative. Ci hanno fatto vedere alcune intelligenze artificiali veramente fuori di testa, ma hanno anche reso esplicito quanto fossimo lontani da un’intelligenza artificiale veramente generale, che se ci si ferma a pensarci è veramente un compito titanico.
Nella sezione di AGI e di ASI, poi, ci avevano presentato la posizione di pensatori influenti nel settore che si esprimevano a favore o contro il possibile raggiungimento di queste intelligenze superiori. E se perfino loro avevano ragioni per sostenere l’una o l’altra posizione, io che sono l’ultima ruota del carro al massimo posso esprimere un’opinione da bar.
Così adesso in pratica ritengo di non avere gli strumenti per poter prevedere nulla. Ma penso anche che per quanto siano eccezionali gli sviluppi in questo campo, ancora ne deve passare molta di acqua sotto i ponti, e i tempi sono molto acerbi.
Quindi la mia posizione è: è possibile? Boh, però se fosse possibile ancora dobbiamo aspettare un bel po’, anche perché gli avanzamenti tecnologici vengono sempre un po’ sparati grossi, tipo chi pensava che avremmo avuto nel 2020 un gran numero di macchine che si guidano da sole
La singolarità tecnologia è un mito che è stato praticamente inventato da scrittori di fantascienza e accolto con gioia dalla credenza pseudoreligiosa che va sotto il nome di transumanesimo.
L’errore fondamentale è il confondere il quantitativo con il qualitativo, cioè il pensare che aumentando adeguatamente i dati disponibili, i sensori in funzione, e la capacità di calcolo, magicamente si creerebbe un computer senziente capace di prendere decisioni come se fosse umano.
Non riesco a immaginare altro scopo se non quello di usare queste intelligenze generali per prendere decisioni, decisioni i cui motivi non riusciremo davvero a comprendere perché troppo complessi, e dovremo accontentarci di constatare il fatto che le diverse intelligenze artificiali concordano sulla decisione presa. A quel punto che facciamo? Ci fidiamo? Cediamo loro il potere e la responsabilità?
È tutto molto interessante ma per me le macchine devono restare prevedibili, sennò diventiamo noi gli strumenti.
3 cose, un tanto al chilo:
1. La stragrande maggioranza della ricerca in questo senso credo abbia come scopo il risolvere problemi, non creare una intelligenza di per se. Nulla esclude che la ricerca sia indirizzata, anche legalmente, a produrre solo AI “lobotomizzate” o “autistiche ad alto funzionamento”, perdonate i termini crudi, facilmente controllabili e senza autonomia decisionale che non sia decisa a priori. Tuttavia…
2. Il problema con un sistema con un livello di intelligenza “superiore” a quello umano è che non puoi sapere se ti sta fregando o meno. Come puoi determinare se una superintelligenza non stia sminuendo le sue capacità di proposito? E che il suo “sistema” etico/morale sia compatibile con quello umano in TUTTE le occasioni/situazioni?
3. Nulla indica che dovrà per forza essere una “macchina” completamente artificiale a muoversi verso un livello di intelligenza superiore: perchè non noi? Al momento il numero di “sistemi” che possiamo connettere al corpo umano è limitatissimo, ma vi immaginate le possibilità che potrebbe offrire una interfaccia neurale a doppia via? Anche solo le basi, come l’accesso instantaneo a informazioni sarebbe qualcosa di rivoluzionario.
EDIT: ah, riguardo alle previsioni sulla creazione di una AI completamente senziente, o anche solo semi-senziente, personalmente penso che siano tutte cifre sparate a caso. Prevedere il progresso è mostruosamente difficile e qui stiamo sostanzialmente parlando di ricreare in tutte le sue funzioni, più o meno, il cervello umano.
Ogni volta che penso a questo mi ricordo tre cose, tutte riguardanti le “sottigliezze” che potrebbero essere dietro l’intelligenza.
1) che la specie umana possiede questa cosa favolosa e terribile che è l’intelligenza, mentre i nostri “cugini” più vicini, gli scimpanzè… meh, non tanto? Anche se il DNA è in comune al 99%, quindi “””probabilmente””” ciò che porta ad avere un intelligenza potrebbe essere un insieme di dettagli molto sottili e difficili da scovare.
2) Sul punto precedente, in senso negativo, abbiamo l’autismo: DNA a posto… a quanto sembra, anche se siamo molto sicuri ormai che sia una disfunzione genetica di qualche tipo. Il problema è che è ben nascosta in centinaia di miliardi di connessioni neurali e neruoni. Magari è solo una singola base del DNA fuori posto, con effetti a cascata devastanti rispetto a ciò che un cervello umano può raggiungere.
3) Un commento che Enrico Fermi avrebbe fatto mentre lavorava al progetto Manhattan, ovvero un coacervo di geni all’epoca. In pratica disse ad un collega che lui riusciva a fare calcoli a mente 10 volte più veloci di lui e Fermi era effettivamente un genio. Però più in la c’era von Neumann che tutti li consideravano testa e spalle sopra gli altri per capacità mentali.
​
Buona fortuna a chiunque voglia sbrogliare sta matassa!
L’AI arriverà prima o poi e sono d’accordo con chi dice che abbiamo un solo tentativo riuscire a fare qualcosa di positivo.
Incrociamo le dita…
Mi metto un attimo nei panni di un uomo medio vissuto nel 1822
Nemmeno due secoli fa riuscivamo a comprendere a malapena il pieno funzionamento di un motore a vapore; il cavallo e le carrozze trainati da essi erano l’unico mezzo di locomozione, il volo era in mano a signorotti con palloni aerostatici e a qualche folle pensatore.
Elettricità, atomi, radioattività erano cose sconosciute, la pila di Volta era agli arbori, la chimica era ancora basata su conoscenze pressoché arcaiche e “alchemiche”, la medicina cominciava a muovere i primi passi sui vaccini, ma per la maggior parte erano ancora “strumenti di tortura e sperimentazione”; anche l’astronomia compiva i primi passi ma siamo stati relegati alle costellazioni donateci dagli antichi greci, e qualche abbozzo sulla Via Lattea.
Due secoli dopo, siamo qua, a *comunicare instantaneamente* senza mai esserci visti di persona, su comode sedute, magari tramite *dispositivi portatili*, magari dopo *un viaggio da un continente a un altro durato poche ore*;
Qualcuno di noi conosce addirittura 3-4 lingue diverse, abbiamo un concetto di universo e della fisica che giorno per giorno si arricchisce di nuove nozioni, e siamo qua a parlare di ***Intelligenze Artificiali Generali*** come se nulla fosse
Fermatevi un attimo ad apprezzare questa epoca d’oro; per carità, non è priva di difetti, ma è veramente sublime/agghiacciante (fate vobis) guardare un attimo indietro e vedere i vari risultati che l’umanità ha conquistato in così breve tempo.
Edit: In sintesi, sono fiducioso sul futuro dopotutto but ***Shit Will Always Happens***