Acusações do engenheiro britânico de software estão a ter enorme repercussão mediática. Jacob Coxon diz mesmo que a Inteligência Artificial “poderá matar-nos a todos até ao final desta década”

Um engenheiro britânico da Anthropic, que também trabalhou nos últimos três anos para a OpenAI — criadora do popular ChatGPT — apresentou a demissão nas últimas horas por considerar que as duas empresas “não estão a agir com responsabilidade” e estão “a jogar com as nossas vidas”.

Jacob Coxon, engenheiro de software que os meios de comunicação identificam como um dos responsáveis pelo desenvolvimento do GPT-4o e do GPT-4.5, embora sem funções executivas, afirmou num conjunto de publicações na sua conta na rede social X que as pessoas responsáveis pelo desenvolvimento exponencial da inteligência artificial “acreditam que poderá matar-nos a todos até ao final desta década”, porque “não há outra atividade humana que represente este nível de ameaça”.

Para o engenheiro, de 27 anos, o poder desta tecnologia está a ser subestimado, mas os projetos de IA “serão em breve sistemas sobre-humanos que poderão piratear qualquer coisa, revolucionar todas as áreas e conquistar verdadeiro poder e recursos”.

Na sua opinião, existe consciência desta realidade tanto na OpenAI como na Anthropic, mas vê uma diferença entre as duas empresas: os primeiros “talvez não tenham interiorizado profundamente os desafios civilizacionais”, enquanto os segundos compreendem-nos bem, mas “estão presos na corrida para chegar primeiro”, mesmo que, no cenário mais otimista, se trate de chegar primeiro “para agir com responsabilidade”.

Coxon não vê outra saída que não seja a coordenação entre os diferentes projetos de IA e as empresas envolvidas neles, mas considera que isso não está a acontecer. Defende, por isso, “medidas dispendiosas, como uma proibição temporária de melhorar as capacidades do modelo (‘model capabilities’)”, e pede aos investigadores de IA que reflitam profundamente sobre a questão.

“Querem potenciar uma aprendizagem por reforço [RL, na linguagem técnica] superinteligente sem uma compreensão rigorosa da sua mente?”, pergunta aos seus colegas da área da IA. “Vão baixar a cabeça porque ‘bem, já está a acontecer’, ou aproveitar este momento para defender condições diferentes?”, conclui Coxon num conjunto de publicações que já teve uma enorme repercussão mediática.