{"id":99070,"date":"2025-10-05T21:08:07","date_gmt":"2025-10-05T21:08:07","guid":{"rendered":"https:\/\/www.europesays.com\/pt\/99070\/"},"modified":"2025-10-05T21:08:07","modified_gmt":"2025-10-05T21:08:07","slug":"inteligencia-artificial-pode-criar-novas-pandemias-com-ameacas-biologicas-ineditas","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/pt\/99070\/","title":{"rendered":"Intelig\u00eancia artificial pode criar novas pandemias com amea\u00e7as biol\u00f3gicas in\u00e9ditas"},"content":{"rendered":"

Em outubro de 2023, dois cientistas da Microsoft<\/strong><\/a> descobriram uma vulnerabilidade alarmante em uma rede de seguran\u00e7a destinada a impedir que agentes mal-intencionados usassem ferramentas de intelig\u00eancia artificial (IA)<\/strong><\/a> para criar prote\u00ednas perigosas para fins b\u00e9licos ou terroristas.<\/p>\n

Essas falhas de seguran\u00e7a e como elas foram descobertas foram mantidas em sigilo at\u00e9 quinta-feira, 2, quando um artigo publicado na revista Science detalhou como os pesquisadores geraram milhares de vers\u00f5es criadas por IA de 72 toxinas que escaparam \u00e0 detec\u00e7\u00e3o. A equipe de pesquisa, um grupo de cientistas l\u00edderes do setor e especialistas em biosseguran\u00e7a, projetou um patch para corrigir esse problema encontrado em quatro m\u00e9todos de triagem diferentes. Mas eles alertam que os especialistas ter\u00e3o que continuar procurando futuras brechas nessa rede de seguran\u00e7a.<\/p>\n

<\/p>\n

IA pode gerar amea\u00e7as biol\u00f3gicas\u00a0Foto: LIGHTFIELD STUDIOS\/Adobe Stock<\/p>\n

\u201c\u00c9 como um modelo de atualiza\u00e7\u00e3o do Windows<\/strong><\/a> para o planeta. Continuaremos acompanhando e enviando patches conforme necess\u00e1rio, al\u00e9m de definir os processos de pesquisa e as melhores pr\u00e1ticas para seguir em frente e nos mantermos \u00e0 frente da curva da melhor maneira poss\u00edvel\u201d, disse Eric Horvitz<\/strong>, diretor cient\u00edfico da Microsoft e um dos l\u00edderes do trabalho, em uma coletiva de imprensa.<\/p>\n

A equipe considerou o incidente o primeiro \u201cdia zero\u201d da IA e da biosseguran\u00e7a \u2014 emprestando um termo do mundo cibern\u00e9tico para lacunas de defesa que os desenvolvedores de software n\u00e3o conhecem e que os deixam suscet\u00edveis a um ataque.<\/p>\n

Nos \u00faltimos anos, pesquisadores t\u00eam usado IA para projetar prote\u00ednas personalizadas. O trabalho abriu um vasto potencial em muitos campos da ci\u00eancia. Com essas ferramentas, os cientistas podem criar prote\u00ednas para degradar a polui\u00e7\u00e3o pl\u00e1stica, combater doen\u00e7as ou tornar as culturas mais resistentes.<\/p>\n

Mas com a possibilidade vem o risco. \u00c9 por isso que, em outubro de 2023, os cientistas da Microsoft embarcaram em um estudo piloto \u201cadvers\u00e1rio\u201d inicial, antes de uma confer\u00eancia sobre biosseguran\u00e7a em engenharia de prote\u00ednas. Os pesquisadores nunca fabricaram nenhuma das prote\u00ednas, mas criaram vers\u00f5es digitais como parte do estudo.<\/p>\n

Especialistas externos em biosseguran\u00e7a aplaudiram o estudo e o patch, mas afirmaram que essa n\u00e3o \u00e9 uma \u00e1rea em que uma \u00fanica abordagem \u00e0 biosseguran\u00e7a seja suficiente.<\/p>\n

\u201cO que est\u00e1 acontecendo com a ci\u00eancia relacionada \u00e0 IA \u00e9 que a vanguarda da tecnologia est\u00e1 se acelerando muito mais r\u00e1pido do que a retaguarda… no gerenciamento dos riscos\u201d, disse David Relman<\/strong>, microbiologista da Faculdade de Medicina da Universidade de Stanford<\/strong>. \u201cN\u00e3o \u00e9 apenas que temos uma lacuna \u2014 temos uma lacuna que est\u00e1 se ampliando rapidamente, neste exato momento. A cada minuto que ficamos aqui conversando sobre o que precisamos fazer em rela\u00e7\u00e3o \u00e0s coisas que acabaram de ser divulgadas, j\u00e1 estamos ficando mais para tr\u00e1s.\u201d<\/p>\n

Como a ricina t\u00f3xica foi um caso de teste para detec\u00e7\u00e3o<\/p>\n

As prote\u00ednas s\u00e3o os blocos de constru\u00e7\u00e3o da vida \u2014 cadeias de amino\u00e1cidos que desempenham fun\u00e7\u00f5es cruciais nas c\u00e9lulas. Elas podem construir m\u00fasculos, repelir pat\u00f3genos e realizar rea\u00e7\u00f5es qu\u00edmicas necess\u00e1rias para a vida. As prote\u00ednas podem ser descritas como uma sequ\u00eancia de letras, mas elas se dobram e se torcem em formas 3D. Sua forma \u00e9 fundamental para sua fun\u00e7\u00e3o. Prever a estrutura das prote\u00ednas foi, por d\u00e9cadas, um grande desafio para a ci\u00eancia.<\/p>\n

Os vencedores do Pr\u00eamio Nobel de Qu\u00edmica do ano passado compartilharam o pr\u00eamio por um trabalho que permitiu aos cientistas prever a estrutura das prote\u00ednas e usar IA para projetar prote\u00ednas personalizadas com diferentes formas e fun\u00e7\u00f5es.<\/p>\n

Essas fun\u00e7\u00f5es podem ser positivas \u2014 biossensores para detectar toxinas ambientais ou usados para diagnosticar uma doen\u00e7a. Elas tamb\u00e9m podem ser prejudiciais.<\/p>\n

Como caso de teste, Horvitz e seu colaborador Bruce Wittmann<\/strong> usaram ferramentas de IA para inicialmente \u201cparafraseando\u201d partes do c\u00f3digo da ricina, um veneno mortal encontrado naturalmente nas sementes de mamona. Em formato digital, eles criaram dezenas de milhares de prote\u00ednas geradas por IA que eram escritas de maneira diferente do original, mas provavelmente ainda seriam t\u00f3xicas.<\/p>\n

CONTiNUA AP\u00d3S PUBLICIDADE<\/p>\n

A tradu\u00e7\u00e3o desses conceitos digitais em prote\u00ednas da vida real depende de empresas de s\u00edntese de DNA, que criam cadeias de DNA que os cientistas podem estudar em laborat\u00f3rio e usar para gerar a prote\u00edna de interesse. O padr\u00e3o da ind\u00fastria \u00e9 que as empresas de s\u00edntese de DNA implantem software de biosseguran\u00e7a projetado para proteger contra atividades nefastas, sinalizando prote\u00ednas preocupantes \u2014 por exemplo, toxinas conhecidas ou componentes de pat\u00f3genos.<\/p>\n

Quando os pesquisadores testaram as t\u00e9cnicas de triagem de biosseguran\u00e7a de duas grandes empresas, descobriram que \u201cat\u00e9 100%\u201d das prote\u00ednas semelhantes \u00e0 ricina geradas por IA escaparam \u00e0 detec\u00e7\u00e3o. Como as novas prote\u00ednas n\u00e3o se pareciam mais com a ricina, elas n\u00e3o foram sinalizadas.<\/p>\n

Depois de descobrirem essa vulnerabilidade, Horvitz e Wittmann trouxeram mais colaboradores e expandiram sua pesquisa para dezenas de toxinas e componentes de v\u00edrus. Mais uma vez, eles usaram t\u00e9cnicas de IA para \u201cparafraseando\u201d partes de seu c\u00f3digo, mantendo sua estrutura prejudicial, criando mais de 70 mil vers\u00f5es sint\u00e9ticas.<\/p>\n

Os programas de triagem eram bons em filtrar as toxinas originais, mas deixavam passar milhares das novas vers\u00f5es. Assim que os pesquisadores descobriram a dimens\u00e3o do problema, eles criaram um patch.<\/p>\n

\u201cEste \u00e9 um estudo realmente valioso, pois mostra que existe um problema \u2014 e que a IA vai mudar a natureza do problema. Mas n\u00e3o \u00e9 um problema insol\u00favel\u201d, disse Tom Inglesby<\/strong>, diretor do Centro de Seguran\u00e7a Sanit\u00e1ria da Escola de Sa\u00fade P\u00fablica Bloomberg da Universidade Johns Hopkins, que n\u00e3o participou do trabalho.<\/p>\n

Cen\u00e1rio regulat\u00f3rio em evolu\u00e7\u00e3o<\/p>\n

De acordo com uma estrutura federal que est\u00e1 sendo atualizada, os pesquisadores que recebem financiamento federal s\u00e3o obrigados a fazer pedidos a empresas de s\u00edntese de DNA que utilizam software de triagem de biosseguran\u00e7a. O que preocupa muitos especialistas em biosseguran\u00e7a \u00e9 o fato de o sistema ainda depender em grande parte da conformidade volunt\u00e1ria, e muitas lacunas podem permitir que as pessoas criem toxinas projetadas por IA sem que ningu\u00e9m perceba.<\/p>\n

N\u00e3o s\u00f3 o software de triagem em si pode ser enganado, como mostra o novo estudo, mas nem todas as empresas utilizam o software.<\/p>\n

Outro desafio \u00e9 que nem toda a s\u00edntese ocorre em grandes empresas. Dispositivos de bancada podem ser usados para sintetizar cadeias curtas de DNA, que podem ser unidas para criar prote\u00ednas.<\/p>\n

E, mais fundamentalmente, embora algumas prote\u00ednas sejam t\u00f3xicas por serem semelhantes \u00e0s existentes, as pessoas tamb\u00e9m poderiam projetar tipos totalmente novos de toxinas que poderiam passar despercebidas.<\/p>\n

Uma abordagem diferente, dizem os especialistas em biosseguran\u00e7a, \u00e9 garantir que o pr\u00f3prio software de IA seja dotado de salvaguardas antes que as ideias digitais estejam prestes a ser levadas aos laborat\u00f3rios para pesquisa e experimenta\u00e7\u00e3o. Tessa Alexanian<\/strong>, especialista em biosseguran\u00e7a da International Biosecurity and Biosafety Initiative for Science<\/strong>, uma organiza\u00e7\u00e3o sem fins lucrativos su\u00ed\u00e7a, disse que 180 desenvolvedores de IA assinaram uma s\u00e9rie de compromissos no ano passado, incluindo a promessa de apoiar o desenvolvimento de novas estrat\u00e9gias para adicionar triagem de biosseguran\u00e7a mais cedo no processo, antes que as prote\u00ednas sejam produzidas.<\/p>\n

Alguns acham que o caminho mais claro a seguir \u00e9 um registro para deter os malfeitores.<\/p>\n

\u201cA \u00fanica maneira infal\u00edvel de evitar problemas \u00e9 registrar toda a s\u00edntese de DNA, para que, se surgir um novo v\u00edrus preocupante ou outro agente biol\u00f3gico, a sequ\u00eancia possa ser cruzada com o banco de dados de DNA registrado para ver de onde veio\u201d, disse David Baker, que compartilhou o Pr\u00eamio Nobel de Qu\u00edmica por seu trabalho com prote\u00ednas, em um e-mail.<\/p>\n

Este conte\u00fado foi traduzido com o aux\u00edlio de ferramentas de Intelig\u00eancia Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Pol\u00edtica de IA<\/strong><\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"Em outubro de 2023, dois cientistas da Microsoft descobriram uma vulnerabilidade alarmante em uma rede de seguran\u00e7a destinada…\n","protected":false},"author":2,"featured_media":99071,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[84],"tags":[12085,565,15114,24261,24262,24263,1774,24264,24265,109,107,108,7102,24266,380,5296,1786,24267,7107,24268,24269,7366,184,23501,1791,3624,1794,1795,4040,24270,32,12096,33,1802,105,103,104,1803,1804,24271,106,110,24272,24273,24274,200,1122,5514],"class_list":{"0":"post-99070","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-ciencia-e-tecnologia","8":"tag-adult","9":"tag-banner","10":"tag-bio","11":"tag-biochemistry","12":"tag-bioengineer","13":"tag-biologist","14":"tag-biotechnology","15":"tag-chemical","16":"tag-chemistry","17":"tag-ciencia","18":"tag-ciencia-e-tecnologia","19":"tag-cienciaetecnologia","20":"tag-computer","21":"tag-crop","22":"tag-device","23":"tag-discovery","24":"tag-doctor","25":"tag-flask","26":"tag-gadget","27":"tag-genetic","28":"tag-geneticist","29":"tag-horizontal","30":"tag-indoors","31":"tag-lab","32":"tag-laboratory","33":"tag-laptop","34":"tag-medical","35":"tag-medicine","36":"tag-one-person","37":"tag-partial","38":"tag-portugal","39":"tag-professional","40":"tag-pt","41":"tag-research","42":"tag-science","43":"tag-science-and-technology","44":"tag-scienceandtechnology","45":"tag-scientific","46":"tag-scientist","47":"tag-stock-image","48":"tag-technology","49":"tag-tecnologia","50":"tag-type","51":"tag-use","52":"tag-website-header","53":"tag-woman","54":"tag-work","55":"tag-young"},"share_on_mastodon":{"url":"","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/99070","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=99070"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/99070\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/99071"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=99070"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=99070"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=99070"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}