A Inteligência Artificial (IA) está a evoluir rapidamente e os chamados AI Agents representam uma nova geração de sistemas capazes de executar tarefas de forma autónoma. Mas o que acontece quando um destes agentes toma uma ação com consequências legais?
São 9h12 de uma qualquer segunda-feira…
Um agente de IA, integrado no sistema de correio eletrónico de uma empresa, envia automaticamente uma mensagem a um cliente. O conteúdo confirma determinadas condições negociais que ainda se encontravam em discussão.
Às 9h17 chega a resposta do cliente: “Perfeito. Consideramos o acordo celebrado.”
Ninguém carregou em “Enviar”. O cenário é hipotético. A questão jurídica, porém, está cada vez mais próxima da realidade.
AI Agents são evolução da IA
Os chamados AI Agents representam uma evolução significativa da Inteligência Artificial. Já não se limitam a criar texto ou responder a perguntas.
Atualmente, podem consultar bases de dados, utilizar aplicações, executar tarefas e comunicar autonomamente com outros sistemas, de acordo com os objetivos e os limites definidos pelo respetivo operador. Hoje já existem agentes capazes de responder automaticamente a clientes, marcar reuniões, gerir processos internos ou desencadear ações em diferentes plataformas, reduzindo progressivamente a intervenção humana em diversas tarefas.
Esta evolução tecnológica coloca uma questão particularmente relevante: poderá uma empresa afastar os efeitos jurídicos de uma comunicação alegando que esta foi enviada autonomamente por um agente de Inteligência Artificial? A resposta exige prudência.
A Inteligência Artificial não possui personalidade jurídica, nem capacidade para ser sujeito de direitos e obrigações. Consequentemente, não é a IA que responde, por si só, pelos efeitos jurídicos dos atos praticados através da sua utilização. Contudo, esta constatação está longe de resolver o problema.
O verdadeiro desafio consiste em determinar a quem devem ser juridicamente imputados os atos praticados por um sistema de IA quando este atua no âmbito da atividade de uma organização. A resposta dependerá, necessariamente, das circunstâncias concretas de cada caso.
Importará analisar a natureza da comunicação emitida e os efeitos jurídicos que esta é suscetível de produzir. Será igualmente relevante determinar o grau de autonomia efetivamente atribuído ao agente de IA.
Não é indiferente saber se o sistema apenas preparava mensagens sujeitas a validação humana ou se se encontrava autorizado a comunicá-las autonomamente em nome da organização. Neste contexto, assume especial relevância a existência de mecanismos adequados de supervisão humana, limitação funcional, auditoria e controlo da atuação do sistema.
Regulamento Europeu da Inteligência Artificial (AI Act)
Esta preocupação encontra-se refletida no Regulamento Europeu da Inteligência Artificial (AI Act), que atribui especial importância à gestão do risco, à supervisão humana, à robustez técnica e à cibersegurança dos sistemas abrangidos pelo seu âmbito de aplicação.
O AI Act não estabelece, por si só, um regime autónomo de responsabilidade civil pelos danos causados por sistemas de IA.
Todavia, evidencia uma orientação regulatória clara, quanto maior for a autonomia funcional atribuída a um sistema, maior deverá ser a exigência quanto às medidas destinadas a assegurar o seu controlo e utilização segura.
A literatura científica mais recente também tem vindo a assinalar esta mudança de paradigma. À medida que os AI Agents deixam de funcionar como simples assistentes de “conversação” para passarem a executar ações no mundo digital, as principais questões jurídicas deixam de incidir apenas sobre o conteúdo das respostas produzidas e passam a centrar-se nos efeitos jurídicos e práticos das ações que esses sistemas são autorizados a executar.
Talvez, por isso, a questão mais importante já não seja saber se podemos confiar na Inteligência Artificial.
A verdadeira questão é saber se estaremos preparados para identificar, com segurança, quem responde quando a Inteligência Artificial começa a agir em nosso nome?
Por Inês Freire dos Santos para o Pplware