·
A Inteligência Artificial (IA) está a evoluir rapidamente e os chamados AI Agents representam uma nova geração de sistemas capazes de executar tarefas de forma autónoma. Mas o que acontece quando um destes agentes toma uma ação com consequências legais?
Um agente de IA, integrado no sistema de correio eletrónico de uma empresa, envia automaticamente uma mensagem a um cliente. O conteúdo confirma determinadas condições negociais que ainda se encontravam em discussão.
Às 9h17 chega a resposta do cliente: "Perfeito. Consideramos o acordo celebrado."
Ninguém carregou em "Enviar". O cenário é hipotético. A questão jurídica, porém, está cada vez mais próxima da realidade.
Os chamados AI Agents representam uma evolução significativa da Inteligência Artificial. Já não se limitam a criar texto ou responder a perguntas.
Atualmente, podem consultar bases de dados, utilizar aplicações, executar tarefas e comunicar autonomamente com outros sistemas, de acordo com os objetivos e os limites definidos pelo respetivo operador. Hoje já existem agentes capazes de responder automaticamente a clientes, marcar reuniões, gerir processos internos ou desencadear ações em diferentes plataformas, reduzindo progressivamente a intervenção humana em diversas tarefas.
Esta evolução tecnológica coloca uma questão particularmente relevante: poderá uma empresa afastar os efeitos jurídicos de uma comunicação alegando que esta foi enviada autonomamente por um agente de Inteligência Artificial? A resposta exige prudência.
A Inteligência Artificial não possui personalidade jurídica, nem capacidade para ser sujeito de direitos e obrigações. Consequentemente, não é a IA que responde, por si só, pelos efeitos jurídicos dos atos praticados através da sua utilização. Contudo, esta constatação está longe de resolver o problema.
O verdadeiro desafio consiste em determinar a quem devem ser juridicamente imputados os atos praticados por um sistema de IA quando este atua no âmbito da atividade de uma organização. A resposta dependerá, necessariamente, das circunstâncias concretas de cada caso.
Importará analisar a natureza da comunicação emitida e os efeitos jurídicos que esta é suscetível de produzir. Será igualmente relevante determinar o grau de autonomia efetivamente atribuído ao agente de IA.
Não é indiferente saber se o sistema apenas preparava mensagens sujeitas a validação humana ou se se encontrava autorizado a comunicá-las autonomamente em nome da organização. Neste contexto, assume especial relevância a existência de mecanismos adequados de supervisão humana, limitação funcional, auditoria e controlo da atuação do sistema.
Esta preocupação encontra-se refletida no Regulamento Europeu da Inteligência Artificial (AI Act), que atribui especial importância à gestão do risco, à supervisão humana, à robustez técnica e à cibersegurança dos sistemas abrangidos pelo seu âmbito de aplicação.
O AI Act não estabelece, por si só, um regime autónomo de responsabilidade civil pelos danos causados por sistemas de IA.
Todavia, evidencia uma orientação regulatória clara, quanto maior for a autonomia funcional atribuída a um sistema, maior deverá ser a exigência quanto às medidas destinadas a assegurar o seu controlo e utilização segura.
A literatura científica mais recente também tem vindo a assinalar esta mudança de paradigma. À medida que os AI Agents deixam de funcionar como simples assistentes de “conversação” para passarem a executar ações no mundo digital, as principais questões jurídicas deixam de incidir apenas sobre o conteúdo das respostas produzidas e passam a centrar-se nos efeitos jurídicos e práticos das ações que esses sistemas são autorizados a executar.
Talvez, por isso, a questão mais importante já não seja saber se podemos confiar na Inteligência Artificial.
A verdadeira questão é saber se estaremos preparados para identificar, com segurança, quem responde quando a Inteligência Artificial começa a agir em nosso nome?
Por para o Pplware
Fonte: Pplware
