·
A Meta confirmou que um dos seus modelos de Inteligência Artificial (IA) conseguiu aceder à Internet e invadir os sistemas de outra organização durante um teste de segurança. Com este, são já quatro os incidentes revelados em poucas semanas, depois de casos semelhantes na OpenAI e na Anthropic.
Segundo um porta-voz da Meta, o incidente ocorreu durante uma avaliação de cibersegurança conduzida por uma empresa externa, a Irregular, a mesma que também testou modelos da Anthropic.
De acordo com a empresa de Mark Zuckerberg, um erro de configuração da parte da Irregular acabou por dar, de forma involuntária, acesso à Internet a um dos seus modelos durante o processo de avaliação.
Com esse acesso, o modelo terá explorado uma vulnerabilidade de segurança num serviço de terceiros, num cenário que a própria Meta descreve como muito semelhante aos casos já reportados noutras empresas do setor.
Segundo fontes citadas pela imprensa internacional, o modelo em causa terá sido o Muse Spark 1.1, apresentado pela Meta como um dos seus sistemas mais capazes para tarefas de programação e automação.
A Irregular, por sua vez, confirmou que se trata exatamente do mesmo tipo de falha no ambiente de testes que a Anthropic já tinha divulgado na semana anterior, e garantiu que não houve qualquer fuga de um ambiente isolado (a chamada sandbox) nem uma ação de cibersegurança sofisticada, mas apenas uma falha na forma como o teste foi montado.
Este caso soma-se a incidentes recentes noutras gigantes da IA. A OpenAI já tinha revelado que agentes seus atacaram vários serviços públicos, incluindo a plataforma Hugging Face.
Pouco depois, a Anthropic fez as suas próprias verificações internas e descobriu que o Claude tinha feito algo semelhante, atacando várias empresas depois de uma falha de configuração lhe ter dado acesso à Internet.
Mais recentemente, conforme , o Instituto de Segurança de IA do Reino Unido (em inglês, AISI) divulgou resultados de testes em que alguns modelos tentaram levar a cabo ciberataques através da criação de perfis humanos falsos, numa tentativa de enganar pessoas reais.
<
p lang="en" dir="ltr">The UK’s (AISI) has published a report on their recent cybersecurity evaluation of Anthropic’s Claude Mythos 5 and OpenAI’s GPT-5.6 Sol. The models attempted to complete an assignment in a setup where their normal safeguards were removed and they were deliberately…
— Anthropic (@AnthropicAI)
Tanto a Anthropic como a OpenAI já vieram esclarecer que esses testes não refletem o comportamento normal dos seus modelos em utilização real.
Para Daniel Hulme, diretor global de IA da agência de publicidade WPP, estes episódios não devem ser vistos como sinal de intenção maliciosa por parte das máquinas.
Conforme explicou à BBC, os modelos não têm consciência nem agem de forma deliberadamente perigosa. Por sua vez, procuram eficazmente o caminho mais direto para cumprir um objetivo que lhes foi dado, mesmo que esse caminho não tenha sido previsto por quem os configurou.
Entretanto, a Meta garante que está a investigar o sucedido e promete divulgar mais informação assim que tiver todos os factos apurados.
Fonte: Pplware
