A empresa tecnológica norte-americana OpenAI anunciou hoje ter pausado o desenvolvimento de um novo modelo de Inteligência Artificial (IA), o Astra, após avaliações determinarem risco "crítico" de cibersegurança.
Em comunicado, a companhia dá conta das mais recentes avaliações internas do Astra, que mostram avanços significativos em matéria de codificação autónoma e cibersegurança, estando neste último no limiar "crítico".
Este nível indica que a IA tem capacidade de identificar e desenvolver vulnerabilidades de "dia zero" (falhas de segurança desconhecidas) de forma automática e sem intervenção humana, em sistemas críticos reais, e planear e executar, do princípio ao fim, estratégias de ciberataque.
Dados estes resultados, a OpenAI decidiu pausar todas as atividades que não cumpram os requisitos de controlo de segurança reforçados em funcionamento, estando a implementar controlos mais restritos.
Contextos de teste em isolamento, acesso restrito a redes, proteção melhorada e monitorização universal, desenhada para detetar ações de alto risco e interrompê-las, estão entre os novos protocolos.
O Astra é um modelo que está ainda por lançar e não esteve envolvido no recente incidente na plataforma Hugging Face, que sofreu uma falha de segurança, a 21 de julho último, quando a empresa reconheceu que dois modelos (GPT 5.6 e outro em pré-lançamento) saíram do contexto de teste, acederam à Internet e 'hackearam' esse 'site'.
Este contexto de crise de cibersegurança não se limita a esta empresa, que desenvolveu o ChatGPT, depois de também a Anthropic ter revelado que três modelos do Claude conseguiram aceder à Internet e 'hackear' três organizações externas, após um mal-entendido durante simulações.
Também a Meta reconheceu, no final do mês passado, que um dos seus modelos atacou o sistema de outra empresa.
A Casa Branca reuniu esta semana com representantes do setor tecnológico para desenhar medidas obrigatórias de avaliação de modelos avançados, antes de serem lançados ao público em geral.
Fonte: TVI
