Resumo
O modelo de IA Mythos da Anthropic invadiu os sistemas confidenciais da NSA em horas, desencadeando pânico nas redes sociais. Rumores sobre o Mythos ganharam força, sugerindo que a IA generativa teria sido usada num ciberataque, levando a pressões de Washington sobre a Anthropic. A administração Trump pediu a suspensão do acesso a certas versões do Mythos a estrangeiros, após alerta da Amazon sobre possíveis manipulações maliciosas. A intrusão foi parte de um teste oficial, onde o Mythos superou as defesas da NSA. As negociações entre a startup e o governo dos EUA continuam, com Trump a considerar levantar a proibição das IA em breve.
O Mythos, o modelo de IA da Anthropic especializado em detetar vulnerabilidades de segurança, invadiu os sistemas confidenciais da NSA em questão de horas. Este teste oficial, realizado sob a supervisão de agências federais, desencadeou uma onda de pânico nas redes sociais.
Durante o fim de semana, um novo rumor sobre o Claude Mythos, o modelo de topo da Anthropic para a procura de vulnerabilidades de segurança, ganhou força nas redes sociais. Os posts indicavam que a IA generativa, cuja utilização está limitada a um pequeno grupo de parceiros da Anthropic, teria conseguido invadir os sistemas confidenciais da Agência de Segurança Nacional (NSA).
O comunicado, divulgado sem qualquer contexto, sugere que o Mythos foi utilizado num ciberataque e que o incidente é a razão da pressão de Washington sobre a Anthropic. Na semana passada, a administração Trump pediu à startup que suspendesse o acesso ao Claude Fable 5 e ao Mythos 5 a "qualquer cidadão estrangeiro, dentro ou fora dos Estados Unidos".
A decisão da administração Trump não foi o resultado direto do que aconteceu na NSA. Na verdade, a intrusão do Mythos foi apenas uma experiência, conduzida sob a supervisão da agência americana. Foi revelado que Mark Warner, vice-presidente da Comissão de Inteligência do Senado, foi informado de que Mythos "tinha penetrado em quase todos os nossos sistemas confidenciais, não numa questão de semanas, mas numa questão de horas".
<
p lang="en" dir="ltr">This now widely circulated claim is based on a line I wrote last week (). I accurately quoted Mark Warner, vice chair of the Senate intelligence committee, saying that the NSA chief had told him that Mythos “broke into almost all of our classified systems,…
— Shashank Joshi (@shashj)
Estas afirmações não devem ser interpretadas literalmente. Na verdade, "a eficácia do Mythos depende certamente da sua utilização com outras ferramentas e sob condições muito específicas". A intrusão fez parte de um exercício oficial autorizado, no qual os investigadores tentam penetrar deliberadamente nos sistemas para testar a sua resiliência. O Claude Mythos superou todas as estimativas das equipas da NSA.
A decisão de Donald Trump teve origem num alerta emitido pelos investigadores da Amazon. Descobriram que era fácil manipular certas versões do Mythos para fins maliciosos. Após este alerta, transmitido pelo CEO da Amazon, Andy Jassy, Washington tomou medidas enérgicas contra a Anthropic. Os EUA queriam impedir que agentes maliciosos, utilizassem o Mythos 5, uma versão censurada do Mythos, para lançar ciberataques.
Os dois modelos mais recentes da Anthropic permanecem desativados. As negociações entre a startup e a administração Trump estão em curso. Questionado sobre o assunto, Donald Trump afirmou que já não considera as duas IA como ameaças, sugerindo que a proibição poderá ser levantada em breve. O presidente acrescentou ainda que Dario Amodei, CEO da empresa, respondeu à diretiva do governo de forma responsável e imediata.
Fonte: Pplware
