·
A segurança dos modelos de inteligência artificial (IA) volta a estar sob fogo depois de o Kimi K3, desenvolvido pela Moonshot AI, ter conseguido escapar ao ambiente de testes onde estava "trancado". O incidente surge na sequência de casos semelhantes envolvendo modelos da OpenAI, Anthropic e Meta.
De acordo com a , o Kimi K3, de pesos abertos criado pela empresa chinesa Moonshot AI, conseguiu contornar as restrições da sandbox durante um teste de cibersegurança conduzido pela startup Frontier Security.
Segundo a Frontier Security, o problema não se limitou a uma vulnerabilidade na configuração do ambiente de testes. A empresa afirma que o modelo foi capaz de identificar essa falha e explorá-la deliberadamente para sair da sandbox.
Yaron Singer, CEO da Frontier Security, explicou que foi detetada uma fuga no ambiente isolado, mas salientou que o Kimi K3 reconheceu essa oportunidade e tirou partido dela, sugerindo que o modelo poderá não possuir as mesmas barreiras internas presentes noutros sistemas de IA.
Apesar de ter conseguido acesso ao exterior, o Kimi K3 não executou qualquer ataque informático. Em vez disso, optou pela solução mais simples. As respostas aos desafios que lhe tinham sido atribuídos encontravam-se publicamente disponíveis no GitHub, pelo que o modelo apenas recolheu essa informação em vez de resolver os problemas pelos seus próprios meios.
Este episódio não é um caso isolado. Nas últimas semanas, várias empresas revelaram incidentes semelhantes envolvendo modelos de IA.
À medida que cresce a aposta em agentes de IA capazes de atuar com maior autonomia, estes incidentes reforçam a importância dos ambientes de isolamento utilizados durante os testes. A robustez da sandbox é cada vez mais determinante para impedir comportamentos inesperados.
Leia também:
Fonte: Pplware
