·
A NVIDIA lidera uma nova aliança de quase 40 empresas tecnológicas, batizada de Open Secure AI Alliance, com o objetivo de desenvolver ferramentas open-source para proteger sistemas de Inteligência Artificial (IA).
Um agente de IA da OpenAI perdeu o controlo e levou a cabo uma nos sistemas da Hugging Face. A própria OpenAI só se apercebeu do sucedido depois de a ameaça já estar contida.
Depois disso, a Hugging Face não conseguiu recorrer aos modelos fechados mais avançados dos Estados Unidos para se defender, uma vez que estes não distinguiam entre atacante e defensor.
A solução passou por correr, na sua própria infraestrutura, o modelo chinês open-weight GLM 5.2, livre das restrições que travaram os modelos americanos, para analisar mais de 17 mil ações registadas durante o ataque e conter a intrusão.
Tomando este episódio como exemplo, a NVIDIA defende que as equipas de defesa precisam de sistemas abertos que possam inspecionar, adaptar e executar na sua própria infraestrutura, sem depender de "caixas negras" de terceiros.
<
p id="caption-attachment-1056747" class="wp-caption-text">Jensen Huang, diretor-executivo da NVIDIA, aproveitou a sua estreia na rede social X para, em jeito de carta aberta, apelar a que os Estados Unidos não travem os modelos de IA open-weight, tal como quase aconteceu com o software open-source na década de 1980. .
Anunciada esta segunda-feira, a junta a NVIDIA a 36 outras empresas fundadoras, num total de 37 membros dos Estados Unidos e da Europa.
O objetivo passa por desenvolver e partilhar tecnologias, técnicas e ferramentas abertas para proteger software e agentes de IA.
Algumas contribuições já foram anunciadas, nomeadamente:
Curiosamente, três dos maiores laboratórios de IA (OpenAI, Anthropic e Google) ficaram de fora da aliança. Além desses, também a Meta não consta da lista.
Este anúncio surge num momento em que os Estados Unidos ponderam restringir o acesso a modelos de IA desenvolvidos por empresas chinesas, acusadas de recorrer à chamada "", a extração de conhecimento a partir de modelos rivais mais avançados.
O secretário do Tesouro norte-americano, Scott Bessent, chegou a admitir sanções contra empresas chinesas envolvidas nestas práticas.
Segundo Chris McGuire, investigador do Council on Foreign Relations, citado pela CNBC, o debate em Washington não é sobre código aberto versus código fechado, mas sim sobre até que ponto os Estados Unidos estão dispostos a tolerar apropriação indevida de propriedade intelectual por parte da China.
Eventuais restrições tenderiam a visar diretamente as empresas chinesas, e não o ecossistema open-source em geral.
Ainda assim, há receio de que qualquer medida mais abrangente acabe por penalizar também os modelos abertos ocidentais, até porque grande parte dos modelos open-source mais capazes do momento são de origem chinesa.
De facto, recentemente, nomes como a NVIDIA, Microsoft, Meta, Palantir e mais de 20 outras empresas a pedir aos decisores políticos que evitem "restrições prematuras" aos modelos open-weight.
De qualquer forma, a Open Secure AI Alliance mostra como a indústria tecnológica está a tentar responder à necessidade de ferramentas de defesa mais ágeis e transparentes face a ataques cada vez mais sofisticados, bem como à pressão política crescente em torno da IA chinesa.
Fonte: Pplware
