Anthropic Lança IA Capaz de Encontrar Falhas em Sistemas Críticos, Gerando Preocupações Globais de Segurança
Um avanço impressionante e inesperado no campo da inteligência artificial foi anunciado pela Anthropic, levantando sérias questões sobre cibersegurança e segurança nacional. A empresa revelou a mais nova geração de seu modelo de linguagem, o Claude Mythos Preview, mas com um acesso restrito a um seleto grupo de cerca de 40 empresas de tecnologia.
Este novo modelo de IA, descrito como uma “mudança de patamar” em desempenho, possui a capacidade de escrever código de software com uma facilidade e complexidade inéditas. Contudo, como um subproduto dessa habilidade, o Claude Mythos também se mostrou extremamente eficaz na identificação de vulnerabilidades em praticamente todos os sistemas de software populares globalmente.
A notícia, divulgada pela Anthropic na terça-feira (7), gerou preocupações significativas. Embora a capacidade de encontrar falhas possa ser utilizada para fins defensivos, o potencial de uso malicioso por agentes inescrupulosos representa um risco substancial. Representantes de grandes empresas de tecnologia já estiveram em conversas privadas com o governo dos Estados Unidos para discutir as implicações para a segurança nacional, conforme relatado por tecnólogos envolvidos. A informação é que o Mythos Preview já identificou milhares de vulnerabilidades de alta gravidade, inclusive em todos os principais sistemas operacionais e navegadores web no último mês.
O Projeto Glasswing: Um Esforço para Defender a Infraestrutura Digital
Em resposta a essas descobertas, a Anthropic lançou o Projeto Glasswing. Esta iniciativa visa colaborar com as empresas de tecnologia mais confiáveis e provedores de infraestrutura crítica, incluindo instituições financeiras. O objetivo principal é direcionar as capacidades do Claude Mythos para “propósitos defensivos”, concedendo às principais empresas de tecnologia uma vantagem inicial na identificação e correção de vulnerabilidades.
A Anthropic declarou que não planeja disponibilizar o Claude Mythos Preview ao público geral. No entanto, a meta final é permitir que os usuários implementem modelos da classe Mythos de forma segura e em larga escala, não apenas para cibersegurança, mas também para explorar os inúmeros outros benefícios que modelos tão avançados podem oferecer.
A “Democratização” do Hacking e a Urgência da Colaboração Internacional
A “democratização das capacidades de ataque cibernético” é um termo cunhado por Craig Mundie, ex-diretor de pesquisa e estratégia da Microsoft e conselheiro de presidentes americanos. Ele alerta que o que antes era domínio de grandes potências e organizações com orçamentos robustos, agora pode se tornar acessível a pequenos atores.
Mundie enfatiza a necessidade urgente de uma colaboração sem precedentes entre os Estados Unidos e a China, as duas principais potências em IA. A capacidade de hackear sistemas de infraestrutura importantes, como redes elétricas, sistemas de abastecimento de água e redes de companhias aéreas, que antes exigia expertise e recursos significativos, pode se tornar facilmente disponível para qualquer ator criminoso, organização terrorista ou país, independentemente de seu tamanho.
Três Passos Urgentes para Mitigar o Risco da IA Superinteligente
Para enfrentar essa nova realidade, Mundie propõe três ações cruciais. Primeiramente, é fundamental “controlar cuidadosamente o lançamento desses novos modelos superinteligentes, garantindo que cheguem apenas aos governos e empresas mais responsáveis”.
Em segundo lugar, o tempo ganho deve ser utilizado para distribuir ferramentas defensivas aos “bons atores”. Isso garantirá que o software que opera a infraestrutura crítica tenha todas as suas falhas encontradas e corrigidas antes que hackers, inevitavelmente, obtenham acesso a essas ferramentas. O custo para corrigir as vulnerabilidades em sistemas mais antigos, como os de companhias telefônicas, será considerável.
Por fim, Mundie defende a criação de “espaços de trabalho seguros e protegidos” em redes principais, tanto públicas quanto privadas. Nestes ambientes, empresas e governos confiáveis poderiam migrar todos os seus serviços críticos, protegendo-os contra futuros ataques cibernéticos. Essa colaboração com a China e outras nações responsáveis é vista como essencial para a segurança global.
Um Ponto de Virada Histórico na Segurança Digital
O lançamento controlado do Claude Mythos Preview pela Anthropic e seus aliados técnicos pode se tornar um marco histórico, comparável à era da destruição mútua assegurada e da não proliferação nuclear. A capacidade de realizar operações sofisticadas de hacking cibernético, agora ao alcance de atores menores, representa uma ameaça para todos os países.
A nova capacidade de IA da Anthropic, se cair em mãos erradas, poderia expor governos a criminosos domésticos e grupos terroristas, tornando-se uma ameaça maior do que as tensões geopolíticas existentes. A “democratização” das capacidades de ataque cibernético exige uma resposta global coordenada e imediata para evitar consequências catastróficas.
