Ele foi apresentado pela Anthropic no início de abril como “Mythos Preview”.

Pesquisadores que testam como modelos de IA lidam com solicitações ou tarefas específicas, conhecidos como “red teams“, disseram em um relatório que o Mythos era “incrivelmente capaz em tarefas de segurança de computadores”.

Eles descobriram que a ferramenta poderia localizar bugs inativos escondidos em códigos de décadas atrás e explorá-los com facilidade.

Em vez de disponibilizá-lo amplamente aos utilizadores do Claude, a Anthropic concedeu acesso a 12 empresas de tecnologia por meio do Project Glasswing, que descreveu como “um esforço para proteger sistemas essenciais de software”.

Entre elas estão a gigante de computação em nuvem Amazon Web Services, os fabricantes de dispositivos Apple, Microsoft e Google, e os fabricantes de chips Nvidia e Broadcom.

A Crowdstrike, cuja atualização defeituosa de software causou uma grande interrupção global em julho de 2024, também está entre os parceiros do projeto, e a Anthropic afirma ter concedido acesso ao Mythos a mais de 40 organizações responsáveis por softwares considerados críticos.

Em um vídeo divulgado junto com o lançamento do Project Glasswing, o chefe da Anthropic, Dario Amodei, disse que a empresa se ofereceu para trabalhar com funcionários do governo dos EUA a fim de “ajudar a se defender contra o risco desses modelos”.

A Anthropic afirma que, durante os testes, descobriu que o modelo é altamente habilidoso em tarefas de segurança cibernética e hacking, superando humanos.

“O Mythos Preview já encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores web”, afirmou a Anthropic em 7 de abril.

“Dada a velocidade do progresso da IA, não demorará muito para que tais capacidades se disseminem, potencialmente além de agentes comprometidos com seu uso seguro.”

A empresa disse que ele poderia localizar — com pouca supervisão — falhas críticas que exigem ação imediata em sistemas antigos, incluindo uma vulnerabilidade que esteve presente em um sistema por 27 anos, e sugerir maneiras de explorá-las.

Desde então, alguns ministros das finanças, banqueiros centrais e executivos do setor financeiro expressaram sérias preocupações, temendo que o modelo possa comprometer a segurança dos sistemas financeiros.

O ministro das Finanças do Canadá, François-Philippe Champagne, disse à BBC que o Mythos foi discutido em uma reunião do Fundo Monetário Internacional (FMI) em Washington em abril.

“Certamente é sério o suficiente para merecer a atenção de todos os ministros das Finanças”, disse ele.

O diretor do Banco da Inglaterra, Andrew Bailey, disse à BBC: “Temos de analisar com muito cuidado agora o que esse desenvolvimento recente da IA pode significar para o risco de crime cibernético.”

A União Europeia disse que também está em discussões com a Anthropic sobre suas preocupações relacionadas ao Mythos. Em maio, o bloco europeu recebeu acesso à ferramenta.

Ciaran Martin, ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido, disse à BBC no início desta semana que a alegação de que o Mythos poderia descobrir vulnerabilidades críticas muito mais rapidamente do que outros modelos de IA “realmente abalou as pessoas”.

“A segunda questão é que, mesmo com vulnerabilidades existentes que conhecemos, mas contra as quais as organizações podem não ter aplicado correções ou podem não estar bem defendidas, ele é simplesmente um hacker muito bom”, disse ele.

Muitos analistas independentes e especialistas em segurança cibernética ainda não puderam testar o Mythos por conta própria, e alguns permanecem céticos quanto ao seu desempenho.

O Instituto de Segurança em IA do Reino Unido concluiu recentemente que, embora se trate de um modelo muito poderoso, sua maior ameaça seria contra sistemas mal protegidos e vulneráveis.

“Não podemos afirmar com certeza se o Mythos Preview seria capaz de atacar sistemas bem protegidos”, disseram seus pesquisadores.

Para eles, onde há boas práticas de cibersegurança, esse modelo, em teoria, seria contido.

A italiana Valentina Palmiotti — mais conhecida como Chompie — participa de torneios internacionais de hacking ético, em que competidores ganham dinheiro encontrando vulnerabilidades em sistemas de segurança antes que elas possam ser exploradas por cibercriminosos.

Ela disse à BBC que seus dias de competição podem estar contados devido à ascensão de ferramentas de IA como o Claude Mythos.

Os medos relacionados à IA não são novidade.

Novos modelos e ferramentas estão surgindo o tempo todo e geralmente são acompanhados por promessas de revolucionar nossas vidas — para melhor ou para pior.

Aproveitar essa mistura de medo e entusiasmo sobre a IA e seu impacto futuro também se tornou uma marca registrada do setor e de suas estratégias de marketing nos últimos anos.

No caso da Mythos, ainda não sabemos o suficiente para entender se essas esperanças ou temores são justificados, ou mais um reflexo do entusiasmo que cerca o setor.

Em ambos os casos, de acordo com o National Cyber Security Centre, órgão britânico de cibersegurança, a coisa mais importante que podemos fazer agora é não entrar em pânico e, em vez disso, focar na necessidade de corrigir a segurança cibernética básica.

Afinal, a maioria dos hackers não precisa de ferramentas de superinteligência artificial para violar sistemas — ataques muito mais simples geralmente são suficientes.

“Para alguns, esse é um evento apocalíptico, para outros, parece muito exagero”, disse Martin à BBC.

Mas ele afirmou que, seja esta ferramenta ou outras subsequentes desenvolvidas pela Anthropic ou por concorrentes, além dos riscos existe uma oportunidade de construir um mundo online mais seguro.

“No médio prazo, há uma oportunidade de usar essas ferramentas para corrigir muitas das vulnerabilidades subjacentes da internet”, afirmou.

No final de abril, a Anthropic anunciou que estava investigando uma denúncia de que um pequeno grupo de pessoas obteve acesso ao Claude Mythos.

“Estamos investigando uma denúncia de acesso não autorizado ao Claude Mythos Preview por meio de um de nossos ambientes de fornecedores terceirizados”, afirmou a empresa em comunicado.

A declaração foi uma resposta a uma reportagem da Bloomberg, que revelou que usuários em um fórum privado conseguiram acessar o modelo sem as permissões necessárias.