Modelo Claude Mythos gera preocupação com a estabilidade do sistema financeiro
O secretário do Tesouro dos EUA, Scott Bessent, e o presidente do Sistema de Reserva Federal (Fed), Jerome Powell, realizaram uma reunião de emergência com executivos dos maiores bancos diante das preocupações provocadas pelo novo modelo de inteligência artificial da Anthropic. O encontro aconteceu em Washington e tratou dos possíveis riscos cibernéticos que podem surgir com o avanço desse tipo de sistema.
Segundo fontes, a reunião foi organizada para garantir que os bancos tivessem ciência das ameaças potenciais e estivessem adotando medidas para proteger seus sistemas. O gatilho foi o modelo Claude Mythos, que a Anthropic descreve como uma ferramenta capaz de elevar de forma significativa a eficiência na busca e na exploração de falhas em software.
De acordo com a empresa, “os modelos modernos de IA já superam quase tudo, exceto os especialistas mais experientes” na identificação de vulnerabilidades. A Anthropic alertou que as consequências podem atingir a economia, a segurança pública e a segurança nacional.
Claude Mythos, cibersegurança e grandes bancos dos EUA
Uma preocupação adicional surgiu após um vazamento do código do modelo, ocorrido anteriormente. Depois disso, a empresa passou a restringir o acesso ao Mythos, liberando-o apenas para um número limitado de parceiros, entre eles grandes companhias de tecnologia e organizações de infraestrutura.
Na reunião, estiveram presentes executivos de bancos norte-americanos sistemicamente relevantes, incluindo os chefes do Goldman Sachs, Bank of America, Citigroup, Morgan Stanley e Wells Fargo. Essas instituições são consideradas essenciais para o sistema financeiro, e qualquer falha em suas operações pode gerar impactos de grande escala.
O líder do JPMorgan Chase, Jamie Dimon, que não participou do encontro, afirmou anteriormente em sua carta anual aos acionistas que a cibersegurança continua sendo uma das principais ameaças e que o avanço da IA provavelmente vai ampliar esse risco.
Segundo a Anthropic, o modelo Mythos já encontrou milhares de vulnerabilidades em softwares, incluindo algumas que existiam há até 27 anos e não tinham sido detectadas pelos desenvolvedores. Isso reforça os receios de que ferramentas desse tipo possam ser usadas por criminosos para invadir sistemas e contornar mecanismos de proteção.
A situação ocorre em meio a debates mais amplos sobre os riscos da IA. Antes, autoridades dos EUA incluíram a Anthropic em uma lista de riscos potenciais para as cadeias de suprimento, algo que a empresa contesta na Justiça.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário