Anthropic, a empresa de segurança em IA por trás do chatbot Claude, expôs inadvertidamente informações sensíveis sobre um modelo de inteligência artificial não lançado e detalhes comerciais confidenciais através de um banco de dados público mal configurado, de acordo com pesquisadores de segurança que descobriram a violação.
Os dados vazados supostamente incluem especificações técnicas de um modelo com nome em código 'Claude Mythos', que parece representar um avanço significativo nas capacidades de IA da empresa. Especialistas em segurança que analisaram as informações expostas sugerem que o novo modelo poderia possuir habilidades de raciocínio aprimoradas e possíveis implicações preocupantes para segurança cibernética.
A exposição do banco de dados também revelou detalhes sobre um próximo evento exclusivo com o diretor executivo da Anthropic, levantando questões sobre as práticas de tratamento de dados da empresa conforme ela compete com OpenAI e Google no mercado de inteligência artificial em rápida evolução.
Anthropic, fundada por executivos anteriores da OpenAI incluindo Dario e Daniela Amodei, se posicionou como líder em pesquisa de segurança em IA. A empresa enfatizou práticas de desenvolvimento responsável e abordagens de IA constitucional projetadas para tornar sistemas mais úteis, inofensivos e honestos.
O incidente destaca desafios contínuos na indústria de IA em relação à segurança da informação e proteção de pesquisa proprietária. Conforme empresas correm para desenvolver modelos de linguagem cada vez mais poderosos, a divulgação acidental de detalhes técnicos poderia fornecer aos concorrentes insights valiosos sobre o roadmap de desenvolvimento da Anthropic.