Anthropic, la société de sécurité IA derrière le chatbot Claude, a involontairement exposé des informations sensibles sur un modèle d'intelligence artificielle non publié et des détails commerciaux confidentiels via une base de données publique mal configurée, selon des chercheurs en sécurité qui ont découvert la fuite.
Les données divulguées contiennent apparemment les spécifications techniques d'un modèle nommé en interne « Claude Mythos », qui semble représenter une avancée significative dans les capacités d'IA de l'entreprise. Les experts en sécurité qui ont analysé les informations exposées suggèrent que le nouveau modèle pourrait posséder des capacités de raisonnement améliorées et potentiellement des implications préoccupantes en matière de cybersécurité.
L'exposition de la base de données a également révélé des détails sur un événement exclusif à venir mettant en vedette le directeur général d'Anthropic, soulevant des questions sur les pratiques de gestion des données de l'entreprise alors qu'elle est en concurrence avec OpenAI et Google sur le marché de l'intelligence artificielle en rapide évolution.
Anthropic, fondée par d'anciens cadres d'OpenAI dont Dario et Daniela Amodei, s'est positionnée comme un leader en recherche en matière de sécurité de l'IA. L'entreprise a mis l'accent sur les pratiques de développement responsable et les approches d'IA constitutionnelle conçues pour rendre les systèmes plus utiles, inoffensifs et honnêtes.
L'incident met en évidence les défis permanents de l'industrie de l'IA concernant la sécurité de l'information et la protection de la recherche propriétaire. Alors que les entreprises s'empressent de développer des modèles de langage de plus en plus puissants, la divulgation accidentelle de détails techniques pourrait fournir aux concurrents des informations précieuses sur la feuille de route de développement d'Anthropic.