Anthropic, l'azienda di sicurezza dell'IA dietro il chatbot Claude, ha involontariamente esposto informazioni sensibili su un modello di intelligenza artificiale non ancora rilasciato e dettagli commerciali confidenziali attraverso un database pubblico non configurato correttamente, secondo i ricercatori di sicurezza che hanno scoperto la violazione.
I dati trapelati includono presumibilmente le specifiche tecniche di un modello con nome in codice 'Claude Mythos', che sembra rappresentare un significativo avanzamento nelle capacità di IA dell'azienda. Gli esperti di sicurezza che hanno analizzato le informazioni esposte suggeriscono che il nuovo modello potrebbe possedere capacità di ragionamento migliorate e implicazioni potenzialmente preoccupanti per la cibersicurezza.
L'esposizione del database ha anche rivelato dettagli su un prossimo evento esclusivo con il capo esecutivo di Anthropic, sollevando interrogativi sulle pratiche di gestione dei dati dell'azienda mentre compete con OpenAI e Google nel mercato dell'intelligenza artificiale in rapida evoluzione.
Anthropic, fondata da ex dirigenti di OpenAI inclusi Dario e Daniela Amodei, si è posizionata come leader nella ricerca sulla sicurezza dell'IA. L'azienda ha enfatizzato pratiche di sviluppo responsabile e approcci all'IA costituzionale progettati per rendere i sistemi più utili, innocui e onesti.
L'incidente evidenzia le sfide in corso nell'industria dell'IA riguardanti la sicurezza delle informazioni e la protezione della ricerca proprietaria. Mentre le aziende si affrettano a sviluppare modelli di linguaggio sempre più potenti, la divulgazione accidentale di dettagli tecnici potrebbe fornire ai concorrenti informazioni preziose sulla roadmap di sviluppo di Anthropic.