Anthropic, компания, занимающаяся безопасностью ИИ и создающая чатбот Claude, случайно раскрыла конфиденциальную информацию об неопубликованной модели искусственного интеллекта и секретные деловые детали через неправильно настроенную открытую базу данных, согласно исследователям безопасности, обнаружившим утечку.
Утечка данных якобы включает технические характеристики модели с кодовым названием 'Claude Mythos', которая, похоже, представляет собой значительный прогресс в возможностях ИИ компании. Эксперты по безопасности, проанализировавшие раскрытую информацию, предполагают, что новая модель могла бы обладать улучшенными способностями рассуждения и потенциально проблемными последствиями для кибербезопасности.
Раскрытие базы данных также выявило детали о предстоящем эксклюзивном мероприятии с участием главного исполнительного директора Anthropic, что вызывает вопросы о практике обработки данных компании в условиях конкуренции с OpenAI и Google на быстро развивающемся рынке искусственного интеллекта.
Anthropic, основанная бывшими руководителями OpenAI, включая Dario и Daniela Amodei, позиционирует себя в качестве лидера в исследованиях безопасности ИИ. Компания подчеркивает практику ответственного развития и подходы, основанные на конституционном ИИ, разработанные для создания систем, которые были бы более полезными, безопасными и честными.
Этот инцидент подчеркивает постоянные проблемы в отрасли ИИ, связанные с информационной безопасностью и защитой проприетарных исследований. Так как компании спешат разработать все более мощные языковые модели, случайное раскрытие технических деталей может предоставить конкурентам ценную информацию о плане развития Anthropic.