Федеральные ведомства США тайно тестируют передовую ИИ-модель Mythos от Anthropic для применения в сфере кибербезопасности, обходя запрет администрации Трампа на партнёрство с этой компанией.
По данным нескольких источников, Центр по стандартам и инновациям в области искусственного интеллекта Министерства торговли США активно оценивает возможности Mythos в области взлома. Эти тесты проводятся несмотря на официальные ограничения, введённые после конфликта по контракту между Пентагоном и Anthropic.
Сотрудники конгресса как минимум трёх комитетов за последнюю неделю либо уже провели, либо запросили брифинги у Anthropic, чтобы изучить возможности модели по киберсканированию. Эти действия указывают на более широкий интерес правительства к технологии, выходящий за рамки оценок Министерства торговли.
Mythos представляет собой самую передовую на сегодняшний день ИИ-систему Anthropic, особенно в области программирования и автономных задач. Компания представила модель 7 апреля, охарактеризовав её как «самую способную на сегодня для кодирования и агентных задач» — то есть способную работать самостоятельно без постоянного контроля со стороны человека.
Компания продолжает обсуждать Mythos с администрацией Трампа, даже после того, как Пентагон разорвал деловые отношения с этой американской ИИ-компанией из-за конфликта по контракту.
Джек Кларк, сооснователь Anthropic — на мероприятии Semafor World Economy
Тестирование демонстрирует напряжённость между требованиями безопасности и политическими ограничениями. Официальные лица в области кибербезопасности, похоже, готовы оценивать перспективные ИИ-инструменты, игнорируя более широкие политические ограничения, особенно при оценке потенциальных уязвимостей в критически важных системах.
Характер и масштабы этих обсуждений остаются неясными. Ни Anthropic, ни Белый дом, ни Министерство торговли не ответили на запросы о комментариях относительно программы тестирования или очевидного противоречия с политикой администрации.
Эта ситуация подчёркивает сложные взаимоотношения между развитием ИИ и приоритетами национальной безопасности. В то время как администрация сохраняет запрет на партнёрство с Anthropic, отдельные ведомства, похоже, проводят независимые оценки безопасности этой технологии.
Конфликт по контракту между Пентагоном и Anthropic не был публично детализирован, однако он привёл к более широкому запрету на сотрудничество правительства с этой компанией. Тем не менее, продолжающееся тестирование указывает на то, что вопросы безопасности могут побуждать ведомства искать обходные пути существующих ограничений.