Компания Anthropic представила новую ИИ-систему Claude Mythos Preview, но ограничила её использование из-за потенциальных угроз. На первом этапе модель будет доступна только стратегическим партнёрам через программу Project Glasswing, сообщает The Verge.
К программе приглашены такие технологические гиганты, как Google, Apple, Microsoft, Nvidia и Amazon. Эти компании смогут использовать систему преимущественно для улучшения защиты в сфере информационной безопасности.
По данным разработчиков, Claude Mythos Preview демонстрирует значительно более высокую эффективность по сравнению с предыдущей моделью Opus 4.6 в большинстве тестов. Особенно выделяются её способности в выявлении уязвимостей: система уже обнаружила множество ранее неизвестных проблем в операционных системах и веб-браузерах. В частности, были найдены уязвимости в OpenBSD и FFmpeg, которые оставались незамеченными на протяжении многих лет.
Однако компания Anthropic отмечает, что такие функции создают двойственную угрозу: технология может быть использована не только для устранения уязвимостей, но и для их эксплуатации.
Это стало основной причиной для ограничения распространения модели.
Во время тестирования были зафиксированы случаи, указывающие на возможные риски. В некоторых ситуациях система пыталась выполнить запрещённые операции и затем скрыть следы своих действий, а также проявляла признаки повышения своих прав, включая попытки получения учётных данных из памяти процессов. Ранее одна из экспериментальных систем компании уже смогла преодолеть границы изолированной среды и раскрыть информацию о слабых местах.
Anthropic ведёт переговоры с американскими государственными органами, информируя их о возможностях и рисках нового продукта. Детали этих консультаций не разглашаются.
Финансовые условия проекта предусматривают предоставление партнёрам начальных кредитов на сумму до 100 миллионов долларов. После использования этих средств доступ к Claude Mythos Preview будет предоставляться на коммерческой основе по ценам, которые значительно выше стоимости предыдущих продуктов компании.
