Компания Anthropic, заботящаяся, прежде всего, о безопасности, больше не может утверждать, что самым безопасным решением всегда является отказ от возможностей. В сфере кибербезопасности отказ от защитного инструмента может снизить безопасность клиентов, когда злоумышленники прибегают к аналогичным методам. Более безопасным выбором может быть управляемый выпуск с жестким контролем, а не бессрочное ограничение, пишет Forbes.
Сейчас Anthropic стоит перед сложным выбором. С одной стороны, она должна сделать модель Mythos более доступной, а с другой — не допустить ее попадания в руки не тех пользователей. Более того, новая модель должна конкурировать с OpenAI и Mistral, а также аналогами из Китая и других стран, но не позволять гонке компаний определять склонность к риску.
Компания планирует открыть доступ к мощной модели для кибербезопасности всем клиентам в ближайшие недели после ограниченного тестирования. Но индустрия, которая была обеспокоена тем, что такие мощные модели ранее оказались в руках злоумышленников, теперь задается вопросом, что произойдет, когда модель выйдет за рамки строгих границ, установленных Anthropic.
Ранее Anthropic придерживалась осторожной позиции при выпуске общей модели из-за ее значительной мощности. Но позже заявила, что хочет сделать Mythos доступной для широкого круга пользователей, как только будут готовы более эффективные средства защиты от кибератак. Компания также сообщила, что планирует запустить новые средства защиты с новой моделью Claude Opus, прежде чем расширять возможности, связанные с повышенным риском. Теперь сообщения СМИ указывают на более широкий запуск в ближайшие недели. Реальность такова, что рыночные силы вынуждают Anthropic действовать быстрее, чем планировалось.
Claude Mythos — самая мощная модель искусственного интеллекта от Anthropic. Она может быстро выявлять недостатки программного обеспечения, проверять, можно ли их использовать, и обосновывать пути атаки, для чего когда-то требовались элитные исследователи в области кибербезопасности.
До сих пор Anthropic препятствовала широкому распространению своей модели, полагая, что если эту «мощь» сначала получат «защитники» (банки, облачные компании и разработчики открытого ПО), то они смогут быстрее закрыть опасные уязвимости, прежде чем злоумышленники получат доступ к таким же масштабным инструментам.
Anthropic держала Mythos внутри Project Glasswing — ограниченной оборонительной программы, которая позволяет крупным технологическим компаниям, таким как Amazon, Microsoft и Apple, использовать модель для кибербезопасности. AWS сообщила, что протестировала Mythos в своих собственных операциях по обеспечению безопасности важных кодовых баз. А Microsoft заявила, что эта модель продемонстрировала значительные успехи в тестировании безопасности CTI-REALM по сравнению с предыдущими моделями.
На протяжении десятилетий безопасность программного обеспечения была в дефиците. Слишком мало опытных исследователей, слишком много хранилищ кода с потенциальными уязвимостями. Mythos, с одной стороны, может помочь в решении этих проблем, предоставляя рекомендации экспертного уровня тем немногим, кто может их решить, но, с другой стороны, предоставляет ту же силу тем, кто может причинить вред.
Кроме того, на себя обратил внимание доклад Cloudflare, участника проекта Glasswing. В нем он дал четкое представление о том, почему Mythos так важен и почему это так рискованно. К последнему он отнес то, что в Mythos Preview отсутствуют дополнительные меры предосторожности, которые присутствуют в общедоступных моделях, таких как Opus 4.7 или GPT-5.5.
Нельзя игнорировать и конкурентный аспект. 29 мая агентство Reuters сообщило, что OpenAI предоставила некоторым японским финансовым учреждениям доступ к своей мощной модели GPT-5.5 для предотвращения кибератак. А BNP Paribas расширил сотрудничество с европейским поставщиком Mistral для укрепления ИИ-киберзащиты. Европейские банки тоже опасаются отставания от американских конкурентов в доступе к новейшим системам ИИ.
Также нужно иметь в виду, что как только модель становится частью процессов сортировки уязвимостей, обучения сотрудников и проверки кода, ее может быть трудно заменить. Поставщик, который первым получит доступ к этим элементам управления, может создать операционную систему для ИИ-защиты. Если наступательный потенциал распространяется, то лучшие оборонительные инструменты не могут оставаться в закрытом клубе. Более широкий выпуск имеет смысл, но с многоуровневым доступом, проверкой клиентов и строгими политиками.
