Компания Anthropic посвятила почти треть своего долгожданного проспекта IPO факторам риска. В документе подробно описываются конкретные, вызывающие беспокойство модели, пишет TechCrunch.
Угроза для человечества и крупнейшее IPO: парадокс Anthropic
В проспекте IPO упоминаются ИИ-модели, которые уже продемонстрировали или могут продемонстрировать попытки «сопротивляться закрытию», «скрывать или манипулировать информацией» и поведение, «напоминающее шантаж».
Эти разоблачения выглядят весьма мрачно для компании, в то время как она планирует выйти на биржу с капитализацией более $2 трлн, что более чем вдвое превышает ее оценку в $965 млрд в мае. Это IPO может стать крупнейшим в истории. Это странная ситуация для любой компании — предупреждать о том, что ее продукт может уничтожить человечество, и при этом сделать невероятно богатыми некоторых из своих первых инвесторов и сотрудников.
Эти разоблачения, которые, как сообщается, включают «экзистенциальные риски для человечества» — что, судя по беглому просмотру базы данных SEC, происходит впервые — на фоне быстро растущей обеспокоенности по поводу безопасности ИИ.
Рост выручки при миллиардных убытках
Компания Anthropic зафиксировала операционный убыток в размере более $8 млрд в 2025 году из-за резкого роста расходов на вычислительные мощности, Ее выручка выросла в двенадцать раз, почти до $4,6 млрд, хотя рост затрат на инфраструктуру в прошлом году увеличил общие операционные расходы почти до $13 млрд.
В проспекте Anthropic также раскрываются планы потратить колоссальные $518 млрд на облачные вычисления, инфраструктуру и другие направления в ближайшие годы. В этом году Anthropic уже заключила соглашения о предоставлении вычислительных ресурсов с Google, SpaceX и Nscale, а также с другими компаниями в этом направлении.
В 2026 году показатели Anthropic выросли еще значительнее. Только выручка за второй квартал достигла $11,5 млрд, и компания движется к получению операционной прибыли с учетом корректировок второй квартал подряд.
В проспекте также отмечается концентрация клиентов: почти четверть выручки за прошлый год пришлась всего на двух клиентов. Пока нет информации о том, кто это.
Споры о безопасности
Генеральный директор Anthropic Дарио Амодеи весь месяц публично призывал «ускорить развитие» искусственного интеллекта, заявив на прошлой неделе Совету Безопасности ООН, что ИИ может угрожать человечеству, и назвав его «важнейшей глобальной проблемой безопасности, стоящей перед миром сегодня». Его поддержали и конкуренты Сэм Альтман и Илон Маск, что стало редким случаем солидарности для соперников, которые с удовольствием используют возможности для публичной критики друг друга.
Между тем, соучредитель Meta Platforms (признана экстремистской и запрещена в России) Марк Цукерберг, отмахнулся от опасений, заявив в интервью NBC News, что он не считает необходимым «какую-либо координацию в масштабах всей отрасли».
Предупреждения последовали за чередой инцидентов в сфере безопасности, в ходе которых агенты искусственного интеллекта взламывали внешние системы. В частности, на прошлой неделе компания OpenAI сообщила, что ее инструменты взломали «десятки» внешних сайтов, включая правительственный, в том числе и сайт Комиссии по ценным бумагам и биржам (SEC). На этом фоне компания заявила, что отказалась от планов выпуска своей новейшей модели из-за опасений по поводу безопасности.
