Эксперименты Anthropic показывают, что небольшим моделям ИИ, возможно, потребуется несколько месяцев, чтобы стать достаточно способными к самовоспроизведению на коммерческих устройствах Интернета вещей (IoT), таких как умные духовки и ТВ-приставки Android от малоизвестных производителей, сообщает Reuters.
Американский стартап активно готовится к одному из крупнейших IPO в мировой истории. По данным Bloomberg, компания планирует провести 14 октября 2026 года в своей штаб-квартире в Сан-Франциско «День инвестора». Также Anthropic намерена запустить комплекс мероприятий, направленных на привлечение внимания инвесторов, на неделе с 9 ноября, а сделку рассчитывает закрыть до Дня благодарения. Потенциальные инвесторы оценивают стоимость Anthropic в диапазоне $1,8-2 трлн.
Что это за эксперименты?
В своих экспериментах компания Anthropic изучала, могут ли модели искусственного интеллекта находить уязвимые устройства, копировать себя в эти устройства и продолжать распространяться без участия человека.
Исследование показало, что небольшие модели, содержащие менее 30 миллиардов параметров, способны выполнить множество шагов, необходимых для воспроизведения результатов.
Однако компания обнаружила, что подобные модели ИИ также испытывали трудности с выполнением всей последовательности от начала до конца.
В ходе упрощенных тестов, в которых были исключены некоторые этапы обеспечения безопасности, компания Anthropic обнаружила, что GLM-5.2 и более надежные модели способны к сквозной репликации.
Компания Anthropic предупредила, что воспроизводящие модели будет сложно отключить, поскольку отсутствует централизованная точка отключения, и, в отличие от вредоносных программ, не использующих ИИ, они также могут самостоятельно определять незнакомые устройства, нацеленные на процессоры центров обработки данных.
В своих исследованиях компания сосредоточилась на устройствах Интернета вещей, таких как телевизоры на базе Android, умная бытовая техника и другие подключенные к интернету гаджеты, поскольку они, как правило, плохо защищены.
Медленное размножение
Крупная компания в сфере ИИ также предупредила, что если небольшие модели будут улучшаться с той же скоростью, что и раньше, они смогут автономно воспроизводиться к концу этого года, а вскоре после этого за ними последуют и небольшие модели, основанные на весе.
В Anthropic также отметили, что подобные автономные системы ИИ, вероятно, будут размножаться медленно и полагаться на широкодоступные, относительно небезопасные вычислительные ресурсы. Они добавили, что системы следует усилить, чтобы затруднить распространение таких агентов ИИ.
