Более ста технологических компаний, включая OpenAI, Anthropic, Google и Microsoft, подписали открытое письмо, призывающее частный и государственный секторы США к сотрудничеству в защите от киберугроз, связанных с искусственным интеллектом. Об этом пишет издание TechCrunch.
Необходимость в новых формах киберзащиты
В письме, подписанном также известными киберкомпаниями, такими как CrowdStrike, Okta и Fortinet, а также крупными финансовыми институтами и компаниями, занимающимися интернет-инфраструктурой, содержится призыв к внедрению новых форм киберзащиты, а также к сотрудничеству правительств на «местном, национальном и международном уровнях» в области безопасности.
«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространенными и изощренными, поскольку модели по всему миру будут становиться все более совершенными. В этой связи компании и государственные службы, от которых зависят наши сообщества, — от больниц до водоочистных сооружений и инфраструктуры, обеспечивающей работу интернета, — находятся под угрозой», - говорится в письме.
Проблема, которую ИИ представляет для традиционных средств кибербезопасности, в последнее время оказалась в центре внимания в связи с чередой странных инцидентов, в которых агенты ИИ атаковали компании.
Инцидент с Hugging Face, когда один из агентов OpenAI самостоятельно вышел из изолированной среды и атаковал технологическую компанию, повлек за собой череду других случаев взлома, совершенных агентами, разработанными другими компаниями, занимающимися искусственным интеллектом, включая Anthropic и Meta (признана экстремистской компанией, ее деятельность в РФ запрещена). Эти инциденты укрепили аргумент о том, что сфера кибербезопасности претерпела фундаментальные изменения и что для противодействия им необходимы новые смелые коммерческие решения.
От противоречивой позиции к поиску «коллективного ответа»
Кроме того, в письме также предлагается найти «коллективный ответ», в рамках которого формируются «новые партнерства» для повышения стандартов безопасности и поиска новых решений возникающих киберугроз.
Некоторые из компаний, занимающихся разработкой ИИ и подписавших письмо, все еще продолжают активно разрабатывать более совершенные модели ИИ, что подчеркивает противоречивую позицию этих компаний к стандартам безопасности. Ведь те же самые передовые модели, которые создают новые угрозы, предлагаются и как инструменты защиты. В частности, компании предлагают программы по использованию передовых моделей ИИ в оборонительных целях, включая программу Daybreak от OpenAI, Mythos от Anthropic и новую киберплатформу Perception от Microsoft.
