Отраслевая группа Open Secure AI Alliance (OSAA), возглавляемая Nvidia и созданная всего неделю назад, уже насчитывает более 120 компаний, пишет TechCrunch.
Первые результаты OSAA
В рамках Open Secure AI Alliance была сформировала рабочая группа Shared AI Findings Exchange (SAFE), которая представляет предложения для открытого обсуждения, а Linux Foundation, являющийся членом группы, занимается управлением этими предложениями. Они были подготовлены в ходе конференции Black Hat, которая проходит в Лас-Вегасе и является центром притяжения для мирового сообщества специалистов по кибербезопасности.
На данный момент эти рекомендации не представляют собой ничего принципиально нового. Предложения охватывают такие области, как конфиденциальное сообщение об инцидентах в сфере кибербезопасности, связанных с ИИ, оповещение пострадавших и последующий анализ без поиска виновных, чтобы все могли извлечь из этого уроки.
Какие технологии предложили лидеры индустрии
Участники OSAA вносят свой вклад и каталогизируют фрагменты своих открытых технологий, которые могут оказаться полезными. Со временем, как это часто бывает с подобными отраслевыми организациями, это может вылиться в создание открытого инструментария для корпоративной защиты ИИ-агентов или для обороны от атакующих ИИ-злоумышленников (например, как та модель OpenAI, которая проникла в Hugging Face). Hugging Face также является членом этой группы.
Например, Nvidia отметила, что предлагает целое семейство открытых моделей, а также сканер уязвимостей для LLM с открытым исходным кодом под названием Garak; Okta работает над технологией идентификации агентов; Red Hat — над управлением агентами; а Amazon внесла вклад в виде инструмента для создания открытых агентов — Strands Agents, и языка авторизации Cedar. И это лишь несколько примеров.
В настоящее время в группу входят многие крупные компании, включая Adobe, BlackRock, Cisco, Intel, Microsoft и Visa, но есть и заметные исключения, такие как Anthropic, OpenAI и Google.
Отсутствие Anthropic, OpenAI и Google не мешает движению вперёд
Примечательно, что и OpenAI, и Google подписали первоначальное открытое письмо, которое послужило толчком для создания этой группы. В письме, опубликованном на прошлой неделе, содержался призыв к Белому дому поддержать инициативы в области искусственного интеллекта с открытым исходным кодом, а не подавлять их. Его активно продвигала Nvidia, и оно было подписано более чем 200 технологическими компаниями.
Хотя прохладное отношение Anthropic к письму и отраслевой группе на данный момент не вызывает удивления, и OpenAI, и Google выпускали собственные модели с открытым весом. Google к тому же - ярый сторонник открытого исходного кода. Интересно, присоединятся ли они к группе по мере ее развития.
OSAA работает со скоростью ИИ. Прошло всего пару недель с тех пор, как появились новости о том, что администрация Трампа рассматривает возможность запрета китайских моделей с открытым весом, что вызвало беспокойство в отрасли и привело к появлению того самого открытого письма.
Что бы в конечном итоге ни произошло с китайскими открытыми моделями взвешивания в США, быстрые действия этой влиятельной группы, похоже, идут на пользу американской экосистеме открытого ИИ. Некоторые участники экосистемы говорят, что это в конечном итоге единственный способ преодолеть любую угрозу — реальную или мнимую, — которую китайские лаборатории ИИ представляют для США.
«Открытость может стать одним из важнейших путей к обеспечению безопасности и защищенности ИИ», — отмечает отраслевая группа в своем письме. Похоже, они готовы немедленно подтвердить свои слова делом, внедрив свои технологии.
