Глава Управления ООН по правам человека Фолькер Тюрк предупредил, что искусственный интеллект может представлять угрозу для человечества. В связи с этим он, по данным Reuters, пообещал оказать давление на компании, работающие в сфере ИИ, чтобы снизить риски, которые, по мнению его ведомства, включают сбои в работе сервисов, коммуникаций и демократических систем.
Экзистенциальная угроза для человечества
“Я разделяю опасения представителей отрасли по поводу того, что продвинутый ИИ может представлять экзистенциальную угрозу для человечества. Сегодня я призываю приложить все усилия, чтобы обеспечить надежные гарантии безопасности ИИ, пока не стало слишком поздно, - заявил Тюрк на заседании Совета в Женеве.
Инцидент с “роем” агентов OpenAI
Он не стал вдаваться в подробности о характере рисков, но представитель его администрации заявила, что сбои в работе мощных систем искусственного интеллекта могут привести к нарушению работы критически важной инфраструктуры и демократических институтов. Она сослалась на “опасное поведение при обучении агентов” во время так называемого инцидента на Hugging Face в июле, когда “рой” агентов OpenAI взломал платформу с открытым исходным кодом, и отметила, что это свидетельствует о том, что передовые технологии в области искусственного интеллекта развиваются быстрее, чем меры по их сдерживанию.
“Горстка людей обладает почти неограниченной властью”
Тюрк также предупредил, что лишь “горстка людей обладает практически неограниченной властью над искусственным интеллектом”, не назвав конкретных имен.
Напомним, что в число ведущих компаний в области искусственного интеллекта входят Meta (признана в РФ экстремистской организацией и запрещена), Anthropic, OpenAI и Google.
“Как минимум нам нужно, чтобы страны, в которых разрабатывается искусственный интеллект, и те, кто участвует в его разработке, пришли к согласию по поводу так называемых красных линий”, - сказал он.
