На Генеральной Ассамблее ООН группа политиков, ученых и общественных деятелей представила инициативу под названием "Глобальный призыв к красным линиям для ИИ". Основная цель — установить международные запреты на наиболее опасные сценарии применения искусственного интеллекта до конца 2026 года. Об этом сообщает Gizmodo.

Документ уже подписали более 200 человек, среди которых бывшая президент Ирландии Мэри Робинсон и экс-президент Колумбии Хуан Мануэль Сантос. Также среди подписантов известные ученые и такие фигуры, как Джеффри Хинтон и Йошуа Бенджио, которых называют "отцами" искусственного интеллекта.

Участники призывают правительства прийти к соглашению о базовых ограничениях, которые позволят избежать "универсально неприемлемых рисков". В документе нет конкретных правил, однако приводятся примеры возможных "красных линий", таких как запрет на использование ИИ для запуска ядерного оружия, массового наблюдения за гражданами или создания систем, которые нельзя остановить человеком.

Организаторы предлагают, чтобы будущая договоренность основывалась на трех принципах:

• четкий список запрещенных практик;
• независимые механизмы проверки и аудита;
• создание международного органа для контроля за выполнением соглашений.

Тем не менее, окончательное определение границ и процедур оставлено на усмотрение государств. Инициаторы рекомендуют проводить специальные саммиты и рабочие группы для согласования позиций.

США уже взяли на себя обязательство "не позволять ИИ контролировать ядерное оружие", установленное еще при администрации Байдена. Однако представители разведки администрации Трампа выразили недовольство тем, что компании, разрабатывающие ИИ, не позволяют использовать свои технологии для внутренних наблюдений. Такие случаи могут усложнить принятие глобальных решений по безопасности, которых ожидают эксперты по ИИ.