image
Технології

Глобальні межі для штучного інтелекту: нова ініціатива

На засіданні Генеральної Асамблеї ООН активісти, вчені та політики ініціювали проект, відомий як "Глобальний заклик до червоних ліній для ШІ". Основною метою є встановлення міжнародних заборон на найбільш ризиковані сценарії використання штучного інтелекту до 2026 року. Про це повідомляє Gizmodo.

Більш ніж 200 осіб, серед яких колишня президентка Ірландії Мері Робінсон і екс-президент Колумбії Хуан Мануель Сантос, вже підписали цей документ. Серед підписантів також Джеффрі Хінтон і Йошуа Бенджіо, яких вважають "батьками" штучного інтелекту.

Автори ініціативи закликають уряди досягти згоди щодо основних обмежень, щоб уникнути "універсально неприйнятних ризиків". У документі не наводиться детальних правил, але представлені можливі приклади "червоних ліній", такі як заборона використання ШІ для запуску ядерної зброї, масового стеження за громадянами чи створення систем, що не підлягають контролю людини.

Організатори пропонують, щоб нова угода базувалася на трьох основних принципах:

  • чіткий список заборонених практик;
  • незалежні механізми перевірки та аудиту;
  • створення міжнародного органу для моніторингу дотримання угод.

Водночас остаточне визначення меж та процедур залишено на розсуд держав. Ініціатори радять проводити спеціальні саміти та робочі групи для узгодження позицій.

США вже мають зобов'язання "не дозволяти ШІ контролювати ядерну зброю", яке було встановлене за адміністрації Байдена. Проте представники розвідки адміністрації Трампа висловили невдоволення тим, що компанії, що розробляють ШІ, не дозволяють використовувати свої розробки для внутрішнього стеження. Це може ускладнити прийняття глобальних рішень щодо безпеки, які очікують експерти з ШІ.