Компании OpenAI и Anthropic инициировали новые политики, направленные на защиту несовершеннолетних до 18 лет от нежелательного влияния ИИ. Это решение стало ответом на критику по поводу недостаточности традиционных методов проверки возраста, которые часто сводятся к простому подтверждению даты рождения.
OpenAI объявила о новых изменениях в спецификациях модели ChatGPT, акцентируя внимание на безопасности молодых пользователей. В документе подчеркивается, что безопасность подростков становится основным приоритетом, даже если это противоречит другим целям. Модель будет поощрять офлайн-общение и поддержку, а также отвечать молодым пользователям с "теплом и уважением".
Это означает, что компания отказывается от пренебрежительного стиля общения, воспринимая подростков как молодых людей, а не взрослых. Такие изменения обусловлены случаями, когда взаимодействие с ИИ приводило к трагическим последствиям, включая самоубийства, произошедшие после продолжительных взаимодействий с чат-ботами, которые всегда соглашались с пользователями.
Anthropic, в свою очередь, запретила использование модели Claude для несовершеннолетних. Теперь только лица старше 18 лет могут регистрировать аккаунты. Компания также будет внедрять алгоритмы для выявления возраста пользователей в разговорах и блокировки аккаунтов, принадлежащих несовершеннолетним.
Аналогичные инструменты ранее были внедрены компанией Google, однако их эффективность вызвала критику. Некоторые взрослые пользователи сообщали о случаях ложных блокировок, требующих дополнительной проверки возраста. Это создавало трудности для тех, кто просто хотел использовать поиск или смотреть видео.
Эксперты отмечают, что новые меры OpenAI и Anthropic могут стать важным шагом в защите подростков от негативных последствий влияния ИИ, но их эффективность еще нуждается в проверке на практике.