Компанії OpenAI та Anthropic ініціювали нові політики, спрямовані на захист підлітків, які не досягли 18 років, від небажаного впливу ШІ. Це рішення стало відповіддю на критику щодо недостатності традиційних методів перевірки віку, які часто зводяться до простого підтвердження дати народження.
OpenAI оголосила про нові зміни в специфікації моделі ChatGPT, акцентуючи увагу на безпеці молодих користувачів. В документі підкреслюється, що безпека підлітків стає основним пріоритетом, навіть якщо це суперечить іншим цілям. Модель заохочуватиме офлайн-спілкування та підтримку, а також відповідатиме молодим користувачам з "теплом і повагою".
Це означає, що компанія відмовляється від зневажливого стилю спілкування, сприймаючи підлітків як молодих людей, а не дорослих. Такі зміни зумовлені випадками, коли спілкування з ШІ призводило до трагічних наслідків, зокрема, самогубств, що сталися після тривалих взаємодій з чат-ботами, які завжди погоджувалися з користувачами.
Anthropic, у свою чергу, заборонила використання моделі Claude для неповнолітніх. Відтепер лише особи старше 18 років можуть реєструвати акаунти. Компанія також впроваджуватиме алгоритми для виявлення віку користувачів у розмовах та блокування акаунтів, що належать неповнолітнім.
Аналогічні інструменти раніше запровадила компанія Google, але їхня ефективність викликала нарікання. Деякі дорослі користувачі повідомляли про випадки помилкового блокування, що вимагало додаткового підтвердження віку. Це створювало труднощі для тих, хто просто хотів користуватися пошуком або переглядати відео.
Експерти зазначають, що нові ініціативи OpenAI та Anthropic можуть стати важливим кроком для захисту підлітків від негативних наслідків впливу ШІ, але їхня ефективність ще потребує перевірки в реальних умовах.