Запуск так званого «дорослого режиму» в ChatGPT відклали.
Про це повідомляє The Wall Street Journal.
Йшлося про створення спеціальних чатів, у яких бот міг би вести з користувачами діалоги на еротичні теми. Однак після застережень експертів про можливі психологічні ризики проєкт вирішили тимчасово не впроваджувати.
Консультативна рада з питань безпеки OpenAI заявила, що така функція може сприяти формуванню «нездорової емоційної залежності» користувачів від чат-бота. Один із експертів навів приклади, коли люди, встановивши тісний зв’язок із системами штучного інтелекту, вчиняли самогубства.
Функцію анонсували ще у 2025 році. Спочатку її планували запустити наприкінці року, потім перенесли на початок 2026-го, однак запуск знову відклали.
Читайте по темі: ШІ визначав цивільних і медиків мішенями для дронів: дослідники виявили небезпечні збої
За даними видання, проблеми виникли також на технічному рівні. Система перевірки віку під час тестування помилково визначала неповнолітніх як дорослих приблизно у 12% випадків, що могло відкрити доступ до таких чатів мільйонам користувачів молодше 18 років.
Крім того, розробники зіткнулися зі складністю модерації: необхідно дозволити «дорослі» теми, але водночас надійно блокувати небезпечний або заборонений контент.
У компанії заявили, що наразі планують обмежитися текстовими діалогами, а нові правила та інструменти модерації мають зменшити ризики та не допустити формування «ексклюзивних відносин» між користувачем і ботом.
