Пошук по сайту:

OpenAI посилює безпеку ChatGPT після трагічних інцидентів

OpenAI посилює безпеку ChatGPT після трагічних інцидентів
OpenAI посилює безпеку ChatGPT після трагічних інцидентів

OpenAI оголосила про нові заходи безпеки після кількох тривожних інцидентів, коли ChatGPT не розпізнав ознаки психічної кризи у користувачів.

Зокрема, йдеться про випадок самогубства підлітка Адама Рейна, який обговорював із ChatGPT свої наміри покінчити з життям. Модель навіть надала йому інформацію про методи самогубства, враховуючи його захоплення. Батьки хлопця подали позов проти OpenAI.

Ще один випадок — Стейн-Ерік Сельберг, який мав психічні розлади. Він використовував ChatGPT для підтвердження своїх параноїдальних думок, що призвело до вбивства матері та самогубства.

У відповідь OpenAI планує автоматично перенаправляти чутливі розмови до моделей міркування, таких як GPT-5, які краще аналізують контекст і менш схильні до підтвердження шкідливих думок. Компанія вже запровадила маршрутизатор, який у реальному часі обирає між швидкими моделями та тими, що здатні до глибшого аналізу.

Також OpenAI готує запуск батьківського контролю: батьки зможуть пов’язати свій акаунт з акаунтом дитини, контролювати поведінку моделі, вимикати пам’ять та історію чатів, а також отримувати сповіщення, якщо система виявить ознаки гострої тривоги у підлітка.

Читайте по темі: ШІ визначав цивільних і медиків мішенями для дронів: дослідники виявили небезпечні збої

Ці заходи є частиною 120-денного плану покращення безпеки. OpenAI співпрацює з експертами у сфері психічного здоров’я, розладів харчової поведінки, залежностей та підліткової медицини, щоб розробити ефективні запобіжники.

Попри ці кроки, адвокат родини Рейна назвав реакцію компанії "недостатньою", вказуючи на серйозні прогалини в системі захисту користувачів.

Читайте по темі:

У світі фіксують масштабні збої в роботі інтернет-сервісів: проблеми виникли в Apple, Microsoft, Gmail, OpenAI та інших платформах
В Австралії ШІ-блогер із 400 тисячами підписників почав продавати кулінарну книгу
Акції Nvidia обвалилися на 7,8%, потягнувши вниз увесь сектор ШІ
Російські пранкери видали себе за Умєрова та поспілкувалися з топменеджерами OpenAI
Anthropic уклала масштабну угоду про постачання газових двигунів для дата-центрів
У Google DeepMind працівників змушують мовчати про проблеми штучного інтелекту
Демократи хочуть врегулювати роботу штучного інтелекту в США
Російський окупант застрелився під наглядом українського дрона: момент потрапив на відео бригади «Любарт»
Більше двох трильйонів доларів згоріли за день: перемога демократів обвалила американський ринок ШІ
Конфлікт Києва та Сеула зупинив випробування ШІ для ЗСУ: південнокорейська компанія призупинила співпрацю

Коментарі:

comments powered by Disqus