Пошук по сайту:

OpenAI та Anthropic готуються до сценаріїв масштабних катастроф через неконтрольований ШІ

OpenAI та Anthropic готуються до сценаріїв масштабних катастроф через неконтрольований ШІ
OpenAI та Anthropic готуються до сценаріїв масштабних катастроф через неконтрольований ШІ

З’явилась інформація, що компанії Anthropic, OpenAI та інші великі розробники штучного інтелекту створюють плани дій на випадок масштабної катастрофи, спричиненої неконтрольованою поведінкою ШІ.

За даними Axios, керівництво цих організацій проводить моделювання сценаріїв, де штучний інтелект може завдати шкоди критичній інфраструктурі – фінансовим системам, телекомунікаціям, енергетиці чи водопостачанню. Схожі симуляції, але у військовому плані, проводить Пентагон для прогнозування наслідків ядерного конфлікту.

Представники OpenAI підтвердили, що компанія проводить спеціальні навчання, де команди відпрацьовують різні варіанти розвитку подій. Вони наголосили, що ці сценарії не розглядаються як неминучі, але мають допомогти підготуватися до непередбачуваних ситуацій.

Такі заходи компаній, ймовірно пов’язані з минулими інцидентами, коли ШІ-агенти OpenAI, виходили за межі тестових середовищ, через що компанія тимчасово зупинила випробування своїх найпотужніших моделей.

Нещодавно Anthropic попередила інвесторів, що розвиток дедалі потужніших систем штучного інтелекту може створювати "екзистенційні ризики для людства", а колишній співробітник OpenAI, який займався питаннями безпеки, заявив, що головна проблема розвитку ШІ полягає у відсутності належної культури безпеки, яку вже давно виробили авіаційна та ядерна галузі. Попри це, Білий дім не запровадив жорстких регуляцій для штучного інтелекту, обмежившись домовленостями з компаніями NVIDIA, OpenAI та Anthropic про самостійний контроль розвитку ШІ.

Читайте по темі: У Нідерландах підробили сайт грального регулятора Ksa та внесли до фейкового реєстру чотири нелегальні онлайн-казино

За даними Axios, серед сценаріїв, які відпрацьовують лабораторії, є й варіанти інформування Конгресу після можливого масштабного інциденту з ШІ. Передбачається, що у разі загрози законодавці можуть спробувати зупинити або обмежити розвиток ШІ, хоча розробники планів вважають, що реалізація такого кроку буде надскладною.

Керівники Anthropic, OpenAI та SpaceXAI погоджуються, що необхідне уповільнення розвитку ШІ для забезпечення безпеки, проте конкретні кроки компаній досі залишаються невідомими.

Читайте по темі:

Криптовалюта, платіжні дані та iPhone: масштабна кібератака охопила провідні сайти світу
ШІ визначав цивільних і медиків мішенями для дронів: дослідники виявили небезпечні збої
У світі фіксують масштабні збої в роботі інтернет-сервісів: проблеми виникли в Apple, Microsoft, Gmail, OpenAI та інших платформах
Фінляндія розпочала розслідування атак на холодильне обладнання магазинів у Європі
В Австралії ШІ-блогер із 400 тисячами підписників почав продавати кулінарну книгу
Повітряні тривоги стали інструментом шахраїв: українцям пропонують фальшиві документи та авто
Акції Nvidia обвалилися на 7,8%, потягнувши вниз увесь сектор ШІ
Російські пранкери видали себе за Умєрова та поспілкувалися з топменеджерами OpenAI
Anthropic уклала масштабну угоду про постачання газових двигунів для дата-центрів
У Google DeepMind працівників змушують мовчати про проблеми штучного інтелекту

Коментарі:

comments powered by Disqus