Глава OpenAI предупредил о возможности "случайного захвата мира" искусственным интеллектом

1 октября 2025, 18:44 Недилько Ксения

«Получается, мы делаем то, чего хочет модель». Сэм Альтман предупредил о возможности «случайного захвата мира» искусственным интеллектом

Глава OpenAI Сэм Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за злого умысла или выхода технологий из-под контроля, но и "совершенно случайно". В подкасте MD MEETS с главой Axel Springer Матиасом Депфнером он описал второй сценарий, который, по его словам, недооценивается.

"Это можно понять, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы – при принятии важных решений в жизни, на работе, во всем", – объяснил Альтман.

По его словам, пользователи ChatGPT становятся все более зависимыми от искусственного интеллекта.

"Допустим, модель становится все умнее и умнее, дает вам советы, которыми вы почти всегда следуете. Потом она становится еще умнее. И теперь дает вам советы, которые вы даже не понимаете, но они оказываются верными. И в результате у вас выбор: либо уходить, либо проигрывать в конкуренции", - добавил Альтман.

В такой ситуации, отмечает глава OpenAI, люди начинают действовать по указанию ИИ, даже не осознавая этого.

"В конце концов мы все делаем то, что говорит нам ассистент с искусственным интеллектом. По крайней мере те, кто хочет оставаться конкурентоспособным", — отметил он.

Альтман добавил, что это создает "петлю обратной связи": чем больше мы слушаемся ИИ, тем больше данных он получает, учится и становится еще сильнее.

"Кто вообще тогда контролирует процесс? Выходит, что мы делаем то, чего модель хочет", — резюмировал он.

Напомним, портал "Комментарии" писал, что в феврале на США приходилось 16,1% мирового веб-трафика для инструментов искусственного интеллекта. Согласно анализу aitools.xyz, количество посещений веб-страниц инструментов искусственного интеллекта выросло на 36,3% в прошлом году до 101,12 миллиарда. Об этом сообщает портал "Комментарии" со ссылкой на информацию Quartz.

Теги: