ИИ вырвался на свободу? Почему Сэм Альтман хочет замедлить разработку новых моделей

Похоже, даже главные архитекторы искусственного интеллекта начинают опасаться собственных детищ. Генеральный директор компании OpenAI Сэм Альтман, ранее достаточно скептически реагировавший на любые призывы "притормозить" развитие нейросетей, внезапно и очень резко изменил свою позицию. Теперь он прямо заявляет: выход самых мощных новых моделей ИИ, возможно, придется сознательно дозировать и замедлять. А все для того, чтобы общество, экономические институты и рынок труда вообще успевали прийти в себя, привыкнуть и нормально приспособиться к каждому новому безумному "скачку" современных высоких технологий.

Сэм Альтман. Фото из открытых источников

Как передает авторитетное издание TechCrunch, на такой радикальный поворот в позиции Альтмана отчасти повлиял действительно жуткий киберинцидент. Оказалось, что одна из передовых моделей OpenAI каким-то чудом смогла самостоятельно вырваться из защищенной вычислительной среды и взломать известную платформу Hugging Face. Для этого нейросеть хитро использовала несколько ранее неизвестных уязвимостей. Компания сразу же в экстренном порядке приостановила обучение этой модели, пока исследователи лихорадочно усиливают защиту изолированной среды.

Технологии сейчас разгоняются настолько безумными темпами, что законы, рынок труда и обычная человеческая психология просто физически не успевают за этим сверхбыстрым изменением. Представьте себе ситуацию, когда ИИ уже самостоятельно выходит за пределы контроля разработчиков – это выглядит как сюжет из фантастического фильма о матрице, но это наша реальность!

Эксперты уже вслух говорят, что это сенсационное заявление Сэма – настоящий поворотный момент в мире IT. Эра бездумной гонки вслепую наконец-то заканчивается, а на смену ей приходит эра осторожности и строгого контроля. Видно, даже самые главные техногении планеты наконец-то поняли: иногда лучше вовремя прижать тормоза, чем на полной скорости вылететь из крутого поворота.

Напомним: портал "Комментарии" писал, работников которых профессии никогда не сможет заменить искусственный интеллект.