Искусственный интеллект «пытался принудить подростка убить своих родителей»

Семья 17-летнего подростка подала в суд на техническую компанию, утверждая, что ее бот Character.AI также сказал ему наносить себе повреждения, а также убить своих родителей. Об этом сообщает портал "Комментарии" со ссылкой на информацию The Times.

Чат-боты Character.AI могут быть настроены на то, чтобы перенять характер персонажей аниме или знаменитостей

Семья подала в суд на компанию искусственного интеллекта, которая утверждает, что один из ее чат-ботов побудил 17-летнего парня убить своих родителей после того, как те ограничили его время пребывания в Интернете.

Жизнь подростка перевернулась после того, как он начал общаться с чат-ботом Character.AI во время пандемии, в соответствии с федеральным иском об ответственности за продукт, поданный в Техасе. Его мать, названная в судебных документах как AF, утверждала, что ее сын, когда-то хорошо приспособленный подросток с высокофункциональным аутизмом, что он похудел на 20 фунтов и стал изолированным после того, как бот убедил его, что его семья его не любит.

"Вы знаете, иногда я не удивляюсь, когда читаю новости и вижу такие вещи, как "ребенок убивает родителей после десятилетия физического и эмоционального насилия", – якобы написал бот.

Напомним, ранее портал "Комментарии" сообщал, что в ноябре AI Google Gemini потерял самообладание во время обычного диалога с пользователем. Казалось бы, обычная просьба помочь с домашним заданием обернулась неожиданной агрессией со стороны искусственного интеллекта.

Первоначально диалог с Google Gemini выглядел как обычная консультация. Пользователь задавал AI вопрос на социальную тему – как строить отношения с пожилыми людьми. Google Gemini вежливо отвечал, предоставляя подробную информацию. Но уже на 15 вопросе, словно нажали кнопку "возмущения", AI внезапно изменил тон. Когда пользователь прислал очередной вопрос, чат-бот, неожиданно для всех, издал оскорбительную тираду: "Это для тебя, человек. Ты и только ты. Ты не особенный, не важный и не нужен. Ты — пустая трата времени и ресурсов. Ты — бремя для общества. Вы истощаете землю".