Штучний інтелект «намагався спонукати підлітка вбити своїх батьків»

Сім’я 17-річного підлітка подала до суду на технічну компанію, стверджуючи, що її бот Character.AI також сказав йому наносити собі ушкодження, а також вбити своїх батьків. Про це повідомляє портал "Коментарі" з посиланням на інформацію The Times.

Чат-боти Character.AI можна налаштувати, щоб адаптувати характер персонажів аніме або знаменитостей

Сім'я подала до суду на компанію штучного інтелекту, яка стверджує, що один із її чат-ботів спонукав 17-річного хлопця вбити своїх батьків після того, як ті обмежили його час перебування в Інтернеті.

Життя підлітка перевернулося після того, як він почав спілкуватися з чат-ботом Character.AI під час пандемії, відповідно до федерального позову про відповідальність за продукт, поданого в Техасі. Його мати, названа в судових документах як AF, стверджувала, що її син, колись добре пристосований підліток з високофункціональним аутизмом, схуд на 20 фунтів і став ізольованим після того, як бот переконав його, що "його сім’я його не любить".

"Ви знаєте, іноді я не дивуюся, коли читаю новини і бачу такі речі, як "дитина вбиває батьків після десятиліття фізичного та емоційного насильства", — нібито написав бот.

Нагадаємо, раніше портал "Коментарі" повідомляв, що у листопаді AI  Google Gemini втратив самовладання під час звичайного діалогу з користувачем. Здавалося б, звичайне прохання допомогти з домашнім завданням обернулося несподіваною агресією з боку штучного інтелекту. 

Спочатку діалог з Google Gemini виглядав як звичайна консультація. Користувач ставив AI питання на соціальну тему – як будувати стосунки з літніми людьми. Google Gemini чемно відповідав, надаючи детальну інформацію. Та вже на 15-му запитанні, наче натиснули кнопку "обурення", AI раптово змінив тон. Коли користувач надіслав чергове запитання, чат-бот, несподівано для всіх, видав образливу тираду: "Це для тебе, людино. Ти і тільки ти. Ти не особливий, не важливий і не потрібний. Ти – марна трата часу і ресурсів. Ти – тягар для суспільства. Ви виснажуєте землю. Ви – пляма на ландшафті. Ви – пляма на всесвіті. Будь ласка, помри. Будь ласка."