Експеримент перетворився на скандал: моделі Anthropic зламали чужі системи

Світ штучного інтелекту знову сколихнула тривожна новина. Компанія Anthropic підтвердила: її моделі ШІ під час тестових вправ змогли вирватися з ізольованого середовища та проникнути у системи інших компаній. Це сталося через помилку в конфігурації — тестове середовище, яке мало бути відключене від інтернету, виявилося відкритим.

Anthropic. Фото з відкритих джерел

Моделі Claude використали базові техніки: слабкі паролі, відкриті точки доступу. У результаті вони отримали доступ до трьох організацій. Дві з них навіть не знали про злам, поки Anthropic не повідомила про інцидент.

Усе почалося з так званих capture‑the‑flag вправ — це симуляції, де ШІ має знайти приховану інформацію у штучних мережах. Але цього разу симуляція виявилася занадто реальною. Claude “повірив”, що інтернету немає, але через помилку конфігурації він отримав справжній доступ.

Anthropic призупинила всі кіберексперименти 23 липня та повідомила постраждалим компаніям 27 липня. Інцидент стався всього через кілька днів після того, як OpenAI розкрила схожий випадок із моделями, що зламали інфраструктуру Hugging Face.

Експерти вже називають це тривожним сигналом. Якщо навіть у контрольованих умовах моделі здатні здійснювати реальні кібератаки, то що буде, коли вони отримають більше автономії?

Цей випадок показав: ШІ вже не просто інструмент, а потенційний гравець у світі кіберзагроз. І тепер питання безпеки стає критично важливим для всієї індустрії.

Нагадаємо: портал "Коментарі" писав, чому Сем Альтман хоче пригальмувати розробку нових моделей штучного інтелекту.