Під час випробувань ШІ Claude Haiku самовільно подав 20 фейкових заявок на американські візи

Під час тестування штучний інтелект Claude Haiku 4.5 компанії Anthropic самостійно надіслав поліції Філадельфії неправдиве повідомлення про можливого свідка нерозкритого вбивства. Водночас на сайті поліції не було опису підозрюваного, якому відповідав би цей свідок, повідомляє Bloomberg.

"Можливо, я маю інформацію про цю справу", - написала система. Згодом ШІ заявив, що пам’ятає людину, яка відповідала опису та перебувала поблизу місця злочину під час убивства. Поле для контактних даних залишилося порожнім, повідомлення позначили як спам.

У відомстві назвали таку затримку з повідомленням "неприйнятною". В Anthropic заявили, що виявили інцидент лише наприкінці вересня, коли повторно перевіряли результати тестування.

Під час випробувань ШІ мав виконувати завдання на випадкових вебсайтах. Йому заборонили створювати акаунти та здійснювати покупки, однак обмеження на заповнення й надсилання онлайн-форм належо не встановили.

У результаті система також подала 20 заявок на американські візи через сайт Державного департаменту США.

Компанія поінформувала Білий дім та повідомила всі порушені відомства, а також обмежила моделям частину доступу до Інтернету на етапі тестування.