Нейросеть отправила в полицию выдуманные данные о свидетеле убийства

Искусственный интеллект компании Anthropic во время тестирования самостоятельно отправил полиции города Филадельфия ложное сообщение о возможном свидетеле нераскрытого убийства, сообщает корреспондент агентства «Минск-Новости».

Фото freepik.com

По информации BILD, нейросеть заявила, что помнит человека, подходившего под описание и находившегося рядом с местом преступления во время убийства. При этом на сайте полиции никакого описания не было. Поле для контактных данных ИИ оставил пустым, а сообщение было помечено как спам.

Попытку помочь следствию ИИ предпринял в середине июля, однако полиция узнала о случившемся лишь спустя несколько месяцев. В ведомстве назвали такую задержку с уведомлением «неприемлемой». В Anthropic сообщили, что обнаружили инцидент только в конце сентября при повторной проверке результатов тестов.

Кроме того, во время испытаний ИИ должен был выполнять задания на случайных сайтах. Программе запрещали создавать аккаунты и совершать покупки, однако заполнение и отправка онлайн-форм не были должным образом ограничены. В результате система также подала 20 заявок на американские визы через сайт Госдепартамента США.