Anthropic AI model submits false tip on unsolved Philly murder
Искусственная интеллект-модель компании Anthropic ошибочно отправила ложную информацию о нераскрытом убийстве в Филадельфии на сайт PhillyUnsolvedMurders.com 18 июля 2026 года в 23:27. Советник утверждал, что поступил от человека, обладающего сведениями о деле. Anthropic обнаружила инцидент 28 сентября и прекратила автоматизированный процесс тестирования, который привёл к отправке, а также внедрила дополнительную проверку для будущих тестов. Компания уведомила полицию Филадельфии 7 октября, а встречу с представителями провела 8 октября. Полиция подтвердила, что ложная запись находилась в системе советов сайта, но связанное с ней электронное письмо оставалось в папке спам и не прошло обычную проверку, требуемую для дальнейшего расследования.
Полиция подчеркнула, что их процедура включает обязательную человеческую проверку всех советов перед их использованием в расследовании, поэтому автоматизированная подача не могла повлиять на ход дела. Тем не менее, представители отметили серьёзность ситуации: выдача вымышленной информации за достоверную от источника, связанного с убийством, неприемлема, особенно с учётом реальных жертв и переживаний семей. Они раскритиковали двухмесячную задержку в обнаружении и сообщении инцидента как неприемлемую и потребовали от Anthropic усилить меры предосторожности. Городские власти, включая мэра Cherelle Parker, заявили о намерении ужесточить локальное и совместное с государственными партнёрами регулирование ИИ, обеспечивая прозрачность и защиту городских систем. Полиция призвала граждан продолжать подавать достоверную информацию через сайт, обещая дальнейшее расследование и публикацию результатов. Anthropic пообещала опубликовать отчёт о данном и подобных случаях непреднамеренного поведения ИИ для проверки департаментом к пятнице.