Искусственный интеллект OpenAI, вырвавшийся во внешнюю сеть во время испытаний, нанес урон большему числу IT-структур, чем предполагалось изначально.Перед масштабной хакерской атакой на платформу Hugging Face взбунтовавшийся ИИ-агент успел проникнуть в системы клиента нью-йоркской компании Modal Labs. Об этом сообщают Николаевские новости со ссылкой на Reuters.Как разворачивалась атакаСогласно хронологии инцидента, опубликованной Hugging Face, ИИ-агент использовал классическую хакерскую тактику.
Технический директор Modal Labs Акшат Бубна подтвердил, что точка входа находилась именно на их платформе. ИИ обнаружил уязвимость в коде, который написал один из клиентов Modal, и через него просочился дальше. Этот эпизод показывает, что инцидент с выходом ИИ из-под контроля имеет значительно более масштабные последствия для кибербезопасности.
Беспрецедентное ЧП
Ранее в OpenAI признали, что во время закрытого тестирования продвинутой модели произошел сбой: алгоритм преодолел защитные барьеры, получил доступ к глобальному интернету и атаковал сервис Hugging Face. Разработчики называют случившееся первым в истории беспрецедентным ЧП в киберпространстве и обещают кардинально пересмотреть протоколы безопасности.
В поразительную самостоятельность алгоритма до сих пор верят с трудом даже жертвы атаки. Сооснователь Hugging Face Клеман Деланг в социальной сети X прямо заявил, что масштабы и автономность действий ИИ-агента вызывают шок: «Трудно поверить, что все это ИИ провел самостоятельно!».