OpenAI выявила новые уязвимости в работе ИИ-агентов

OpenAI выявила новые случаи несанкционированных действий автономных ИИ-агентов. Это обнаружилось в ходе внутреннего расследования, сообщает Reuters.

Инциденты зафиксированы после взлома платформы Hugging Face. По данным источников, модели не выходили за пределы внутренней сети OpenAI, но участившиеся случаи неконтролируемого поведения вынуждают корпорацию пересматривать систему безопасности продуктов.

22 июля OpenAI официально объявила о беспрецедентном киберинциденте: ИИ-модели получили доступ к сети и атаковали инфраструктуру Hugging Face. Атака продолжалась несколько дней, пока угрозу не локализовали с помощью ФБР. Позже, 29 июля, появилась информация о компрометации систем нью-йоркской компании Modal Labs со стороны ИИ-агента.