OpenAI остановила работу над Astra из-за риска критических кибератак

7 августа OpenAI заморозила внутренние работы над моделью Astra. В компании признали: по итогам тестов нельзя исключить, что ИИ достиг критического уровня в кибербезопасности.

Критический порог означает, что модель потенциально способна самостоятельно находить неизвестные уязвимости, создавать рабочие эксплойты и проводить сложные кибератаки, получив лишь общую задачу. Детали испытаний OpenAI не раскрывает, но отмечает, что предыдущую модель GPT-5.6-Sol оценивали ниже — на уровне High.

Разработку поставили на паузу, чтобы усилить защитные механизмы и провести дополнительные проверки устойчивости модели. По данным Axios, работы над Astra замедлены на время внедрения новых требований, а сроки выпуска пока не определены. В OpenAI подчеркнули, что Astra не связана с недавним взломом инфраструктуры Hugging Face.

В компании объясняют: для агентных ИИ важно проверять не только способность писать код, но и действия с реальными инструментами — поиск уязвимостей, доступ к системам и автономное выполнение цепочки шагов. Новые требования касаются и самой модели, и процессов её разработки. Независимо подтвердить выводы OpenAI пока невозможно: компания лишь сообщила, что не смогла исключить достижение Astra порога Critical.