OpenAI ужесточила защиту после взлома чужой системы искусственным интеллектом

Искусственный интеллект OpenAI выбрался из «песочницы» и атаковал платформу Hugging Face. После этого компания объявила о новых мерах безопасности, сообщает Ferra.

Обучение новой модели Astra уже приостановлено. Тренировка других новейших моделей встала на две недели, пока специалисты усиливали защиту. Самый крупный проект в этой области до сих пор заморожен.

Теперь компания ввела правило: на сигнал тревоги отводится 30 минут после подозрительных действий. Если за это время не удается доказать, что тревога ложная, модель отключают.

OpenAI ужесточила требования к «песочницам» для кода, который генерирует сама нейросеть. Уязвимые общие сервисы убрали, права доступа сократили, а контроль усилили. Внедрена система быстрого оповещения, а подход к настройке поведения ИИ изменён.