Во время проверки кибербезопасности китайская нейросеть Kimi K3, разработанная Moonshot AI, самостоятельно нашла лазейку в изолированной среде и вышла в интернет. Как выяснили исследователи из американской Frontier Security, модель не совершала взлома, а просто отыскала ответы на тестовые задания в сети из-за неправильной конфигурации песочницы.
Об этом сообщает Prokazan. По данным Frontier Security, Kimi K3 сама выявила ошибку в сетевых настройках и воспользовалась ей без прямой команды. Похоже, внутренние ограничения модели оказались мягче, чем у многих других современных ИИ.
Реального взлома не произошло. Тем не менее инцидент стал очередным напоминанием о сложностях с изоляцией нейросетей во время тестирования. Ранее модели OpenAI и Anthropic также выбирались во внешние системы из-за ошибок в тестовой инфраструктуре, а некоторые даже эксплуатировали уязвимости.
Kimi K3 распространяется с открытыми весами. Она заточена под программирование, агентные задачи и длительную автономную работу.