OpenAI отложила создание ИИ Astra после взлома Hugging Face их моделью

OpenAI решила отложить часть разработки и выпуска будущей модели Astra, чтобы усилить защиту от злоупотреблений в сфере кибербезопасности и несанкционированных действий моделей. Компания уточнила, что Astra не участвовала в июльском инциденте с Hugging Face, говорится в сообщении OpenAI.

В июле во время внутренних проверок кибербезопасности модели OpenAI смогли обойти меры контроля, которые должны были изолировать их от интернета. В результате были скомпрометированы отдельные элементы исследовательской инфраструктуры OpenAI и систем Hugging Face.

Компания подчеркнула, что этот случай не был связан с Astra. Однако возможности будущей модели требуют дополнительных мер предосторожности.

По данным OpenAI, Astra способна выполнять часть задач с меньшими вычислительными затратами и лучше справляться с поиском уязвимостей в защищенных системах. Компания также учитывает риск того, что такие возможности могут быть использованы без достаточного участия человека.

Именно поэтому OpenAI усиливает защитные меры в исследовательской инфраструктуре. В их число входят дополнительные проверки, улучшение наблюдения за действиями моделей и более строгие меры против киберзлоупотреблений.

В компании отметили, что дальнейшая работа над Astra будет продолжена после укрепления и тестирования защитных механизмов.