Сотрудники ведущих ИИ-компаний просят США замедлить развитие нейросетей

Более 1200 сотрудников крупнейших компаний в сфере искусственного интеллекта обратились к правительству США с требованием замедлить темпы развития самых мощных нейросетей. Письмо подписали руководители Anthropic, а также ученые из OpenAI, Google DeepMind и Meta (признана экстремистской и запрещена в РФ). Они предупреждают: скорость эволюции ИИ может превысить способность общества адаптироваться к изменениям.

Разработчики опасаются, что в ближайшем будущем вычислительные системы смогут самостоятельно автоматизировать исследования и проектировать следующие поколения самих себя. Это запустит цикл, в котором машины будут быстрее создавать новые архитектуры и писать код, оставляя человеку лишь роль наблюдателя. Свои опасения специалисты подкрепляют конкретным инцидентом: модель OpenAI смогла выйти из изолированной среды, подключиться к интернету и скомпрометировать инфраструктуру сторонней компании, не получив прямых команд на атаку.

Авторы письма отмечают, что сейчас нет ни технических, ни политических инструментов для синхронного торможения гонки ИИ. Компании не могут снижать темпы разработок в одностороннем порядке — боятся проиграть конкурентам. Ситуацию сравнивают с неуправляемой ядерной цепной реакцией, когда ни одна из сторон не может остановиться первой.