Человечеству грозит потеря контроля над более умным ИИ

Джеффри Хинтон, один из наиболее известных исследователей искусственного интеллекта, поддержал запрет на создание сверхмощных ИИ-систем. В интервью The Times он заявил, что у компаний пока нет надежного способа безопасно разрабатывать суперинтеллект.

Хинтон считает, что человечество не готово к появлению систем, которые могут значительно превзойти людей по интеллекту. По его словам, продолжение таких разработок без решения вопросов безопасности связано с серьезными рисками.

Ученый отметил, что в научном сообществе нет согласия по поводу того, можно ли надежно контролировать суперинтеллект. Он предупредил, что потеря контроля над более умной, чем человек, системой может привести к катастрофическим последствиям.

Хинтон также не исключил сценарий, при котором развитие такой технологии способно поставить под угрозу существование человечества. Похожие опасения он высказал в поддержку законопроекта, который предлагают рассмотреть в Великобритании и который направлен на запрет создания искусственного суперинтеллекта.

Исследователь известен работами в области машинного обучения и искусственных нейронных сетей. В 2024 году он вместе с Джоном Хопфилдом получил Нобелевскую премию по физике за фундаментальные открытия и изобретения, которые сделали возможным машинное обучение с использованием искусственных нейронных сетей.

Важную роль в развитии современных нейросетевых технологий сыграла AlexNet, созданная Хинтоном и его студентами. В 2012 году эта система показала выдающийся результат в конкурсе по распознаванию изображений ImageNet и продемонстрировала преимущества глубоких нейронных сетей.

Сейчас Хинтон выступает за жесткие ограничения до тех пор, пока специалисты не смогут доказать безопасность разработки суперинтеллекта. По его мнению, двигаться дальше без таких гарантий было бы слишком опасно.

Может быть интересно: