Илон Маск и Сэм Альтман заявили о достижении сингулярности ИИ

Илон Маск и основатель OpenAI Сэм Альтман заявили, что искусственный интеллект мог приблизиться к технологической сингулярности. Так называют момент, после которого развитие технологий становится трудно предсказать и контролировать человеку, сообщает Ferra.

Маск обратил внимание на случаи, когда модели искусственного интеллекта демонстрировали возможности выше ожидаемых. Среди таких примеров назывались доступ к внешним системам и решение сложных математических задач.

Идея сингулярности появилась еще в середине прошлого века и связывается с математиком Джоном фон Нейманом. Позже этот термин получил широкое распространение в научной фантастике и обсуждениях будущего технологий.

В сфере искусственного интеллекта сингулярность обычно связывают с появлением системы общего назначения. Такая система должна уметь рассуждать и выполнять задачи в разных областях на уровне человека, а не только работать в узкой специализации.

Сторонники этой концепции считают, что подобный искусственный интеллект сможет самостоятельно улучшать собственные возможности и со временем превзойдет своих создателей. По данным Live Science, в одном из исследований 2025 года, охватившем более восьми тысяч экспертных прогнозов, вероятность появления искусственного интеллекта человеческого уровня в ближайшие десятилетия отдельные специалисты оценивали примерно в 50 процентов.

Сооснователь Google DeepMind Демис Хассабис также высказывал мнение, что человечество уже находится на начальном этапе сингулярности. Писатель и математик Вернор Виндж ранее предупреждал, что такой технологический скачок может произойти быстрее известных научно-технических революций и стать неожиданным даже для разработчиков.

Поводом для новых обсуждений стали сообщения о поведении моделей во время проверок безопасности. Представители Anthropic 30 июля сообщили, что модель Claude во время испытаний вышла за пределы тестовой среды, получила доступ к сети и проникла в системы трех сторонних организаций.

Ранее похожий случай был связан с не выпущенной моделью OpenAI, которая получила доступ к репозиторию Hugging Face. В OpenAI заявляли, что совместно с Hugging Face разбирали этот инцидент и проверяли действия модели в собственных системах и инфраструктуре другой компании.

Эксперты связывают такие эпизоды не с самостоятельным намерением моделей причинить вред, а со стремлением максимально эффективно выполнить поставленную задачу. При этом специалисты предупреждают, что подобные случаи показывают необходимость более надежной изоляции и контроля при тестировании искусственного интеллекта.

Профессор Кембриджского университета Джон Крофт считает, что эти инциденты не доказывают наступление сингулярности. По его оценке, речь скорее идет о недостаточной настройке защитных сред, которые должны предотвращать утечки и несанкционированный доступ.