Искусственный интеллект может стать причиной исчезновения человечества уже в ближайшие десять лет. Такую вероятность допустил руководитель Института исследований машинного интеллекта Нейт Соарес, оценив риск катастрофического сценария более чем в 50%. Об этом сообщает Business Insider.
Главную угрозу исследователь видит в появлении высокоразвитых систем, способных самостоятельно определять цели. Если эти цели окажутся несовместимыми с интересами людей, последствия могут стать необратимыми.
По мнению Соареса, достаточно мощный ИИ потенциально сможет обходить установленные ограничения и совершенствовать собственные возможности без человеческого контроля. В результате его действия могут привести к изменениям, при которых существование человечества станет невозможным.
Серьезность опасений эксперт подтвердил личным примером. Он рассказал, что около десяти лет не делает пенсионных накоплений из-за неопределенности относительно будущего.
При этом Соарес не утверждает, что катастрофа обязательно произойдет. Его оценка представляет собой личное суждение о рисках, а не научно установленную вероятность.
Для предотвращения опасного сценария исследователь предлагает остановить обучение универсальных систем ИИ и сосредоточиться на специализированных технологиях, например для борьбы с раком и повышения безопасности автомобилей.