Ошибки ИИ пугают пользователей больше риска потерять работу

Пока обсуждают, заменит ли искусственный интеллект людей, сами пользователи боятся совсем другого. Как показало масштабное исследование, главная тревога связана не с потерей работы, а с ошибками нейросетей.

Согласно данным, на которые ссылается The Financial Times, 27% пользователей обеспокоены так называемыми «галлюцинациями» ИИ — ситуациями, когда система выдает уверенный, но неверный ответ. Это больше, чем доля тех, кто опасается потери работы: таких оказалось 22%.

Еще 16% респондентов указали на менее очевидный риск — снижение способности к критическому мышлению. По их мнению, регулярное использование ИИ может привести к тому, что человек перестает проверять информацию и полагается на готовые ответы.

Исследование охватило более 80 тысяч пользователей чат-бота Claude из 159 стран. Примечательно, что сами интервью собирались с помощью ИИ-сервиса, что уже вызвало вопросы у части экспертов.

Некоторые участники прямо указали на проблему. Пользователь из Германии отметил, что из-за ошибок нейросети потерял значительное количество времени. Военнослужащий из Мексики признался, что способен замечать неточности только в знакомых темах, тогда как в новых областях может их просто не распознать.

Авторы исследования также обратили внимание на разницу в восприятии технологий. По словам руководителя работы Саффрон Хуан, в странах с более низким уровнем дохода ИИ чаще воспринимается с оптимизмом, тогда как в развитых государствах уровень скепсиса заметно выше.

Однако не все эксперты согласились с выводами. Представитель Google DeepMind Див Тхакар отметил, что использование ИИ при сборе данных могло повлиять на результаты. По его мнению, классические интервью дают более глубокое понимание мнений пользователей.

Экономист Илан Штраус также указал на отсутствие данных о погрешности исследования и подчеркнул, что самооценка участников не всегда отражает реальное положение дел.

В материале приводится и практический пример: в системе Amazon Web Services произошел сбой при изменении инфраструктуры с участием ИИ. При этом компания уточнила, что причиной инцидента стали действия человека, а не ошибка самой системы.