Эксперт: ИИ отбросил безопасную разработку на 5 лет назад
Массовое внедрение искусственного интеллекта в программирование может привести к увеличению числа уязвимостей в цифровых продуктах. По мнению специалистов, нейросети помогают быстрее создавать программное обеспечение, однако одновременно усложняют контроль его безопасности. Об этом участники конференции по защите приложений рассказали «Российской газете».
Руководитель направления информационной безопасности «Почты России» Роман Шапиро считает, что широкое использование искусственного интеллекта отбросило практику безопасной разработки приблизительно на пять лет назад.
По его словам, проблема заключается в стремительном увеличении объемов программного кода, который создают нейросети. При этом разработчики не всегда способны разобраться в полученных результатах и обнаружить ошибки.
Шапиро обратил внимание, что представители крупных зарубежных технологических компаний уже признавали сложности с пониманием автоматически созданных программ.
Эксперт полагает, что распространение искусственного интеллекта не обязательно приведет к сокращению числа сотрудников в отрасли. Напротив, организациям могут потребоваться дополнительные специалисты.
Одни будут заниматься обнаружением уязвимостей, другие — исправлением ошибок в автоматически созданном коде. Кроме того, компаниям придется уделять внимание переработке устаревших программных систем.
Шапиро сравнил происходящее с периодом, когда разработчики начали массово применять средства автоматической проверки исходного кода.
Тогда специалисты, уверенные в надежности своих программ, неожиданно столкнулись с большим количеством обнаруженных недостатков.
Директор по продуктам безопасности приложений компании Positive Technologies Антон Жаболенко также обратил внимание на противоречивые последствия внедрения нейросетей.
По его оценке, искусственный интеллект заметно ускоряет написание программ, но само по себе это не приводит к сокращению количества уязвимостей.
Схожую позицию высказал директор по информационной безопасности Национальной системы платежных карт Артем Гутник.
Он считает, что качество автоматически создаваемого кода ухудшается. При этом эксперт ожидает дальнейшего распространения автономных систем искусственного интеллекта, способных самостоятельно выполнять задачи программирования.
По словам Гутника, его организация намерена в ближайшие два-три месяца подготовиться к условиям, при которых значительную часть программного кода будут создавать машины.
Участники конференции также обсудили результаты исследования облачного подразделения компании Google, в котором участвовали около пяти тысяч разработчиков.
Согласно приведенным выводам, искусственный интеллект усиливает особенности уже существующих процессов разработки.
Если в организации налажены проверка программ, контроль изменений и устранение ошибок, новые инструменты способны повысить эффективность работы.
При недостаточно организованном процессе разработки применение нейросетей, напротив, может усугубить имеющиеся проблемы.
Дополнительные опасения экспертов вызывает распространение программирования, при котором человек описывает задачу обычными словами, а искусственный интеллект самостоятельно создает необходимый код.
Специалисты допускают, что массовое использование такого подхода приведет к появлению большого количества приложений с недостаточно проверенной защитой.
Одновременно увеличивается активность автоматизированных систем, обращающихся к интернет-приложениям.
Антон Жаболенко сообщил, что, по данным облачной системы защиты веб-приложений, объем обращений со стороны автоматических программ и интеллектуальных агентов вырос в четыре раза.
По мнению эксперта, это повышает требования к безопасности цифровых сервисов.
Кроме того, сокращается промежуток между обнаружением программных уязвимостей и началом их использования злоумышленниками.
Жаболенко привел сравнение: примерно 15 лет назад от публикации сведений об уязвимости до ее эксплуатации проходило около 60 дней.
По приведенным им данным, в прошлом году отдельные атаки начинались уже за семь дней до официального раскрытия информации о недостатках программ.
Для противодействия новым угрозам специалист предложил использовать многоуровневую защиту, объединяющую несколько независимых механизмов обнаружения и предотвращения атак.
Важную роль при этом играет постоянное наблюдение за состоянием информационных систем.
Жаболенко также рассказал о результатах киберучений, во время которых средства защиты с применением искусственного интеллекта смогли противостоять атакующим более восьми часов.
Для сравнения, без подобных решений продолжительность противодействия в приведенном примере составляла около 15 минут.
Другой рассматриваемый подход предполагает развитие автоматического восстановления информационных систем после взлома.
Однако для крупных организаций, использующих от 10 до 15 тысяч виртуальных машин, возвращение инфраструктуры к рабочему состоянию может потребовать слишком много времени.
Поэтому участники обсуждения не пришли к единому решению. Одним из возможных вариантов они считают сочетание многоуровневой защиты и технологий быстрого восстановления.
Эксперты сходятся в том, что дальнейшее распространение искусственного интеллекта потребует изменения привычных подходов к разработке программ и обеспечению их безопасности.



