Наталья Касперская, президент группы компаний InfoWatch, на ЦИПР-2026 отметила, что чрезмерное увлечение искусственным интеллектом (ИИ) из-за его популярности, а также угроза утечки данных, в том числе под давлением из-за границы, являются ключевыми рисками при использовании этой технологии.
Корреспондент «Ленты.ру» задал вопрос, напомнив, что несколько лет назад Касперская говорила о переоценке инструментов ИИ, и попросил перечислить недооценённые риски в промышленном ИИ.
Касперская ответила, что ИИ сейчас в тренде, и принимать решения, основываясь только на популярности, неправильно. Она подчеркнула, что большинство моделей генеративного ИИ, используемых в России, произведены за рубежом, и у нас есть лишь одна или, с натяжкой, полторы собственные модели.
Для промышленного применения, по её словам, выбирают иностранные решения, что ведёт к рискам утечки информации при использовании моделей без переноса в собственный периметр.
В качестве примера Касперская привела ситуацию, когда одно промышленное предприятие поделилось с ИИ описанием своих технологических тонкостей, а другое, создав хитрый запрос, вытащило все эти секреты к себе.
Второй риск, по мнению Касперской, связан с тем, что за рубежом есть акторы, которые отслеживают запросы в автоматическом режиме. Они могут давать российским предприятиям скомпрометированную информацию, которая будет казаться правильной, но на самом деле это специально сгенерированная ложь.
Ещё один риск, продолжила Касперская, состоит в том, что модели ИИ — это вероятностная технология, которая иногда выдаёт ответы, в верности которых нельзя быть уверенным на 100%. Из-за популярности ИИ создаётся чрезмерное доверие к технологии.
Кроме того, Касперская обратила внимание на проблему неконтролируемого использования генеративных моделей внутри компаний. Сотрудники по собственной инициативе приобретают доступы к различным моделям и используют их для рабочих задач, что создаёт дополнительные угрозы безопасности.
Даже если предприятие ограничивает доступ, сотрудники, действуя из лучших побуждений, могут невольно способствовать выводу информации наружу.
Касперская поделилась, что в их компании провели опрос разработчиков о том, какие модели они используют.
Ответило порядка 150 человек, и компания получила широкий спектр ответов, о которых даже не подозревала.
Признавая преимущества ИИ, касающиеся прежде всего скорости, Касперская призвала чётко осознавать риски, которые есть, они существенны и пока не проработаны.
Проблема, с её точки зрения, связана и с тем, что об этих рисках и том, как их предотвращать, начали говорить совсем недавно, несмотря на всю популярность темы ИИ. «То есть это та дверь, которую нам ещё предстоит открыть», — резюмировала Касперская.