15 сентября 2026 года испанский регулятор в области персональных данных AEPD сообщил о расследовании первого известного инцидента, в котором ИИ-агент самостоятельно участвовал в атаке на информационную систему.
По данным регулятора, ИИ-агент:
обнаружил уязвимости;
получил доступ к системе;
изменил персональные данные;
получил доступ к «истории платежей»;
сделал это при минимальном вмешательстве человека.
Почему это первое уведомление имеет значение?
AEPD отмечает, что значимость данного уведомления обусловлена не только применённой технологией, но и тем, что оно меняет подход к управлению рисками.
Во-первых, оно подтверждает необходимость прямо учитывать атаки, осуществляемые при содействии искусственного интеллекта (далее – ИИ) или с использованием ИИ, при проведении анализа рисков, связанных с обработкой данных. Иными словами, недостаточно ограничиваться общей ссылкой на вредоносное ПО, фишинг или несанкционированный доступ, поскольку такая автоматизация способна существенно изменить вероятность наступления инцидента, скорость его развития и масштаб его последствий.
Во-вторых, оно требует пересмотра сроков реагирования. Процедуры, разработанные с учётом атак, осуществляемых вручную, могут оказаться недостаточными в ситуации, когда ИИ-агент одновременно анализирует множество активов, проверяет различные способы получения доступа и с высокой скоростью адаптирует своё поведение.
В-третьих, возрастает значение цифровых идентификаторов и учётных данных. ИИ-агент, получивший доступ к учётной записи, ключу API или токену с избыточными правами доступа, может действовать с машинной скоростью и получить доступ к различным сервисам ещё до того, как организация обнаружит аномальное поведение.
Наконец, это свидетельствует о том, что безопасность процессов обработки данных не может зависеть исключительно от ручного вмешательства. Человеческий контроль по-прежнему имеет решающее значение, однако он должен поддерживаться механизмами обнаружения, локализации и реагирования, способными действовать с необходимой скоростью.
Какое это имеет значение для российских компаний?
Не смотря на отсутствие комплексного регулирования ИИ в России, компаниям необходимо управлять рисками в области обработки персональных данных. Это вопрос времени, когда контрагенты будут требовать все чаще и чаще заверения или выписки из модели угроз (ч. 2 ст. 19 Федерального закона от 27.07.2006 №152-ФЗ «О персональных данных, далее – №152-ФЗ). Также эти риски начинают учитываться и ФСТЭК России в своей базе данных угроз, и, кроме того, определенные требования к обеспечению безопасности уже предъявляются для государственных информационных систем (приказ ФСТЭК России от 11.04.2025 № 117).
Что необходимо сделать, чтобы актуализировать статус своих рисков?
Не стоит торопиться делать новую модель угроз. Прежде всего необходимо проанализировать свои процессы, разобраться действительно ли есть обработка персональных данных с корреспондирующим под нее основанием по ч. 1 ст. 6 №152-ФЗ. В случае, если персональные данные не обрабатываются или их совокупность не позволяет сделать вывод о высоком риске, например в соответствии с постановлением Правительства РФ от 01.11.2012 № 1119 «Об утверждении требований к защите персональных данных при их обработке в информационных системах персональных данных», то затраты на обеспечение безопасности могут быть существенно снижены, как и актуальность самих угроз информационной безопасности.
