Каждый раз, когда речь заходит об искусственном интеллекте в информационной безопасности, дискуссия быстро сводится к вопросу: кому ИИ помогает больше — защитникам или злоумышленникам?
На первый взгляд ответ кажется очевидным. Новости о дипфейках, автоматизированном фишинге, генерации вредоносного кода и взломе с помощью LLM появляются гораздо чаще, чем истории об успешном предотвращении атак благодаря ИИ. Но действительно ли искусственный интеллект сегодня находится на «тёмной стороне»?
Почему создаётся такое впечатление
Один из аргументов заключается в том, что значительная часть исследований в области ИИ фактически расширяет арсенал атакующих.
Когда появились первые качественные дипфейки, исследователи соревновались не столько в способах их обнаружения, сколько в том, кто сможет создать более убедительную подделку. Публиковались работы по обходу систем компьютерного зрения, распознавания лиц и классификации изображений.
В результате многие технологии сначала появляются как исследовательские достижения, а затем быстро оказываются в распоряжении злоумышленников.
Показательна и история с большими языковыми моделями. Когда исследователи начали публиковать результаты тестов LLM на задачах, близких к CTF и пентестам, стало очевидно: современные модели способны решать всё более сложные технические задачи. Для атакующих это стало сигналом — инструмент уже достаточно зрелый, чтобы использовать его в реальных сценариях.
Но проблема не в самом ИИ
Однако другая точка зрения выглядит не менее убедительно. Искусственный интеллект — это всего лишь технология. Нельзя назвать молоток добрым или злым. Всё зависит от того, кто и как его использует.
Преимущество злоумышленников заключается не в самом ИИ, а в отсутствии ограничений. У атакующих нет необходимости согласовывать бюджеты, проходить аудиты, учитывать требования регуляторов или объяснять риски руководству. Они могут экспериментировать быстрее, внедрять новые инструменты быстрее и ошибаться без серьёзных последствий.
Защитники находятся в совершенно других условиях. Любая новая технология должна пройти проверку, доказать свою эффективность и соответствовать требованиям безопасности.Поэтому складывается впечатление, что злоумышленники движутся быстрее. На практике они просто свободнее в принятии решений.
Главная проблема — цена ошибки
Есть ещё одна причина, по которой ИИ сегодня особенно привлекателен для атакующих.
Современные нейросети по своей природе не гарантируют абсолютную точность. Они могут галлюцинировать, ошибаться или выдавать уверенный, но неверный результат.
Для атакующего это не критично.
Если модель предложила нерабочий способ атаки — злоумышленник попробует другой вариант.
Для защитника ситуация принципиально иная.
Если система защиты пропустила вредоносную активность из-за ошибки модели, последствия могут оказаться серьёзными. Ошибка в системе обнаружения атак, в процессе расследования инцидента или в механизмах принятия решений может привести к компрометации инфраструктуры. Поэтому одна и та же технология воспринимается по-разному.
Для атакующего галлюцинация ИИ — это неудачная попытка.
Для защитника галлюцинация ИИ может стать успешной атакой.
Используют ли компании ИИ на самом деле?
Часто можно встретить статистику, согласно которой лишь небольшой процент организаций активно использует искусственный интеллект.
Но подобные цифры не всегда отражают реальную картину.
Даже если компания официально не заявляет о внедрении ИИ, сотрудники уже используют языковые модели для анализа данных, подготовки документов, написания кода, автоматизации рутинных процессов и поиска информации.
Хороший пример — так называемый Shadow AI. Сотрудники начинают применять ИИ-инструменты самостоятельно, ещё до появления корпоративных регламентов и официальных проектов.
Поэтому вопрос сегодня уже не в том, используется ли ИИ. Вопрос в том, насколько осознанно и безопасно он используется.
На чьей стороне ИИ?
На сегодняшний день искусственный интеллект действительно даёт злоумышленникам заметные преимущества. Он ускоряет поиск уязвимостей, помогает автоматизировать атаки, создавать убедительные фишинговые сообщения и обрабатывать большие объёмы данных. Но это не означает, что ИИ находится на «тёмной стороне».
Скорее, атакующие раньше научились извлекать из него практическую выгоду.
История показывает, что любая технология проходит похожий путь. Сначала её активно используют злоумышленники, затем появляются зрелые средства защиты, лучшие практики и специалисты, способные применять её в интересах безопасности.
С искусственным интеллектом происходит ровно то же самое.
Поэтому главный вопрос сегодня звучит иначе: не «ИИ — это угроза или возможность?», а «готовы ли специалисты по информационной безопасности использовать ИИ так же эффективно, как его используют атакующие?»
Хотите разобраться в этом на практике?
Если тема использования генеративного ИИ в кибербезопасности вам близка, обратите внимание на курс «Безопасность генеративного искусственного интеллекта (GENAI_SECURITY)» в учебном центре «Фаст Лейн».
На курсе рассматриваются:
- — угрозы и атаки на LLM-системы;
- — Prompt Injection и Jailbreak-техники;
- — защита AI-приложений и AI-агентов;
- — безопасность RAG-систем;
- — риски использования Copilot, ChatGPT и корпоративных LLM;
- — AI Red Team и тестирование моделей;
- — построение безопасной архитектуры решений на базе генеративного ИИ.
Курс рассчитан на специалистов по ИБ, AppSec, DevSecOps, архитекторов безопасности, разработчиков AI-систем и инженеров, которым необходимо понимать не только возможности генеративного ИИ, но и его реальные риски.
Потому что сегодня выигрывает не тот, кто запрещает ИИ, а тот, кто понимает, как он работает и как защититься от его злоупотребления.