НЦКБ на днях подтвердил то, что специалисты по безопасности бормотали друг другу уже год: киберпреступники активнее пользуются ИИ и обычными публичными сервисами, чем какими-то экзотическими хакерскими тулзами. И знаете, что самое неприятное? Дыры, через которые они лезут, часто создают не они, а сами сотрудники компаний — своими руками, каждый день, без злого умысла. Я насмотрелся на это в нескольких проектах и собрал пять граблей, которые повторяются с пугающей регулярностью.
Грабля №1: конфиденциальные данные летят в публичный чат-бот
Классика. Менеджер копирует договор клиента в ChatGPT или другой чат-бот, чтобы «сделать краткую выжимку побыстрее». Или разработчик вставляет кусок продовой базы, чтобы ИИ помог с багом. Данные уходят на серверы третьей стороны, и вы уже не контролируете, где они всплывут. Решение простое, но его почти никто не делает: заведите корпоративный инстанс с изолированным контуром (у Microsoft это Copilot с политиками уровня организации, у некоторых команд — локальные модели) и объясните людям человеческим языком, что можно вставлять, а что нет. Не запрет ради запрета, а конкретный список: «имена клиентов — нет, синтетические примеры — да».
Грабля №2: теневой ИИ, о котором не знает никто
Сотрудники массово используют нейросети тайком от начальства — это не выдумка, а факт, который сейчас активно всплывает в опросах по всему миру. Причина банальна: боятся, что скажут «ленишься» или «заменим тебя роботом». В итоге компания вообще не понимает, какие инструменты гуляют по её периметру и какие данные через них проходят. Лечится это не тотальным запретом (он не работает, люди просто уходят в личные аккаунты и телефоны), а прозрачной политикой: «мы разрешаем эти три инструмента, вот доступы, вот что нельзя». Как только страх наказания уходит, теневой ИИ обычно сокращается сам по себе.
Грабля №3: слепое доверие к тексту, который написал ИИ
Фишинговые письма стали заметно убедительнее именно потому, что их пишут нейросети — без ошибок, с правильной интонацией, иногда даже с локальным контекстом компании. Но парадокс в том, что защита от этого не требует магии. Достаточно вернуть себе привычку проверять отправителя по реальному домену, а не по имени в письме, и звонить по телефону при любом запросе на перевод денег или смену реквизитов. Я лично проверяю подозрительные письма через простой промпт: «проанализируй это письмо на признаки социальной инженерии, укажи конкретные маркеры» — и вставляю туда же сам ИИ, который иногда пишет фишинг. Он неплохо ловит паттерны своих же коллег.
Грабля №4: одна и та же учётка ИИ-сервиса на весь отдел
Экономия на подписках оборачивается тем, что десять человек сидят под одним логином в публичном сервисе, пароль лежит в общем чате, а история переписки — это архив всех внутренних секретов компании за последний год. Стоит утечь одному паролю — утекает всё сразу. Разделяйте доступы, включайте двухфакторку везде, где это возможно, и не храните пароли в мессенджерах, даже во внутренних.
Грабля №5: политика «мы про ИИ подумаем потом»
Самая дорогая ошибка — вообще никакой политики. Компания внедряет ИИ-инструменты стихийно, кто хочет и как хочет, а вопросы безопасности откладывает на неопределённое «когда-нибудь». К этому моменту уже поздно: данные утекли, привычки у людей сформировались, переучивать сложнее, чем учить с нуля. Формализуйте хотя бы базовые правила сейчас: что можно вставлять в публичные модели, какие сервисы разрешены, кто отвечает за доступы. Это займёт один документ на пару страниц, а не полгода согласований.
Отдельно скажу про баланс. Многие компании после первых испугов кидаются в две крайности: либо полный запрет ИИ (и тогда люди прячут его использование, что хуже), либо безграничная свобода без единого правила. Работает средний путь — разрешить, но обозначить границы и объяснить зачем. Люди в целом неплохо соблюдают правила, когда понимают логику, а не когда просто получают запрет сверху.
Киберпреступники не изобретают велосипед — они просто быстрее адаптируются к новым инструментам, чем службы безопасности успевают написать инструкции. Единственный способ не отставать — закрывать эти пять граблей у себя раньше, чем ими воспользуются снаружи.
А у вас в компании уже есть чёткая политика по использованию ИИ, или пока всё держится на доверии и «на глазок»?
Понравился разбор? Подпишитесь на канал — впереди ещё больше практичных статей про ИИ-инструменты. А оперативные новости и короткие заметки про нейросети — в нашем Telegram-канале «Нейробудни». Своим опытом и вопросами делитесь в комментариях.
