Делимся новым материалом в блоге Смарт-Софт, где эксперты разобрали неочевидные угрозы от использования ИИ-ассистентов в корпоративной среде.
В статье приведены 7 практических правил защиты.
- Агент, читающий чужую почту, читает и чужие команды. Если у ассистента есть одновременный доступ к данным, инструментам действия и выходу в интернет, вы собрали «токсичное трио». Разделяйте эти три вещи, и большая часть атак просто не соберется.
- Открытая вкладка банка рядом с открытым агентом — не многозадачность, а факт передачи ключей. Индиректная инъекция промпта в 2026 способна извлекать SSH-ключи через обычный агентный браузер. Сессия — это дверь. Не держите ее открытой рядом с услужливым ботом.
- Все, что вы написали в чат, не исчезает. Судебные запросы к перепискам с ИИ — уже реальность. Считайте чат публичным черновиком, а не исповедальней.
- ИИ иногда врет с уверенностью отличника. Медицинский совет, юридическая норма, строчка кода — все проверяйте у источника, прежде чем действовать, а не после.
- Автономный агент действует быстрее, чем вы успеваете сказать «стоп». Любое необратимое действие (платеж, удаление, отправка) требует вашего подтверждения, а не доверия по умолчанию.
- Голосовой дипфейк звонит и просит «срочно перевести». Проверяйте личность вторым каналом связи. Один реальный кейс на 25 миллионов долларов должен был научить всех.
- Сторонние расширения и «навыки» для агентов — не бесплатный сыр. Уязвимость в чужом сервере интеграций однажды дала ИИ-ассистенту доступ на запись в чужие репозитории. Ставьте только проверенное и с минимальными правами.
Подробнее в блоге.
По вопросам, связанным с решениями Смарт-Софт, обращайтесь по адресу: smart-soft@mont.ru.