Обучение моделей, история чатов и хранение данных
OpenAI по умолчанию не обучает модели на данных ChatGPT Business, Enterprise и API. Для истории чатов и хранения файлов действуют отдельные правила. Режим Zero Data Retention (ZDR) в API OpenAI требует одобрения и зависит от используемых функций и эндпоинтов. В обычном режиме журналы проверки злоупотреблений могут хранить содержимое до 30 дней, с исключениями.
Anthropic публикует отдельные правила хранения для коммерческих чатов Claude и API. Microsoft указывает, что запросы и ответы Microsoft 365 Copilot не используются для обучения базовых моделей. Данные взаимодействий могут храниться по политикам организации в Microsoft 365. Сверьте условия и настройки своего аккаунта.
Типичные векторы компрометации данных через LLM
Основную угрозу несут три сценария: вставка конфиденциальных выгрузок в окно запроса, загрузка файлов с метаданными и скрытые инъекции инструкций (Prompt Injection). Инженеры нередко загружают стектрейсы с действующими паролями баз данных, а менеджеры по продажам прикрепляют таблицы лидов с телефонами и номерами удостоверений личности.
Косвенные инъекции возникают, когда модель обрабатывает входящие электронные письма или веб-страницы сторонних контрагентов. Встроенные невидимые инструкции заставляют агента прочитать внутреннюю документацию и отправить результат на контролируемый атакующими сервер.
Где настроить правила передачи данных
Предоставьте сотрудникам согласованные рабочие аккаунты и опишите, какие данные можно использовать. Проверьте, какие настройки доступа и подключённых приложений действительно доступны на выбранном тарифе.
Средства предотвращения утечек (DLP) могут выявлять по шаблонам ключи API и номера платёжных карт, если сервис или шлюз поддерживает такую проверку. Отдельно проверьте загрузку файлов и подключённые приложения. Фильтр по шаблонам может пропустить конфиденциальные данные.
Что проверить перед передачей рабочих данных
| Продукт | Обучение моделей | История и хранение |
|---|---|---|
| ChatGPT Business / Enterprise | Рабочие данные исключены по умолчанию | Проверить историю и настройки хранения рабочего пространства |
| OpenAI API | Данные API исключены по умолчанию | Проверить журналы, хранение на эндпоинтах и доступность ZDR |
| Коммерческие продукты Claude | Сверить коммерческие условия и настройки | Проверить чат и API отдельно |
| Microsoft 365 Copilot | Запросы и ответы не используются для обучения базовых моделей | Проверить историю взаимодействий и политики хранения Microsoft 365 |
Пошаговый регламент безопасного внедрения AI
Практический порядок настройки рабочего пространства и правил для штатных сотрудников.
- Составить список AI-инструментов и аккаунтов, которыми пользуется каждый отдел.
- Сверить обучение, хранение, обработку файлов и условия подключений для каждого разрешённого продукта и тарифа.
- Определить допустимые классы данных. Исключить пароли и токены из запросов и вложений.
- Протестировать доступные ограничения передачи на синтетических данных.
- Назначить ответственного за проверку настроек, условий и подключённых приложений при изменениях.
