Выбор ответа Middle Безопасность LLM обновлено
Персональные данные и внешний провайдер
Вопрос
Сервис отправляет внешнему LLM-провайдеру тексты обращений клиентов с ФИО, телефонами и адресами. Что нужно сделать в первую очередь?
Попробуйте сами
Выберите вариант, и откроется разбор.
Показать ответ и разбор
Коротко
Правильный ответ: Оценить законность передачи (152-ФЗ, трансграничка, договор) и маскировать ПДн до отправки. Передача ПДн третьей стороне, особенно за рубеж, требует правового основания и мер защиты.
Варианты ответа
- Ничего: провайдеры по договору не хранят запросы, поэтому передача ПДн не требует мер
- Попросить модель в системном промпте не запоминать персональные данные клиентов
- Шифровать текст обращений перед отправкой, чтобы ни модель, ни провайдер не видели персональные данные
- Оценить законность передачи (152-ФЗ, трансграничка, договор) и маскировать ПДн до отправкиправильный ответ
Разбор
Передача ПДн третьей стороне, особенно за рубеж, требует правового основания и мер защиты. Технически часто достаточно заменить ФИО, телефоны и адреса на заглушки до отправки и подставить обратно после. Политики хранения у провайдеров разные, это надо проверять, а не предполагать. Модель не «запоминает» запрос, но провайдер может его логировать. Зашифрованный текст модель не поймёт.
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.
Ещё по теме «Безопасность LLM»
- Прямая и косвенная инъекция
- Слои защиты от инъекций
- Каналы утечки данных
- Маскирование персональных данных перед отправкой в модель
- Спроектируйте модерацию для пользовательского контента
- Косвенная prompt injection
- Минимальные права агента
- Утечка через markdown-картинку