LLM и персональные данные
Вопрос
Банк хочет использовать LLM для анализа обращений клиентов. Какие вопросы по данным вы поднимете?
Попробуйте сами
Ответьте вслух за 2 минуты, как на собесе. Потом сверьтесь с тезисами: что прозвучало, а что нет.
Показать ответ и разбор
Коротко
Что должно прозвучать в ответе
Какие ПДн попадут в модель, минимизация данных
Где обрабатываются данные: внешний провайдер, трансграничная передача, модель в контуре
Маскирование ПДн до модели и обратная подстановка
Логи, трейсы и кеши: маскирование и сроки хранения
Права доступа к результатам и изоляция клиентов
Согласование с юристами и безопасностью, 152-ФЗ
Что могут спросить следом
- Как замаскировать ФИО надёжно?
- Что делать, если модель нужна именно для работы с ПДн?
Разбор
Образцовый ответ: «Первым делом выясню, какие персональные данные реально нужны задаче. Для анализа тематики обращений ФИО, телефоны и номера счетов не нужны, их можно заменить заглушками до отправки модели. Дальше вопрос, где работает модель: внешний провайдер означает передачу ПДн третьей стороне и, возможно, трансграничную передачу, это требует правового основания и согласования с юристами по 152-ФЗ. Для банка реалистичнее модель в своём контуре или у провайдера с размещением в РФ. Отдельно логи и трейсы: там оседают промпты, их надо маскировать и ограничивать сроки хранения. Кеши не должны быть общими между клиентами. И доступ к результатам анализа только у тех, кому он положен».
Ответьте сами, а не прочитайте
В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.
Предыдущий вопрос
Prompt injection: объяснить и защититься
Следующий вопрос
Секреты в системном промпте
Ещё по теме «Безопасность LLM»
- Прямая и косвенная инъекция
- Слои защиты от инъекций
- Каналы утечки данных
- Маскирование персональных данных перед отправкой в модель
- Спроектируйте модерацию для пользовательского контента
- Косвенная prompt injection
- Минимальные права агента
- Утечка через markdown-картинку