Ответ вслух Senior Безопасность LLM обновлено

LLM и персональные данные

Вопрос

Банк хочет использовать LLM для анализа обращений клиентов. Какие вопросы по данным вы поднимете?

Попробуйте сами

Ответьте вслух за 2 минуты, как на собесе. Потом сверьтесь с тезисами: что прозвучало, а что нет.

Показать ответ и разбор

Коротко

Образцовый ответ: «Первым делом выясню, какие персональные данные реально нужны задаче. Для анализа тематики обращений ФИО, телефоны и номера счетов не нужны, их можно заменить заглушками до отправки модели.

Что должно прозвучать в ответе

  • Какие ПДн попадут в модель, минимизация данных

  • Где обрабатываются данные: внешний провайдер, трансграничная передача, модель в контуре

  • Маскирование ПДн до модели и обратная подстановка

  • Логи, трейсы и кеши: маскирование и сроки хранения

  • Права доступа к результатам и изоляция клиентов

  • Согласование с юристами и безопасностью, 152-ФЗ

Что могут спросить следом

  • Как замаскировать ФИО надёжно?
  • Что делать, если модель нужна именно для работы с ПДн?

Разбор

Образцовый ответ: «Первым делом выясню, какие персональные данные реально нужны задаче. Для анализа тематики обращений ФИО, телефоны и номера счетов не нужны, их можно заменить заглушками до отправки модели. Дальше вопрос, где работает модель: внешний провайдер означает передачу ПДн третьей стороне и, возможно, трансграничную передачу, это требует правового основания и согласования с юристами по 152-ФЗ. Для банка реалистичнее модель в своём контуре или у провайдера с размещением в РФ. Отдельно логи и трейсы: там оседают промпты, их надо маскировать и ограничивать сроки хранения. Кеши не должны быть общими между клиентами. И доступ к результатам анализа только у тех, кому он положен».

Ответьте сами, а не прочитайте

В тренажёре вопрос попадёт в повторения и вернётся, когда начнёт забываться. Плюс билеты с зачётом: 20 вопросов, не больше 2 ошибок.