Нейросети и персональные данные: как не допустить утечки в компании

Куда уходят данные, когда сотрудник вставляет их в нейросеть

При работе с облачной нейросетью текст запроса передаётся стороннему сервису. Если в нём есть ФИО, телефоны, паспортные данные или номера карт, они попадают за пределы компании. Дальше организация уже не контролирует, как долго и где они хранятся и кто может их увидеть. Для бизнеса это риск утечки персональных данных клиентов и сотрудников и вопросы со стороны регулятора.

Полностью запретить нейросети обычно не получается: они заметно ускоряют работу с текстами, письмами и документами. Реалистичная задача другая — дать сотрудникам сильные модели и при этом не отдавать им лишнего.

Какие меры реально снижают риск

• Маскировка ПДн до отправки. Приложение находит персональные данные в тексте и заменяет их маркерами; модель работает с маркерами, настоящие значения возвращаются только у пользователя.
• Вторая проверка на шлюзе. Запрос повторно проверяется перед моделью и блокируется, если в нём остались сырые данные: при сомнении — не отправлять.
• Локальные модели для данных, которые не должны покидать компанию: запросы не уходят в интернет.
• Права и подтверждения. Агент делает только разрешённое, необратимые действия выполняются после подтверждения человеком.
• Правила для команды: лимиты, наборы рабочих мест, политика скиллов для ролей.

Как это работает в Призме AI

Перед запросом к моделям Призмы приложение распознаёт телефоны, адреса электронной почты, номера банковских карт, СНИЛС, ИНН физических лиц и паспортные данные по шаблонам с проверкой контрольных сумм; ФИО и адреса находит небольшая нейросеть, которая тоже работает на компьютере. Каждое значение заменяется постоянным маркером ⋦PII_…⋧, поэтому модель понимает, что речь об одном и том же человеке, и ответ остаётся осмысленным.

Соответствие маркеров настоящим значениям хранится на компьютере сотрудника в зашифрованном локальном хранилище на ограниченное время (около 72 часов). История чата на диске остаётся в исходном виде, поэтому сам компьютер нужно защищать как любое рабочее место.

Честные ограничения защиты

Призма помогает выполнять требования закона о персональных данных и снижает риски, но не заменяет юриста и не гарантирует соответствия: организация обработки данных остаётся на компании. Подробности — на странице безопасности.

• Маскировка работает для моделей Призмы. Если подключить стороннюю облачную модель со своим ключом, текст уходит этому провайдеру без маскировки.
• Автоматическое распознавание может пропустить нестандартную запись, например паспорт, написанный словами. Для полностью закрытых данных используйте локальную модель.
• Если распознавание ФИО и адресов недоступно, остаётся режим по шаблонам: часть имён и адресов может не замениться.