Працівник вставляє в чат-бот фрагмент договору, щоб скоротити текст. Бухгалтер завантажує таблицю з клієнтами, щоб швидше побудувати звіт. Розробник показує ШІ шматок коду з паролем до бази. Усе це — щоб швидше зробити роботу, але дані опиняються за межами компанії.
OWASP у переліку головних ризиків застосунків на великих мовних моделях окремо виділяє розкриття чутливої інформації: персональних даних, фінансових відомостей, конфіденційних даних бізнесу. Розбираємо, як не допустити витоку через ШІ і до чого тут DLP.
Чим ризиковано
- Дані покидають компанію. Що відбувається з ними далі, залежить від умов сервісу й налаштувань облікового запису — а особисті облікові записи працівників компанія не контролює взагалі.
- Персональні дані. Передача персональних даних клієнтів чи працівників стороннім сервісам має відповідати законодавству — див. «GDPR для українських компаній: коли він діє».
- Комерційна таємниця й NDA. Договори з клієнтами можуть прямо забороняти передавати їхні дані третім особам.
- Секрети в коді й документах: паролі, ключі доступу, внутрішні адреси.
- Зайві права доступу. Корпоративні ШІ-асистенти працюють з даними компанії. Наприклад, Microsoft зазначає, що Microsoft Copilot показує лише ті дані, до яких користувач має щонайменше право перегляду. Тож якщо права роздано надто широко, асистент легко знайде й перекаже те, що людина бачити не мала.
Що таке DLP
DLP (Data Loss Prevention) — запобігання витокам даних. За визначенням, яке наводить NIST, це здатність системи виявляти, відстежувати й захищати дані у використанні (дії на кінцевих точках), у передачі (мережа) і під час зберігання — через аналіз вмісту й контексту передачі з єдиним централізованим керуванням.
На практиці DLP-рішення:
- знаходить чутливі дані — за шаблонами (номери карток, паспортів, ІПН), ключовими словами, мітками конфіденційності;
- стежить за каналами: пошта, вебсервіси, хмарні сховища, USB-носії, друк;
- застосовує політику: дозволити, попередити працівника, заблокувати або зафіксувати подію для розслідування.
Як DLP допомагає з ШІ
- Контроль вебканалу. Політики можуть стосуватися й вебсервісів, зокрема чат-ботів: попередити чи заблокувати, коли у форму вставляють або завантажують чутливі дані. Конкретні можливості залежать від рішення.
- Розділення сервісів. Корпоративний ШІ-сервіс з договором і налаштованим захистом — дозволено, особисті облікові записи й невідомі сервіси — обмежено.
- Журнали. Якщо витік таки стався, видно, хто, що і куди передав.
Не лише DLP: правила використання ШІ
Технічний контроль працює, коли поруч є зрозумілі правила:
- Перелік дозволених сервісів — бажано корпоративних версій з договором, де прописано, як обробляються дані.
- Що не можна вводити: персональні дані, дані клієнтів, комерційна таємниця, паролі й ключі, неопубліковані фінансові результати.
- Класифікація даних: які дані публічні, внутрішні, конфіденційні — тоді й DLP, і люди розуміють, що захищати.
- Порядок у правах доступу до впровадження корпоративних ШІ-асистентів.
- Перевірка відповідей. Microsoft прямо попереджає, що відповіді генеративного ШІ не гарантовано на 100% точні, тож результат перевіряє людина.
- Навчання. OWASP серед заходів називає обізнаність користувачів: люди мають знати, як безпечно працювати з такими сервісами.
Як впроваджувати DLP
- Визначити, що захищати: які дані найчутливіші й де вони зберігаються.
- Почати з режиму спостереження: спершу лише фіксувати події, щоб побачити реальні потоки даних і не зупинити роботу.
- Вводити політики поступово: від попереджень до блокування.
- Передбачити винятки для законних бізнес-процесів.
- Пояснити працівникам, навіщо це і що робити, якщо дію заблоковано.
- Розбирати події й коригувати правила.
Чек-лист
- Затверджено правила використання ШІ й перелік дозволених сервісів
- Працівники знають, які дані не можна вводити в чат-боти
- Дані класифіковано, конфіденційні позначено
- Права доступу переглянуто до впровадження корпоративних ШІ-асистентів
- DLP контролює пошту, вебсервіси, хмару й USB-носії
- Політики DLP запроваджено поступово, події регулярно розбираються
- Відповіді ШІ перевіряє людина
Як допоможе Bereg-IT
Впровадимо запобігання витокам даних на базі Forcepoint DLP: визначимо чутливі дані й канали, налаштуємо політики, почнемо з режиму спостереження й поступово перейдемо до блокування. На консультації чи аудиті допоможемо з класифікацією даних, правами доступу й правилами використання ШІ.
Перша консультація — безкоштовна. Залиште запит — з вами зв’яжеться фахівець з інформаційної безпеки.
Джерела
- OWASP Gen AI Security Project, LLM02:2025 Sensitive Information Disclosure: https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/
- NIST CSRC Glossary, data loss prevention (визначення за CNSSI 4009-2022): https://csrc.nist.gov/glossary/term/data_loss_prevention
- Microsoft Learn, Data, Privacy, and Security for Microsoft Copilot: https://learn.microsoft.com/en-us/microsoft-365/copilot/microsoft-365-copilot-privacy