ШІ знає більше, ніж здається: як ви власноруч віддаєте чат-ботам корпоративні секрети
Люди масово завантажують у чат-боти конфіденційні документи та особисті дані, навіть не підозрюючи про ризики витоку
ШІ знає більше, ніж здається: як ви власноруч віддаєте чат-ботам корпоративні секрети. Фото pexels
Проаналізувавши запити до штучного інтелекту фахівці виявили тривожну тенденцію серед користувачів. Зокрема, масові завантаження у чат-боти конфіденційних документів та особистих даних.
Деталі
Керівник відділу аналізу та аналітики даних клієнтів у Tele2 Інга Рудінскайте каже, що найчастіше несуть ризик запити до штучного інтелекту, де користувачі надають великий масиви, часто конфіденційної інформації, аби отримати потрібну відповідь.
При створенні вибірки фахівці натрапили на програмний код, клієнтські бази та внутрішню документацію підприємств.
Важливо розуміти, що така проблема починається з побутової звички. Коли люди прагнуть швидко скоротити текст або відредагувати документ і без зайвих роздумів передають у систему весь файл. А відтак, разом із робочим завданням у чат-бот можуть потрапити дані, які не мали виходити за межі компанії чи приватного архіву.
Експерти наголошують, що витоки даних загрожують не лише паролям чи даним банківських карток. Небезпечними можуть бути й звичайні робочі листи або чернетки договорів, у яких є деталі переговорів і цінові умови. Окремо такі документи можуть здаватися несуттєвими, але разом вони складають чітку картину про організацію чи людину.
Інга Рудінскайте пояснює, що під час роботи зі штучним інтелектом до системи часто потрапляють імена, номери телефонів, адреси та фінансові дані, хоча для самого завдання вони не потрібні.
«Лист клієнта, проект договору чи внутрішній документ на перший погляд можуть здаватися простим текстом. Однак вони часто містять інформацію про клієнтів, партнерів, ціни чи умови переговорів, яку не слід оприлюднювати», – пояснює вона.
Як зрозуміти, чи варто ділитися інформацією
Перед завантаженням матеріалів у чат-бот фахівці радять запитати себе - чи будете ви спокійними, якщо ця інформація опиниться у відкритому доступі? Якщо відповідь "ні", тоді ділитися такими даними не варто.
«Запитайте себе, чи почувалися б ви комфортно, якби ця інформація несподівано стала публічною. Якщо відповідь «ні», то вам не слід ділитися нею зі штучним інтелектом», – каже експерт.
Що робити перед роботою з ШІ?
Перш за все експерти у цій галузі радять анонімізувати документи перед обробкою. Для цього достатньо:
- прибрати номери паспортів, банківські рахунки та медичні дані,
- реальні імена замінити на "Клієнт А" або "Компанія X".
У такому вигляді штучний інтелект може виконати завдання без зайвого розкриття чутливої інформації.
«Раніше ми зосереджувалися на тому, як захистити свої пристрої від вірусів чи шахраїв. Зараз не менш важливо подумати про те, яку інформацію ми самі передаємо штучному інтелекту. Часто достатньо анонімізувати документ – написати «Клієнт А» або «Компанія Х» замість справжніх імен та видалити конфіденційні дані. Штучний інтелект все ще зможе допомогти виконати завдання, але ризик буде набагато меншим», – пояснює І. Рудінскайте.
Раніше ми розповідали, що в ЄС діятимуть мільйонні штрафи за приховування контенту, створеного штучним інтелектом. Відтепер будь-які цифрові продуктові рішення чи медіафайли, згенеровані нейромережами, підлягають обов’язковому маркуванню. За спроби приховати факт використання алгоритмів розробникам загрожують колосальні фінансові санкції.
Не пропустіть цікавинки!
Підписуйтесь на наші канали та читайте новини у зручному форматі!
