За последние годы мы многое узнали о чат-ботах – и они о нас тоже. Искусственный интеллект научился не просто отвечать на вопросы, но и запоминать детали из разговоров, формируя своего рода “память”. Благодаря этому он может “подтягивать” ранее известные факты о собеседнике и вести более содержательный и персонализированный диалог.

Что именно значит, что ИИ “помнит”? Это полезно или с этим связаны определённые риски? Что с этим следует делать разработчикам и пользователям? Давайте разберёмся.

Во-первых, “память” чат-бота – не магия, а набор механизмов. Иногда это просто история текущей сессии: модель держит в контексте последние сообщения и использует их, чтобы отвечать связно. В других реализациях это действительно долгосрочная память: платформа сохраняет отдельные факты о пользователе (предпочтения, привычки, важные события) и при следующей сессии “подтягивает” их, чтобы не просить одно и то же снова, и чтобы ответы были персонализированы. И это кажется удобным.

Во-вторых, преимущества понятны: персонализация делает общение более эффективным и “очеловеченным”. Бот, который помнит, что вы предпочитаете кофе вместо чая, что у вас маленький ребёнок, или что вам нельзя принимать определённые медикаменты, может предложить более уместные советы, сократить рутину (не повторять настройки) и даже предотвратить ошибки. Для бизнеса это – улучшение сервиса и удержание клиентов; для отдельных пользователей – удобство и меньше раздражающих повторных вопросов от ИИ.

Однако есть и тёмная сторона. Когда система хранит детали вашей жизни, это создаёт риски утечек, нежелательного профилирования и ситуаций, когда бот совершенно неуместно “вспоминает” то, о чём вы не готовы рассказывать. Память ИИ может развить ощущение, что кто-то невидимо наблюдает – и увеличить вероятность неправильных выводов, если сохранённые данные неверно интерпретируются или используются вне контекста.

Почему человек доверяет ИИ

Чем больше информации о себе мы предоставляем, тем полезнее становятся чат-боты с использованием ИИ. Именно поэтому пользователи нередко отправляют им результаты медицинских анализов или даже фрагменты ещё неопубликованного кода. Кажется, в этом нет ничего необычного – так поступают многие. Но исследователи в области искусственного интеллекта предупреждают: относиться к такому доверию стоит осторожнее. Есть данные, разглашение которых особенно рискованно.

Разработчики ИИ действительно нуждаются в массивах информации для улучшения своих моделей, но даже они подчеркивают: секретами делиться не стоит. В OpenAI прямо просят пользователей “не сообщать конфиденциальные сведения” в переписке, а Google в правилах для Gemini уточняет: “Не вводите данные, которыми вы не готовы поделиться с кем-либо ещё”.

Проблема в том, что даже безобидные детали – жалобы на странную сыпь или заметки о тратах за месяц – могут со временем попасть в выборки, которые бот использует для обучения, а это может привести к утечке данных. Это, пожалуй, худший сценарий. С другой стороны, излишняя тревожность тоже не помогает. Гораздо полезнее понимать, какие именно темы и данные лучше никогда не включать в разговоры с искусственным интеллектом и пользоваться этими простыми правилами, чтобы никогда не беспокоиться о конфиденциальности своих данных.

Чем лучше не делиться с чат-ботами

Чат-боты умеют разговаривать так естественно, что порой мы начинаем откровенничать с ними больше, чем со знакомыми. Но стоит помнить: всё, что вы вводите в диалог, перестаёт быть полностью под вашим контролем. Когда вы пишете что-то чат-боту, вы уже не управляете этой информацией.

Иллюзия приватности обманчива. Например, в марте 2023 года в ChatGPT произошёл сбой, из-за которого пользователи видели чужие сообщения. Бывали и другие инциденты: OpenAI по ошибке отправляла письма с подтверждением подписки не тем адресатам, раскрывая имена, почту и платёжные данные. А ещё история ваших чатов может оказаться в утёкших архивах или стать доступной правоохранителям по запросу.

Конечно же, в первую очередь, следует защитить свою учётную запись надёжным паролем и двухфакторной аутентификацией, но более важно не делиться с ботом определёнными данными:

1. Личные сведения

Паспортные данные, номера водительских прав, адрес проживания, телефон или дату рождения лучше держать при себе. Даже если чат-бот пытается “скрывать” такие детали, риск их утечки всё равно остаётся. Как отмечают в OpenAI, цель моделей – учиться на информации о мире, а не о частных лицах, поэтому сбор персональных данных стараются минимизировать.

2. Медицинская информация

ИИ не обязан соблюдать медицинскую тайну. Поэтому если хотите показать результаты анализов, заранее замажьте или обрежьте документ так, чтобы на нём не оставалось ваших персональных данных.

3. Финансы

Банковские реквизиты, номера карт, ПИН-коды или данные инвестиционных счетов – это прямое приглашение для мошенников в случае утечки. Делитесь только тем, что не угрожает вашей безопасности.

4. Рабочая конфиденциальность

Используя чат-боты для решения рабочих задач, легко случайно раскрыть клиентские данные или элементы внутреннего кода. Так, после того, как инженер Samsung загрузил в ChatGPT часть исходного кода, компания запретила сотрудникам использовать сервис в работе. Если без ИИ не обойтись, стоит обсудить корпоративную подписку или внедрение собственного защищённого решения.

5. Логины и пароли

ИИ-ассистенты всё чаще берут на себя функции секретарей, но доверять им доступ к аккаунтам небезопасно. Для хранения паролей существуют менеджеры, а чат-боты такой защиты не обеспечивают.

Кроме того, не советуем делиться с искусственным интеллектом своими собственными оригинальными идеями, потому что нет никаких гарантий, что рано или поздно они не будут использованы алгоритмами ИИ для чего-либо ещё.

“Заметаем следы”

У разных ИИ-сервисов подход к данным различается. Так, Claude по умолчанию не использует ваши чаты для обучения и стирает их через два года. ChatGPT, Copilot от Microsoft и Gemini от Google применяют диалоги в обучении, но позволяют отключить эту функцию в настройках.

Важно помнить: когда вы ставите “лайк” или “дизлайк” на ответ, это может означать согласие на использование вашего диалога для оценки и обучения.

Чтобы минимизировать риски:

Удаляйте чаты сразу после завершения общения

Всегда стоит очищать диалоги сразу после завершения. Обычно данные удаляются в течение 30 дней, но, например, DeepSeek с серверами в Китае может хранить их бессрочно, и отказаться от этого нельзя.

Используйте временный чат

В ChatGPT есть опция “temporary chat”, что означает временный чат (в правом верхнем углу), являющийся аналогом функции “инкогнито” в браузере. Такие диалоги не сохраняются и не идут в обучение.

Обращайтесь анонимно

Сервис Duck.ai от DuckDuckGo позволяет отправлять анонимные запросы в выбранные модели ИИ, гарантируя, что они не будут использованы для обучения. Правда, он работает только с текстом и не поддерживает изображения.

Чат-боты делают общение удобнее и персонализированнее, но любая переданная им информация может выйти за рамки приватного диалога. Чтобы пользоваться ИИ безопасно, достаточно простого правила: делитесь только тем, что готовы показать посторонним, а всё остальное – храните при себе.