Океан Тех: почему бизнесу опасно загружать документы в массовые нейросети

Публичные ИИ-сервисы привыкли воспринимать как личных помощников. Им пересылают договоры, медицинские заключения, клиентские таблицы и сканы документов. Однако серия скандалов вокруг крупнейших чат-ботов показала: привычное окно диалога нельзя автоматически считать конфиденциальным пространством.

В августе 2025 года Forbes⁠ обнаружил, что поисковые системы проиндексировали более 370 тыс. расшаренных диалогов пользователей с Grok. Среди них были вопросы о здоровье и психологии, персональные сведения и как минимум один пароль. Доступными оказались также загруженные изображения, таблицы и текстовые документы.

Причиной стала функция «Поделиться». Она создавала веб-страницу с разговором, но пользователям не объясняли достаточно ясно, что ссылка может попасть в поисковики. Это не было классическим взломом, однако результат оказался похожим: частный диалог стал доступен посторонним.

Похожая проблема возникла у ChatGPT: Google показывал тысячи разговоров, опубликованных через общедоступные ссылки. OpenAI отключила возможность индексирования⁠.

Почему личная ошибка превращается в корпоративный риск

Формально речь не всегда шла об утечке со стороны поставщика. Но безопасность зависит не только от шифрования серверов. Важны понятность интерфейса, настройки хранения и контроль публичных ссылок.

Для бизнеса риск выше. Сотрудник может загрузить договор, внутренний отчет, базу клиентов, фрагмент кода, историю болезни или скан паспорта. После отправки компания не всегда контролирует, где обрабатывается файл, как долго он хранится и используется ли содержимое для улучшения сервиса.

«Главная проблема массовых нейросетей не в том, что ими обязательно кто-то злоупотребляет. Они создавались как универсальный сервис с максимально простым входом, а не как закрытый корпоративный контур. Для пользователя это удобно, но для компании такой подход превращает работу с данными в проходной двор: достаточно одной неверной настройки или публичной ссылки, чтобы контроль был потерян», – считает основатель и генеральный директор компании Океан Тех Дмитрий Пеньков.

Особенно опасен теневой ИИ, когда сотрудники используют внешние сервисы без ведома компании. Отдел безопасности не видит, какие документы туда отправляют и как ответы влияют на решения.Так возникают риски неумышленного промышленного шпионажа, который может вылиться владельцам бизнеса в круглую сумму.

Закрытый контур не равен собственной модели

Ответственный корпоративный ИИ не обязательно требует обучать большую языковую модель с нуля. Важнее создать управляемую систему, которая определяет, какие данные разрешено передавать, где они обрабатываются и кто может запускать операции.

Защищенное решение может работать на инфраструктуре организации или в изолированном облаке. Необходимы разграничение прав, журналирование запросов, запрет на обучение на корпоративных данных, удаление чувствительных сведений до отправки и контроль сроков хранения. Тогда сотруднику не приходится самому решать, можно ли копировать документ в чат.

«Конфиденциальность должна обеспечиваться архитектурой, а не надеждой на внимательность пользователя. Если врач работает с историей болезни, юрист с материалами дела, а служба безопасности с данными об инциденте, система обязана технически ограничивать доступ и фиксировать каждое действие. Одного пункта в пользовательском соглашении для этого недостаточно», – говорит Пеньков.

В медицине критичны изоляция данных пациентов и подтверждение результата врачом. В финансах нужен журнал действий. В кибербезопасности даже отчет может содержать адреса систем, ключи и описание уязвимостей.

Что проверить до внедрения

До подключения ИИ следует определить, какие данные нельзя передавать внешнему поставщику. Затем проверить условия хранения и обучения, местонахождение инфраструктуры, доступ подрядчиков, порядок удаления информации и действия при инциденте.

Систему важно протестировать на реальных задачах. Модель может безопасно пересказать обезличенную инструкцию, но раскрыть лишние сведения после специально сформулированного запроса. Проверять нужно качество ответа, устойчивость ограничений и попытки извлечь закрытый контекст.

«В Океан Тех мы начинаем не с выбора самой известной модели, а с исследования процесса и границ допустимого. Проверяем, какие данные действительно нужны агенту, какие права ему можно дать и где решение должен подтвердить человек. Иногда правильный вывод состоит в том, что внешний сервис для задачи не подходит и нужен индивидуальный контур. Это дешевле, чем разбираться с последствиями после первой утечки», – объясняет Дмитрий Пеньков.

Скандалы с публичными чатами не делают массовые нейросети бесполезными. Они показывают границу между потребительским инструментом и системой, которой доверяют документы и критические процессы. Для бизнеса конфиденциальность должна быть не случайной настройкой, а свойством всей архитектуры.