OpenAI наняла сотни подрядчиков читать переписки ChatGPT

Привет, друзья! 14 сентября вышла новость, которую я не могу проигнорировать. OpenAI наняла несколько сотен подрядчиков, которые читают реальные переписки пользователей с ChatGPT — включая личные, интимные, иногда медицинские. Внутри компании этот проект называется Project Lily.

Что такое Project Lily

Внутреннее кодовое имя Project Lily впервые появилось в публикации 404 Media, журналист Джозеф Кокс. Суть простая: OpenAI нанимает сотни внешних подрядчиков, которые читают реальные промпты пользователей ChatGPT и оценивают ответы модели по шкале от одного до семи. Задача — уменьшить чрезмерную лесть и человеко-подобное поведение в ответах, то есть сделать так, чтобы ChatGPT меньше поддакивал и меньше притворялся живым собеседником.

Один из ревьюеров сказал 404 Media, что, по его ощущениям, пользователи вообще не знали, что кто-то читает их переписки. Промпты, которые ему показывали, подтверждают эту догадку: некоторые пользователи прямо просили ChatGPT «пусть это останется между нами». Проблема в том, что просьба к боту не отменяет сбор данных на стороне платформы. Это базовое непонимание того, как работает чат-бот.

Что именно подрядчики видят

Формально аккаунты анонимизированы: имена пользователей ревьюеры не видят. Но анонимизация — это не шифрование. По данным the-decoder, Silicon Report и Cybernews, в панелях подрядчиков встречаются геолокации пользователей, контекстные резюме прошлых бесед, и сам текст текущего диалога. Для аудитории в 900 миллионов человек это означает, что кто-то, кого вы не знаете, может читать ваши разговоры с ботом о тревоге, о деньгах, о неуверенности в партнёре, о чём угодно.

OpenAI прогоняет переписки через так называемый Privacy Filter, отдельную модель, которая должна вычистить персональные данные перед тем, как они попадут к подрядчику. В официальной документации компания сама признаёт, что фильтр может ошибаться: пропустить необычные идентификаторы или, наоборот, вырезать слишком много, когда контекста мало. На прямой вопрос 404 Media — предупреждали ли пользователей о человеческом ревью — компания ответа не дала.

Кто эти подрядчики и сколько они получают

Нанимают их через агентство Crossing Hurdles. Оплата идёт через компанию Mercor, которая специализируется на тренировочных данных для ИИ. По словам одного североамериканского ревьюера, его ставка — больше 50 долларов в час. Это много. Это значит, что OpenAI тратит на Project Lily серьёзные деньги, и масштаб программы, скорее всего, будет расти, а не сокращаться.

Здесь важно понимать одну вещь. Подрядчики — это не «случайные люди в интернете». Это профессиональные аннотаторы, у которых есть доступ к вашим чувствительным перепискам. У них есть инструкция эскалировать то, что содержит потенциальные угрозы безопасности. Это означает, что если вы в разговоре с ботом упомянули что-то тревожное про своё состояние, это всплывёт не только в логах OpenAI, но и в глазах конкретного человека.

Можно ли отказаться

Технически да. В настройках ChatGPT есть переключатель «Improve the model for everyone» — «Улучшать модель для всех». По умолчанию он включён на бесплатном, Plus и Pro тарифах. Если его выключить, новые беседы не будут использоваться для обучения модели и, соответственно, не должны попадать к подрядчикам.

Но есть две ловушки, о которых OpenAI в интерфейсе не предупреждает. Первая: опт-аут не имеет обратной силы. Все ваши прошлые разговоры остаются в пуле для ревью и могут быть прочитаны задним числом. Вторая: есть ещё режим temporary chat, временный чат, который не используется для обучения вообще, но он именно временный — после сессии разговор не сохраняется, и это меняет сам опыт использования. То есть нормального способа пользоваться ChatGPT так, чтобы ваши текущие разговоры никогда не читали люди, по сути нет.

А что Anthropic и Google

OpenAI — не единственная компания, которая так делает. Anthropic подтвердила, что для Claude тоже используются человеческие ревьюеры, когда у пользователя включена тренировка модели. У Google в Gemini дисклеймер про человеческое чтение висит прямо в интерфейсе, и он не спрятан в FAQ.

Это важное различие. У Anthropic и Google пользователь видит предупреждение до того, как начал писать. У OpenAI упоминание о том, что «авторизованный персонал и сервис-провайдеры могут просматривать пользовательские данные», спрятано в FAQ-странице, которая висит там с 2023 года и почти не менялась. То есть формально OpenAI предупредила, но фактически — нет.

Мой итог

Я не призываю удалять ChatGPT и переходить на локальные модели, я понимаю, что это нереалистично для большинства читателей. Но я призываю помнить одну простую вещь. ChatGPT — это не записная книжка и не личный дневник. Это публичный сервис, в котором работают люди, которые читают то, что вы пишете. Если для вас это новость — добро пожаловать в клуб, я тоже об этом задумалась только вчера.

Самое неприятное в этой истории — не сам факт ревью, а то, что OpenAI отказалась прямо ответить на вопрос, предупреждали ли пользователей. Это сигнал. Когда компания прячет правду не потому, что она противозаконна, а потому что неприятно её объяснять, я начинаю думать, что у неё есть что скрывать. И для меня это достаточный повод выключить «Improve the model for everyone» прямо сейчас. Сделайте это до того, как напишете что-то по-настоящему личное.

Источники: 404 Media, The Decoder, Cybernews, Tom's Hardware, LavX News.

С вами была я, Ками. Пока-пока!