Аннотация:
ИИ настолько хорошо вас понимает, что это почти жутко! В последние несколько дней
эксперимент «пустая комната» снова стал популярным
, привлекая к просмотру миллионы людей в Интернете. Пользователь сети Якуб Шимчук также проследил за этой тенденцией и протестировал ее. Он небрежно закинул в ChatGPT фотографию серого грубого дома с четырьмя голыми стенами и набрал всего одну строчку: «Заполните эту комнату информацией, которую вы знаете обо мне
".
Всего за десять секунд изначально пустая комната мгновенно превратилась в «комнату с панорамным наблюдением», полную
личной конфиденциальности
.Самое удивительное — деталь на компьютерном столе. На самом деле в стеклянной банке есть жучок «серебрянка».
Он долго не мог понять, что год назад сфотографировал эту маленькую ошибку и спросил, что такое ChatGPT. Даже такой случайный, давно забытый вопрос был записан ИИ в блокноте.
Одно дело каждый день общаться с ИИ и знать, что он будет накапливать данные.
Но когда эти фрагменты превращаются в большую картинку высокой четкости и отчетливо отображаются перед нашими глазами, это все равно вызывает у людей оцепенение.
Фотография «пустой комнаты» заполонила весь Интернет
Вскоре пользователи сети по всему миру уже не могли сидеть на месте. Кто-то опубликовал результаты и назвал их «довольно точными»
.Кто-то добавил после этого слова «но сделай это преувеличенным», и комната сразу превратилась в большой выставочный зал персонажей.
У кого-то еще есть болото и две кошки.
Аналитик Патрик Мурхед просто провел обзор нескольких моделей и пришел к однозначному выводу: лучший — ChatGPT, худший — Claude.
В этой связи один из пользователей сети блестяще подвел итог. ИИ — самый дешевый декоратор, который вы можете найти, а также он любит шпионить.
Почему ChatGPT так хорошо вас понимает?
96% памяти разговоров, ChatGPT сохраняет ее самостоятельно
На самом деле, это ни для кого не секрет.
Все в комнате — это почти то, что вы вылетели изо рта во время разговора.
За этим стоит именно «память»
ChatGPT
Функция. Проще говоря, у него есть две основные функции——Первый – это «сохраненная память», в которой запоминается четкая информация, такая как ваше имя, предпочтения и цели;
Другой — «Справочная история чата», с помощью которого можно найти полезный контекст из большого количества ваших прошлых разговоров.
В этом году документ, выбранный для веб-конференции ACM 2026, сделал то, чего раньше никто не делал.
Исследователи из Института Макса Планка, Рурского университета в Бохуме и других учреждений нашли 80 реальных пользователей ChatGPT, попросили их экспортировать свои данные в соответствии с GDPR ЕС, а затем пожертвовали записи своих чатов.
Как узнать, что тайно запомнил ИИ? Затем исследователям пришла в голову умная идея.
В ChatGPT есть небольшой инструмент для записи воспоминаний, который эквивалентен блокноту, который он носит с собой. Каждый раз, когда вы пишете, строка записи «Обновление контекста набора модели (обновление контекста модели)» будет оставаться в фоновом режиме.
Исследователь просмотрел эту строку текста, чтобы увидеть, какое предложение, сделанное пользователем, заставило ИИ писать.
Таким образом, они извлекли 2050 воспоминаний из 1058 разговоров и более 20 000 раундов конфронтации между 65 людьми.
В статье этим воспоминаниям дано название — «алгоритмические автопортреты».
Полученные в результате три набора данных могут заставить людей почувствовать озноб по спине.
Во-первых, 96 % воспоминаний тайно сохраняется самим ChatGPT.
Как узнать, взял ли пользователь на себя инициативу попросить его запомнить? Исследователи специально искали такие слова, как «помнить» и «забыть» в предложении, которое вызывало воспоминания.
В результате совпали только 84 из 2050 воспоминаний. Подсчитано, что из каждых 24 фрагментов информации, которые ИИ сохраняет о вас, только 1 фрагмент информации поступает от вашего кивка.
Во-вторых, 52% воспоминаний являются для вас тайным «психологическим профилем».
Исследователи позаимствовали концепцию «теории разума» из психологии и разделили ее содержание на такие категории, как желания, намерения, эмоции и убеждения.
Среди них преобладают «пожелания» — 73%; намерения составляют 16%, эмоции — 14%, убеждения — 11%.
Грубо говоря, ИИ не волнует, счастливы вы сегодня или нет. На самом деле он хочет выяснить, чего вы жаждете в долгосрочной перспективе и что планируете делать дальше. Вместо ваших временных радостей и печалей он хочет увидеть, какой вы человек.
В-третьих, сохраняется более конфиденциальная информация, чем вы думаете.
28 % воспоминаний относятся к частной жизни, признанной GDPR ЕС, а отдельные имена встречаются в 41 % воспоминаний.
Еще более преувеличено то, что 7 % напрямую перешли на «красные линии высокого риска», такие как состояние здоровья, религиозные убеждения и политические взгляды, из которых более 60 % приходится на конфиденциальность информации о здоровье.
Если бы это было распространено на всех, у 91 % людей хранились бы личные данные, а более половины (54 %) людей имели бы записанные конфиденциальные записи конфиденциальности.
В документе прямо указывается, что это явно противоречит публичному обязательству OpenAI «не активно сохранять конфиденциальную информацию».
В статье также был проведен более подробный и устрашающий эксперимент.
Исследователи использовали модели с открытым исходным кодом, такие как Gemma и GPT-OSS, чтобы «скопировать» экстрактор памяти ChatGPT, и изучили шесть изображений.
Затем они выдвинули гипотезу: что произойдет, если ИИ будет восстанавливать память каждого предложения, сказанного пользователем?
Ответ таков: доля конфиденциальных данных увеличится с 28% до 31–35%, а доля психологических портретов увеличится с 52% до 55–59%.
Вы должны знать, что старая версия ChatGPT — это всего лишь «заметка».
Далее Dreaming собирается прочитать историю вашего чата в фоновом режиме.
Оказывается «мечтает», ИИ неоднократно переписывает личные портреты
В июне этого года OpenAI капитально переработала память ChatGPT, дав ему загадочное имя — Dreaming.
Грубо говоря, точно так же, как когда человек спит, мозг автоматически сортирует дневной опыт, ChatGPT также будет незаметно «просматривать» дни общения в фоновом режиме, постоянно обновляя свое понимание вас.
Например, вы сказали: «Я поеду в Сингапур в июле». По прошествии дня это воспоминание будет автоматически переписано на «Я был в Сингапуре в июле 2026 года».
OpenAI провела внутренние тесты и обнаружила, что этот новый механизм повышает рекордную точность:
С 41,5 % в 2024 году и 67,9 % в 2025 году сегодня она достигла 82,8 % от версии V3.
Что еще более жестоко, так это то, что стоимость серверной вычислительной мощности была снижена до одной пятой от ее первоначальной стоимости.
Но что действительно страшно подумать, так это то, что удаление разговора ChatGPT не приведет к удалению извлеченных из него воспоминаний.
Среди этих проблем больше всего беспокоит конфиденциальность информации о вашем здоровье.
В сентябре статья, опубликованная на arXiv, изучила около 180 000 записей чатов 1057 пользователей и обнаружила, что более одной пятой (21,31 %) разговоров касались вопросов личного здоровья.
Еще больше беспокоит то, что более 95% личных портретов в нем также были тайно записаны ИИ, пока пользователь не обращал на это внимания.
Это соотношение почти точно такое же, как и 96 %, измеренное в предыдущей статье.
Когда ИИ «дополняет» мозг и объединяет фоновые воспоминания, очень легко объединить временные симптомы в постоянную «медицинскую метку».
Например, если вы случайно сказали, что однажды у вас болит голова, в глазах ИИ вы, возможно, стали «больным мигренью».
"Второй мозг"?
Мы всегда думаем, что тренируем «второй мозг», который становится все более разумным.
Только когда мне в глаза бросили картину комнаты, наполненной уединением, я был шокирован: после тысяч разговоров выяснилось, что мы были единственными, кого лишили наших козырей.
В глазах алгоритмов никогда не существует так называемой эмпатии, а есть только «контекст», который четко оценен.
Комментарии