Аннотация:
В последнее время Клод сошел с ума и забанил большое количество аккаунтов. Разработчики из круга ИИ напрямую коллективно сломали защиту и закричали: «Небо падает». За весь период праздников количество обсуждений, связанных с «баном аккаунта Клода», даже превысило миллион.
В этот момент отчет, опубликованный Anthropic в июле, был обнаружен и заблокирован во всей сети.
Цифры внутри шокируют.
В первой половине 2026 года, всего за шесть месяцев, Клод заблокировал в общей сложности 11,4 миллиона аккаунтов.
Из 398 000 поданных апелляций только 42 000 в конечном итоге были удовлетворены.
По подсчетам, из каждых 10 человек 9 человек были «хладнокровно казнены». Можно сказать, что обращение - это почти украшение...
Более того, Anthropic только что обновила свою политику использования Клода, которая прямо запрещает оскорбительное и жестокое обращение с Клодом.
За полгода заблокировано 11,4 миллиона аккаунтов
Оглядываясь назад, можно сказать, что в прошлом, чтобы захватить пользователей и окружить территорию, крупные гиганты ИИ практически закрывали глаза на контроль рисков.
Но полугодовой отчет, только что опубликованный Anthropic, прямо поднял фиговый листок.
23 июля Anthropic обновила отчет о безопасности и доверии в своем Центре прозрачности.
Есть специальный столбец — «Заблокированные аккаунты», в котором четко записано, сколько аккаунтов заблокировали и сколько людей жалуются.
Давайте разберем этот набор данных и посмотрим, насколько он преувеличен.
С января по июнь 2026 года за полгода испарилось 11,4 миллиона аккаунтов по всему миру.
Это эквивалентно удалению в среднем почти 1,9 миллиона аккаунтов каждый месяц.
Ежедневно в кибермире физически удаляются более 60 000 учетных записей.
В связи с решениями о запрете было подано 398 000 апелляций.
Подавляющее большинство из почти 400 000 человек, которые готовы тратить время на написание писем с жалобами, поиск службы поддержки клиентов и даже прикрепление подтверждения о трудоустройстве, — это высокочастотные активные пользователи и разработчики, которые действительно используют Claude как инструмент повышения производительности.
Однако выжили только 42 000 человек, при этом вероятность успеха составила 10,5%.
Другими словами, подавляющее большинство обращений представляют собой «неэффективную борьбу». Это также показывает, что механизм принятия решений по контролю рисков Anthropic представляет собой почти «систему вето с одним голосом» на уровне исполнения.
Я лучше убью десять тысяч по ошибке, чем отпущу одного человека.
|
|
Такое несоответствие в данных напрямую выдвинуло на передний план логику блокировки аккаунта Клода.
В конце концов, блокировка аккаунта занимает всего лишь мгновение, и платформа может просто сказать слово; но если пользователи хотят вернуться, им предстоит долгая и мучительная борьба с апелляциями.
Прикоснись к красной линии и внезапно умри
11,4 миллиона аккаунтов, какие ошибки они допустили?
Anthropic не раскрыла полное распределение причин банов, но четко перечислила несколько типов ситуаций, которые могут повлечь за собой блокировку аккаунта.
В отчете целое основное место отведено анализу серьезных нарушений содержания.
В отчете показано, что только за первое полугодие оно представило более 15 000 отчетов о нарушениях в соответствующие международные организации безопасности (такие как NCMEC). Компания не только использовала традиционное сопоставление хэш-отпечатков пальцев, но и полностью запустила самостоятельно разработанный «новый классификатор машинного обучения».
Для инструкций, связанных с незаконным злоупотреблением, вторжением в частную жизнь, злонамеренным побуждением, чрезмерным членовредительством и т. д., встроенная проверка модели Anthropic практически означает "смерть при срабатывании".
Пока подсказка касается чувствительной границы, система даже не выдаст второе предупреждение и будет навсегда заблокирована.
Кроме того, существует также большое количество нелегальных аккаунтов, которые стреляют без разбора. В сочетании с обзором «поддерживаемой зоны» многие люди склонны вешать трубку в больших количествах.
Нет возможности подать апелляцию
Рабочий процесс искусственного интеллекта в одночасье сводится к нулю
Если бы вы заблокировали аккаунт два года назад, максимум, что все сказали бы, было бы: «Нет-нет, давай пообщаемся в другой компании».
Но теперь все изменилось.
Особенно в этом году рабочий процесс агента стал популярным, а возможности кодирования резко возросли. Бесчисленное количество авторов, независимых разработчиков и научных исследователей поставили на это свои состояния и жизни.
Для full-stack-программистов Клод — первоклассный архитектор, который может всю ночь пережевывать десятки тысяч строк дерьма, составлять отдельные тесты и исправлять экстренные ошибки. Научные исследователи и аналитики читают сотни документов, выводят математическую логику и очищают сложные данные. Он также несет знамя.
Подобный обрыв производительности, который мгновенно возвращается к нулю, разрушительен.
Самое смешное, что путь к апелляции практически мертв.
Многие люди жаловались:
Процесс апелляции — это всего лишь форма Google, и после ее заполнения кажется, что ничего не произошло.
Некоторые люди подали апелляцию трижды, но каждый раз им отказывали даже без конкретной причины.
Full-stack-разработчик написал в сообществе: «Вся команда использовала Клода для рефакторинга кода, создала более дюжины специальных проектов и накопила десятки тысяч строк системной архитектуры и записей об итерациях, которые прошли несколько раундов тонкой настройки.
Как только он появился в сети в понедельник утром, интерфейс сразу показал, что он недоступен. Я подал свою деловую квалификацию, сертификат развития и апелляционное письмо в соответствии с процедурами, но получил электронное письмо с отказом по шаблону без какого-либо логического объяснения.
Две недели напряженной работы в одно мгновение свелись к нулю.
Несколько дней назад разработчик подробно описал свой опыт подачи жалобы на GitHub:
3 октября платный пакет «Макс» был отключен без предупреждения, а апелляция была отклонена. Причиной стало лишь общее «нарушение правил использования» без приведения каких-либо конкретных терминов.
После дополнительной апелляции был получен ответ: «Это наше окончательное решение».
Что еще более абсурдно, так это то, что после того, как учетная запись помечена, на странице апелляции навсегда останется статическая подсказка «Ваша учетная запись останется закрытой» без какого-либо поля ввода формы или записи апелляции.
Все апелляционные заявки, отправленные на официальный адрес электронной почты службы поддержки, были автоматически закрыты автоматическими роботами.
Что еще более возмутительно, так это то, что кого-то заблокировали всего через 15 минут после регистрации. Аккаунт был только что создан, не было отправлено ни одного сообщения, не настроено API и он просто исчез.
Что еще более тревожно, так это то, что эта чистка, возможно, еще не закончилась.
В своем последнем обновлении политики Anthropic объявила, что 12 ноября 2026 г. вступят в силу новые ограничения, которые явно будут охватывать различные ситуации, входящие в сферу запрещенного использования.
Политика еще не вступила в силу, и некоторые члены сообщества уже предсказывают, что будет еще один раунд королевской битвы.
Никогда не ставьте на Клода
Некоторые пользователи сети резюмировали урок, полученный через кровь и слезы: «Никогда не делайте больших ставок на ИИ».
Кто-то на GitHub создал специальный склад под названием «Руководство по самоспасению при блокировке учетной записи Клода», чтобы постоянно отслеживать каждый этап блокировки учетной записи.
На складе был составлен основной принцип антиблокировки. Но, в конце концов, это всего лишь советы, как «пройти мимо».
Столкнувшись с автоматизированной системой контроля рисков, которая может в любой момент взмахнуть ножом, ни один аккаунт не может быть абсолютно безопасным.
В конце концов, это и есть самая ирония в этом вопросе.
Каждый день мы поражаемся тому, насколько искусственный интеллект заменил человека и насколько сильную логику он развил, но часто забываем самое примитивное ——
В этой экосистеме мы не имеем права ничего говорить о наших «продуктивных активах».
В глазах другой стороны Агент, которого я допоздна кормил, и десятки рабочих процессов, которые я настроил, — это всего лишь серия логических значений, которым в любой момент можно присвоить значение false.
Действительно, не ставьте свою жизнь и состояние на одного Клода.
Комментарии