Недавно женщина из Шанхая поделилась странным опытом: пока она спала поздно ночью, ее имя в известной учетной записи платформы жизнеобеспечения автоматически оставило комментарий под чужой публикацией с простым предложением: «Есть ли Wi-Fi?». Фигурант позже вспоминал, что никогда не видел соответствующего поста и не получил впечатления от этого комментария. Во время публикации он уже заснул и не имел возможности управлять аккаунтом. Раньше он просматривал только похожий контент от аналогичных продавцов.
В ответ на нештатную ситуацию служба поддержки клиентов платформы подтвердила, что на протяжении всего процесса вход в учетную запись осуществлялся только на моем мобильном телефоне, и риск кражи учетной записи был устранен. Причина была связана с тем, что пользователь предположительно случайно коснулся функции автоматического комментирования платформы «думаю, вы хотите прокомментировать».
Это объяснение было трудно принять вовлеченному лицу: «В аккаунте говорилось то, что я не хотел говорить, и оставлял комментарии, которые я не хотел делать от своего имени. Если бы блоггер не ответил, я бы никогда об этом не узнал».
После того, как произошел инцидент, многие пользователи сети отметили, что ИИ действовал за кулисами или действовал тайно, что также выявило общие опасения общественности: теперь, когда технология ИИ полностью популяризирована, будет ли платформа использовать технические средства для управления учетными записями пользователей и запускать в частном порядке такие операции, как автоматические комментарии, лайки и подписки?
По совпадению, многие другие пользователи сети сообщили, что некоторые социальные платформы, похоже, тайно используют личные учетные записи, чтобы подписываться на незнакомые учетные записи в частном порядке, без каких-либо напоминаний или уведомлений.
Стоит отметить, что если такие скрытые операции верны и будут продолжать распространяться, киберпространство может стать игровой площадкой для роботов ИИ. Как только в таких фоновых операциях на уровне платформы возникают лазейки в разрешениях, основные частные данные, такие как информация об учетных записях пользователей и записи потребления, подвергаются риску утечки, что представляет собой огромный риск для безопасности.