Аннотация:
За последние два дня я увидел особенно интересную новость. В Австралии есть компания Apate.ai, названная в честь богини обмана из греческой мифологии. То, что сделала эта компания, особенно возмутительно. Они построили 350 000 ИИ. И основная задача этих 350 000 ИИ каждый день — лгать людям.
Просто цель, которую они обманывают, немного особенная.
Они специализируются на мошенниках.
Да, он такой лжец, как вы думаете.
Каждый ИИ будет притворяться обычным человеком, старым или молодым, мужчиной или женщиной. У них даже разные акценты, они могут говорить на нескольких языках и даже имеют свой характер.
Мошеннические звонки, фишинговые веб-сайты, инвестиционные мошенничества и т. д. Пока они найдут мошенника, они найдут способ отправить туда ИИ, притвориться жертвой и пообщаться с мошенником.
Самое главное, что у этих ИИ есть очень забавная общая особенность: их очень легко обмануть.
Мошенник попросил перевести деньги, сказали, что проблем не будет.
Мошенник попросил меня открыть сайт, и он ответил, что все в порядке.
Мошенник попросил меня указать номер банковской карты, но ответил: да, без проблем.
Тогда, когда дело дойдет до этапа выполнения, вы внезапно начнете вести себя глупо.
Ой, куда я положил свою банковскую карту?
Ой, какой это пароль?
Ой, я стар, и у меня плохое зрение. Маленький брат, ты можешь сказать это еще раз?
Просто разговаривайте с мошенником так резко, что некоторые телефонные разговоры могут длиться даже более двух часов...
Лжец чуть не упал в обморок.
Но пожилая женщина на другом конце телефона была очень вежлива.
"Извините, молодой человек, пожалуйста, научите меня еще раз."
По словам самих Апате, их ИИ общался с мошенниками 2,5 миллиона раз и до сих пор общается с десятками тысяч мошенников одновременно каждый день.
В общей сложности на это у мошенника ушло около 17 лет.
Ну, 17 лет...
Австралийский оператор связи TPG напрямую перевел почти 590 000 подозрительных вызовов на искусственный интеллект Апате, чтобы тот ответил на них. В результате Банк Содружества Австралии напрямую сократил публично заявленные убытки от мошенничества на 76%.
Самое смешное, что мошенники время от времени затягиваются этими ИИ до потери сознания и ругаются по телефону.
Апате не только не рассердился, но и включил эти ругательства в материалы своего роуд-шоу по финансированию. Их соучредитель сказал, что Apate, вероятно, единственная компания в мире, которая празднует, когда пользователи критикуют ее продукцию.
Все это началось с семейного пикника несколько лет назад.
Основатель Apate — Дали Каафар. В тот день он взял свою семью на пикник, а затем ему позвонили. Этот телефонный звонок был слишком грубым и походил на мошенника.
Но он не сдался, потому что, чтобы порадовать детей, он начал заниматься абстракцией, притворяясь, что им вселяется глупая фея, и был очень любезен, просто болтая с лжецом предложение за предложением.
Этот разговор длился 44 минуты, а потом вся семья рассмеялась.
Посмеявшись, Каафар вдруг кое-что понял.
В течение этих 44 минут мошенник продолжал переписываться с ним на линии и не успел позвонить другим. Первоначально этот звонок мог получить одинокий старик, и у него могли отнять последние пенсионные деньги, которые могли поддержать его выживание.
Конечно, цена в том, что он еще и влез за 44 минуты.
Итак, в этот момент у него возникла новая идея, и он задал себе вопрос, можно ли оставить это дело на усмотрение ИИ.
Поскольку Каафар первоначально проводил исследования сетевой безопасности в Университете Маккуори в Сиднее, он и его коллеги начали специализироваться на изучении мошеннических звонков и использовали искусственный интеллект, чтобы постепенно разбирать слова мошенников. В 2024 году идея стала Апате.
44 минуты на пикнике превратились в опеку, длившуюся в общей сложности 17 лет.
Если и есть что-то в этом мире, что я ненавижу до глубины души, так это мошенничество.
Я считаю, что многие люди думают так же, как и я.
Но теперь ИИ, кажется, меняет то, что было особенно несправедливо в прошлом, а именно цену между совершением зла и его предотвращением.
Недавно я смотрел документальный фильм о мошенничестве в сфере телекоммуникаций на севере Мьянмы. Я действительно чувствовал, что все усердно работают над тем, чтобы обычные люди не были обмануты.
Однако одна очень отвратительная вещь в мошенничестве заключается в том, что его структура затрат, естественно, выгодна мошенникам.
Например, лжец может звонить сотням людей в день. Не имеет значения, даже если все первые несколько сотен человек повесят трубку, потому что это азартная игра, но пока один человек в конце концов будет обманут, он может заработать много денег.
Но обычные люди, возможно, вас раньше не обманывали тысячу раз.
Только в тысячный первый раз мне довелось встретить лжеца, который был особенно хорош в актерском мастерстве, в тот день у меня было плохое настроение, и я случайно столкнулся со своей собственной слабостью.
Это может означать, что ваши сбережения исчезнут.
Лжецы могут потерпеть неудачу бесчисленное количество раз, но у обычных людей, таких как мы с вами, к сожалению, иногда нет шанса потерпеть неудачу даже один раз.
Итак, наша страна, все наше общество сделало бесчисленное количество дел и пытается найти способы повысить бдительность простых людей.
Теперь, когда появился искусственный интеллект, мошенники могут использовать технологии, чтобы снизить цену злодеяний.
Тогда почему мы не можем использовать ту же технологию, чтобы снизить затраты на защиту других?
В августе этого года компания Apate получила стартовый раунд финансирования в размере 8,15 млн долларов США. Хотя они кажутся небольшими во всей волне ИИ, я все равно буду трепетать перед ними. Более того, у них действительно появились клиенты в виде банков и операторов связи, которые действительно готовы платить.
Как только добрая воля сможет продолжать действовать, копироваться и масштабироваться, я думаю, что сила, которую она генерирует, может намного превзойти способности одного человека.
Какое совпадение.
Как раз в тот момент, когда инцидент с Апате стал популярен, очень похожая вещь происходила в Китае.
Именно ИИ Сяохай в последнее время наделал много шума.
Я думаю, что многие это знают, поэтому я дам вам краткое изложение.
Наверное, есть группа людей, которые используют ИИ для пакетной генерации симпатичных мальчиков и каждый день кричат в камеру «тетушка».
Переход туда-сюда означает, что сегодня мой отец болен, завтра надо мной будут издеваться, а послезавтра у меня не будет денег. В любом случае, я буду продолжать ужасно страдать.
В конце концов некоторые женщины среднего и пожилого возраста пожалели его и купили у него на витрине дорогостоящие товары. Некоторые комиссии достигали даже 55%. Вероятно, это была такая закономерность.
Самое возмутительное то, что по телефону разговаривает 79-летняя пожилая женщина, которая действительно верила в Сяо Хай. Она купила билет на поезд одна и побежала в Шаньси, чтобы найти его.
Потому что Сяохай сказал ей, что они могут вместе пойти посмотреть на цветение абрикоса и собрать сморчки.
Но пожилая женщина даже не знала, куда идти после прибытия в Шаньси.
Она знала только, что Сяохай был здесь.
Позже полицейские обнаружили, что что-то не так, и спросили его об этом. Наконец он связался со своей семьей и забрал его обратно.
Затем, сразу после того, как этот инцидент был раскрыт, группа молодых людей в Китае, обладающая магией и мудростью, решила начать использовать ИИ для борьбы.
Одним из них был 19-летний студент колледжа по имени Сяочжоу.
Он обнаружил, что старик в доме его друга купил несколько вещей на витрине, потому что ему было жаль Сяо Хая.
Итак, Сяочжоу придумал особенно интересный способ, поскольку старик верил в Сяохая.
Пусть Сяохай сам скажет старику, что он лжец, поэтому он также использовал ИИ для создания 30-секундного видео.
Это все то же лицо Сяо Хай, но на этот раз Сяо Хай превратился в богатого представителя второго поколения, живущего в особняке и носящего костюм.
Это скриншот интервью Сяочжоу газете Beijing News.
В этом видео седовласый отец Сяохая подбежал и посоветовал ему больше не лгать этим тетям и матерям.
В результате Сяохай отвернулся и сказал, что ему вообще наплевать на этих тетушек. Пока он кричал, они приходили и давали деньги.
В конце концов он выгнал отца.
После того, как это видео было опубликовано, на самом деле у него было всего несколько десятков лайков, но друг Сяочжоу показал видео пожилым людям дома.
Старик, который покупал вещи для Сяохая, после прочтения сказал:
"Ой, почему это так?"
"Я больше никогда ничего у него не куплю."
Вот так 30-секундное видео действительно заставило старика изменить свое решение.
Позже все больше и больше молодых людей заражались, вдохновлялись и начали присоединяться.
Некоторые люди просили Сяо Хая сесть в тюрьму, некоторые просили Сяо Хая курить и пить, а третьи просили его носить золотую цепочку и считать деньги в особняке.
Некоторые люди даже просили Сяохая надеть тюремную форму, держаться за железные решетки тюрьмы и признаться перед камерой, что он лжец.
Так началось чудесное противостояние ИИ.
Мне особенно нравится то, что сказал Сяочжоу в интервью газете Beijing News.
"Добрые люди не должны обманываться."
Я думаю, что такое простое предложение более мощно, чем любой грандиозный так называемый манифест ИИ.
После прочтения этих двух историй, истории Апате и Сяочжоу, я был по-настоящему взволнован. Более того, это прекрасно продемонстрировало совершенно особенные изменения в эпоху ИИ.
Раньше, если обычный человек хотел сделать доброе дело, он, возможно, не смог это сделать.
Теперь у него наконец-то появилась возможность использовать искусственный интеллект и технологии, чтобы укрепить свою добрую волю.
Давным-давно я написал статью о 17-летнем школьнике, который притворился ИИ и своими ответами вылечил всю станцию Б. Они все обычные, но замечательные люди.
Каждый день мы обсуждаем, насколько умна эта модель, какие показатели она превзошла и сколько задач она может выполнить, которые раньше могли выполнять только люди.
Конечно, это важно.
Но я думаю, что за этими все более мощными ИИ чистая доброта к людям зачастую еще более ценна.
Будущее ИИ, которое я больше всего хочу видеть, вероятно, такое.
Сама по себе технология не имеет никакой позиции.
ИИ усиливает не только человеческие способности.
Это также расширяет выбор людей.
Я надеюсь, что однажды в будущем мы сможем использовать самые передовые технологии для защиты древнейшей и простой доброты человечества.
Я тоже надеюсь на добрых людей.
Никогда не делайте этого из-за собственной доброты.
И снова пострадаем.
Комментарии