Аннотация:
15 сентября согласно колонке «Рассказ Сяосинь» новостного медиа-центра Цзясин провинции Чжэцзян: 17 апреля этого года скончалась мать г-на Ши. Его семья обсуждала, когда ее похоронить. Он подумал о программном обеспечении искусственного интеллекта «Doubao», и 19 апреля ему порекомендовали это программное обеспечение.
Когда все было устроено, господин Ши еще раз попросил «Дубао» подтвердить, что 19-е число неподходящий день, но изменить его будет очень хлопотно. По этой причине г-н Ши был очень зол и подал в суд на компанию-разработчика программного обеспечения, создавшую «Doubao».
Согласно сообщениям, родным городом г-на Ши является Шуян провинции Цзянсу, а в настоящее время он проживает в Цзяшане. 17 апреля этого года мать г-на Ши умерла от внезапной болезни. В семье г-на Ши пять братьев и сестер. Члены семьи вместе обсуждали похороны его матери. Главной задачей было определить дату захоронения.
Г-н. Ши сказал репортерам: «Я больше доверяю Дубао. Я все время полагаюсь на него и думаю, что он знает все. Затем я спросил Дубао, когда его похоронят. Дубао сказал, что 19 апреля. Я думаю, что это имеет смысл, поэтому я в это верю».
Запись вопросов и ответов программного обеспечения показывает, что после того, как г-н Ши задал вопрос в тот момент, «Дубао» ответил, что наиболее надежная рекомендация — 19 апреля.
Через некоторое время г-н Ши снова спросил: «В какое время лучше всего проводить похороны?» «Дубао» ответил с 7 до 9 часов, но на этот раз ответ немного отличался от прошлого. В ответе «Дубао» отметил, что 19 апреля — неподходящий день.
Г-н. Ши на мгновение растерялся. Он спросил несколько раз, и «Дубао» ответил, что 19-е число неподходящее. В это время родственники и друзья уже сообщили, что менять дату уже поздно. В конце концов, г-ну Ши пришлось пережить похороны своей матери.
Вскоре после похорон родственник, находившийся дома, попал в дорожно-транспортное происшествие и получил серьезные травмы. Они жаловались на меры г-на Ши.
Г-н. Ши пожаловался компании, производящей программное обеспечение «Doubao», но не получил ответа и решил подать в суд на другую сторону. «Дубао» также помог г-ну Ши написать жалобу, указав, что он может подать в суд, и дал указания по возбуждению уголовного дела.
Пользовательское соглашение программного обеспечения «Doubao» показывает, что контент, создаваемый программным обеспечением и услугами «Doubao», предназначен только для справки и не предназначен для использования в качестве профессиональных советов. В ситуациях, влекущих за собой значительные последствия, рекомендуется проконсультироваться с соответствующими специалистами, и их не следует использовать в качестве основания для действия или бездействия. Последствия и ответственность любого решения, вынесенного на основе выходного контента или последующих связанных с ним операций, будет нести пользователь.
Репортер узнал, что Народный суд округа Цзяшань открыл слушание по этому делу.
Адвокат считает, что г-ну Ши будет сложно защитить свои права в судебном порядке. Если г-н Ши хочет подать в суд на защиту прав, он должен доказать, что поставщик услуг, предоставивший программное обеспечение ИИ, совершил противоправное действие. Прежде всего, виновата должна быть другая сторона. Кроме того, должна существовать причинно-следственная связь между виной другой стороны и фактическим ущербом, понесенным господином Ши. Это очень сложно доказать. Если ИИ просто дает неправильный ответ, этого явно недостаточно.
Новости о том, что «ИИ обманывает людей», встречаются часто. 18 июня у 52-летнего Чжана из Чанши дома внезапно закружилась голова. Он по привычке включал свой мобильный телефон и использовал искусственный интеллект для поиска сопутствующих симптомов и методов лечения. Через три дня состояние не улучшилось, а ухудшилось. Члены семьи быстро отправили пациента на прием к врачу, и ситуация изменилась. Врачи предупреждают, что консультация по ИИ в основном опирается на анализ информации, поступающей от пациентов. Судить о тяжести состояния только по текстовым описаниям сложно и не может заменить очную консультацию у профессионального врача.
Не случайно. 5 июня житель Нанкина использовал мешки с фасолью, чтобы сфотографироваться и идентифицировать грибы, собранные в общине, что едва не привело к пищевому отравлению. Кроме того, 57-летний мастер Ян из Нинбо был «направлен» искусственным интеллектом в глубокие горы и заблудился и попал в ловушку во время восхождения на выходных. Он был измотан и был спасен пожарными после того, как обратился за помощью. Студенты, сдающие вступительные экзамены в колледж, использовали искусственный интеллект для набора добровольцев, но были предвзяты сфабрикованными профессиональными кодексами и рейтингами прошлых лет. Фермеры спросили ИИ, какие пестициды использовать, и сотни акров кунжутных полей погибли в одночасье... Эти случаи на первый взгляд полны ерунды, но за ними стоит серьезный вопрос о том, как нам следует правильно рассматривать и использовать ИИ.
Ранее ответственное лицо Douyin Group ответило, что искусственный интеллект все еще находится на стадии разработки, и Doubao также постоянно повышает точность распознавания, затрагивая такие важные вопросы, как личная безопасность. Рекомендуется использовать ответы ИИ в качестве ориентира и искать многосторонние аргументы, чтобы не причинить вреда.
В газете однажды прокомментировали: Сила ИИ заключается в его способности искать огромные объемы фрагментированной сетевой информации за очень короткий период времени и собирать ее вместе в ответ, который говорит «что-то в этом роде». Но ответ, который он дает, - это «текст, который больше всего похож на истину», а не «абсолютная, правильная и достоверная истина». Он не может разобраться в сложных тропах в глубокой горе, не может поставить диагноз на основе простых описаний и не знает мер предосторожности при лечении растений, не говоря уже о том, что он может делать вид, что понимает и фабриковать ложную информацию.
Чем мощнее технологии, тем большему числу людей приходится бодрствовать. ИИ можно использовать в качестве вспомогательного инструмента для поиска информации, организации идей и составления списков, но он никогда не является панацеей, не говоря уже о «главном ключе», который может заменить мышление и принятие решений людьми.
Особенно когда речь идет о таких важных вопросах, как безопасность путешествий, физическое здоровье и требования к вступительным экзаменам в колледж, где одна ошибка может привести к опрокидыванию, доверие к ИИ не может быть повышено до неограниченной и безусловной зависимости, и мы должны отказаться от здравого смысла в жизни и авторитетных каналов решения проблем. Древние говорили: «Лучше не иметь книг, чем верить в книги». Сегодня нам, вероятно, следует сказать: лучше не иметь ИИ, чем верить в ИИ.
Комментарии