29 мая агентство Reuters опубликовало статью, в которой говорится, что Tesla утверждает, что ее программное обеспечение «Полное самостоятельное вождение» (FSD) до 10 раз безопаснее, чем водитель-человек, но данные, используемые компанией для подтверждения этого утверждения, не выдерживают никакой критики.Сотрудники, участвующие в обучении этой технологии, говорят, что она еще далека от готовности безопасно поставлять беспилотные автомобили в больших масштабах.


Tesla подозревается в преувеличении безопасности FSD

В офисе в штате Юта, США, сотни сотрудников Tesla внимательно просматривают видео, снятые автомобилями, оснащенными функциями Tesla FSD. В некоторых видеороликах показано, как транспортные средства сбивают кошек, собак или оленей, а также более распространенные дорожно-транспортные происшествия. Иногда автомобиль даже не тормозит перед столкновением, а зачастую превышает скорость. Иногда эти сотрудники также видят, как машины едва не пропускают играющих на улице детей.

Этих сотрудников называют «аннотаторами данных», и они отвечают за обучение программному обеспечению искусственного интеллекта Tesla для помощи при вождении. Они отмечают хорошее или плохое поведение при вождении и сообщают о проблемах инженерам, которым поручено улучшить систему.

Генеральный директор Tesla Илон Маск заявил, что FSD скоро позволит всем автомобилям Tesla достичь полностью автономного вождения. Но интервью Reuters с девятью бывшими аннотаторами данных и бывшим инженером Tesla Autopilot показали, что в последние месяцы технология все еще с трудом справляется с выполнением основных операций, таких как уклонение от машин скорой помощи или остановка школьного автобуса при загрузке и высадке учеников.

Несмотря на эти опасные недостатки, Маск и другие руководители все чаще рекламируют безопасность FSD, одновременно подталкивая Tesla к проведению публичных демонстраций возможностей «полного самостоятельного вождения». Эту возможность Маск обещал инвесторам каждый год в течение десятилетия. Демонстрации включают в себя пилотный проект беспилотного такси в Остине, штат Техас, который был запущен в июне прошлого года и в котором в автомобиле установлены мониторы безопасности человека, а другие контролируют удаленно.

Дисплей безопасности основан на ручном труде

По мере приближения этих демонстраций внутри Tesla сотрудники работают сверхурочно, прокладывая маршруты и обучая программное обеспечение на предмет конкретных опасностей, чтобы технология беспилотного вождения Tesla выглядела более эффективной, чем она есть на самом деле, рассказали Reuters четверо бывших сотрудников Tesla. Эти сотрудники заявили, что такая мера безопасности, в значительной степени основанная на ручном труде, просто невозможна для крупномасштабного внедрения.

Об этих усилиях по обеспечению безопасности внутри Tesla ранее не сообщалось, что подрывает давние заявления Маска. Маск уже давно заявлял, что технология беспилотного вождения Tesla вскоре сможет работать в любой точке мира без громоздкого локализованного картографирования дорог и потенциальных опасностей, требуемого конкурентами.


Tesla утверждает, что FSD может справиться с различными сценариями, но бывшие сотрудники говорят, что основные операции по-прежнему остаются проблемой.

Маск сказал, что Tesla избрала более простой подход, полагаясь исключительно на камеры и искусственный интеллект, что позволит ей расширять свою службу беспилотных такси с «суперэкспоненциальной» скоростью и позволит существующим владельцам Tesla достичь полного беспилотного вождения посредством обновлений программного обеспечения.

Маск и другие руководители Tesla также еще больше укрепили уверенность в ее возможностях беспилотного вождения, ссылаясь на статистику безопасности компании. Они утверждают, что эти данные доказывают, что FSD в 10 раз безопаснее, чем водитель-человек.

Сравнительные данные недостоверны.

Тем не менее, обзор статистической методологии Tesla, проведенный Reuters, и интервью с инсайдерами компании показывают, что Tesla все еще далека от безопасного производства беспилотных автомобилей в больших масштабах, а это обещание является ключом к поддержанию рыночной стоимости автопроизводителя в 1,6 триллиона долларов.

Обзор включает в себя: анализ Reuters того, как Tesla сравнивает свои собственные данные о авариях с федеральными данными о авариях; оценка относительно более строгих статистических методов, используемых конкурентом беспилотных такси Waymo; и интервью с 11 исследователями безопасности дорожного движения, которые рассматривали статистические методы Теслы для агентства Reuters.

Обзор показал, что за статистикой в ​​отчете Tesla по безопасности FSD было несколько неверных сравнений данных. Десять исследователей заявили, что сравнения представляют собой вводящий в заблуждение маркетинг, а не серьезное исследование критических проблем безопасности.


Модель 3 включает FSD

Например, Tesla преувеличила безопасность этой технологии, сравнив частоту аварий Tesla с подушками безопасности, сработавшими при движении с FSD, с частотой аварий для всех федеральных транспортных средств, охватывающих гораздо менее серьезные аварии. Исследователи также отметили, что компания сравнила свои автомобили со средним автомобилем в США, но средний возраст американских автомобилей намного выше, чем у Tesla. Исследователи говорят, что это искажает результаты, поскольку в последние годы все автопроизводители внедрили новые функции безопасности, которые снизили количество аварий.

"Любая новая машина намного безопаснее, чем машина 12-летней давности. Это все равно, что сказать: "Мой самолет быстрее, чем ваш бомбардировщик времен Второй мировой войны". Да, но что это значит?" — сказал Фил Купман, профессор инженерного дела в Университете Карнеги-Меллон и эксперт по безопасности беспилотных автомобилей.

Tesla не ответила на подробные вопросы Reuters для этого отчета.

В июле прошлого года финансовый директор Tesla Вайбхав Танеджа впервые заявил, что «FSD в 10 раз безопаснее» после того, как компания запустила проект беспилотного такси в Остине. Председатель Tesla Робин Денхольм повторил это заявление на конференции в ноябре. На этом собрании акционеры утвердили компенсационный пакет, по которому Маск получил до 1 триллиона долларов в акциях Tesla. На той же встрече Маск продемонстрировал диаграмму, в которой содержалось несколько консервативное утверждение, основанное на недавно пересмотренных статистических методах Tesla: «Аварийных происшествий меньше на 85%».

«Нам почти комфортно позволять людям писать сообщения и водить машину, и это потрясающее приложение», — сказал Маск акционерам. «Мы будем следить за статистикой безопасности в течение следующего месяца или двух. Но по сути мы разрешим вам отправлять текстовые сообщения и водить машину».

Однако шесть месяцев спустя Tesla все еще не разрешила пользователям отправлять текстовые сообщения и управлять автомобилем, пока включен FSD. Мелкий шрифт на официальном сайте Tesla FSD по-прежнему гласит: «Включенные в настоящее время функции по-прежнему требуют активного контроля со стороны водителя и не позволят автомобилю достичь автономного вождения». Tesla часто ссылается на этот тип заявления об отказе от ответственности, чтобы защитить себя в судебных процессах, связанных с серьезными авариями.

Не верьте Маску

Широко распространено мнение, что FSD уже способен справляться со многими сценариями вождения, иногда даже в течение длительных периодов времени. Но полное беспилотное вождение оказалось невозможным для Tesla и других компаний, поскольку технология требует, чтобы системы работали безупречно во всех сценариях, включая самые сложные дорожные условия.


Мускус

Семь бывших аннотаторов данных сообщили агентству Reuters, что не доверят ФСД управление транспортными средствами. «Мы все видели, как все пошло не так», — сказал один из них. Другой сказал, что не стал бы ездить на беспилотном такси Tesla, даже если бы ему предложили деньги. Опытный инженер по беспилотным автомобилям, который годами анализировал данные об авариях Tesla, назвал заявления Tesla о безопасности «чушью».

«Определенно не доверяйте Маску в этом вопросе», — сказал инженер.

Десять исследователей безопасности дорожного движения заявили, что предпосылка статистики безопасности Tesla по своей сути ошибочна, поскольку FSD не является настоящей системой беспилотного вождения.

Они отметили, что заявление руководителей Tesla о «сравнении с водителями-людьми» на самом деле неточно. По сути, Тесла сравнивает «средних водителей-человеков» со «средними водителями-человеками, использующими FSD».

Кроме того, в Tesla не учли, что водитель может в любой момент включить или выключить FSD. Исследования показывают, что водители склонны избегать использования передовых систем помощи водителю в сложных дорожных ситуациях (т. е. когда они считают, что технология небезопасна). Собственные данные Tesla показывают, что FSD в основном используется на автомагистралях.

Waymo более строгий

Компания Waymo, принадлежащая Alphabet, сравнивает свои полностью беспилотные беспилотные такси, которые в настоящее время развернуты в 11 мегаполисах США, с транспортными средствами, управляемыми людьми в аналогичных условиях.


Беспилотный автомобиль Waymo

Waymo применила более строгий подход, чем Tesla, тщательно изучая данные об авариях на рынках, на которых она работает, и адаптируя их к типам дорог и условиям сообщества, по которым будут передвигаться ее беспилотные такси. Waymo изучает конкретные показатели аварийности, такие как аварии с срабатывающими подушками безопасности или серьезные травмы, и сравнивает свои автомобили с показателями аварийности среди транспортных средств, управляемых человеком, на том же рынке.

«Мы должны быть очень осторожны с нашими формулировками», — сказал исследователь безопасности Waymo Джон Скэнлон. «Вам нужны очень четкие исследовательские вопросы и очень конкретные выводы».

Tesla, напротив, не добивалась экспертной оценки и не публиковала общую статистику безопасности, сохраняя при этом в секрете необработанные данные об авариях на своих автомобилях Tesla.

Развертывание системы безопасности нельзя торопить

Четыре человека, знакомые с этим вопросом, заявили, что на достижение безопасного и крупномасштабного развертывания могут уйти годы. Однако в июле прошлого года, через месяц после запуска проекта беспилотного такси Tesla в Остине, Маск предсказал, что к концу 2025 года эта услуга охватит половину населения США.

В январе Маск ложно заявил, что Tesla управляет 500 «беспилотными такси» в Остине и районе залива Сан-Франциско, добавив, что он ожидает, что это число будет «удваиваться каждый месяц» по «экспоненциальной кривой». Маск также сказал, что Tesla управляет «службой беспилотных такси» в районе залива. Но на самом деле компания просто предоставляет услуги такси по государственной лицензии. Эта лицензия обычно используется для услуг по вызову пассажиров, для которых требуются водители-люди.


Беспилотные такси Tesla в Техасе

Реальность такова, что спустя почти год после начала проекта в Остине Tesla по-прежнему управляет там всего лишь около 50 беспилотными такси, согласно недавней слайд-презентации городских властей. Три человека, знакомые с ситуацией, рассказали, что машины действовали на ограниченной и тщательно нанесенной на карту территории. По недавним наблюдениям репортеров Reuters, в некоторых из этих автомобилей до сих пор на передних пассажирских сиденьях установлены мониторы безопасности.

В апреле этого года Tesla заявила, что запускает услуги беспилотного такси в Далласе и Хьюстоне, и приложила карту зоны обслуживания.

Репортеры Reuters недавно протестировали услугу в двух городах и обнаружили долгое время ожидания и непостоянную доступность. В трех случаях, когда этому репортеру удавалось поймать такси в Далласе, беспилотное такси не смогло доставить его в пункт назначения в центре города, хотя пункт назначения все еще находился в пределах заявленной зоны обслуживания Tesla.

Каждый раз беспилотное такси Tesla высаживало его примерно в 15 минутах ходьбы от пункта назначения.