Маркус считает, что в сфере беспилотных автомобилей все еще существуют «крайние случаи», которые еще не решены и не должны круглосуточно тестироваться на дороге.Статья New York Times о беспилотных автомобилях в 2016 году начиналась так: «Наступила эра беспилотных автомобилей, и некоторые автопроизводители вложили миллиарды долларов в исследования и разработки… и начали испытания в некоторых городах США». Прошло семь лет, где же было беспилотное вождение?
Гэри Маркус, почетный профессор психологии и нейробиологии Нью-Йоркского университета, высказал некоторые взгляды на эту тему. Он сказал, что в этой области все еще существует проблема, которую Маркус подчеркивал десятки раз за последние несколько лет, а именно крайние случаи, нестандартные ситуации, которые часто сбивают с толку алгоритмы машинного обучения.
Чем сложнее ситуация, с которой сталкиваются беспилотные автомобили, тем больше будет неожиданных аномалий. А реальный мир сложен и хаотичен, и мы не можем перечислить все возможные нестандартные события, которые могут произойти. Никто еще не придумал, как построить беспилотный автомобиль, способный справиться с этим фактом.
Маркус сказал, что впервые он подчеркнул основные проблемы, которые возникают в крайних случаях при автономном вождении, в интервью в 2016 году. «В то время я устал от шумихи и, наконец, отказался от этой точки зрения. Теперь, когда я перечитываю эту расшифровку, я думаю, что она все еще применима».
Технологический прогресс, который мы видим сейчас, во многом обусловлен крупномасштабными методами грубого взлома, такими как суперкомпьютер Deep Blue и игровая система Atari. Развитие этих технологий чрезвычайно волнует человечество. В то же время, если вы говорите о роботах для дома или роботах, ездящих по улице, ажиотаж не такой высокий.
Вообще говоря, беспилотные автомобили хорошо работают в нормальных условиях, например, при безопасном вождении в солнечные дни. Но если они будут помещены в сложные условия, такие как снег и дождь, беспилотное вождение станет очень плохим. Ранее американский журналист и редактор Стивен Леви написал статью об автономном вождении Google. В статье упоминалось, что Google одержал крупную победу в 2015 году, и эта победа заключалась в том, что система могла автоматически идентифицировать листья.
Идентификация листьев слишком проста для людей, но это было бы большим достижением для беспилотных автомобилей. Люди могут использовать здравый смысл, чтобы рассуждать и выяснять, что это за штука и как она туда попала, но система беспилотного вождения просто что-то запоминает и ей не хватает рассуждений, и это ограничение, с которым сталкиваются беспилотные автомобили...
Люди с нетерпением ждали более зрелых технологий беспилотного вождения. Всего несколько дней назад Комиссия по коммунальным предприятиям Калифорнии разрешила компаниям, занимающимся беспилотными автомобилями Cruise и Waymo, круглосуточно работать в Сан-Франциско. Это решение предоставляет обеим компаниям большую свободу действий в тестировании своих автомобилей. После объявления этой новости многие говорили, что эра беспилотных автомобилей наступила, хотя и позже, чем ожидалось.
На самом деле, у нас пока нет по-настоящему беспилотных автомобилей, и, как несколько месяцев назад в моем подкасте «Люди против машин» объяснил Кейд Мец, известный американский журналист, у каждого беспилотного транспортного средства на дорогах общего пользования будет либо водитель-безопасник, либо какой-то человек, который будет удаленно контролировать, чтобы помочь транспортному средству выбраться из неприятностей.
Теперь в сфере автономного вождения появляются новые пограничные случаи, например, столкновение Tesla с припаркованным самолетом.
Маркус сказал, что независимо от того, на каком объеме данных обучаются эти системы, всегда будут возникать новые ситуации.
Совсем недавно еще десять беспилотных автомобилей потеряли связь с центром управления полетами. Без присмотра центра управления беспилотные автомобили терялись, останавливались посреди улицы и множество других аварий:
Область автономного вождения постоянно меняется, поэтому многие исследователи, в том числе Маркус, не понимают подход Калифорнийской комиссии по коммунальным предприятиям.
Было бы безумием тестировать беспилотное вождение где угодно и когда угодно без строгого, тщательно проверенного решения для крайних случаев. Это касается не только беспилотных автомобилей, но и других областей, основанных на машинном обучении.
Пограничные случаи встречаются повсюду, и любой, кто думает, что все легко исправить, обманывает себя.
Нам необходимо ужесточить наше управление, и если мы этого не сделаем, в ближайшие годы мы можем стать свидетелями крупных аварий с беспилотными автомобилями, автоматизированными врачами, универсальными виртуальными помощниками, домашними роботами и многим другим.
В конце статьи Маркус заявил, что выполнил эту статью на самолете, оснащенном автопилотом. В течение 9-часового полета все время работал автопилот, а также в этот период были задействованы люди, что представляло собой «человека в цикле». В конечном счете, Маркус не думает, что будут автономные самолеты, и он не думает, что какие-либо квазиавтономные автомобили еще одобрены.