Этот год войдет в историю — когда машины сами стали убивать людей. Как минимум одна смерть уже есть на счету автопилота электромобиля Tesla Model S, и, очевидно, она не последняя. Ведь аналогичными системами начинают оснащать свои автомобили и Mercedes-Benz, и Volvo, и...
Самое время вспомнить британский Red flag act 1865 года. Из другого переходного периода.
Это произошло 7 мая 2016 года на флоридском хайвее: Tesla Model S 40-летнего экс-морпеха Джошуа Брауна не распознала на фоне неба грузовик, водитель которого нарушил правила и не вовремя повернул налево. В момент аварии Tesla двигалась со скоростью 120 км/ч на автопилоте и вошла под полуприцеп без торможения. Энтузиаст и пропагандист возможностей тесловской электроники Браун — видеоролик «Autopilot saves Model S», в котором его «Тесси» автоматически уклоняется от подрезающего грузовичка, набрал 3,5 млн просмотров — в тот момент смотрел видео про Гарри Поттера. Чуда не произошло — Браун погиб на месте.
«Так вот где таилась погибель моя»: Tesla Model S энтузиаста Джошуа Брауна даже теоретически не могла выдержать подныривание под полуприцеп на скорости 120 км/ч
Схема флоридской аварии: светлый грузовик поворачивает налево и встает поперек дороги на фоне яркого неба. Информацию от радара борткомпьютер с прошивкой 7.1 проигнорировал
Конечно, эта смерть не единственная: например, недавно в Голландии Tesla Model S на скорости 155 км/ч вылетела с дороги в дерево. Но, как заявили представители фирмы Tesla, 53-летний голландец вел машину сам. Так ли это, мы не знаем: расшифровать все логи бортового «самописца» может только сама Tesla.
А еще раньше, в январе нынешнего года, в Китае 23-летний недавно демобилизованный военный водитель Гао Янинг на отцовском электромобиле Tesla Model S разбился на хайвее G4 под Ханьданем. Как видно на ролике с видеорегистратора, Tesla шла в левой полосе и, не тормозя, врезалась левой стороной в грузовик коммунальной службы, который полз у разделительного барьера. Кто вел машину — человек или автопилот? Неизвестно: как уверяет Tesla, сбору данных мешают повреждения машины и противодействие членов семьи погибшего, которые судятся с пекинским дилером.
Кадр с видеорегистратора машины Гао Янинга за мгновение до столкновения: ни камера, ни радар не смогли распознать медленно ползущую вдоль разделительного барьера машину коммунальной службы
И вновь подныривание: если бы «подметальный» грузовик был оснащен противоподкатным брусом, Янинг смог бы выжить
Есть примеры прямо противоположные: например, когда в штате Миссури у адвоката Джошуа Нилли за рулем случился пульмокоронарный рефлекс, Tesla Model X провезла его 20 миль до больницы на автопилоте. И тем не менее — аварий все больше. В Китае Tesla Model S 33-летнего программиста Луо Женя на автопилоте не заметила машину, припаркованную слева у разделительного барьера автострады. В США кроссовер Model X некоего Панга на второстепенной дороге, ведущей в Йеллоустоуновский заповедник, в автономном режиме притерся к ограждению и сшиб 12 столбиков. И так далее, и тому подобное... «Tesla использует нас как лабораторных крыс, испытывая на владельцах необкатанную технологию!» — возмущенно заявил журналистам мистер Панг.
И он, конечно, прав.
Люди и львы, орлы и куропатки учились распознавать окружающие предметы миллионы лет. В сетчатке человеческого глаза десять слоев и 120 миллионов палочек, а лошадь вдобавок обладает панорамным зрением и способна видеть в темноте. Однако все равно водитель грузовика может повернуть, не пропустив встречную машину. А лошади замечают все, но пугаются и несут, опрокидывая повозку. «И принял он смерть от коня своего» — старинная проблема безопасности на транспорте.
Кстати, всплеск конской аварийности пришелся на середину XIX столетия, когда на дорогах начали появляться паровые экипажи: лошадиный «автопилот» давал сбой при появлении страшной и ужасной повозки, окутанной клубами пара. Поэтому в передовой Англии в начале 60-х годов приняли Locomotive acts — несколько законов, регулирующих движение безлошадного транспорта. Самый известный — Red flag act 1865 года, согласно которому локомобилям в пределах городской черты запрещалось стравливать пар, давать свистки и развивать более двух миль в час. А перед тягачом с прицепом должен был идти человек, размахивая красным флагом.
Бред? Забота о безопасности! И именно этим сейчас занимается человечество, не допуская беспилотный транспорт до движения по дорогам общего пользования.
Нигде в мире робомобилям пока что нельзя ездить без «резервного» человека за рулем. И Mercedes Е-класса, и Volvo S90 с активированной автопилот-функцией будут просить вас время от времени подержаться за баранку — мол, не спи, не спи, художник, не предавайся сну, ты вечности заложник у времени в плену. Потому что человека природа создавала миллионы лет, а человек полирует автопилот от силы лет десять.
Tesla, например, до сих пор не использует лидары, лазерные локаторы — и постоянно на ходу совершенствует существующую систему. В последней версии прошивки 8.0 больший приоритет присвоен информации от радара — для исключения аварий, подобных майской во Флориде, когда камера не заметила грузовик из-за засветки низким встречным солнцем. Кстати, на видеоролике январской аварии в Китае за несколько мгновений до столкновения регистратор тоже ослепляет вспышка при проезде моста. Системная ошибка тесловской оптики?
Первая кровь по вине безлошадного дорожного экипажа пролилась еще в 1834 году: четверо погибли в Шотландии при взрыве котла одного из шести локомобилей Джона Скотта Расселла. Движимые двухцилиндровыми паровыми машинами 26-местные дилижансы курсировали каждый час по десятимильному маршруту между Глазго и Пейсли
Почему же тогда Tesla позволяет водителю сотни миль ехать сложа руки — и явно рискует жизнями клиентов и собственной репутацией?
Полагаю, дело в том, что глава компании Tesla Илон Маск живет будущим. Ему, визионеру и творцу, идеологически претят Locomotive acts — которые в Америке, стране свободы, так никогда и не ратифицировали. Автопилот уже создан, машина ездит? Вперед, прорвемся!
Можно провести аналогию с другим бизнесом Маска, космической программой SpaceX: чрезвычайно рискованное предприятие, в которое он, очевидно, тоже верит. Говорят, задержка с релизом тесловской прошивки 8.0 была вызвана взрывом ракеты Falcon 9 на пусковой площадке мыса Канаверал 1 сентября. Ручное управление обоими проектами? И риск — невзирая на жертвы.
Полагаю, они еще будут. Но в главном Маск насчет автопилота прав: иного пути у человечества просто нет.
В 1965 году один из основателей фирмы Intel Гордон Мур заметил, что число транзисторов на матрице микропроцессора удваивается каждые два года. За прошедшие полвека закон Мура подтвержден экспериментально: экспоненциальный рост длится и по сей день. Нынешние чипы, выращенные по 7-нанометровому техпроцессу, уже имеют до 20 миллиардов транзисторов, а тактовая частота достигает 4 гигагерц. Это значит, что через два года мы получим 40 млрд на одном «камне», к 2020-му — 80 млрд, а к 2024-му будем иметь микропроцессоры, у которых свыше 300 миллиардов транзисторов. Это больше, чем нейронов в человеческом мозгу. Который работает с тактовой частотой всего 1000 герц — на шесть порядков ниже скоростей нынешней электроники.
Если учесть темпы совершенствования программного обеспечения, это означает одно: робомобили очень скоро научатся распознавать образы не хуже человека. А на самом деле — гораздо лучше. Ведь мы водим, полагаясь на одно лишь зрение (слух и интуиция не в счет). А у робомобиля как минимум пять каналов восприятия информации: видеокамеры, ультразвуковые локаторы-сонары, лазерные лидары, системы навигации плюс облачные сервисы. Электромобили Tesla уже сейчас могут учиться друг у друга: прошивка 8.0 позволяет впередиидущей машине предупреждать остальные. Экс-хакер Джордж Хоц, который мечтает вывести на рынок универсальный автопилот за 999 долларов, предлагает всем желающим поучаствовать в совершенствовании алгоритмов по принципу нейросети, снимая поездки на обычных машинах на Android-смартфон и отправляя записи с логами на сайт comma.ai, — чтобы учить робомобили ездить правильно и безопасно.
И если сперва системы обмена данными будут внутрикорпоративными (Tesla, Volvo, Mercedes, BMW), то потом неизбежно наступит стандартизация в масштабах планеты.
А теперь представьте: миллиарды транспортных средств. У каждого — мозг, равный человеческому. Уже скоро, на дорогах мира. Скованные одной цепью. Связанные одной целью?
Вам смешно, а лучшие умы уже бьют тревогу и отнюдь не всуе поминают три закона роботехники, сформулированные фантастом Азимовым еще в 1942 году. «Робот не может причинить вред человеку или своим бездействием допустить...»
Но это — перспектива отдаленная, до нее лет 20 или 30. А пока робоорлята учатся летать. Под присмотром людей, под сенью Акта о красном флаге. Но каждый километр, который Tesla прошла на автопилоте, приближает светлое робобудущее. В котором никто не будет поворачивать, не пропустив встречный транспорт. В котором вообще исчезнут светофоры и машины пойдут сплошным потоком, как рыбы в косяке. А людей за рулем полностью заменят роботы — как в свое время паро-, электро- и автомобили вытеснили с дорог лошадей.
Человеческое вождение, конечно, останется — в виде хобби на закрытых трассах, как сейчас конный спорт. Будут и ретроавтопробеги по дорогам общего пользования, но — только в колонне в сопровождении робополицейского, передающего специнформацию для остальных робомобилей. Чтобы расступились и дали коридор.
И я на месте организаторов крепил бы на таком сейфти-робокаре маленький красный флажок. Просто так. Для красоты.
Как дань традициям.
Знаете, в чем причина всех этих аварий? В том, что Autopilot в Тесле назвали неправильно.
На всех моих машинах начиная с 1991 года был круиз-контроль, но я им не пользовался — пока в 2003-м не купил себе Мерседес SL 55 AMG, у которого был Distronic: тот же самый круиз, но с радаром, отслеживающий дистанцию до впередиидущей машины и способный тормозить. Так вот, в Тесле — не автопилот. А тот же самый активный круиз-контроль, только наученный еще и крутить руль. Это очень удобная фишка, современный автомобиль без нее все равно что без кондиционера. Но ее наличие отнюдь не обозначает, что машина сама может ехать! Она косячит, и за ней надо следить.
Вот пример. Вы едете в горах, и в какой-то момент ваша полоса по ширине становится меньше машины. Что сделает человек? Он снизит скорость и двумя правыми колесами аккуратно поедет по обочине. Что сделает автопилот Теслы? Он впадет в ступор. Для него обочины нет, он ее не видит. Поэтому Тесла начнет метаться вправо-влево и кричать «возьми управление на себя».
Или еще пример — велосипедист. Его автопилот тоже не видит. От слова «совсем». Мотоциклиста видит. Мопед тоже. А велосипед — нет. Поэтому если вы велосипедиста не объедете сами, то ближайшие несколько лет будете кушать баланду и гулять по расписанию.
И таким примерам несть числа. За автопилотом надо следить до той поры, пока миллионами реальных километров не будет прописана логика поведения машины на все случаи жизни. А такая логика пишется: во время каждого обновления Теслы, которое происходит с частотой примерно раз в месяц, завод скачивает с автомобиля телеметрию и на ее основе дополняет программы.
Но тем не менее Autopilot, как его ни назови, — это прорыв, по важности сравнимый разве что с появлением автоматической коробки в начале тридцатых. И те преимущества, которые он дает, несопоставимы с теми недостатками, которые пока у него есть.
