В наш век победы цифровых технологий практически над всем, кроме головной боли, многие не верят, что беспилотный автомобиль возможен уже в наши дни. А в большинстве стран мира даже его техническая реализация не означает, что правила дорожного движения позволят вам отпустить рулевое колесо и довериться автомобилю.

Но все может измениться даже раньше, чем предполагалось. Представителями Германии, Франции и Италии была пролоббирована поправка к Венской конвенции о дорожном движении, которая позволит водителям пользоваться возможностями беспилотных автомобилей на полную катушку.

Поправка позволяет передвигаться в беспилотном режиме лишь в том случае, если внутри автомобиля присутствует водитель, а также есть возможность в любой момент переключиться на ручной режим управления. Эта поправка стала возможной из-за того, что многие европейские автопроизводители всерьез занялись проектами по созданию беспилотных автомобилей.

А теперь давайте представим себе ситуацию, когда поправку приняли, а по дорогам уже вовсю колесят новые автомобили, оснащенные бортовыми компьютерами, которые умеют думать за вас. И заодно представим зарисовку: беспилотному автомобилю предстоит принять нелегкое решение – врезаться в один из двух объектов. Он может дать налево и влететь в кроссовер Volvo, а может повернуть направо и ударить MINI Cooper. Если бы вы занимались программированием автомобиля, то как бы вы "научили" его выбрать из двух зол меньшее? Это весьма деликатный вопрос.

С точки зрения физики, вы должны выбрать столкновение с более тяжелым автомобилем, который сможет поглотить часть энергии от столкновения. Это значит, что ваш беспилотник решит врезаться в Вольво. Кроме того, есть смысл врезаться в тот автомобиль, который известен своей безопасностью для пассажиров. И это снова Вольво. Не обижайтесь, поклонники Купера.

Но физика – не единственное, чем следует руководствоваться в подобной ситуации. Автомобиль, который запрограммирован так, что предпочтет столкновению не вон тот, а вот этот автомобиль, больше похож на самонаводящуюся ракету, не так ли? И это автоматически делает аморальными и античеловеческими чуть ли не все разработки по созданию полностью автономного автомобиля.

Даже если вред причинен непреднамеренно, алгоритмы для оптимизации последствий столкновения кажутся настоящей дискриминацией по отношению к водителям, выбирающим крупногабаритные машины. А что если человек не просто хочет иметь большой кроссовер, а вынужден, потому что у него большая семья с собакой? Разве это честно?

Придется смириться с тем, что некоторые дорожно-транспортные происшествия неизбежны. И даже беспилотный автомобиль с электронной реакцией и железной логикой не в состоянии убежать от судьбы. Например, какой-нибудь ненормальный олень (мы сейчас про дикое животное) может выскочить на дорогу. Или какая-нибудь дамочка, объезжая ямку, которую она заметила в последний момент, дает угла, и вот вы уже летите в тартарары. Однако, как это ни странно, беспилотный режим может оказаться весьма полезен в определенных случаях, связанных со спасением здоровья и жизни.

Большинство водителей способно реагировать, руководствуясь инстинктами. Робот же находится в состоянии постоянного сканирования окружающей его обстановки, параллельно выполняя миллионы расчетов в секунду. Так что он предупрежден и вооружен даже тогда, когда мы и понятия не имеем, что что-то может случиться.

Такие сценарии крайних случаев на практике возникают очень и очень редко, а может быть, они и вовсе невозможны в реальной жизни. Однако, воображая себе подобные варианты развития событий, мы и создаем базу для системы, которая в трудный момент обязана будет сделать выбор, который мы сделали до нее самостоятельно. Мы сами в спокойной обстановке выбрали, чем нам можно будет пожертвовать ради спасения жизней.

В первые годы испытаний автономных автомобилей робомобили находились в состоянии изоляции от внешнего мира. Их преимущественно выпускали на большие магистрали и шоссе. Они относительно просты: здесь почти нет пешеходов, и практически нет тех сюрпризов, которые зачастую приносит вождение в городской обстановке. Но Google недавно объявил, что переносит свой беспилотный прототип в городские условия, где ему предстоит столкнуться со множеством новых объектов.

А теперь порассуждаем над другим возможным сценарием. Его, кстати, поднимал в своих исследованиях Ной Гудолл, ученый из Центра транспортных инноваций и исследований. Итак, представьте, что наш герой – беспилотный автомобиль – снова попал в неловкую ситуацию, и столкновение неизбежно. Ему нужно выбрать, кого ударить: мотоциклиста в шлеме или без шлема.

Исходя из того же алгоритма, которым он руководствовался при ударе Вольво, он должен хорошенько наподдать ездоку в шлеме. Алгоритм ведь учитывает тот факт, что у мотоциклиста без шлема шансов выжить после подобного гораздо меньше. Но разве это настолько же несправедливо, насколько правильно с точки зрения оптимизации последствий аварии. Только подумайте, врезаясь в беднягу, надевшего шлем, мы наказываем его за его ответственность и предусмотрительность. И одновременно, подлец, пренебрегающий элементарными правилами безопасности, уйдет безнаказанным. А представьте себе, что будет, если подобные алгоритмы оптимизации последствий аварии действительно попадут в серию, и им дадут зеленый свет. Это только простимулирует многих мотоциклистов выбросить свои шлемы.

Одним из самых простых и элегантных решений этой отвратительной дилеммы является отказ от использования подобных алгоритмов и переход на элементарный генератор случайных чисел. Таким образом, в тех случаях, когда автомобилю предстоит сложный выбор, он не будет руководствоваться вычислениями, а просто вмажется в кого-нибудь. Это, кстати, наилучший способ сымитировать поведение человека.

Но тут возникает другая проблема. Во-первых, имитация поведения человека это не лучший способ применения генератора случайных чисел. Во-вторых, нужно вспомнить цель создания беспилотных автомобилей. Да, их создают не затем, чтобы они принимали решения лучше и быстрее, чем мы.

В будущем системы предотвращения столкновений, которыми мы пользуемся сегодня, будет недостаточно. Иногда людям все же придется сталкиваться с ситуациями, в которых авария будет неизбежна по миллиону причин: это и нехватка времени для срабатывания тормозной системы, и ошибки в технологии производства, и раскалиброванные датчики, и плохая погода и даже банальное невезение. Так что автомобили будут оснащаться системами оптимизации последствий аварии.

Чтобы свести к минимуму вред от ДТП, автомобиль должен будет просчитать в своем электронном уме тысячи переменных, и все это для того, чтобы решить, кто будет жить, а кому суждено умереть. Это один из фундаментальных вопросов этики и морали, и думать над его решением будет машина.