Про несуществующую «моральную проблему» беспилотных автомобилей

Консерваторы и панические бояки всего нового рассуждают над какой-то выдуманной «моральной проблемой»: мол, в критической ситуации кого будет «убивать» робот-автопилот — пассажира/ов или неких пешеходов, внезапно оказавшихся на пути следования автопилота.

Одна из типично некорректных иллюстраций. Робот несётся в бетонную стену? Серьёзно? Он просто начнёт торможение заблаговременно.
Одна из типично некорректных иллюстраций. Робот несётся в бетонную стену? Серьёзно? В реальности он просто начнёт торможение заблаговременно.

Вообще, очень много так называемых парадоксов и проблем, над которыми ломают голову теоретики, порождены не какими-то реально существующими в природе вещами, а просто некорректной формулировкой. Типичный пример: «В городе живёт брадобрей, который бреет всех, кто не бреется сам». Парадокс типа в том, что не понятно — бреется ли сам брадобрей.

Лично мне всегда было не понятно другое — почему фраза, ставшая условием задачи, воспринимается как абсолют? Очевидно, что ошибка в ней, в самом условии задачи, а не в брадобрее или городе, в котором он живёт. Ну скажи ты: «Брадобрей бреет себя и тех, кто не бреется сам» — всё, парадокса никакого нет.

Какое отношение это имеет к «моральному выбору»? Логика та же самая — искусственно создана чисто теоретическая проблема, которой в реальности не существует. Объясню почему.

Немного более адекватная иллюстрация
Немного более адекватная иллюстрация

Что такое автопилот? Сама концепция такого робота предполагает, что он будет полностью и неукоснительно соблюдать ПДД. Не только прямые указания, но и рекомендации. Но и сами указания местами довольно пространны. Для тех, кто не знает ПДД, процитирую интересный отрывок, на основании которого немало людей объявлены виновными в ДТП:

«10.1. Водитель должен вести транспортное средство со скоростью, не превышающей установленного ограничения, учитывая при этом интенсивность движения, особенности и состояние транспортного средства и груза, дорожные и метеорологические условия, в частности видимость в направлении движения. Скорость должна обеспечивать водителю возможность постоянного контроля за движением транспортного средства для выполнения требований Правил.»

Иными словами, неукоснительно соблюдая ПДД, робот должен (и будет) не просто не превышать скорость, но вообще выбирать наиболее оптимальную на данном участке для его машины скорость. Для этого у него, разумеется, будет куча датчиков, точно измеряющих даже такой недоступный простому неподготовленному человеку параметр, как проскальзывание колёс.

Далее. Затык у многих людей при рассуждении на тему «моральной проблемы» возникают из-за того, что главное действующее лицо — робот. Давайте представим, что главное действующее лицо — человек. Потому, что именно человек будет программировать этого робота и именно человек будет определять, какая реакция должна быть у робота.

Итак, человек, неукоснительно соблюдающий ПДД, едет по трассе с довольно большой скоростью. Скорость находится в диапазоне разрешённой и полностью адекватна текущей ситуации: достаточная видимость, достаточное сцепление с покрытием, достаточно хорошее состояние ТС.

Внезапно на его пути возникает пешеход. Отметим: это не нерегулируемый пешеходный переход, т.к. на нём соблюдающий ПДД водитель должен пропустить пешехода, а значит такой водитель заранее отслеживает подходящих к ПП пешеходов. Кроме того, согласно ПДД водитель снизит скорость перед этим пешеходом, даже если никого рядом не заметит — просто на всякий случай.

Таким образом, это либо участок трассы, на котором пешехода вообще не должно быть, либо это пешеходный переход с зелёным сигналом светофора для автомобилей и красным — для пешеходов (хотя и в этом случае водитель, по крайней мере робот точно, всё равно будет следить — не захочет ли какой-нибудь идиот перейти дорогу).

Короче говоря, происходит ситуация, в которой автомобиль едет там где надо и с адекватной скоростью, а пешеход нарушает не только ПДД, но и правила здравого смысла.

Итак. Что будет делать человек-водитель в такой ситуации? Как правило, человек инстинктивно пытается уйти от столкновения — бьёт по тормозам или крутит руль или и то и другое сразу. Можете считать, что варианты перечислены по мере уменьшения опыта.

Крутить руль и тормозить одновременно бесполезно, т.к. поворот колёс вместе с торможением приводит к заносу, а торможение в любом случае уменьшает эффективность поворота.

Кстати, я слышал версию (как не специалист не могу её прокомментировать, но считаю нужным высказать), что Титаник именно потому врезался в айсберг, что были отданы одновременно команды «право на борт» и «полный назад». Версия говорит, что если бы была отдана любая из этих команд (или вообще никакая из них) — Титаник бы выжил. Только «право на борт» — скорее всего, успел бы повернуть влево. Только «полный назад» — затормозил бы носом в айсберг, кто-то бы наверняка погиб разбив голову о стенку, но корабль бы остался на плаву и большинство пассажиров бы спаслось.

Но возвращаемся к нашей ситуации с автомобилями.

Изменить траекторию движения действительно иногда бывает полезно, но тут есть несколько моментов — ПДД запрещают манёвры, которые могут создать помеху другим участникам движения, если у вас нет приоритета (хотя даже если и есть — тоже). Короче говоря, выворачивать непонятно куда — тоже плохое решение. Для человека (отметим пока это для себя), т.к. уворачиваясь от внезапно возникшей ситуации на дороге человек не успеет мгновенно оценить безопасность манёвра. Если вы уклоняясь от ДТП стали виновником другого ДТП — оправдываться вам будет нечем.

В общем, остаётся только один вариант — тормозить не меняя траектории движения. Причём, тормозить не допуская блокировки колёс. Есть даже такое негласное правило: «бей в своей полосе». Суть его в том, что статистически безопаснее (в том числе с точки зрения опасности стать виновным в ДТП, возможно даже куда более крупном, чем то, от которого вы пытались увернуться) тормозить «в своей полосе». Не успел затормозить — ну что ж… бывает.

«Бить в своей полосе» другие ТС, конечно, морально легче, чем пешеходов. И тем не менее.
«Бить в своей полосе» другие ТС, конечно, морально легче, чем пешеходов. И тем не менее.

Иными словами, более-менее опытный водитель не будет никуда сворачивать и будет пытаться остановиться не меняя траектории движения. Ещё более опытный может успеть быстро оценить ситуацию и если всё-таки найдёт возможность для безопасного манёвра — выполнит его. Но тут есть ещё один нюанс — если возникшее на дороге препятствие — человек (а ведь именно такой вариант мы и рассматриваем), то, в свою очередь, он тоже может резко рвануть в любую сторону. В том числе, в ту, через которую водитель планирует объезд. Так что, да, всё же лучше тормозить в своей полосе.

Поэтому программой по умолчанию для робота в описанной  ситуации будет — применение экстренного торможения. Правда, тут есть один нюанс. Помните, я просил вас отметить «для человека» парой абзацев выше? Робот, благодаря куче датчиков, гораздо лучше человека осведомлён о том, что происходит вокруг его автомобиля. И робот как раз может найти вариант безопасного манёвра — он просчитает его за долю секунды (даже с учётом возможных отскоков пешехода), тогда как человек мгновенно принимает решения лишь исходя из собственного опыта, «на инстинктах». Не было подобного опыта — нет и инстинктов. А у робота они изначально есть, «с конвейера».

Для робота время психической и физической стремится к нулю
Для робота время психической и физической стремится к нулю

В общем, какую бы ситуацию на дороге вы ни придумали, даже чисто теоретически робот с ней справится лучше.

А всем боякам технического прогресса советую помнить, что «ошибки техники» — это ошибки человека. Однако если робот может неукоснительно следовать программе, то человек — нет.

Таким образом, нет никакой «моральной проблемы», есть ПДД и здравый смысл — для тех, кто не знает ПДД. И если пешеход выбегает в неположенном месте на трассу, по которой несутся автомобили — то… тут уж как повезёт. И не важно, кто за рулём — робот или человек. Не повезло — ну пешеход сам себе злобный Буратино.

Поделиться в соц. сетях

Опубликовать в Facebook
Опубликовать в Google Plus
Опубликовать в LiveJournal
Опубликовать в Мой Мир
Опубликовать в Одноклассники
Опубликовать в Яндекс