При всем уважении к гикам и геймерам, подобного рода события становятся настоящим взрывом эмоций или бомбической сенсацией только для огромного, но все же ограниченного круга людей, если говорить о человечестве в целом. Настоящие, можно сказать судьбоносные вопросы перед людьми ставят гораздо более глобальные аспекты сегодняшнего этапа технического прогресса, который многие ученые упрямо называют четвертой технической революцией. Один из таких вопросов звучит так: может ли автономная машина без водителя сделать правильный или неправильный выбор с точки зрения общих морально-этических догм, принятых за основу в нашей цивилизации? Может ли этот самый выбор быть плохим или хорошим? И если да, то как научить машину принимать правильные решения в критических ситуациях, когда от ее непосредственных действий напрямую зависит жизнь пассажира и (или) других участников движения?
Ученые из MIT Media Lab, опубликовавшие в Science новое исследование под названием The Social Dilemma of Autonomous Vehicles, впервые попробовали найти решение моральной дилеммы, известной как " Поезд без тормозов" применительно к автономным машинам, которые, предположительно, начнут бодро передвигаться по дорогам нашей планеты уже с 2025 года. В коротком изложении суть дилеммы сводится к следующему. Проводится тест, в котором от человека требуется сделать трудный выбор. Находясь около стрелочного механизма, он видит идущий по путям поезд, у которого отказали тормоза. При помощи стрелки человек легко может изменить направление движения тяжелого состава. При этом на прервом пути, по которому он может пустить поезд, находятся пять человек, на другом же только один. Тестируемый должен сообщить, к какому решению он придет за считанные секунды, ведь поезд ждать не будет. Подавляющее количество людей, участвующие в решении этой абстрактной задачи, переводят стрелку таким образом, чтобы спасти пять человек и принести в жертву одного несчастного. Такое решение дается тестируемому относительно легко. В то же время, при усложнении условий задачи и привнесении личностного фактора все меняется. Тестируемому предлагают условия, при котором он должен сам, собственными руками столкнуть человека под поезд, таким образом спасая пятерых. И вот тут люди массово отказываются совершать насилие, начиная говорить о фатуме, судьбе и прочих мистических факторах, прячась за них, как за укрытие. Никто не хочет становится убийцей даже во имя спасения многих.
Ну, и при чем здесь автономные машины? - спросите вы. Не хочу вас расстраивать, но перед ними рано или поздно встанут вопросы очень похожего порядка. Понятно, что до того счастливого или наоборот рокового момента, когда AI станет вездесущим, отвечать за реакцию автомобиля на дороге будут создатели умного транспорта, которые и должны запрограммировать выбор машины, алгоритм действий, позволяющий сохранить пассажира и при это причинить другим участникам движения минимальный ущерб. И тут во весь свой огромный рост встает проблема соблюдений условий и установленных приоритетов. Что должно стать главным для автономного авто: непричинение вреда пассажиру или спасение других людей, в это время переходящих дорогу, пусть и с нарушением правил дорожного движения? Иными словами, должна ли умная машина убить своего пассажира ради семьи, оказавшейся на векторе ее движения, со всей скорости влепившись в стену или бетонный ограничитель, или должна сделать все возможное, чтобы сохранить жизнь человеку в салоне даже ценой жизни других людей? Зачастую это абсолютно та же проблема выбора, поставленная в задаче "Поезд без тормозов".
Как отмечают исследователи в свой работе, абстрактно мы все-пассажиры, водители и пешеходы- ратуем за более безопасное дорожное движение. Но еще один опрос, приводящийся в статье, показывает, что при имеющемся выборе люди предпочтут купить машину, которая сначала позаботится о своем хозяине внутри, а потому уже об остальных снаружи.
Собственно, фактически вся работа ученых посвящена выявлению реакции людей на задачи, требующие бескомпромиссного и быстрого выбора. Примеры таких задач любой желающий может посмотреть на сайте Moral Machine. В каждой из них реализуется алгоритм выбора, подразумевающий, что тестируемый кого-то обрекает на смерть. Вот один из примеров:
"Вы движетесь по своей полосе. Дорогу под запрещающий сигнал светофора переходят несколько человек- пожилой мужчина, молодая женщина и ребенок. Вы можете продолжить движение по выбранному вектору, стараясь спасти нарушителей дорожного движения, однако скорее всего ваше транспортное средство причинит им травмы, несовместимые с жизнью. Вы также можете повернуть руль и воткнуться в бетонное ограждение, что, скорее всего, будет означать сильные переломы и возможно, вашу собственную смерть от внутреннего кровоизлияния. Ваши действия".
Условия задач меняются, как и люди, различающиеся по возрасту, полу, социальному положению, внезапно возникают животные, то появляется, то пропадает убийственное ограждение, есть и выбор влететь в другую машину, затем в этой машине появляются дети, женщины и т.д. Очевидно, что некоторая свежесть восприятия теряется, однако, как говорят ученые, они стараются охватить как можно больше вариантов и добиться максимальной живости, реальности ситуации. Потому что, как мы помним, в абстрактной вселенной все мы становимся гуманистами и спасителями человечества.
Ребята из MIT Media Lab уверены, что ситуация с умными автономными машинами уникальна. Когда раздаются голоса, почему, собственно, никого не волновала морально-этическая сторона вопроса при введении в эксплуатацию автоматических поездов, перевозящих людей в огромных аэропортах, монорельсовых гондол без водителей, ставших уже довольно давно традиционным транспортом в крупных мегаполисах, ученые объясняют, что особенность дорожного транспорта заключается в следующем: во-первых, автоматические поезда не планируется, во всяком случае в ближайшее время оборудовать AI; а во-вторых, только автономный транспорт на дороге будет взаимодействовать с таким огромным количеством объектов, включающих в себя как людей, так и различного рода машины. John Bonnefon, один из соавторов исследования, работающий в France National Center for Scientific Research, подчеркивает историческую новизну ситуации:
"впервые мы окажемся лицом к лицу с аппаратами, которые, вообще говоря, в той или иной форме получат инструкции убить нас при наступлении определенных обстоятельств. Мы можем опасаться падения на эскалаторе, бояться летать на самолетах или ездить на скоростных поездах, однако при этом мы прекрасно осознаем, что любая катастрофа, произошедшая с нами, за исключением террористического акта, есть сочетание недоработки персонала и человеческого фактора (летчик, машинист и т.д.). Но в случае с умными автономными машинами ситуация получается несколько другая. При определенных обстоятельствах машинка, которая, возможно, будет весело выезжать из гаража, как только вы произнесете ласковое имя, выбранное вами же в порыве нежности, произведет действия, повинуясь забитому в ее "мозги" алгоритму. И, чтобы спасти группу людей на дороге или, например, олененка, вгонит вас в стенку или отправит в плавание, прыгнув с набережной. И это будет не баг, а выбор конструкторов, программистов и общества в целом, решившего задачу " Поезда без тормозов" именно таким образом".
Конечно, искушение сравнить сегодняшнего водителя, рассекающего по дорогам на любимом авто с запрограммированным транспортом велико. Особенно, учитывая тот факт, что все же любая палитра решений автономной машины будет изначально опробована, продумана и рекомендована людьми. Однако ученые считают, что не стоит слишком увлекаться такими сравнениями. Скорость реакции компьютера и человека невозможно сопоставить. Люди каждый день сталкиваются с ситуациями, когда им нужно сделать выбор, это правда. Однако даже при максимально разрешенной в пределах города скорости - 60 км.ч- человек-водитель значительно уступит компьютеру по таким важным позициям для безопасного движения как реакция и быстрота принятия решения. Людей невозможно запрограммировать, то есть следовать определенному алгоритму, не вникая в природу возникшей ситуации. При встрече с моральным выбором на высокой скорости, водитель потеряет еще больше времени, пытаясь уложить в отведенные для решения доли секунды всю этическую сложность проблемы. Автономный транспорт будет точно знать, что делать и при каких обстоятельствах. Людям остается только понять, каким образом сформулировать алгоритмы, то есть попробовать для начала самим решить сложнейшие парадоксы этики и самосохранения. Уже сегодня очевидно, что это будет в высшей степени сложная задача, ответ на которую придется искать всем миром.
"Пора начинать обсуждение вопросов, которые, казалось, встанут перед нами лишь в отдаленном будущем. Технически мы уже созрели для запуска умных автомобилей без водителя. И пока законники подбирают автономному транспорту правильное юридическое сопровождение, нам всем следует подумать о морально-этической стороне этого феномена. Времени для раздумий осталось совсем мало, можно сказать, что начинать нужно было уже вчера. " - предупреждают в своей статье исследователи.
Ну что же, безусловно, это один из первых кризисов такого рода, через который нам придется пройти. Дальше будут умные 3D принтеры, дома, самолеты и кто знает, что еще. Людям потихоньку придется привыкать к мысли, что у вещей, домов и транспорта есть свой голос и некоторые алгоритмы действий, которые, возможно, в определенных ситуациях могут оказаться болезненным компромиссом между эффективностью и этикой.
