כתבה מרתקת בNature שמעלה איך מכוניות אוטונומיות צריכות להתמודד עם שאלות אתיות. למשל, מכונית אוטומטית תזהה שהולך רגל מופיע פתאום בדרך ואין מספיק זמן בשביל למנוע את התאונה, האם צריך לעשות בלימת חרום ולהסתכן שאוטו מאחורה ייכנס בך ותסכן את הנוסע או לפגוע בהולך רגל?
איך הבחירה תשתנה אם אני אגיד לכם שהולך רגל היא בעצם אישה בהריון? ילד קטן? בן אדם זקן?
מסתבר שתשובה גם תהיה תלויה מאיזה מדינה אתם, החוקרים חיקלו את המדינות למדינות מערבייות, מזרחיות ודרומיות. תלוי לאיזה קבוצה אתם שייכים, יהיה לכם העדפות שונות. ואולי בכלל לא ניתן לקבוע כללי אוניברסליים?
https://www.nature.com/articles/s41586-018-0637-6
Ниже есть продолжение.
Представьте себе: вы едете за рулем, и прямо перед вашим автомобилем - не замечая его и смотря в другую сторону - дорогу начинает переходить человек. Вы резко ударяете по тормозам, чтобы не сбить пешехода - и в вас врезается машина сзади.https://www.bbc.com/russian/features-45942333
Что произошло? Давайте разберемся.
Вы как водитель сделали сознательный выбор, перенеся риск столкновения: с рассеянного пешехода - на себя и своих пассажиров. И выбор этот продиктован не только вашей оценкой опасности (понятно, что люди в автомобиле более защищены, чем переходящий дорогу человек), но и вашими моральными принципами.
Усложним задачу. Допустим, у вас отказали тормоза - и вы должны выбрать: задавить незадачливого пешехода или вывернуть на тротуар и сбить там сразу нескольких человек?
Выбор кажется очевидным - но что если на дороге перед вами инвалид или беременная женщина? Ведь личность пешехода вполне может повлиять на ваше решение. А если это ваш близкий друг - или даже ваш ребенок?
А теперь представьте себе, что вы пассажир, а никакого водителя в вашей машине нет - это беспилотный автомобиль, робокар. Какой моральный выбор должен сделать управляющий им искусственный интеллект - как его нужно запрограммировать?
Над этим вопросом не первый год бьются все разработчики беспилотных автомобилей - от Audi и Toyota до Tesla и "Яндекс". Но, как выяснили ученые, ответ на него сильно зависит от того, кого вы спрашиваете.
Кого спасти - старика или ребенка?
Чтобы разработать универсальный алгоритм принятия решений для беспилотных машин, ученые Массачусетского технологического института (MIT) разработали специальный онлайн-тест, пройти который мог любой желающий.
Каждому участнику опроса предлагалась дюжина гипотетических дорожных ситуаций - вроде тех, что приведены выше, - в которых водителю необходимо сделать моральный выбор, неизбежно влекущий за собой смертельный исход. Например, насмерть сбить трех пожилых пешеходов на автостраде - или направить машину в бетонный забор, убив находящихся в ней троих пассажиров.
Чтобы точнее выявить приоритеты респондентов, сценарии онлайн-теста варьировались. Кого участники спасут с наибольшей вероятностью - молодых или пожилых? Бедных или богатых? Одного ребенка или нескольких взрослых?
Масштабы эксперимента, результаты которого опубликованы в журнале Nature впечатляют: за полтора года в нем приняли участие 2,3 млн человек из 233 стран и территорий (тест специально перевели на десяток языков). В общей сложности ученые собрали почти 40 млн ответов. И, проанализировав эту огромную базу данных, они сделали несколько важных выводов.
Первый - и, пожалуй, самый важный из них: моральные приоритеты сильно зависят от страны проживания. Авторы исследования выделили три типа стран, которые они условно назвали "западными", "восточными" и "южными". Условно - потому что Франция, например, попала в "южный тип", а вот Египет - в "восточный".
"Западники" чаще предпочитали спасать более молодых людей, а "восточники" - более пожилых. Представители "южных" стран чаще отдавали предпочтения женщинам и детям, а также людям, обладающим более высоким социальным статусом.
На удивление, люди, занимающие более высокое положение в обществе, вызывали больше симпатий и у жителей "западных" стран - по сравнению с "восточными".
Зато "восточные" жители почти не принимали в расчет разницу в количестве спасенных жизней, основывая свои предпочтения на других факторах.
Второй вывод: ответы зависят и от демографических показателей участников эксперимента, таких как пол, возраст и так далее - но уже далеко не так сильно.
И третий - возможно, довольно очевидный: моральный выбор сильно коррелирует не только с глубоко укорененными в культуре представлениями об этике, но и с современным состоянием гражданских институтов.
Например, жители относительно богатых стран с сильной и независимой судебной системой (Финляндии и Японии) проявляли куда меньше симпатий к пешеходу, вышедшему на дорогу в неположенном месте, чем респонденты из Нигерии или Пакистана.
Более подробную карту и график расхождения в приоритетах можно посмотреть на сайте журнала.
"Универсальных правил нет"
Опрос, проведенный в 2016 году, выявил довольно интересный парадокс. С одной стороны, большинство респондентов заявили, что беспилотный автомобиль должен ставить во главу угла безопасность пешеходов, даже если это означает дополнительные риски для пассажиров. С другой - люди признавались, что сами не стали бы покупать машину, запрограммированную подобным образом.
Именно это сподвигло ученых MIT на создание онлайн-теста Moral Machine, в разработке которого приняли участие психологи, антропологи и экономисты со всего мира.
"Люди, размышляющие о машинной этике, исходят из того, что можно создать для роботов какой-то идеальный набор правил. Но наши данные показывают, что никаких универсальных правил нет", - утверждает один из авторов исследования Ияд Рахван.
Сам Рахван родился в Сирии, окончил университет в Австралии, а теперь работает в США. Впрочем, по результатам эксперимента все эти три страны попали в "западный" кластер.
Понятно, что в повседневной жизни мы крайне редко сталкиваемся с необходимостью делать подобный выбор. Критики исследования справедливо задаются вопросом, можно ли вообще предлагать сидящему перед компьютером человеку подобные гипотетические сценарии, ставить перед ним умозрительный вопрос жизни и смерти - и полагаться на его выбор?
Однако авторы работы утверждают, что так или иначе моральный выбор водителям приходится делать каждый день - пусть и не со столь драматичными последствиями. И выявленные тестом культурные различия необходимо принимать во внимание как производителям беспилотных автомобилей, так и законодателям.
Как отмечает Nature, представители Audi уже согласились с тем, что результаты теста помогут им в обсуждении проблем, стоящих перед разработчиками беспилотных машин.
Остальные компании, тестирующие беспилотные автомобили, в том числе Toyota и Uber, от комментариев отказались.
No comments:
Post a Comment