Кого должны жертвовать беспилотные автомобили: пешеходов или пассажиров?

Эксперимент Moral Machine: как этика беспилотников варьируется по культурам

Исследователи разработали эксперимент для сбора человеческого взгляда на моральные решения, принимаемые ИИ. Они проанализировали миллионы человеческих ответов и раскрыли, насколько сильно этика варьируется между культурами.

Мы входим в эру, где машины encarregadas не только минимизировать ущерб, но и распределять ущерб, который они не могут устранить. Распределение ущерба (как и благополучия, которое создает машина) обычно создает компромиссы, разрешение которых попадает в моральную область.

Рассмотрим ситуацию, когда автономный автомобиль вот-вот разобьется и не может оценить путь, спасающий всех. В таких случаях автомобилям придется решать, как справедливо распределить риск ущерба между разными людьми на дороге. Эти моральные дилеммы не могут быть разрешены никаким законом робототехники или человеческими этическими принципами.

В 2014 году исследователи MIT разработали эксперимент под названием Moral Machine для сбора человеческой перспективы на моральные решения, принимаемые машинами с ИИ, такими как беспилотные автомобили. На данный момент эксперимент получил более 40 миллионов ответов со всего мира. Это дает ценные инсайты в коллективные этические приоритеты различных культур.

Moral Machine тестирует 13 разных сценариев, где люди решают, что должен приоритизировать беспилотный автомобиль:

• Больше жизней над меньшим количеством
• Мужчин над женщинами
• Людей над домашними животными
• Молодых над старыми
• Высший социальный статус над низшим
• Здоровых над больными
• Законопослушных над нарушителями закона

Исследователи проанализировали все ответы и раскрыли, как человеческая этика варьируется на основе географического расположения, экономики и культуры.

Они обнаружили, что разные страны имеют разные предпочтения. Например, люди из коллективистских культур, таких как Япония и Китай, с большей вероятностью жалеют стариков над молодыми. В то время как страны с более индивидуалистическими культурами менее склонны жалеть стариков.

Аналогично, люди из индивидуалистических культур, таких как США и Великобритания, склонны жалеть больше жизней при прочих равных. Люди из развивающихся стран с более слабыми институтами более терпимы к пешеходам, переходящим дорогу в неположенном месте, против пешеходов, переходящих законно.

Предпочтение жалеть персонажей с более высоким статусом гораздо менее выражено для восточных стран (Япония, Тайвань, Саудовская Аравия, Индонезия) и гораздо выше для южных стран (Центральная и Южная Америка, Франция).

Западные и восточные страны демонстрируют гораздо более высокое предпочтение жалеть людей над домашними животными по сравнению с южными странами.

Ограничения

Несмотря на большой размер выборки, исследование имеет множество ограничений. Например, исследователи не учитывали неопределенность о судьбах персонажей. Все персонажи были распознаны как дети и взрослые с 100% уверенностью, и исходы жизни и смерти оценивались с 100% уверенностью.

Они также не вводили гипотетический фактор отношений (например, супруги и родственники) между респондентами и персонажами. Хотя эти предположения были довольно нереалистичными, они были необходимы для сохранения эксперимента трактуемым.

Эти результаты могут быть использованы технологическими компаниями и автопроизводителями для лучшего понимания того, как публика отреагирует на этику различных проектных и политических решений.