Должен ли беспилотный автомобиль убить пешехода или пассажира?

• Исследователи разрабатывают эксперимент, чтобы узнать о взглядах людей на моральные решения, принимаемые искусственным интеллектом.
• Они проанализировали миллионы человеческих ответов и показали, насколько этические нормы различаются в разных культурах.

Мы вступаем в эпоху, когда перед машинами стоит задача не только минимизировать ущерб, но и распределять ущерб, который они не могут устранить. Распределение ущерба (а также благополучие, создаваемое машиной) обычно порождает компромиссы, разрешение которых находится в сфере морали.

Рассмотрим ситуацию, когда автономное транспортное средство вот-вот рухнет и не может определить путь, который спас бы всех. В таких случаях транспортным средствам необходимо будет решить, как справедливо распределить риск повреждения между разными людьми на дороге. Эти моральные дилеммы не могут быть разрешены никаким законом робототехники или этическими принципами человека.

В 2014 году исследователи Массачусетского технологического института разработали эксперимент под названием «Моральная машина», чтобы собрать взгляд человека на моральные решения, принимаемые машинами, оснащенными ИИ, такими как беспилотные автомобили. На данный момент эксперимент получил более 40 миллионов откликов со всего мира. Это дает ценную информацию о коллективных этических приоритетах различных культур.

The Moral Machine тестирует 13 различных сценариев, в которых люди решают, какой беспилотный автомобиль должен отдавать приоритет:

• Больше жизней меньше меньшего
• Мужчины важнее женщин.
• люди важнее домашних животных
• от молодого к старому
• более высокий социальный статус более низкий
• подходит вместо нездорового
• законопослушник важнее нарушителя закона

Исследователи проанализировали все ответы и выяснили, насколько человеческая этика зависит от географического положения, экономики и культуры.

Они обнаружили, что разные страны имеют разные предпочтения. Например, люди из коллективистских культур, таких как Япония и Китай, с большей вероятностью будут жалеть старых, а не молодых. В то же время страны с более индивидуалистической культурой вряд ли пощадят старых.

Ссылка:Природа | DOI:10.1038 / s41586-018-0637-6 | Моральная машина

Точно так же люди из индивидуалистических культур, таких как США и Великобритания, склонны экономить больше жизней, имея все другие возможности. Люди из развивающихся стран с более слабыми институтами более терпимы к пешеходам, переходящим дорогу, по сравнению с пешеходами, переходящими дорогу на законных основаниях.

Предпочтение сохранить персонажей с более высоким статусом гораздо менее выражено для восточных стран (Япония, Тайвань, Саудовская Аравия, Индонезия) и намного выше для южных стран (Центральная и Южная Америка, Франция).

Западные и восточные страны гораздо больше предпочитают щадить людей, чем домашних животных, по сравнению со странами Юга.

Ограничения

Несмотря на большой размер выборки, исследование имеет ряд ограничений. Например, исследователи не учитывали неопределенность судьбы персонажей. Все персонажи были признаны детьми и взрослыми со 100% уверенностью, а исход их жизни и смерти был оценен со 100% уверенностью.

Они также не вводили фактор гипотетических отношений (например, супруги и родственники) между респондентами и персонажами. Хотя эти предположения были совершенно нереалистичными, они были необходимы, чтобы эксперимент был управляемым.

Читайте:беспилотным транспортным средствам трудно обнаруживать темнокожих пешеходов

Возможно, мы не достигнем всеобщего согласия, но эти результаты могут использоваться технологическими компаниями и производителями автомобилей, чтобы лучше понять, как общественность отреагирует на этические нормы различных дизайнерских и политических решений.