Расскажите о вашей задаче
Песочница

Мораль для роботов. Чему может научить машины человеческое общество

Уверен, вы прекрасно знакомы с мысленным экспериментом из этики, который называется «проблема вагонетки». Человеку предлагают роль водителя вагонетки и необходимость принять решение на развилке — переехать группу людей или одного человека. В несколько итераций в эксперимент вводят новые параметры, которые отлично демонстрируют механизмы работы человеческой морали.

А что, если такую задачу должен решить робот? Например, беспилотный автомобиль попадает в ситуацию, где нужно принять решение — кем пожертвовать. Какими моральными правилами он будет «накормлен»?

Кем готовы пожертвовать люди

Самый очевидный ответ: робот должен отражать позицию общества, а значит достаточно опросить большое количество людей и выяснить, кого и насколько легко они убивают.

Это и было сделано. В рамках проекта Moral machine собрали около 40 миллионов решений людей со всего мира с рядом параметров, создавая множественные дилеммы: сворачивать или ничего не делать, переехать одного или нескольких, убить мужчину или женщину, толстого или стройного человека, богача или бедного, старого или молодого, человека или животное и так далее.

Что получилось, можно увидеть на этой картинке:

Длина синей полоски разница в вероятностях пожалеть объект в колонке справа по сравнению с объектом слева

Получается, что общество:

  • выбирая между мужчиной и женщиной, на 13% более вероятно убьет мужчину;
  • на 18% чаще пожертвует толстым, а не стройным;
  • на 35% бедным, а не богатым;
  • на 49% стариком, а не ребенком;
  • на 58% животным, а не человеком.

Теперь можно построить шкалу сочувствия: линия, которая делит этот график — склонность жертвовать «усредненным человеком».

Самыми ценными для общества оказались младенцы (синяя шкала как раз показывает их преимущество над средним человеком).

Удивительно (и немного грустно), что на обратной шкале сочувствия находятся котики — ими готовы жертвовать не только чаще, чем собаками, но даже чаще, чем преступниками.

Три типа мышления 

Но и это еще не все. Оказалось, что весь мир можно разделить на три больших кластера по сходству принятия решений.

три больших кластера

То есть ярко выделяются три блока отличающиеся культурными аспектами морали: Западный мир, Южный и Восточный.

Жители стран, входящих в Южный кластер (страны Латинской Америки и Африки), намного более склонны жертвовать мужчинами, старыми людьми, толстыми, бедняками и чаще жалеют животных. 

Восточный (арабские и азиатские страны), напротив, реже жертвует стариками, меньше ценит богачей, стройных людей, но совсем не жалеет котов.

три больших кластера_2

Интересно, что некоторые страны выпадают из интуитивного культурного (и географического) контекста, например, Франция и Чехия, которые ближе к Южному кластеру, нежели к Западному.

Еще из интересного: в странах, где женщины живут ощутимо дольше мужчин, мужчинами жертвуют намного легче. А еще, как ни странно, чем больше классовое расслоение общества, тем более ценны в нем богатые люди.

Конечно, все это — занимательная статистика, но любопытно знать, как сильно результаты этических экспериментов (пока что?) отличаются от вектора равенства, по которому мы стараемся идти. 

И будет интересно дожить и узнать, на чем будут обучаться думающие машины: на сформированных правилах или общественной морали?

13
0
2
Обнаружили ошибку? Выделите ее и нажмите Ctrl + Enter.
Узнайте больше

Комментарии (0)

Последние комментарии

    Чтобы оставить комментарий, нужно войти

    Чтобы оставлять комментарии, переключитесь на профиль читателя

    Подписаться

    на самую полезную рассылку по интернет-маркетингу
    Cookies policy
    Просматривая этот сайт, вы соглашаетесь с нашей политикой конфиденциальности — Ok