9 дек. 2015 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (39)




Глава Глава 82. Цена бесценного. Финал
цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Цена бесценного&  – ... Со дня, когда я приговорил своего брата к смерти, я начал сравнивать тех, кто следовал за мной, задаваться вопросами – кем я могу рискнуть, кем пожертвовать, и ради чего. Удивительно, насколько меньше фигур я потерял, поняв, сколько они стоят.

&  – И одна мысль... одна мысль не давала мне покоя. Тёмный Лорд предоставил Лили Поттер возможность уйти. Он сказал, что она может сбежать. Он сказал, что её смерть рядом с колыбелью не защитит ребёнка. «Прочь, глупая женщина, если у тебя есть хоть капля здравого смысла!..». И после этого я размышлял – и никак не мог остановиться, – не был ли Тёмный Лорд прав? Если бы только мама отступилась. Она попыталась проклясть Тёмного Лорда, хотя это было самоубийством, и она знала, что это самоубийство. Она не выбирала между своей и моей смертью. Она выбирала между своей жизнью и смертью нас обоих! Если бы она поступила разумно и ушла, то есть, я, конечно, люблю маму тоже, но сейчас Лили Поттер была бы жива и была бы моей матерью! – слёзы застилали его глаза. – Только сейчас я понял. Я понял, что чувствовала моя мать. Она не могла отступить от колыбели. Она не могла! Любовь не отступает!

Ты уже читал об экспериментах Филипа Тетлока, когда людей расспрашивали про обмен чего-то святого для них на что-то обыденное. Например, им рассказывали про администратора больницы, который должен выбрать – потратить ли миллион долларов на пересадку печени для спасения пятилетнего ребёнка или потратить этот миллион на покупку больничного оборудования или на зарплату врачей. И участники эксперимента негодовали и хотели наказать администратора больницы за то, что он вообще задумался над этим выбором. Помнишь, как ты читал об этом, Гарри Поттер? Помнишь, насколько глупым тебе это казалось? Ведь если бы больничное оборудование и зарплата врачей не спасали жизни, то не было бы смысла содержать больницы и докторов. Должен ли администратор заплатить миллион за эту печень, даже если на следующий день больница из-за этого обанкротится?
     – Заткнись! – прошептал мальчик.

     Каждый раз, когда ты тратишь деньги на то, чтобы с какой-то вероятностью спасти кому-то жизнь, ты устанавливаешь нижний предел денежной стоимости жизни. Каждый раз, когда ты отказываешься тратить деньги на то, чтобы с какой-то вероятностью спасти человека, ты определяешь верхний предел денежной стоимости жизни. Если полученные пределы противоречат друг другу, это означает, что можно спасти больше жизней за ту же цену, если переместить деньги с одной задачи на другую. Так что, если ты хочешь использовать ограниченную сумму денег, чтобы спасти как можно больше жизней, то твой выбор должен основываться на том, что человеческой жизни соответствует определённая денежная стоимость. Если выбор не основан на ней, то можно перераспределить эти деньги и найти вариант лучше. И очень глупо, очень лживо негодование тех, кто говорит, что деньги и жизнь нельзя даже сравнивать, всё, что они делают на самом деле – запрещают стратегию, которая позволит спасти больше жизней, ради фальшивых высокоморальных слов...

&  Альбус Дамблдор, кажется, думал, что Гарри действовал бы в таких ситуациях лучше, чем он.
     И Гарри знал, что, вероятно, так и есть. В конце концов он разбирается в математике.

&  Но было понятно, так или иначе, было понятно, что утилитарная этика, в действительности, не позволяет грабить банки, чтобы раздавать деньги бедным. Если отбросить все этические ограничения, то конечным итогом будут совсем не сияющее солнышко, розы и всеобщее счастье. Консеквенциализм предписывает предпринимать действия, которые приведут к лучшим последствиям по совокупности, а не те действия, которые приведут к одному положительному последствию и разрушат всё остальное в процессе. При расчёте ожидаемой пользы разрешается применять здравый смысл.
     Каким-то образом Гарри понимал это даже до того, как кто-то его об этом предупредил. Он знал об этом ещё до того, как прочёл о Владимире Ленине и о Французской революции. Должно быть, первые научно-фантастические книги Гарри предупреждали его о людях с добрыми намерениями, или, может, он увидел эту логику сам по себе. Каким-то образом он знал с самого начала, что если выйдет за пределы своей этики, какая бы ни была на то причина, итог будет плачевным.
     Затем к нему пришло последнее видение: Лили Поттер, которая стоит перед колыбелью своего ребёнка и оценивает разницу между двумя исходами: конечный результат, если она останется и попытается наложить проклятье на врага (мёртвая Лили, мёртвый Гарри); конечный результат, если она уйдет (живая Лили, мёртвый Гарри). Лили Поттер, которая взвешивает ожидаемую выгоду и делает единственный разумный выбор.
     Если бы она так поступила, именно она была бы матерью Гарри.
     – Но люди не могут так жить, – прошептал мальчик в пустом классе. – Люди не могут так жить.


Комментариев нет:

Отправить комментарий