Цитаты, только цитаты и ничего, кроме цитат

Глава 114. Заткнись и сделай невозможное

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | невозможное | Минерва МакГонагалл | Профессор Квиррелл | Альбус Дамблдор

& — Боль, что ис-спытают вс-се, кто дорог тебе, будет невообразимой...
— Заткнис-сь. Вс-се твои угрозы для меня уже ничего не значат, пос-скольку теория игр велит мне их игнорировать. Ты угрожаеш-шь мне лиш-шь потому, что ожидаеш-шь моей на то реакции, — это Гарри тоже осознал до крайности ясно. — Предложи мне что-нибудь, чего я хочу, учитель.

Глава 115. Заткнись и сделай невозможное. Часть 2

& Дети детей детей не желали бы Волдеморту смерти, пусть его приспешникам и пришлось умереть. Они не хотели бы, чтобы Волдеморт страдал, если эти страдания не служат для чего-то большего, сравнимого с отсутствием его страданий.

& Гарри глубоко выдохнул и отпустил свою... не то, чтобы ненависть... не совсем ненависть... даже сейчас он не мог ненавидеть своего создателя, но тем не менее что-то Гарри отпустил. Чувство, что он должен ненавидеть Волдеморта, что он обязан ощущать какую-то ненависть за нескончаемый список преступлений, которые тот совершил без какой бы то ни было внятной причины и даже не ради cобственного счастья...

Глава 116. Послесловие. Мне есть что защищать. Часть 0

Глава 117. Мне есть что защищать. Минерва МакГонагалл

Глава 118. Мне есть что защищать. Профессор Квиррелл

Глава 119. Мне есть что защищать. Альбус Дамблдор

& У людей должно быть хоть что-нибудь, во что они смогут верить, иначе чёрт знает, что они понапридумывают.

& На шахматной доске может быть только один король.
Есть только одна фигура, чья ценность превыше всего.
И эта фигура — не мир, а люди, его населяющие: равно волшебники и маглы, гоблины и домашные эльфы, и все прочие.
И пока в живых остаётся хоть кто-то из нас, эта фигура всё ещё в игре, пусть даже сами звёзды угаснут в небесах.
И если эта фигура будет побита, игре конец.
Знай цену остальным своим фигурам и играй на победу.
— Альбус

& ...я позаботилась направить следователей, на чьё качество работы всегда можно... положиться. А именно, аврора Ноббса и аврора Колона, которых уважают и далеко за пределами моего Департамента. Читать их отчёт было весьма занимательно...

Окончание >>

29 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (60)

Глава *.

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик

& Отсутствие свидетельства есть слабое свидетельство отсутствия.

& Чепуха, ― сказал когтевранец. ― Но, полагаю, перед смертью не повредит немного повитать в приятных фантазиях, не важно, насколько они глупые.

& От автора:
Это ваше последнее испытание.
У вас 60 часов.
Ваше решение должно, как минимум, позволить Гарри избежать немедленной смерти, несмотря на то, что он голый, у него есть лишь его палочка, а перед ним стоят 36 Пожирателей Смерти плюс воскрешённый Волдеморт в полной силе.
Если рабочее решение будет отправлено до 00:01 PST (8:01 UTC) 3 марта 2015 года, история продолжится до 121 главы.
В противном случае вы получите короткий и печальный конец.
Учтите следующее:

Гарри обязан достичь успеха благодаря собственным усилиям. Кавалерия не придёт. Все, кто мог бы помочь Гарри, считают, что он на квиддичном матче.
Гарри может использовать только то, что уже описано в книге. За ближайшие 60 секунд он не в состоянии изобрести невербальную беспалочковую легилименцию.
Волдеморт — злодей, и его нельзя уговорить стать добрым. Разговаривая с Волдемортом, нельзя изменить его функцию полезности.
Если Гарри поднимет палочку или заговорит не на парселтанге, Пожиратели Смерти выстрелят сразу же.
Если простейшая линия времени подразумевает, что Гарри умрёт, если он не в состоянии получить свой Маховик времени без помощи Маховика времени, то Маховик времени в игре не участвует.
Лгать на парселтанге невозможно.

С учётом всех этих ограничений, Гарри позволено использовать весь свой потенциал рационалиста, не важно, какие промахи он допускал раньше. Теперь или никогда!
Конечно, «рациональное решение», если вы используете слово «рациональное» правильно, лишь излишне вычурный способ сказать «лучшее решение», или «решение, которое мне нравится», или «решение, которым я бы воспользовался на его месте», и вообще вам стоило бы использовать последнюю формулировку. (Слово «рациональный» мы используем, лишь чтобы описывать способ мышления, безотносительно каких-то конкретных решений.)
А согласно принципу Винджа, чтобы точно знать, что сделает кто-то умный, вы обязаны быть не менее умным, чем он. Спросить кого-то «Какой ход посчитает лучшим идеальный игрок?» значить спровоцировать вопрос: «Какой ход, по-твоему, лучший?»
Поэтому, фактически, когда я говорю, что Гарри позволено использовать весь свой потенциал рационалиста, это означает, что Гарри позволено решить эту задачу тем способом, каким решите её ВЫ. Гарри может прийти в голову любая идея, которую вы в состоянии описать мне.
Но нельзя, например, сказать «Гарри должен убедить Волдеморта отпустить его», если вы не можете объяснить, как именно.

& Даже помня про эффект свидетеля, я полагаю, что неучастие в испытании всех тех, у кого есть более важные дела, крайне мало меняет вероятность спасения Гарри (потому что выгода от дополнительных участников уменьшается при возрастании их числа, а на данный момент над задачей думает уже очень много людей).
Поэтому, если у вас нет времени — не участвуйте.
Как и любой автор, я обожаю нежный вкус страданий моих читателей, он лучше любого шоколада. Но я не хочу навредить вам.
Точно так же, если вы страшно ненавидите такие штуки — не участвуйте! Другим этот экзамен нравится. Просто приходите через несколько дней. Я даже не ожидал, что это надо объяснять.
Напоминаю вам, что у вас есть часы на размышление. Не спеши предлагать решения, Люк.
И честно-честно говорю вам, Гарри не может изобрести новые магические возможности или обойти ранее заявленные ограничения на них за следующие 60 секунд.

28 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (59)

Глава 108. Истина. Часть 5. Ответы и загадки

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Истина | Ответы и загадки

& — Тебе не понять этого, мальчик! Я не мог это понять! Это нужно было видеть, и даже тогда в это было трудно поверить! Ты замечал, наверное, что, когда твои сокурсники разговаривают о том, чем занимаются их семьи, примерно трое из четырёх упоминают ту или иную работу в Министерстве. Возможно, тебе интересно, как может существовать страна, где трое из четырёх граждан занимаются бюрократией. Ответ в том, что если бы они не мешали друг другу заниматься своим делом, для них всех не нашлось бы работы! Авроры были хороши как бойцы-одиночки, они сражались с Тёмными волшебниками и только лучшие выживали, чтобы тренировать новичков. Но в руководстве у них творился полный бедлам. Министерство было столь занято перекладыванием бумаг, что во всей стране никто не мог эффективно противостоять нападениям Волдеморта...

& — Из всех ролей, которые я когда-либо играл, эта меня раздражала меньше всего. Если Лорд Волдеморт говорил, что нужно что-то сделать, люди ему просто подчинялись и не спорили!

& — Но истинное прозрение для меня наступило в тот день, когда Дэвид Монро пришёл просить въездную визу для одного азиатского инструктора по тактике боя, а министерский чиновник, самодовольно улыбаясь, ему отказал. ... С помощью легилименции я заставил крошечный мозг этого чиновника прожить альтернативные варианты этого разговора, я хотел увидеть, что он подумает, если на моём месте окажутся Люциус Малфой, Лорд Волдеморт или Дамблдор.
В тот день я осознал одну человеческую особенность. Она нетривиальна, поэтому я и не понимал её раньше. Впрочем, я попытаюсь тебе её описать. Теперь я понимаю, почему Дамблдор не правит миром, пусть он и председатель Международной Конфедерации. Люди открыто отзываются о Дамблдоре дурно, гордо критикуют его, иногда даже в лицо. Но повторить то же самое Люциусу Малфою они не посмеют. Ты сам действовал неуважительно по отношению к Дамблдору. Ты понимаешь, почему ты так себя вёл? ...
Волки, собаки, даже куры сражаются друг с другом за доминирующие позиции. Из разума того чиновника я наконец понял, что он чувствовал превосходство Люциуса Малфоя, чувствовал превосходство Волдеморта, но не чувствовал превосходства Дэвида Монро или Альбуса Дамблдора. Когда мы приняли сторону добра и присягнули на верность свету, в нас перестали видеть угрозу.

& — В Хогвартсе Дамблдор всё-таки наказывает за кое-какие выпады против его власти, и потому в некоторой степени его боятся — впрочем, ученики всё равно спокойно насмехаются над ним, и не только шёпотом. За пределами этого замка над Дамблдором глумятся, его начали называть безумцем, а он, как дурак, подыгрывает таким разговорам. Стоит принять роль спасителя из пьес, и люди увидят в тебе раба, которым они вправе распоряжаться, и кого они могут с наслаждением критиковать, ибо это привилегия господ — сидеть и давать ценные указания, пока рабы трудятся. Лишь у древних греков, в легендах, что сложены во времена, когда люди ещё не погрязли столь глубоко в своих заблуждениях, можно увидеть достойных героев. Гектор, Эней — эти герои сохраняли своё право на мщение тем, кто оскорблял их, они могли требовать золото и драгоценные камни в уплату за службу, и никто не думал их этим попрекать. И если бы Лорд Волдеморт завоевал Британию, он мог бы снизойти и по случаю победы продемонстрировать своё благородство. Никто бы не принял его добрую волю как должное, и никто бы не посмел сказать ему слова поперёк, если бы его деяния пришлись не по вкусу. Победив, он бы завоевал истинное уважение. ... Ты и сам свободно порицал Дамблдора и не смел так же свободно порицать меня. Готов поспорить, что так было даже в твоих мыслях, ибо тут затронуты глубокие инстинкты. Ты знал, что насмешка над сильным и мстительным профессором Квирреллом может дорого тебе обойтись, а неуважение к слабому и безвредному Дамблдору сойдёт тебе с рук.
— Спасибо вам, профессор Квиррелл, — выдавил Гарри сквозь боль, — за этот ценный урок. Вы правы насчёт того, как работал мой разум.

& иногда наши эмоции глупее, чем мы готовы признать.

& — Убивать идиотов — одна из главных радостей в моей жизни, и я бы предпочёл, чтобы ты не отзывался об этом занятии дурно, пока сам не попробуешь.

27 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (58)

Глава 104. Истина. Часть 4

Глава 105. Истина. Часть 5. Ответы и загадки

& В голову Гарри пришли четыре темы — самые важные и любопытные. Четыре вопроса, четыре предмета разговора, которые нужно постараться уместить в то время, пока варится зелье.
Четыре вопроса...
— Первый вопрос, — начал Гарри. — Что на самом деле произошло ночью тридцать первого октября 1981 года? — Чем эта ночь отличалась от всех прочих ночей... — Мне бы хотелось услышать полную историю, если вас не затруднит.

& ...со временем я приобрёл привычку, которую ты унаследовал от меня, привычку всегда задаваться вопросом, как можно что-то улучшить. Удовлетвориться заклинанием из книги, хотя оно — лишь слабая тень того, что я хотел на самом деле? Абсурд!

& Только собственный печальный опыт учит нас, какие принципы должны стоять в списке приоритетов выше, а какие — ниже. Пока они — лишь простые слова, они все звучат одинаково убедительно.

& Гарри всерьёз начал размышлять, не стоит ли ему предложить свои услуги в качестве не убивающего наместника Волдеморта на посту правителя Британии, если сам профессор Квиррелл согласится не убивать людей направо и налево. Хотя бы большую часть времени.
Но вряд ли он согласится.

& Чтобы понять цель тайного плана, посмотри на последствия и спроси себя, кому это могло понадобиться.

& — Уж вам-то не стоит называть её ребёнком, профессор. Её кодекс сработал! Он помешал вам обмануть её. Деонтологические этические ценности нужны именно потому, что аргументам, убеждающим переступить через них, следует верить гораздо реже, чем кажется. Вам не стоит критиковать её правила, ведь они сработали так, как и были должны.

& правило десятое: не следует разглагольствовать о никчёмности противника после того, как ему удалось сорвать твои планы.

& — Хорошее объяснение не должно включать в себя правдоподобные версии, о которых стало известно после события. Хорошее объяснение должно предсказывать вероятности заранее. Именно поэтому наука требует от людей сначала делать предсказания, а не верить объяснениям, приходящим в голову уже после события.

& — Я обрёл бессмертие, и мне нужна была новая цель, чтобы занять ближайшие десятилетия. Помешать маглам разрушить всё, казалось задачей подходящего масштаба и сложности. Впрочем, для смертных насекомых, возможно, и не имеет смысла заботиться о конце их мира. Зачем им утруждаться и терпеть какие-то неудобства на пути к могиле?

26 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (57)

Глава 105. Истина. Часть 2

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Истина

& — Я знаю, где живёт твоя семья в Оксфорде, и я знаю, что такое снайперская винтовка. Ты бы погиб ещё до того, как получил палочку. Надеюсь, Том, это понятно?
— Абсолютно, — прошептал Гарри. Его трясло, тело отрабатывало программу, созданную, чтобы убегать от тигров, а не применять сложные заклинания или думать. ...

& Странное ощущение: делать что-нибудь, понимая, что поступаешь неправильно. Не эгоистично, а просто неправильно на каком-то глубинном уровне.

& Гарри положил ладонь на дверное кольцо и несколько раз глубоко вдохнул, пытаясь хоть как-то успокоить мысли. Пройти через все испытания, не дать себя застрелить, не допустить смерти заложников, изменить ход событий к лучшему, найти подходящие возможности и ими воспользоваться. Решение не было хорошим, но остальные варианты казались ещё хуже.
Гарри толкнул запретную дверь и шагнул внутрь.

Глава 105. Истина. Часть 2

& Где-то в дальнем уголке сознания Гарри до сих пор теплилась мысль, что, если ему удастся воскресить Гермиону, то он сможет вернуться к этике Бэтмена — кодексу «Никто не умрёт». Большинство людей проживают всю жизнь так, что, в какие бы переделки они не попадали, из-за них никто не погибает.
Но у него уже не получится.

& ...теперь он понимал — согласие между ним и Волдемортом невозможно. Ибо не могут их несхожие души существовать в одном мире.

25 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (56)

Глава 103. Экзамен

Глава 104. Истина. Часть 1. Загадки и ответы

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Экзамен | Истина | Загадки и ответы

& В воздухе над стадионом летали, пикировали и кружились волшебники на мётлах. Они ловили, бросали друг другу, блокировали и иногда кидали сквозь парящие кольца красновато-пурпурный усечённый тетраэдр, именуемый кваффлом. Стадион сотрясался от криков радости и разочарования. Учеников в мантиях с синими, зелёными, жёлтыми и красными оторочками переполнял энтузиазм, который так легко испытывают люди в тех случаях, когда никто не требует действий от них лично.

& На задворках разума Гарри мелькали эвристики и обрывки некой абстрактной идеи. Времени облекать их в слова не было. Они вспыхивали у него в голове, обрисовывая основные контуры задачи и пути к её решению.
Я замечаю, что я озадачен тем, что...
При анализе проблемы в первую очередь нужно понять, что именно кажется наиболее невероятным...
Наиболее вероятны простые объяснения, про отдельные маловероятные события следует помнить, но не строить на их основе гипотезы...

& Понимание захлестнуло Гарри, словно вода из прорвавшейся гигантской плотины оно неслось по его разуму неудержимым потоком.
Есть только одна реальность, которая создаёт все наблюдаемые факты.
Если наблюдаемые факты указывают в различных направлениях, это означает, что вы ещё не додумались до истинной гипотезы.
И во всех таких случаях, когда в голову наконец приходит правильная гипотеза, с ней сходится всё, несмотря на отрицание и ужас. Она сметает все сомнения и все эмоции, которые встают у неё на пути.

& Реальность приняла форму единого целого, логически согласованного положения вещей, которое без привлечения лишних сущностей объясняло имеющиеся факты.

24 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (55)

Глава 102. Забота

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Забота

& Гарри уже отметил, что все магические существа, наделённые интеллектом, имеют хотя бы частично гуманоидную внешность, от русалидов до кентавров и великанов, от эльфов до гоблинов и вейл. У всех были сходные с человеческими эмоции, о многих было известно, что они скрещиваются с людьми. Гарри уже сделал вывод, что магия не создаёт новый разум, а лишь видоизменяет существ с человеческими генами. Единороги же были непарнокопытными и нисколько не напоминали гуманоидов. Они не разговаривали, не использовали орудия труда, они почти наверняка были всего лишь волшебными лошадьми. Если считается нормальным съесть корову, чтобы накормить себя на день, то не может быть неправильным выпить кровь единорога, чтобы отсрочить смерть на недели. Жизнь животного или жизнь человека — приходится выбирать.

& Глупо винить себя. Гарри знал, что это глупо, но его мозг всё равно продолжал это делать.

& Гарри однажды читал в какой-то книге, что противоположностью счастья является не грусть, а скука. Автор писал, что, когда ты хочешь быть счастливым, ты ищешь не то, что сделает тебя счастливым, а то, что тебя увлечёт. И по той же логике ненависть не была полной противоположностью любви. Даже ненависть является в своём роде уважением, которое ты испытываешь к чьему-то существованию. Если кто-то заботит тебя настолько, что ты предпочёл бы видеть его мёртвым, а не живым, значит, ты думаешь о нём.

& Что смертоноснее ненависти и не имеет предела?
— Равнодушие, — прошептал Гарри вслух секрет заклинания, которое он никогда не сможет использовать...

12 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (54)

Глава 98. Роли. Финал

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Роли | Меры предосторожности | кентавр | Авада Кедавра | пренебрежение масштабом

& Уизли знали, а Гарри не поймёт, пока не подрастёт, что теперь у них нет и не может быть больше никаких долгов перед друг другом. По мнению братьев, это был какой-то странный вид эгоизма: Гарри понимал, что такое доброта – ему никогда не пришло бы в голову просить деньги у того, кому он помог больше, чем тот помог самому Гарри (или объявить разницу долгом). Но, очевидно, он был совершенно не в состоянии осознать, что другие могут поступать так же в отношении него самого.
– Напомните мне купить вам магловский роман «Атлант расправил плечи», – произнёс бесплотный голос. – Я начинаю понимать, каким людям может быть полезно его прочесть.

Глава 99. Роли. Послесловие

Глава 100. Меры предосторожности. Часть 1

& Гарри переполняло странное ощущение пустоты. Возможно, именно это чувствуют люди, когда что-то идёт не по сценарию и они не знают, что надо говорить или делать.

Глава 101. Меры предосторожности. Часть 2

& В одной руке кентавр держал длинное деревянное копье с очень большим металлическим наконечником. Края наконечника в лунном свете не блестели. Гарри однажды читал, что блестят только тупые клинки.

& – Какая ирония... Странное слово – невинность. Оно подразумевает отсутствие знания, как невинность ребёнка, и также отсутствие вины. Только совершенно невежественные не несут никакой ответственности за последствия своих действий. Они не ведают, что творят, и потому у них не может быть намерения навредить – вот что значит это слово. ...
– Однажды я прочёл, – ответил Гарри ..., пытаясь подобрать столь же глубокомысленные слова в ответ, – что неверно думать о детях как о невинных, потому что незнание – не то же самое, что отсутствие выбора. Дети не в состоянии причинить большой вред друг другу во время своих потасовок, потому что у них для этого недостаточно сил. Некоторые взрослые такой вред причиняют. Но другие взрослые – нет. И разве эти другие взрослые не более невинны, чем дети?

& – Почему ночное небо может предсказывать будущее – это мне, конечно, неведомо. Даже само это умение достаточно трудно освоить. Могу лишь сказать, сын Лили, что, даже если ты говоришь правду, непонятно, какой в ней прок.
– Маглы поняли, что в истине кроется сила. Она есть в каждой частичке истины, и эти частички связаны друг с другом. И обрести эту силу можно, лишь открыв как можно больше истин. При этом нельзя защищать ложные убеждения, нельзя даже говорить, что ложное убеждение полезно. Может показаться неважным, действительно ли ваши предсказания основаны на звёздах или вы лишь проецируете на звёзды свои врождённые умения. Но, если вы в самом деле хотите понять прорицание или роль звёзд в прорицании, истина о предсказаниях кентавров будет иметь значение для других истин.

& – Вы... вы убили его, это была Авада Кедавра...
– Я не всегда понимаю, что другие люди считают морально допустимым, мистер Поттер. Но даже я знаю, что с точки зрения традиционной морали приемлемо убить нечеловеческое существо, которое вот-вот прикончит ребёнка волшебника. Наверняка вас не волнуют различия между человеческим и нечеловеческим, но он собирался вас убить. Вряд ли его можно назвать невинным...

& – Он пытался меня убить.
– О, ради Мерлина, да, он пытался вас убить. Привыкайте. Лишь скучных людей никогда не пытаются убить.

& – А Рубеус мог бы дорасти до этой должности. Это было... всё, что он хотел, его самая большая мечта...
– Ваша ошибка заключается в когнитивном искажении, которое мы называем «пренебрежение масштабом». Неспособности умножать. Вы думаете о том, как счастлив будет мистер Хагрид, когда узнает эту новость. Представьте будущие десять лет и тысячи учеников, занимающихся Уходом за волшебными существами, десять процентов которых заработают ожог от огневиц. Никто из учеников не пострадает настолько, насколько будет счастлив мистер Хагрид, но при этом получится сотня пострадавших учеников и лишь один счастливый учитель.
– Возможно, – ответил Дамблдор. – А твоя ошибка, Гарри, в том, что во время своего умножения ты не чувствуешь боли тех, кого ранишь.
– Может быть, – Гарри по-прежнему смотрел на свои колени. – Может быть, всё ещё хуже.

11 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (53)

Глава 96. Роли. Часть 7

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Роли

& Он не хотел моральной поддержки и утешений, он выбрал другой путь. Для самого Гарри пятью стадиями переживания горя были ярость, раскаяние, решимость, исследования и воскрешение. (А не общеизвестные «пять стадий», которые, насколько он знал, никто не подтвердил экспериментально.)

& – Вы были их другом, – сказал Гарри, поворачиваясь к Люпину, – очень долго, с самого детства.
Мистер Люпин молча кивнул.
В памяти зазвучал голос профессора Квиррелла:
Вероятнее всего, отличие совершенно не в том, что вы больше заботитесь о друге. Скорее, будучи более логичным существом, только вы думаете, что роль «друга» требует этого от вас...
– Когда Лили и Джеймс погибли, – спросил Гарри, – вам не приходила в голову мысль, что, быть может, есть какой-нибудь волшебный способ вернуть их?
– Никакая магия не может отменить смерть, – тихо ответил мистер Люпин. – Есть тайны, которых магия не в силах коснуться.
– Вы пробовали разобраться, что вы знаете и почему вы думаете, что это знаете, а также насколько вероятен такой вывод?
– Что? – переспросил мистер Люпин. – Гарри, повтори, пожалуйста.
– Я говорю, вы в принципе об этом думали?

Глава 97. Роли. Часть 8

& – Ты увидел меня, Драко, и подумал, что из всех первогодок полезнее всего было бы подружиться с Мальчиком-Который-Выжил и показать ему истину. И я подумал то же самое про тебя. Но мы по-разному представляли истину. Я не хочу сказать, что существуют разные истины. Есть разные убеждения, но лишь одна реальность, лишь одна вселенная, в которой эти убеждения становятся истинными или ложными...
– Ты мне лгал.
Гарри открыл глаза и посмотрел на Драко.
– Я бы это назвал правдой с определённой точки зрения.

& – Однажды я прочёл книгу, которую не должен был читать, и в ней было сказано: Настоящее общение происходит только между равными. Служащие лгут своим боссам, которые, в свою очередь, ожидают, что им солгут.

& Идея не допустить за время прохождения своего квеста вообще никаких смертей уже рухнула, и теперь Гарри не собирался держаться в рамках закона или даже кодекса Бэтмена – хотя, конечно, он не стал бы об этом заявлять вслух.

10 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (52)

Глава 95. Роли. Часть 6

& Будучи невидимым, он не мог посмотреть на запястье, поэтому заранее установил будильник своих механических часов на время обеда. Это навело его на вопрос – как работают его очки, пока на нём надета Мантия? Закон исключённого третьего, казалось, подразумевал, что фотоны должны либо поглощаться родопсином в его сетчатке и преобразовываться в нейронные импульсы, либо проходить его тело насквозь, но не одновременно. И казалось всё более вероятным, что свойства мантий-невидимок, позволяющие смотреть вокруг, но оставаться невидимым самому, на неком фундаментальном уровне были следствием того, что их создатель не просто «хотел», а «безоговорочно верил» в то, что именно так невидимость и должна работать.

& – Вы бы удивились, узнав, сколь часто люди знают, что они хотят услышать, но ждут, пока это не будет произнесено вслух, – профессор Квиррелл покачал головой. – Выражаясь привычным для вас языком... существует достоверный факт, известный мне, но неизвестный вам, который я хотел бы донести до вас, мистер Поттер.
– Да, этот язык мне привычен. Продолжайте.

& Для человеческого глаза все гигантские космические объекты кажутся точками, кроме одного – Млечного Пути.

& – Здесь нет войны. Ни разногласий, ни битв, ни политики, ни предательства, ни смерти, ни жизни. Всё это – лишь людская глупость. Звёзды выше подобных глупостей, глупости не могут их коснуться. Здесь царит мир и вечная тишина. Так я думал прежде.
– Так вы думали прежде? – переспросил Гарри, когда продолжения не последовало.
– Нет ничего выше человеческой глупости. Ничто не застраховано от разрушительной силы достаточно разумного идиотизма, даже сами звёзды.

& – ... Нет практического способа сделать это, не взорвав Солнце. И, предупреждая ваш вопрос, наше Солнце относится к звёздам спектрального класса G, оно просто не может взорваться. Любая дополнительная энергия только увеличит объём водородной плазмы, у Солнца нет вырожденного ядра, которое может взорваться. У Солнца не будет достаточно массы для того, чтобы стать сверхновой, даже к концу его существования.
– Какие удивительные вещи выяснили маглы о том, как живут звёзды, как они защищены от смерти, как они умирают. Но маглы никогда не задаются вопросом, насколько опасно это знание.

& – Ну, если научная фантастика и научила меня чему-то, – сказал Гарри, – так это тому, что уничтожать Солнечную систему морально неприемлемо, особенно до того, как человечество колонизирует любую другую звёздную систему.

9 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (51)

Глава 94. Роли. Часть 5

& В литературе... обычно не принято, чтобы враг следил за каждым твоим шагом, выводил из строя магические предметы, которыми тебя снабдили, а затем отправлял за тобой тролля, неизвестным образом делая его необнаружимым, так что даже постфактум никто не мог определить, как именно это было устроено, и получалось, что с таким же успехом ты мог бы и не защищаться вовсе. В книгах обычно в центре внимания находятся главные персонажи. Если враг спланированными действиями незаметно от читателя сведёт на нет всю работу протагониста, получится diabolis ex machina, а это плохо с точки зрения драматургии.
Но в настоящей жизни враг будет считать главным героем себя, и он тоже будет умён и будет думать наперёд, даже если ты об этом не знаешь. Вот почему всё происходящее выглядит таким несвязным, состоящим из разрозненных событий, которые ты не можешь понять и которые из-за этого кажутся необъяснимыми.

& – Только очень самодовольный и тщеславный человек, – спокойно ответил Дамблдор, – будет считать, что его наследник должен быть похож на него самого, а не на того, кем он хотел бы быть.

& – Ух ты. Да уж... Я вспомню это в следующий раз, когда вознамерюсь взять на себя вину за что-нибудь. Невилл, в литературе такое называется «эффектом эгоцентричности». Смысл в том, что ты переживаешь то, что происходит с тобой, но не чувствуешь всего остального, что происходит в мире. Вчера произошло очень-очень много всего, что оказалось гораздо важней, чем твоя попытка остановить меня. Ты потратишь недели, вспоминая эти шесть секунд, но, поверь, больше никто не будет этим заморачиваться. Другие люди думают о твоих прошлых ошибках гораздо меньше, чем ты сам, поскольку ты – не центр их мира. Я гарантирую тебе, что ни у кого, кроме тебя, и мысли не было обвинить Невилла Лонгботтома в том, что произошло с Гермионой. Ни на секунду. Ты, прошу прощения за формулировку – балбес.

& – Я не хочу прощаться, – ответил Невилл. – Я хочу остаться здесь и сражаться вместе с тобой против... против чего бы то ни было.
Пустота придвинулась ближе и обняла его. Голос Гарри Поттера прошептал:
– Не повезло.

8 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (50)

Главы 92&93. Роли. Части 3&4

& Отвращение при виде других людей – это плохой знак, – сказал пуффендуец. – Неразумно обвинять их в том, что у них не было возможности научиться тому же, чему научился ты. Бездействие в чрезвычайной ситуации не имеет ничего общего с эгоизмом. Это обычная инерция мышления...
Ненавидеть – бесполезно, – вторил гриффиндорец. – Это только повредит твоему человеколюбию.
Попробуй придумать методику обучения, которую можно будет использовать, чтобы такого больше не повторилось, – добавил когтевранец.
Я забегу вперёд и сделаю проверяемое предсказание, – сказал слизеринец. – Любые наши наблюдения всегда будут соответствовать гипотезе, что людей нельзя спасти, нельзя научить и что они никогда не помогут нам ни в чём важном. И да, нам нужно придумать какой-то способ подсчитывать все случаи, когда я оказываюсь прав.

& Самое важное – вывести из-под удара уязвимых друзей и близких. Возможно, это и банально, но пока у Гарри не было причин сомневаться в верности этого утверждения. Над испорченными отношениями можно поработать позже.

& Дети взрослеют. Я не буду лгать, утверждая, что в двадцать лет мы будем так же близки тебе, как сейчас. Но для нас с мамой ты останешься таким же близким, даже когда мы станем старыми и седыми и будем докучать роботам-сиделкам. Дети взрослеют и отдаляются, а родители всегда следуют за ними, готовые дать полезный совет. Дети вырастают, их характер меняется, и они совершают поступки, которые не нравятся их родителям, ведут себя с родителями неуважительно и даже выставляют их из своих магических школ, но родители всё равно не перестают их любить. Так уж устроена Природа. Хотя на случай, если пубертатный период у тебя ещё не начался и твои подростковые годы окажутся ещё хуже, мы оставляем за собой право пересмотреть это мнение.
Не важно, что сейчас происходит, помни, мы тебя любим и всегда будем любить, что бы ни случилось. Не знаю, есть ли в этой любви какая то магическая сила, но если есть, не стесняйся к ней обращаться.

& Мы оба отчаянно хотим тебе помочь. Если мы можем хоть что-то для тебя сделать, пожалуйста, сразу же сообщи. С нами не может случиться ничего хуже, чем если мы узнаем, что что-то случилось с тобой.
С любовью, папа.

& – ... Они оба должны получить баллы и... и Невилл тоже, потому что Невилл попытался сделать хоть что-то, пусть это и было неправильно, ведь поступать правильно – это уже следующий урок, сначала надо научиться вообще хоть что-то делать...

7 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (49)

Глава 91. Роли. Часть 2

& Ваши книги предали вас, Поттер. Они не сообщили вам кое-что очень важное. Из книг невозможно научиться тому, что значит потерять любимого человека. Это просто невозможно понять, не испытав на себе.

& – Пап, ты помнишь фэнтези-романы, где герою приходится скрывать всё от родителей, потому что они... они просто не поймут, будут реагировать глупо и мешать герою? Это просто сюжетный приём, верно, для того, чтобы герой сам разбирался со всеми проблемами вместо того, чтобы жаловаться родителям. П-пожалуйста, не надо следовать этому сюжетному приёму, папа, и ты тоже, мама. Просто... Просто не играйте эти роли. Не будьте родителями-которые-не-поймут. Не надо кричать на меня и давать мне родительские наставления, которым я не смогу последовать. Потому что я попал в чёртово тупое фэнтези, и теперь Гермиона... у меня на это п-просто нет сил.

& – Гарри, – сказал мужчина. – Мне нужно, чтобы ты рассказал обо всём, что произошло, прямо сейчас.
Мальчик глубоко вдохнул и сглотнул.
– Они г-говорят, что Тёмный Лорд, которого я победил, возможно, выжил. Как будто им мало, что такой с-сюжет есть в чёртовой сотне книг. При этом, очень может быть, что директор моей школы – самый могущественный волшебник в мире – сошёл с ума. А ещё, ещё Гермиону как раз перед этим подставили и обвинили в покушении на убийство – и никто не позаботился сообщить об этом её родителям. Ученик, которого она якобы намеревалась убить, – сын Люциуса Малфоя, самого могущественного политика в Магической Британии, в прошлом – ближайшего сподвижника Тёмного Лорда. На должности профессора Защиты в этой школе лежит проклятие, никто не занимает её дольше года, и есть поговорка, что учитель защиты всегда под подозрением. В этом году эту должность занимает таинственный волшебник, скрывающий свою личность, который противостоял Тёмному Лорду в прошлой войне, и он сам, возможно, злодей, а, возможно, и нет. И при этом профессор зельеварения уже много лет тоскует по Лили Поттер и, может быть, он стоит за всем этим из-за каких-то запутанных психологических мотивов, – губы мальчика горько сжались. – Кажется, я пересказал практически весь этот дурацкий сюжет.

6 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (48)

Глава 90. Роли. Часть 1

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Роли | Ответственность

& – Нет! Гермиону убил Сам-Знаешь-Кто! Не ты! Не важно, что ещё ты мог или не мог сделать, убил её не ты, это был Волдеморт! Гарри, если ты продолжишь об этом думать, ты сойдёшь с ума!
– Нет, профессор, ответственность работает не так. Когда проводишь анализ ошибок, нет никакого смысла винить ту часть системы, которую всё равно не удастся изменить в следующий раз – это всё равно, что прыгнуть со скалы и обвинить гравитацию. Гравитация в следующий раз будет совершенно такой же. Нет смысла пытаться возложить ответственность на тех людей, которые всё равно не изменят своего поведения. И если вы посмотрите на дело с такой стороны, то поймёте, что обвинять имеет смысл только самого себя, потому что именно вы и есть тот единственный человек, чьи действия вы можете изменить, возлагая на него ответственность. Вот почему у Дамблдора есть зал, полный сломанных палочек. По крайней мере, это он понимает.

& – Ответственность лежит не на тебе. Профессора... мы отвечаем за безопасность учеников, а не ты.
Гарри снова пристально посмотрел на неё.
– Вы отвечаете? Вы хотите, чтобы я считал, что ответственность лежит на вас, профессор МакГонагалл?.. Хорошо, – монотонно сказал Гарри. Я пытался поступить разумно, когда выяснилось, что Гермионы нет и никто из профессоров об этом не знает. Я просил семикурсников полететь со мной на метле и защищать меня, пока мы ищем Гермиону. Я просил о помощи. Я умолял о помощи. И никто мне не помог. Потому что вы приказали всем оставаться на месте под страхом исключения и заявили, что не примете никаких оправданий. Возможно, Дамблдор во многом ошибается, но он по крайней мере видит в учениках людей, а не животных, которых нужно держать в загоне, чтобы они не разбредались. Вы знали, что военное мышление – не самая сильная ваша сторона, сначала вы вообще собирались отправить нас по коридорам. ... когда случилось непредвиденное и было совершенно разумно послать семикурсника на быстрой метле на поиски Гермионы Грейнджер, все ученики подумали, что вы такого не поймёте и не простите. Они боялись не тролля, они боялись вас. Дисциплина, конформизм, трусость, которые вы им привили – всё это задержало меня как раз настолько, чтобы Гермиона успела погибнуть. Конечно, мне и вовсе не следовало просить помощи у обычных людей, и в следующий раз я такой глупости не сделаю. Но если бы я был настолько дурак, чтобы возлагать ответственность на кого-то, кроме самого себя, то сказал бы вам именно это.

Вот что я сказал бы, если бы считал, что вы способны за что-то отвечать. Но нормальные люди не задумываются о последствиях, когда решают, что им делать. Они просто играют свои роли. У вас в голове есть образ суровой блюстительницы дисциплины, и вы ведёте себя соответственно, разумно это или нет. Такая суровая блюстительница дисциплины, конечно, прикажет ученикам вернуться в их комнаты, даже если по замку разгуливает тролль. Она прикажет ученикам оставаться в Большом зале под страхом исключения. И тот образ профессора МакГонагалл, который живёт у вас в голове, не учится на собственном опыте и не меняется, так что в этой беседе нет никакого смысла. Такие, как вы, не способны отвечать ни за что – для этого есть такие, как я, и если мы не справляемся, то обвинять больше некого.

& – Я не испытываю большой любви к вселенной, но всё-таки я в ней живу.

& – О, ситуация ещё хуже, мистер Поттер. Среди изучавших эзотерику едва ли найдётся хоть один, кто не раскрыл бы природу магии, и каждый из них верит во что-то своё.

& – Но откуда появляются новые заклинания? Я всё время читаю о том, что кто-то изобрёл новое заклинание для той или иной цели, но нигде никогда не написано как.
– А откуда появляются новые книги, мистер Поттер? Люди, которые прочитали много книг, порой становятся способны сами их писать. Но как? Никто не знает.
– Но ведь есть книги о том, как писать...
– Чтение таких книг не сделает вас знаменитым драматургом. Можно воспользоваться всеми их советами, но тайна никуда не денется. Изобретение новых заклинаний – такая же тайна, но более высокого порядка.

& – Правило восьмое, – сказал профессор Защиты. – Любой метод, который оказался достаточно хорош, чтобы нанести мне поражение, стоит освоить самому.

5 янв. 2016 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (47)

Глава 88. Давление времени. Часть 1

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Давление времени | боязнь неловкости

& – Ну, – ответил Гарри, – знаешь, есть такие простые программы с искусственным интеллектом, типа ЭЛИЗА, которые соединяют слова в синтаксически верные предложения без какого либо понимания, что эти слова означают?
– Конечно, – сказала ведьма, – у меня в сундуке дюжина таких.
– Дело в том, что, похоже, моё понимание девочек находится примерно на том же уровне.

& Другая часть его рассудка сопротивлялась, заявляя, что об этом нельзя говорить с уверенностью, что всё сложно, и вероятность запросто может быть меньше пятидесяти процентов. Было легко представить, как он на виду у всех ударяется в дикую панику, а потом Гермиона возвращается из уборной рядом с Большим залом. Или что тролль не успеет подобраться к ней хоть сколь-нибудь близко... Вспомнилась сказка про мальчика, который кричал «волк». Если в следующий раз Гермиона окажется в беде, ему никто не поверит. Он зря растратит кредит доверия, который мог бы впоследствии пригодиться на что-нибудь другое.
Тик.
Гарри узнал проявление «боязни неловкости», из-за которого большинство людей в условиях неопределённости не делают ничего, а в итоге ситуация становится только хуже. И всё равно потребовалось поразительно много силы воли, чтобы решиться громко закричать при всех. Будет крайне неловко, если он просто не разглядел Гермиону в толпе...

& Удивительно, как плохие идеи иногда наталкивают на правильную мысль.

& Стандартное лекарство от апатии наблюдателя – сфокусироваться на одном индивидууме.

& Где-то на задворках его разума по-прежнему хохотал профессор Квиррелл. Ожидать, что обычный человек будет действовать без абсолютно понятного плана, когда он ни за что не отвечает, да ещё и имея отличный предлог ничего не делать...

Глава 89. Давление времени. Часть 2

& – ОН ЗДЕСЬ. ТОТ, КТО РАЗОРВЁТ САМИ ЗВЁЗДЫ В НЕБЕСАХ. ОН ЗДЕСЬ. ОН – КОНЕЦ МИРА.

18 дек. 2015 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (46)

Глава 87. Гедонистическая осведомлённость

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Гедонистическая осведомлённость

& – У тебя есть какой-нибудь удивительный рациональный приём, который ты применяешь, когда твои мысли начинают разбегаться?
– Обычно я идентифицирую различные желания, даю им имена и рассматриваю, как отдельных индивидуумов, а потом позволяю им спорить у себя в голове. Чаще всего это мои пуффендуйская, когтевранская, гриффиндорская и слизеринская стороны, мой Внутренний критик и копии тебя, Невилла, Драко, профессора МакГонагалл, профессора Флитвика, профессора Квиррелла, папы, мамы, Ричарда Фейнмана и Дугласа Хофштадтера.

& – Гарри, нет! Никто не должен специально объяснять, что мучить людей – неправильно. Ты не мучаешь людей не потому, что учитель говорит, что он это не разрешает, а потому что ты видишь, как люди страдают. Неужели ты не понимаешь, Гарри? Это не... не какое-то правило, вроде таблицы умножения! Если ты не можешь понять, не можешь почувствовать этого здесь, – она ударила себя в середину груди (не совсем там, где действительно располагалось сердце, впрочем не важно, в любом случае то, что она имела в виду, находилось в мозгу), – тогда у тебя этого просто нет!
– Есть книги по истории, которые ты не читала, – спокойно ответил Гарри. – Есть книги, которые ты ещё не успела прочесть, Гермиона, которые могут дать тебе увидеть перспективу. Несколько столетий назад – насколько я помню, в семнадцатом веке это ещё точно случалось – существовало популярное деревенское развлечение, когда бралась плетёная корзина, или мешок, и туда сажали дюжину живых кошек, а потом...
– Хватит.
– ...подвешивали их над костром. Просто обыденное развлечение. Невинная потеха. И надо отдать им должное, это была более невинная потеха, чем сожжение женщин, про которых думали, что они ведьмы. Потому что так устроены люди, так устроены их чувства, – Гарри приложил руку к сердцу, причём анатомически верно, потом помедлил и поднял руку, чтобы коснуться головы примерно на уровне уха, – что им больно, когда они видят, как больно их друзьям. Кому-то из тех, кто им не безразличен, кому-то из их племени. У этого чувства есть выключатель. Выключатель, на котором написано «враг» или «иностранец», а иногда просто «чужак». Если люди не учатся другому, они именно таковы. Поэтому, нет, убеждения Драко Малфоя, что причинять боль врагам – забавно, не означают, что он – бесчеловечный или даже необычайно злой...

– Если ты веришь в это, если ты вообще можешь верить в такое, значит ты – злой. Люди всегда несут ответственность за то, что делают. Не важно, что тебе говорят – действуешь именно ты. Все знают, что...
– Нет, не знают! Ты выросла в послевоенном обществе, в котором после Второй Мировой каждый знает, что «Йа только фиполнял прикас» – это ответ плохих парней. А в пятнадцатом веке их исполнительность назвали бы достойной уважения вассальной верностью, – Гарри повысил голос. – Или ты думаешь, что ты, вот ты сама, на генетическом уровне лучше, чем те, кто жили в прошлые века? Если бы тебя во младенчестве перенесли в Лондон пятнадцатого века, поняла бы ты сама, что сжигать кошек – плохо, сжигать ведьм – плохо, рабство – плохо, что тебе должно быть небезразлично каждое разумное существо?

& – ...даже несмотря на все эти волшебные странности, позволяющие мне быть взрослее, чем я должен быть, я всё ещё не достиг половой зрелости, в моей крови нет соответствующих гормонов, и мой мозг просто физически не способен влюбляться в кого бы то ни было. Вот почему я не влюблён в тебя! Я просто не могу быть влюблён в тебя! Всё, что мне известно на данный момент, это то, что через шесть месяцев мой мозг может проснуться и влюбиться в профессора Снейпа! Э-э, исходя из вышесказанного, я прав, что ты как раз уже достигла половой зрелости?

& – ...и, кроме того, я читал книги по эволюционной психологии... ну, там есть утверждения, что порядок, когда один мужчина и одна женщина живут счастливо вместе, может быть скорее исключением, чем правилом. В племенах охотников-собирателей пары гораздо чаще оставались вместе на два или три года, чтобы выращивать ребёнка, когда он максимально уязвим... и, я хочу сказать, учитывая, как много людей оказываются несчастными в традиционных браках, именно этот момент, видимо, нужно тщательно проработать – особенно, если мы действительно решим вопрос бессмертия...

17 дек. 2015 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (45)

Глава 87. Гедонистическая осведомлённость

& О да, она много плакала первые два дня, но двух дней было вполне достаточно. В книгах, которые одолжил ей Гарри, упоминалось, что даже парализованные после автомобильных катастроф люди спустя шесть месяцев были далеко не так несчастны, как они ожидали. Равно как и победители лотерей через шесть месяцев не были настолько счастливы, как они предполагали. Уровень счастья возвращался к базовому значению, и жизнь продолжалась.

& – Я хотел дать тебе больше времени, – сказал Гарри Поттер, – но я прочитал теории Критча о гедонизме и о том, как тренировать своего внутреннего голубя и как маленькие непосредственные положительные и отрицательные отклики втайне управляют почти всем, что мы делаем, и мне пришло в голову, что ты, должно быть, избегаешь меня, потому что я вызываю у тебя отрицательные ассоциации, а мне бы совершенно не хотелось оставлять всё, как есть, и дальше, ничего не предпринимая, поэтому я раздобыл у близнецов Уизли мешочек с шоколадными конфетами и теперь просто буду давать их тебе по одной каждый раз, как ты меня увидишь, в качестве положительного подкрепления, если, конечно, ты не возражаешь...
– Гарри, дыши, – машинально сказала Гермиона.

& – Довод «слишком хорошо, чтобы быть правдой» – не естественен, вселенная не проверяет, является ли результат уравнения «слишком хорошим» или «слишком плохим», прежде чем вывести его. Когда-то люди думали, что самолёты и вакцина против оспы – это слишком хорошо, чтобы быть правдой.

& Гарри потянулся к книге ... и ткнул в картинку, где художник изобразил красный камень, который светился зловещим светом и сочился багряной жидкостью. – Первая проблема в том, что нет логичного объяснения, почему один и тот же артефакт может превращать свинец в золото и производить эликсир, дающий молодость. Интересно, есть ли в литературе соответствующий общепринятый термин? Что-то вроде «Маловато будет»? Если каждый может увидеть цветок, то не получится заявить, что цветы размером с дома. Но если кто-то – уфолог, то он может всем рассказывать про летающие тарелки размером с город, или даже размером с Луну, ведь никто не видел их на самом деле. Истории о том, что можно увидеть, приходится ограничивать в соответствии со свидетельствами, но когда кто-то что-нибудь выдумывает, его не ограничивает ничего. Вот почему я думаю, что Философский Камень даёт неограниченное количество золота и вечную жизнь не потому, что существует одно магическое изобретение, способное на эти два эффекта, а потому, что кто-то сочинил сказку о супер клёвой штуковине.

& – Я не хочу лезть в твой проект, – продолжил Гарри, – и я совсем не хотел бы тебя расстраивать, но... честно говоря, Гермиона, не думаю, что ты найдёшь хорошую идею как заработать деньги в книге вроде этой. Как в том анекдоте: экономист видит банкноту в двадцать фунтов, лежащую на тротуаре, но не удосуживается нагнуться за ней, потому что, будь она настоящей, её бы уже кто-то поднял. Любой из способов заработать кучу денег, известный всем настолько, чтобы попасть в подобную книгу... понимаешь, что я имею в виду? Невозможно, чтобы кто угодно с помощью трёх простых действий мог заработать тысячу галлеонов за месяц. Иначе уже все бы этим занимались.

& – Гермиона, – серьёзно сказал Гарри, снова принимаясь рыться в своём мешочке из красного бархата, – не казни себя, когда хорошая идея не срабатывает. Чтобы найти идею, которая сработает, приходится перебрать множество ошибочных. А если ты будешь сердиться по поводу ошибочных идей и тем самым давать своему мозгу отрицательную обратную связь вместо того, чтобы понять, что сам факт генерации идеи – это хорошее поведение со стороны твоего мозга и его следует поощрять, то рано или поздно ты вообще не сможешь придумать ни одной идеи, – Гарри положил две конфеты в виде сердечек рядом с книгой. – Вот, возьми ещё шоколадки.

16 дек. 2015 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (44)

Глава 86. Проверка многомерной гипотезы

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Проверка многомерной гипотезы

& «ДА ВЫ ПРОСТО ЛЖЁТЕ!»

& Минерва была совершенно уверена, что о Времени стоит беспокоиться только в том случае, если вы – часы.

& Мы не воспринимаем этот вопрос серьёзно, как воспринимают научную проблему. Усваивать новую информацию в принципе сложно, гораздо проще от неё отмахнуться, не задумываясь. Прямо сейчас, похоже, мы встретили неожиданный, важный аргумент, но совершенно не пересмотрели свои убеждения...

& В магловском мире все исключительно умные люди, которых знал Гарри из истории, не становились злыми диктаторами или террористами. Самую близкую аналогию в магловском мире представляли разве что управляющие хедж-фондов, но и из них никто не пытался захватить какую-нибудь страну, пусть даже третьего мира, что определяло максимальные границы, в которых они могли творить и добро, и зло.

& – Послушайте... как вы не понимаете... нам Гарри Поттер так и говорил... если вы оказались не в состоянии предсказать, что что-то случится, если что-то полностью застало вас врасплох, значит, ваших старых представлений о мире недостаточно, чтобы объяснить...

& – Вы не параноик, если за вами действительно следят.

& – ...и если говоришь себе, что риск того стоит, то нет смысла возмущаться, когда приходится платить.

& – Можно сказать, что мистер Хмури проверял меня, попытаюсь ли я с ним сразиться или попытаюсь победить. То есть буду ли я играть лишь роль того, кто сражается – использовать известные мне стандартные заклинания, даже если не ожидаю, что последовательность таких действий приведёт к победе – или же буду пробовать необычные подходы, пока не найду что-нибудь, что могло бы принести победу. Это как разница между учеником, который сидит в классе, потому что все сидят, и учеником, которому не всё равно, и который спрашивает себя, что нужно, чтобы на самом деле изучить материал, и практикуется соответственно... Если посмотреть на дело под таким углом – принять во внимание, что мистер Хмури давал мне шанс за шансом и что нападать вообще не стоило, если бы я не надеялся победить – тогда я не так уж и преуспел, ведь мне потребовалось целых три попытки, чтобы его достать.

& – Если речь идёт об ужасном выборе, мистер Поттер – я думаю, что мне не стоит делать его до того момента, как мне придётся его сделать.
Гарри глубоко вздохнул. Он подозревал, что не имеет права ожидать от профессора МакГонагалл, что она скажет что-то иное. При моральной дилемме, когда вы теряете что-то в любом случае, вам в любом случае тяжело выбирать, и, отказавшись решать заранее, вы можете временно избавить себя от маленькой ментальной боли. Ценой того, что вы не сможете ничего спланировать заранее, ценой того, что вы уже смещаетесь в сторону бездействия или колебаний до тех пор, пока не будет слишком поздно... но было бы глупо ожидать, что ведьма может всё это знать.

& Бывают случаи, когда простого «Упс» мало, чтобы описать ситуацию.

15 дек. 2015 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (43)

Глава 85. Цена бесценного. Послесловие 3. На расстоянии

цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Цена бесценного

& Гарри ... открыл глаза и посмотрел на полусферу ночного неба, не требовавшего от него решений.
У самого края его поля зрения висел бледный серп Луны. Отражённый свет покинул его поверхность секунду с четвертью назад, преодолев 375 000 километров в системе отсчёта, связанной с Землёй.
Чуть выше в стороне виднелась Полярная Звезда – первая звезда, которую Гарри научился находить на небе, мысленно продолжая линию «стенки ковша» Большой Медведицы. На самом деле это была система из пяти звёзд со сверкающим сверхгигантом в центре, в 434 световых годах от Земли. Это была первая «звезда», название которой Гарри узнал от отца – так давно, что теперь не мог вспомнить, в каком это было возрасте.
Тусклым туманом по небу простирался Млечный Путь – миллиарды и миллиарды далёких звёзд, которые казались единым потоком. Плоскость галактики простиралась на 100 000 световых лет. Гарри узнал о том, что такое Млечный Путь, слишком давно, он тогда был слишком мал, и поэтому уже не помнил, удивился ли он, когда ему об этом сказали впервые.
В центре созвездия Андромеды находилась звезда Андромеда, которая на самом деле была галактикой Андромеды. Ближайшей галактикой к Млечному Пути, в 2,4 миллионах световых лет отсюда, содержащей примерно триллион звёзд.
Слово «бесконечность» бледнело перед такими цифрами, потому что «бесконечность» была безликой и пустой. Думать, что звёзды «бесконечно» далеко, было не так страшно, как пытаться прикинуть, сколько будет 2,4 миллиона световых лет в метрах. 2,4 миллиона световых лет умножить на 31 миллион секунд в году, умножить на скорость фотона, который делает 300 000 000 метров в секунду...

& Год назад папу пригласили на конференцию в Австралийский Национальный Университет в Канберре, и он взял маму и Гарри с собой. И они все вместе ходили в Национальный Музей Австралии, потому что, как внезапно выяснилось, больше в Канберре делать было всё равно нечего. В стеклянных витринах демонстрировались пращи, сделанные австралийскими аборигенами – они выглядели как ложки для обуви, только очень кропотливо отполированные, украшенные резьбой и орнаментами. За 40 000 лет, с тех пор, как современный – с точки зрения анатомии – человек мигрировал в Австралию из Азии, никто не изобрёл даже лука и стрел. Это позволяло по-настоящему ощутить, насколько неочевидна идея прогресса. С чего кому-то задумываться, что Изобретение – это очень важно, если все героические сказания его племени повествуют о великих воинах и защитниках, а не о Томасе Эдисоне? Как, тщательно вырезая пращу, можно было предположить, что однажды люди изобретут ракеты и атомную энергию?

Можно ли посмотреть на небо, на яркий свет Солнца и догадаться, что во вселенной есть источники энергии лучше, чем обычный огонь? Осознать, что, если фундаментальные законы физики допускают существование Солнца, то и люди когда-нибудь смогут прикоснуться к той же энергии? Показалось бы это возможным хотя бы в мечтах, если ни привычные действия при изготовлении пращи или плетёных корзинок, ни ритм бега в саванне, ни что-нибудь добытое на охоте не дают ни малейшего намёка?

& Есть простая теорема: если знаешь, как бы ты ответил, если бы смог заглянуть в будущее, следует выбрать этот ответ уже сейчас. Если ты знаешь, куда тебе идти, ты уже там. По аналогии (а может быть и по этой же теореме), если ты догадываешься, что подумают потомки человечества о той или иной задаче, следует просто взять это решение, как лучшую из догадок.

& Даже если предположить, что Дамблдор прав, и настоящий враг – совершенно безумное зло... Через сто миллионов лет органическая форма жизни, известная как Лорд Волдеморт, возможно, не будет сильно отличаться от других непутевых детей Древней Земли. Что бы Лорд Волдеморт ни сделал с собой, какими бы неисправимыми ни казались тёмные ритуалы по обычным человеческим меркам, всё это можно было бы исправить с помощью технологий, которые будут через сто миллионов лет. И если его убить, даже если это необходимо сделать для спасения других жизней, с точки зрения учёных будущего это будет всего лишь ещё одна смерть, о которой можно сожалеть. Как можно смотреть на звёзды и верить во что-то иное?

& Зубцы, ограждавшие площадку, были невысоки, недостаточно высоки, чтобы обеспечить безопасность. Они скорее просто обозначали край, и Гарри не стал подходить к нему слишком близко, он не хотел испытывать судьбу. Посмотрев сверху на территорию Хогвартса, он испытал предсказуемый дискомфорт, чувство дезориентации, которое обычно называют головокружением. Мозг подавал сигналы тревоги – вероятно, потому что земля была так далеко. До неё было, пожалуй, метров пятьдесят.
Отсюда, похоже, следовал вывод, что нечто должно оказаться невероятно близко, чтобы мозг смог постичь его в достаточной мере, чтобы испугаться.
Редко какой разум может похвастаться чувствительностью к тому, что не достаточно близко, не достаточно скоро, не под самым носом, не в пределах досягаемости...