29 мар. 2015 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (4)



Глава 8. Положительная предвзятость
цитаты, Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик&  – Могу чем-то помочь?
     – Только если назовешь шесть ароматов кварков или скажешь, как найти первокурсницу Гермиону Грейнджер.
     – Верхний, нижний, странный, очарованный, истинный, прелестный, и почему ты ищешь Гермиону Грейнджер?

&  – Есть игра, основанная на известном эксперименте «Задание 2-4-6». Суть игры в следующем. Существует известное только мне правило, которому подчиняются определённые тройки чисел. 2-4-6 – это один из примеров тройки, подходящей под правило. А вообще... давай, я запишу правило на бумажке, просто, чтобы ты знала, что оно зафиксировано, сверну листок и отдам его тебе...
     Правила игры такие. Ты сообщаешь мне тройку чисел, и если эта последовательность описывается правилом, то я говорю «да», а в противном случае – «нет». Я – Природа, правило – один из моих законов, и ты изучаешь меня. Ты уже знаешь, что тройке 2-4-6 соответствует «да». Когда ты проведёшь все тесты, какие захочешь, то есть назовёшь столько троек, сколько посчитаешь нужным, остановись и попробуй угадать правило, а затем можешь развернуть листочек и посмотреть, права ты или нет. Суть игры понятна? ...

&  – То, что с тобой сейчас происходило, называется «положительной предвзятостью». У тебя в голове было правило, и ты раздумывала над тройками, которые подойдут под это правило. Ты не попыталась найти тройку, ответом на которую будет «нет». Ты вообще не получила ни единого «нет», так что правилом легко могло быть даже «любые три числа». Обычно люди предпочитают проводить эксперименты, которые подтвердят их гипотезы, а не те, которые их опровергнут. У тебя – почти такая же ошибка. Необходимо учиться смотреть на отрицательные стороны вещей, пристально вглядываясь в темноту. При проведении этого эксперимента только двадцать процентов взрослых доходят до правильного ответа. Большинство же изобретает фантастически сложные гипотезы и абсолютно уверены в правильности своего варианта. Особенно после многочисленных экспериментов, подтвердивших их ожидания.

&  – Я, конечно, согласен, что мой поступок выглядит ужасным, унижающим, гадким, особенно раз он касается напуганного маленького мальчика, но суть в другом. Правильность поступка определяется не тем, как хорошо он выглядит или что он значит, а тем, каковы его последствия. Это, кстати, называется консеквенциализм.

&  – Итак, – продолжил Гарри Поттер, – какие области науки тебе знакомы? Я изучал высшую математику, немного разбираюсь в теории вероятностей Байеса и теории принятия решений, достаточно хорошо знаю когнитивистику. Я читал первый том лекций Фейнмана, «Суждение при неопределённости: эвристика и предвзятость», «Язык в мысли и действии», «Психологию влияния», «Рациональный выбор в неопределённом мире», «Гёделя, Эшера, Баха», «Шаг в будущее»...


Глава 9. Название скрыто. Часть 1
&  Умные дети – в Когтевране, хитрые – в Слизерине, искатели приключений – в Гриффиндоре, а те, кто по-настоящему работает – в Пуффендуе.

&  На задворках его сознания мелькнул вопрос, обладает ли Распределяющая шляпа разумом, то есть осознает ли она себя мыслящим существом, и если так, не скучно ли ей общаться лишь с одиннадцатилетними детьми единственный раз в год? Да и её песня как бы намекала: «Я болтливая шляпа, и всё о’кей. Я сплю весь год, поработав день...»

Глава 10. Самосознание. Часть 2
То есть если тебя наденет кто-то ещё, кого также занимает вопрос, обладает ли Распределяющая шляпа самосознанием...
     – Да, да. Но абсолютное большинство прибывающих в Хогвартс одиннадцатилетних детей не читали «Гёделя, Эшера, Баха».


Но все мои планы...
     – Так перепланируй! Нельзя всю жизнь пускать под откос из-за нежелания немного пошевелить мозгами, сам понимаешь.


&  В тревожной тишине зала раздалось одно-единственное слово:
     – СЛИЗЕРИН!

&  – Шутка!

Глава 11. Дополнительные материалы № 1, № 2 и № 3



Комментариев нет:

Отправить комментарий