17 июн. 2015 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (10)

HPMOR


Глава 23. Убеждённость в убеждениях
цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | ДНК | эволюция&  – Закон науки, Драко. Сначала я сообщаю тебе теорию и предположения. И только потом ты показываешь собранные тобою сведения. Так ты можешь быть уверен, что я не придумываю теорию на ходу, чтобы она подходила к данным: ты будешь знать, что теория заранее предсказала полученные тобой результаты. Мне в любом случае пришлось бы тебе всё объяснить, так что лучше делать это перед тем, как ты предоставишь мне факты. Такое вот правило.

&  – Тайна крови, – сказал Гарри Поттер напряжённым голосом, – называется дезоксирибонуклеиновой кислотой. Сообщать это название не учёным нельзя.

&  – Драко... Мне очень жаль, Драко, но ты не веришь. Ничуть. Я могу это доказать. Представь: кто-нибудь тебе говорит, что у него дома живёт дракон. Ты отвечаешь, что хочешь на него посмотреть. Тебе сообщают, что это невидимый дракон. Прекрасно, говоришь ты, в таком случае ты хочешь его услышать. Тебе говорят, что это совершенно бесшумный дракон. Ты объявляешь, что бросишь в воздух муку, чтобы увидеть его контуры. Тебе объясняют, что мука проходит через этого дракона насквозь. И, говоря всё это, объясняющий заранее знает, какой именно результат эксперимента ему нужно объяснить в свою пользу. Знает, что всё пройдёт так, как будто никакого дракона нет, знает заранее, оправдание чему он должен выдумать. Возможно, этот кто-то лишь утверждает, что дракон существует. Возможно, он верит, что он верит, что дракон существует. Это называется «убеждённость в убеждении». Но на самом деле он не верит, что дракон существует. Ты можешь искренне заблуждаться в том, каковы твои истинные убеждения – большинство людей не замечают разницу между верой во что-нибудь и убеждённостью в том, что верить в это правильно.

&  – Прошу прощения. Но то, что может быть разрушено правдой, должно быть разрушено.


Глава 24. Гипотеза макиавеллианского интеллекта
Проверь.
     «Сегодня в тебе проснулся учёный, – говорил Гарри Поттер, – и даже если ты никогда не научишься использовать свою силу, ты всегда... будешь искать... способы... проверить... свои убеждения... »


&  Тогда отец и рассказал Драко о Правиле Трёх, которое гласило, что каждый план, выполнение которого зависит от более чем трёх различных событий, в реальной жизни обречён на провал.
     Отец также добавил, что только глупец строит планы предельной сложности, а значит следует ограничиться двумя событиями.

&  Его ход в партии против Грейнджер и впрямь был умён. Может, даже гениален. Притупить подозрения врага дружеским отношением и ненавязчиво сделать своим должником, чтобы получить возможность им манипулировать, просто попросив.

&  Ладно. Он не будет убивать Гарри. Гарри воспитан маглами, он не виноват, что сумасшедший.

&  Когда люди ещё плохо понимали, как работает эволюция, они зацикливались на дурацких идеях, например, «Изменялся климат, и племенам приходилось мигрировать, так что перед людьми возникали всё новые трудности, преодолевая которые они становились умнее».
     Но мозг человека в четыре раза больше мозга шимпанзе. Мозг поглощает пятую часть энергии человека. Люди настолько умнее других видов, что сравнивать их просто абсурдно. Чтобы добиться такого, недостаточно несколько раз чуть-чуть усложнить обстановку. В этом случае предки людей и стали бы лишь слегка умнее. Чтобы вырастить столь чрезмерно огромный мозг-переросток, нужен какой-то неудержимый эволюционный процесс, постоянно требующий всё новых и новых способностей.
     И сейчас у учёных есть достаточно неплохое предположение, что это был за неудержимый эволюционный процесс.

&  Когда-то Гарри прочёл широко известную книгу под названием «Политика у шимпанзе». В книге описывалось, как взрослый шимпанзе по имени Луит боролся за власть со стареющим вожаком, Ероеном, с помощью молодого шимпанзе по имени Никки. Никки не встревал в стычки между Луитом и Ероеном, но мешал другим сторонникам Ероена прийти тому на помощь, отвлекая их в нужное время. А когда Луит победил и стал новым вожаком, Никки занял почётное место подле него.
     ...но ненадолго. Очень скоро Никки объединился с побеждённым Ероеном, сверг Луита и стал новым новым вожаком.
     После этого начинаешь понимать, что к улучшению мыслительных способностей привели длящиеся миллионы лет попытки гоминидов перехитрить друг друга – безудержная эволюционная гонка вооружений.
     Ведь человек (на месте Луита) сразу бы смекнул, что к чему.



Комментариев нет:

Отправить комментарий