24 мар. 2015 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (2)



Глава 6. Ошибка планирования
цитаты, Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик&  Гарри с грустью вспомнил о Дартмутском семинаре 1956-го года, первой в истории конференции по вопросам искусственного интеллекта. В качестве ключевых вопросов участники выделили: понимание языка, самообучение и самосовершенствование компьютеров. Они абсолютно серьёзно предполагали, что десять ученых смогут достичь существенных результатов по данным вопросам, если будут работать вместе в течение двух месяцев.

&  – Мировое господство – такая некрасивая фраза. Предпочитаю называть это мировой оптимизацией.

&  – Если вы правда думаете, что я замышляю что то опасное, значит, при всём уважении, вы вообще меня не понимаете. Мне не нравится опасность, она пугает меня. Я благоразумен. Я осторожен. Я готовлюсь к непредвиденным обстоятельствам.

&  – Почему вы убеждены, что всегда должны быть настороже?
     – Ну... – протянул Гарри. Он попытался собраться с мыслями. Какое можно дать объяснение МакГонагалл, если она даже не знает основ? – Учёные-маглы выяснили, что люди всегда настроены излишне оптимистично: они говорят, что какой-то процесс займет два дня, а на самом деле уходит десять, или говорят – два месяца, а уходит больше тридцати пяти лет. Или, например, проводился опрос учащихся, к какому сроку они уверены на 50%, 75% и 99%, что завершат домашнюю работу. И лишь 13%, 19% и 45% из них завершают её к указанному времени. Учёные обнаружили причину. Испытуемых попросили описать идеальный и типичный варианты развития событий. И полученные описания были практически одинаковы. Если вы попросите человека спланировать что-то на будущее, то он обычно, представляя себе наиболее вероятный ход событий, забывает про возможность ошибок или неожиданностей. Большинство испытуемых не закончили работу к сроку, в котором были уверены на 99%, так что фактические результаты оказались хуже даже наихудшего сценария. Такой феномен называется ошибкой планирования, и лучший способ её избежать – учитывать, сколько времени занимало выполнение какой-либо работы в прошлом. То есть смотреть на процесс со стороны. Если же вы взялись за что-то впервые и существует возможность неудачи, вы должны быть очень-очень-очень пессимистично настроены. Настолько пессимистично, чтобы результаты точно превзошли ожидания.

&  Иногда благих намерений недостаточно, иногда нужно быть в здравом уме.

&  . Причин злиться нет. Все родители одинаковы, взрослые никогда не снисходят до уровня ребёнка, и его родители не были исключением. Здравый рассудок подобен искре в ночи, чрезвычайно редкое исключение, бесконечно малая величина в подавляющей массе безумия, поэтому злиться бессмысленно.


&  – Я слишком умён, чтобы слепо верить родителям, как подобает нормальному ребёнку. Я знаю, что родители меня любят, но при этом они легко отказываются прислушиваться к гласу рассудка, и тогда мне кажется, что это они – дети, которые не хотят ничего слушать, имея в то же время абсолютную власть над всем моим существованием. Я не хочу на это обижаться, но я стараюсь быть честным хотя бы с самим собой.

&  – Тёмный Лорд жив. Ну конечно. Крайне оптимистично было даже мечтать об обратном. Я, должно быть, выжил из ума. Представить не могу, о чём я только думал. Из-за того, что кто-то сказал, будто от Тёмного Лорда остался лишь пепел, я решил, что он действительно мёртв. Мне определённо ещё учиться и учиться искусству истинного пессимизма.

&  Иногда, когда Гарри был достаточно зол, он не впадал в ярость, а, наоборот, становился до ужаса спокойным. Его разум с холодной ясностью перебрал возможные варианты разговора и оценил их последствия.
     Сказать, что у меня есть право знать – ошибка. МакГонагалл считает, что одиннадцатилетние дети не должны знать всё.
     Заявить, что вы больше не друзья – ошибка. Она недостаточно ценит вашу дружбу.
     Заметить, что я подвергнусь опасности, если ничего не буду знать – ошибка. Планы уже основаны на моём неведении. Пересмотр плана принесёт определённые неудобства, вместо моих неопределённых перспектив попасть в беду.
     Призывы к справедливости и благоразумию не принесут пользы. Нужно предложить МакГонагалл то, что она хочет, или найти то, чего она боится.

     Ага!
     – Хорошо, профессор, – холодно начал Гарри, – тогда поступим следующим образом. Я буду держать рот на замке, но в обмен вы расскажете мне всю правду. Или же вы можете попытаться оставить меня в неведении, используя как пешку в игре, но тогда я вам ничего не могу обещать.

&  – Именно поэтому мне сложно доверять взрослым. Они сердятся, даже если ты всего лишь пытаешься их убедить. Для них это дерзость, нахальство и попытка оспорить их более высокий статус в племени. Если с ними пытаться разговаривать, они сердятся. Поэтому, если бы мне потребовалось сделать что-то по-настоящему важное, я бы не смог доверять вам. Даже если бы вы меня внимательно выслушали – ведь роль серьёзного взрослого это тоже предписывает – ваши поступки всё равно бы не изменились. Что бы я ни сказал, вы бы не стали действовать по-другому.



Комментариев нет:

Отправить комментарий