15 июл. 2015 г.

Элиезер Юдковский — Гарри Поттер и методы рационального мышления (11)

HPMOR

Глава 25. Не спешите предлагать решения
цитаты, HPMOR | Гарри Поттер и методы рационального мышления | Элиезер Юдковский | Less Wrong | фанфик | Не спешите предлагать решения | заклинание&  Известны только два процесса, создающие сложные целеориентированные системы. Естественный отбор, который производит объекты вроде бабочек. И инженерное искусство, которое производит объекты вроде автомобилей.

&  ...заклинания – не более чем переключатели, рычаги, управляющие некоторой скрытой и более сложной машиной. Кнопки, а не инструкция, как эту машину построить.
     Чтобы компьютерная программа успешно откомпилировалась, все команды в ней должны быть написаны без ошибок. И точно так же Источник Магии откликается лишь в случае, когда произнесение слов и движения палочкой производятся единственно правильным способом.
     Вывод из этой логической цепочки можно сделать только один.
     Древние прародители волшебников тысячи лет назад приказали Источнику Магии левитировать предметы лишь тогда, когда волшебник произнесёт...
     «Вингардиум Левиоса».

&  Говорят, во времена, когда работа над искусственным интеллектом только-только начиналась и никто ещё не понимал, насколько эта задача сложна, какой-то профессор поручил одному из своих аспирантов решить задачу компьютерного зрения.


&  – Скажи пожалуйста, Гарри. Тебе никогда не приходило в голову, что путь к свету несколько не сочетается с обманом и уловками?
     – Я не прибегал к прямой лжи, и, раз уж мы говорим о Драко Малфое, думаю, что вполне сочетается.
     Мальчик выглядел весьма довольным собой.
     Старый волшебник в отчаянии покачал головой:
     – И это – наш герой. Мы обречены.

&  Гарри пристально на них посмотрел, а потом начал объяснять, как следует подходить к обдумыванию задачи.
     Обычно на это требуется больше двух секунд, сказал Гарри.
     Никогда не говорите «невозможно», пока не возьмёте в руки часы и не подумаете над задачей пять минут. Не метафорических, а самых настоящих пять минут.
     Более того, подчеркнул Гарри, ... не следует сразу же искать решение.

&  Начинать с поиска решения – значит идти наперекор естественному порядку вещей. Почти как начинать обед с десерта, только это ещё и плохо.
     (Гарри также процитировал некоего Робина Доуса, сказав, что чем сложнее задача, тем более склонны люди решать её немедленно.)



Комментариев нет:

Отправить комментарий