«Совершенная и красивая машина»: что теория эволюции Дарвина говорит об искусственном интеллекте

Чарльз Дарвин и Алан Тьюринг, по-своему, оба исходили из одной и той же идеи: существования компетентности без понимания.

22 июня 2012 г.
Делиться

Чарльз Дарвин и Алан Тьюринг, по-своему, оба исходили из одной и той же идеи: существования компетентности без понимания.

@FakeTV

Некоторые из величайших, самых революционных достижений в науке получили свое первоначальное выражение в привлекательных скромных выражениях, без лишнего пафоса.

Чарльзу Дарвину удалось сжать всю свою теорию в один резюмирующий абзац, который может легко понять неспециалист.

Фрэнсис Крик и Джеймс Уотсон завершили свою эпохальную статью о структуре ДНК одним-единственным восхитительно застенчивым предложением. («От нашего внимания не ускользнул тот факт, что конкретное спаривание, которое мы постулировали, сразу предполагает возможный механизм копирования генетического материала».)

И Алан Тьюринг создал новый мир науки и техники, подготовив почву для решения одной из самых загадочных загадок, оставшихся науке, проблемы разума и тела, с еще более коротким повествовательным предложением в середине своей статьи 1936 года о вычислимых числах:

Можно изобрести единственную машину, с помощью которой можно вычислить любую вычислимую последовательность.

Тьюринг не просто интуитивно догадался, что этот замечательный подвиг возможен; он показал, как именно сделать такую ​​машину. С этой демонстрацией родился компьютерный век. Важно помнить, что до того, как Тьюринг придумал свою идею, существовали сущности, называемые компьютерами, но они были людьми, конторскими служащими, обладающими достаточными математическими навыками, терпением и гордостью за свою работу, чтобы генерировать надежные результаты часов и часов вычислений, дней. в и из дня. Многие из них были женщинами.

Ранние «компьютеры» за работой. (НАСА)

Тысячи из них были заняты в машиностроении и торговле, а также в вооруженных силах и других местах, создавая таблицы для использования в навигации, артиллерийском деле и других подобных технических мероприятиях. Хороший способ понять революционную идею Тьюринга о вычислениях — сопоставить ее с идеей Дарвина об эволюции. Додарвиновский мир был скреплен не наукой, а традицией: все вещи во вселенной, от самого возвышенного («человек») до самого скромного (муравей, галька, капля дождя), были творениями еще более возвышенная вещь, Бог, всемогущий и всезнающий разумный творец, который имел поразительное сходство со второй по высоте вещью. Назовите это теорией творения просачивания вниз. Дарвин заменил ее теорией сотворения, основанной на пузырях.Один из критиков Дарвина в девятнадцатом веке, Роберт Беверли Маккензи, ярко выразился:

В теории, с которой нам приходится иметь дело, Абсолютное Неведение является изобретателем; так что мы можем объявить в качестве основного принципа всей системы, что, чтобы сделать совершенную и красивую машину, не обязательно знать, как ее сделать. При тщательном рассмотрении будет обнаружено, что это положение выражает в сжатой форме основной смысл Теории и выражает в нескольких словах весь смысл мистера Дарвина; который, по странной инверсии рассуждений, по-видимому, считает Абсолютное Неведение вполне подходящим для того, чтобы занять место Абсолютной Мудрости во всех достижениях творческого мастерства.

Это была действительно странная инверсия рассуждений. По сей день многие люди не могут уложить в голове тревожную идею о том, что бесцельный, бессмысленный процесс может протекать в течение эпох, порождая все более тонкие, эффективные и сложные организмы, не имея ни малейшего представления о том, что он делает.

Чтобы быть совершенной и красивой вычислительной машиной, необязательно знать, что такое арифметика.

Идея Тьюринга была похожей — на самом деле очень похожей — странной инверсией рассуждений. Мир до Тьюринга был миром, в котором компьютеры были людьми, которые должны были понимать математику, чтобы выполнять свою работу. Тьюринг понял, что в этом просто нет необходимости: можно было взять задачи, которые они выполняли, и выжать из них последние крохи понимания, не оставив ничего, кроме грубых, механических действий. Чтобы быть совершенной и красивой вычислительной машиной, необязательно знать, что такое арифметика.

И Дарвин, и Тьюринг по-своему открыли существование компетентности без понимания. Это перевернуло весьма правдоподобное предположение о том, что понимание на самом деле является источником всех продвинутых компетенций.Почему, в конце концов, мы настаиваем на том, чтобы отправить наших детей в школу, и почему мы не одобряем старомодные методы механического заучивания? Мы ожидаем, что растущая компетентность наших детей будет вытекать из их растущего понимания. Девизом современного образования может быть: «Понимать, чтобы быть компетентным». Для нас, представителей H. sapiens, это почти всегда правильный взгляд на компетентность и стремление к ней. Я подозреваю, что этот всеми любимый принцип образования является одним из основных мотиваторов скептицизма как в отношении эволюции, так и в отношении ее родственника в мире Тьюринга — искусственного интеллекта. Сама мысль о том, что бездумная механика может генерировать человеческий уровень — или божественный уровень! — компетентность многим кажется обывательской, отвратительной, оскорбляющей наш разум и разум Бога.

Празднование жизни и работы новаторского ученого-компьютерщика
Посмотреть полное покрытие

Рассмотрим, как Тьюринг работал над своим доказательством. В качестве модели он взял человеческие компьютеры. Там они сидели за своими столами, выполняя один простой и очень надежный шаг за другим, проверяя свою работу, записывая промежуточные результаты вместо того, чтобы полагаться на свою память, сверяясь со своими рецептами так часто, как им было нужно, превращая то, что на первый взгляд могло показаться пугающим. задание превратилось в рутину, которую они почти могли выполнять во сне. Тьюринг систематически разбивал простые шаги на еще более простые, удаляя все остатки проницательности или понимания. Трудно ли человеческому компьютеру отличить число 99999999999 от числа 9999999999? Затем разбейте перцептивную проблему распознавания числа на более простые задачи, распределяя более простые и глупые акты различения на несколько этапов. Таким образом, он подготовил список основных строительных блоков, из которых можно построить универсальный алгоритм, способный выполнять любой другой алгоритм. Он показал, как этот алгоритм позволит (человеческому) компьютеру вычислить любую функцию, и отметил, что:

Поведение компьютера в любой момент определяется символами, которые он наблюдает, и его «душевным состоянием» в этот момент. Мы можем предположить, что существует граница B числа символов или квадратов, которые компьютер может наблюдать в один момент времени. Если он хочет наблюдать больше, он должен использовать последовательные наблюдения. . Определяется фактически выполненная операция. по состоянию компьютера и наблюдаемым символам. В частности, они определяют состояние компьютера после выполнения операции.

Затем он спокойно заметил:

Теперь мы можем построить машину, которая будет выполнять работу этого компьютера.

Тут же мы видим сокращение все возможные вычисления к бессмысленному процессу. Мы можем начать с простых строительных блоков, выделенных Тьюрингом, и строить слой за слоем более сложные вычисления, постепенно восстанавливая интеллект, который Тьюринг так ловко вымыл из практики человеческих компьютеров.

Но как насчет гениальности Тьюринга и более поздних, меньших программистов, чье собственное интеллектуальное понимание было явно источником замыслов, которые могут связать бессмысленные строительные блоки Тьюринга в полезные компетенции? Не является ли эта зависимость просто новым взглядом на интеллект, просачивающимся вниз, с Тьюрингом в роли Бога? Не кто иной, как Роджер Пенроуз, мыслитель выразил скептицизм по поводу возможности того, что искусственный интеллект может быть плодом ничего, кроме бессмысленных алгоритмических процессов.

Я твердо верю в силу естественного отбора. Но я не понимаю, как естественный отбор сам по себе может развить алгоритмы, которые могли бы иметь сознательные суждения о достоверности других алгоритмов, которые, по-видимому, есть у нас.

Он продолжает признавать:

На мой взгляд, в эволюции все еще есть что-то таинственное с ее очевидным «нащупыванием» какой-то будущей цели. Вещи по крайней мере казаться организовать себя несколько лучше, чем они «должны», просто на основе слепой эволюции и естественного отбора.

В самом деле, единственный каскад событий естественного отбора, происходящий даже в течение миллиардов лет, кажется маловероятным, чтобы создать цепочку нулей и единиц, которая, будучи прочитана цифровым компьютером, станет «алгоритмом» для «сознательных суждений». ." Но, как полностью осознал Тьюринг, ничто не мешало процессу эволюции копировать себя во многих масштабах, усиливая проницательность и суждение. Рекурсивный шаг, с которого все началось, — разработка компьютера, который мог бы имитировать любой другой компьютер, — можно было бы повторить, позволив отдельным компьютерам повышать свои собственные возможности путем переделывать себя, оставив своего оригинального дизайнера далеко позади. Уже в «Вычислительных машинах и интеллекте», его классической работе в Разум, 1950 г., он признал, что нет никакого противоречия в концепции (нечеловеческого) компьютера, который может обучаться.

Некоторым читателям идея обучающейся машины может показаться парадоксальной. Как могут измениться правила эксплуатации машины? Они должны полностью описывать, как машина будет реагировать, какой бы ни была ее история, какие бы изменения она ни претерпела. Таким образом, правила практически не зависят от времени. Это совершенно верно. Объяснение парадокса состоит в том, что правила, которые изменяются в процессе обучения, носят гораздо менее претенциозный характер и претендуют лишь на эфемерную действительность. Читатель может провести параллель с Конституцией Соединенных Штатов.

Он ясно видел, что вся гибкость и самоизменяемость человеческого мышления — например, обучение и переоценка, язык и решение проблем — в принципе могут быть построены из этих строительных блоков.Назовите это теорией разума «пузырь вверх» и сравните ее с различными теориями разума «просачивания вниз» мыслителей от Рене Декарта до Джона Серла (включая, как известно, Курта Гёделя, чье доказательство послужило источником вдохновения для работы Тьюринга), согласно которым начинают с человеческого сознания в его наиболее рефлексивной форме, а затем не могут объединить такие магические силы с простыми механизмами человеческого тела и мозга.

Тьюринг, как и Дарвин, разбил тайну разума (или Разумного замысла) на то, что мы могли бы назвать атомарными шагами глупого стечения обстоятельств, которые, когда их накапливались миллионы, складывались в своего рода псевдоразум.

Тьюринг, как и Дарвин, разбил тайну разума (или Разумного замысла) на то, что мы могли бы назвать атомарными шагами глупого стечения обстоятельств, которые, когда их накапливались миллионы, складывались в своего рода псевдоразум. Центральный процессор компьютера не В самом деле знать, что такое арифметика, или понимать, что такое сложение, но оно «понимает» «команду» сложить два числа и поместить их сумму в регистр — в том минимальном смысле, что оно надежно складывает, когда требуется сложить, и помещает сумму В правильном месте. скажем так типа понимает сложение. На несколько уровней выше операционная система не В самом деле понять, что он проверяет ошибки передачи и исправляет их, но это типа понимает это и надежно выполняет эту работу, когда это требуется. Еще на несколько уровней выше, когда строительные блоки складываются в миллиарды и триллионы, программа, играющая в шахматы, уже не работает. В самом деле понимают, что его королева в опасности, но он типа понимает это, и IBM Watson on Jeopardy типа понимает вопросы, на которые отвечает.

Зачем этим заниматься»типа" разговаривать? Потому что, когда мы анализируем — или синтезируем — этот набор все более компетентных уровней, нам нужно отслеживать два факта о каждом уровне: что это является и что это делает. Что это является может быть описан в терминах структурной организации частей, из которых он состоит, — при условии, что мы можем предположить, что части функционируют так, как они должны функционировать. Что это делает это некоторая (когнитивная) функция, которую он (вроде как) выполняет — достаточно хорошо, чтобы на следующем уровне мы могли предположить, что у нас есть более умный строительный блок, который выполняет именно эту функцию — вроде как достаточно хорошо использовать.

Это ключ к тому, чтобы сломать хребет ошеломляюще сложному вопросу о том, как разум вообще может состоять из материальных механизмов. То, что мы могли бы назвать типа Оператор в когнитивной науке является параллелью дарвиновского градуализма в эволюционных процессах. До появления бактерий были типа бактерии, а до того, как появились млекопитающие, типа млекопитающие, а до того, как появились собаки, типа собаки и так далее. Нам нужен градуализм Дарвина, чтобы объяснить огромную разницу между обезьяной и яблоком, и нам нужен градуализм Тьюринга, чтобы объяснить огромную разницу между человекоподобным роботом и ручным калькулятором.

Обезьяна и яблоко состоят из одних и тех же основных ингредиентов, по-разному структурированных и эксплуатируемых в многоуровневом каскаде различных функциональных компетенций. Не существует принципиальной разделительной линии между типа обезьяна и обезьяна. Человекоподобный робот и ручной калькулятор сделаны из одних и тех же основных, бездумных, бесчувственных кирпичей Тьюринга, но по мере того, как мы компонуем их в более крупные и более компетентные структуры, которые затем становятся элементами еще более компетентных структур на более высоких уровнях, мы в конечном итоге приеду на запчасти так(типа) умны, что их можно объединить в компетенции, которые заслуживают того, чтобы называться пониманием.Мы используем интенциональную установку, чтобы отслеживать убеждения и желания (или «убеждения» и «желания» или своего рода убеждения и своего рода желания) (вроде-)рациональных агентов на каждом уровне, от простейшей бактерии до всех различающих, сигнализирующих , сравнивая, запоминая схемы, из которых состоит мозг животных от морских звезд до астрономов.

Нет принципиальной черты, выше которой можно найти истинное понимание — даже в нашем собственном случае. Маленький ребенок типа понимает собственную фразу "Папа — врач", и я типа понять "E=mc 2 ." Некоторые философы сопротивляются этому антиэссенциализму: либо вы верите, что снег белый, либо нет; либо вы в сознании, либо нет; ничто не может считаться аппроксимацией любого ментального феномена — все или ничего. И для таких мыслителей силы разума являются неразрешимой загадкой, потому что они «совершенны» и совершенно не похожи ни на что, что можно найти в простых материальных механизмах.

Мы еще не достигли «настоящего» понимания роботов, но приближаемся к этому. По крайней мере, в этом убеждены те из нас, кто вдохновлен прозрением Тьюринга. Теоретики просачивания вниз уверены в своих костях, что никакие дальнейшие построения никогда не приведут нас к настоящему. Они думают, что картезиан res cogitans, мыслящая вещь, не может быть построена из строительных блоков Тьюринга. И креационисты точно так же глубоко уверены, что никакая дарвиновская перетасовка, копирование и отбор никогда не приведут к (настоящим) живым существам. Они ошибаются, но можно оценить дискомфорт, который мотивирует их убеждение.

Странная инверсия разума у ​​Тьюринга, как и у Дарвина, идет вразрез с тысячелетней предшествующей мыслью.Если история сопротивления дарвиновскому мышлению является хорошей мерой, мы можем ожидать, что далеко в будущем, спустя много времени после того, как каждый триумф человеческой мысли будет сравнен или превзойден «простыми машинами», все еще будут мыслители, которые настаивают на том, что человеческая разум работает таинственным образом, который не может понять ни одна наука.