Естественный и искусственный интеллект

Хотя недавние достижения могут дать ощущение, что ответ положительный, краткий ответ заключается в том, что мы и близко не находимся. Все, чего мы достигли на данный момент, — это прорыв в подражание интеллекту.

Наука на виадуке Холборн, убаюкивающая губернатора Ватта

Искусственный интеллект — плохо определенный термин.Успешное развертывание интеллектуальных систем является обычным явлением, но обычно они переопределяются как неинтеллектуальные. Мой любимый пример — губернатор Уатта. Увековеченный в объятиях статуи «Наука» на виадуке Холборн в Лондоне, регулятор Уатта автоматически регулировал скорость паровой машины, постепенно закрывая впускной клапан по мере того, как двигатель работал быстрее. Он выполнял работу, которую раньше должен был выполнять интеллектуальный оператор, но мало кто сегодня назвал бы его «искусственным интеллектом».

Более свежий пример относится к середине прошлого века. Сто лет назад компьютеры были людьми, часто женщинами, которые выполняли повторяющиеся математические задачи для создания математических таблиц, таких как логарифмы. Наши современные цифровые компьютеры первоначально назывались автоматические компьютеры чтобы отразить тот факт, что интеллект этих людей-операторов был автоматизирован. Но, несмотря на эффективность, с которой они выполняют эти задачи, очень немногие считают свои мобильные телефоны или компьютеры интеллектуальными.

Норберт Винер запустил первую в прошлом веке волну интереса к эмуляции интеллекта своей книгой «Кибернетика». Большой современный успех, проистекающий из этой работы, — это современная инженерная дисциплина автоматического управления. Технология, позволяющая летать истребителям. Эти идеи возникли во время Второй мировой войны, когда исследователи изучали использование радаров (автоматическое зондирование) и автоматических вычислений для расшифровки военных кодов (автоматическое принятие решений). После войны группа исследователей, включая Алана Тьюринга, увидела потенциал электронной имитации того, что до этого было прерогативой нервной системы животных.

Так что насчет современной революции? Это какое-то другое? Не посягаем ли мы, наконец, на квинтэссенцию природы человеческого интеллекта? Или есть последний бастион нашего разума, который остается вне досягаемости этой последней технической волны?

Мой ответ состоит из двух частей.Во-первых, современные технологии далеки от того, чтобы подражать всем аспектам человеческого интеллекта: есть ряд технологических прорывов, которые еще предстоит сделать, прежде чем мы взломаем фундаментальную природу человеческого интеллекта. Во-вторых, и, возможно, это более спорно, я считаю, что есть аспекты человеческого интеллекта, которым мы никогда не сможем подражать, и это заповедник, который остается исключительно нашим.

Прежде чем мы рассмотрим эти идеи, нам сначала нужно дать некоторое представление о современных технологиях.

Недавние прорывы в области искусственного интеллекта обусловлены достижениями в области машинного обучения. Или, точнее, подобласть этой области, известной как глубокое обучение. Так что же такое глубокое обучение? Итак, алгоритмы машинного обучения работают следующим образом. Они наблюдают за данными, часто от людей, и пытаются имитировать этот процесс создания данных с помощью математической функции. Объясним это по-другому. Какие бы действия мы ни хотели имитировать, мы собираем данные о них. Данные — это просто набор чисел, представляющих активность. Он может включать местоположение или число, представляющее прошлое поведение. Когда у нас есть поведение, представленное набором чисел, мы можем эмулировать его математически.

Разные математические функции имеют разные характеристики, в тригонометрии мы узнали о функциях синуса и косинуса. Это функции, у которых есть период. Они повторяются со временем. Они полезны для имитации повторяющегося поведения, возможно, поведения, отражающего смену дня и ночи. Но эти функции сами по себе слишком просты, чтобы подражать человеческому поведению во всем его богатстве. Итак, как мы можем сделать вещи более сложными? На практике мы можем добавлять функции вместе, увеличивать и уменьшать их масштаб. Все это сделано. Глубокое обучение относится к практике создания новой функции путем передачи одной функции другой. Итак, мы создаем вывод функции, передаем его новой функции и принимаем ее вывод в качестве нашего ответа.В математике это называется сочинение функций. Преимущество в том, что мы можем генерировать гораздо более сложные функции из более простых. Полученные функции позволяют принять изображение в качестве входных данных и производить выходные данные, которые включают числа, представляющие объекты или людей на этом изображении. Точное выполнение этого достигается за счет композиции математических функций, также известной как глубокое обучение.

Для описания этого процесса я иногда использую следующую аналогию. Представьте автомат для игры в пинбол с рядами кеглей. Плунжер используется для запуска шара в верхнюю часть машины. Думайте о каждом ряду булавок как о функции. Входными данными для функции является положение мяча слева направо по оси машины вверху. Результатом функции является положение мяча, когда он покидает каждый ряд кеглей. Композиция функций — это просто передача вывода одного ряда выводов в следующий. Если мы проделаем это несколько раз, то, несмотря на то, что машина имеет в себе несколько функций, при подаче одной функции на другую, вся машина сама по себе представляет одну функцию. Просто более сложная функция, чем та, которую может представлять любой отдельный ряд контактов. Наши современные системы машинного обучения очень похожи на эту машину. За исключением того, что они принимают очень многомерные входные данные. Пинбол представлен только его положением слева направо, одномерной функцией. Настоящая обучающая машина часто представляет несколько измерений, как игра в пинбол в гиперпространстве.

Таким образом, созданный нами интеллект — это просто (сложная) математическая функция. Но как сделать так, чтобы эта функция соответствовала тому, что делают люди? Мы используем больше математики. На самом деле мы используем другую математическую функцию. Чтобы избежать путаницы, давайте назовем функцию, представленную нашим автоматом для игры в пинбол, функцией функция предсказания. В автомате для игры в пинбол мы можем перемещать кегли, и любая конфигурация кеглей приводит к другому ответу для наших функций.Так как же найти правильную конфигурацию? Для этого мы используем отдельную функцию, известную как целевая функция.

Целевая функция измеряет несоответствие между выходными данными нашей функции прогнозирования и данными, полученными от людей. Процесс обучения в этих машинах — это процесс перемещения кеглей в автомате для игры в пинбол, чтобы сделать прогноз более похожим на данные. Качество любой данной конфигурации штифтов оценивается путем количественной оценки различий между тем, что сделали люди, и тем, что машина предсказывает с помощью целевой функции. Для разных задач используются разные целевые функции, но целевые функции обычно намного проще, чем функции прогнозирования.

Итак, у нас есть некоторая предыстория. И некоторое понимание проблем, стоящих перед разработчиком алгоритмов машинного обучения. Вам нужны данные, вам нужна функция прогнозирования, и вам нужна целевая функция. Выбор функции прогнозирования и целевой функции находится в руках разработчика алгоритма. Глубокое обучение — это способ создания очень сложных и гибких классов функций прогнозирования, которые хорошо справляются с типами данных, которые мы получаем из речи, письменного языка и изображений.

Но что, если разработчик ошибся в выборе функции прогнозирования? Или выбор целевой функции неверен? Или что, если они выберут правильный класс функции прогнозирования (такой как сверточная нейронная сеть, используемая для классификации изображений), но неправильно определят расположение всех этих булавок в машине?

Это серьезная проблема для нашего нынешнего поколения решений ИИ. Они хрупкие. Они чувствительны к неправильному выбору, и когда они терпят неудачу, они терпят неудачу катастрофически.

Чтобы понять почему, давайте отойдем от искусственного интеллекта и рассмотрим естественный интеллект. Или, еще шире, давайте рассмотрим контраст между искусственным система и естественная система. Основное различие между ними состоит в том, что искусственные системы разработан тогда как природные системы развился.

Системный дизайн является основным компонентом всех инженерных дисциплин. Детали различаются, но есть одна общая тема: достичь своей цели с минимальным использованием ресурсов для выполнения работы. Что обеспечивает эффективность. Инженер-проектировщик представляет себе решение, требующее минимального набора компонентов для достижения результата. Водяной насос имеет один маршрут через насос. Это сводит к минимуму количество необходимых компонентов. Резервирование вводится только в критически важных для безопасности системах, таких как системы управления самолетом. Однако изучающие биологию знают, что в природе системная избыточность присутствует повсюду. Избыточность приводит к устойчивости. Чтобы организм выжил в развивающейся среде, он должен сначала быть устойчивым, а затем он может решить, как быть эффективным. В самом деле, организмы, которые эволюционировали, чтобы быть слишком эффективными в решении конкретной задачи, например те, которые занимают нишу в окружающей среде, особенно уязвимы для исчезновения.

Так и с естественным против искусственного интеллекта. Любой естественный разум, который не был бы устойчив к изменениям внешней среды, не выжил бы и, следовательно, не смог бы воспроизводиться. Напротив, искусственный интеллект, который мы производим, предназначен для эффективного выполнения одной конкретной задачи: управления, вычислений, игры в шахматы. Они есть хрупкий.

Первым критерием естественного интеллекта является не подведине потому, что у него есть собственная воля или намерение, а потому, что если бы он потерпел неудачу, то не выдержал бы испытания временем. Его больше не будет. Напротив, мантра для искусственных систем — быть более эффективными. Нашим искусственным системам часто ставится единственная цель (в машинном обучении она закодирована в математической функции), и они стремятся эффективно достичь этой цели. Это разные характеристики. Даже если бы мы хотели включить не подведи в той или иной форме его трудно спроектировать.Чтобы спроектировать «не подведи», вы должны учитывать все пути, по которым что-то может пойти не так, если вы пропустите один из них, вы потерпите неудачу. Эти случаи иногда называют угловыми случаями. Но в реальной, неконтролируемой среде почти все является углом. Сложно представить все, что может произойти. Вот почему большинство наших автоматизированных систем работают в контролируемой среде, например, на заводе или на рельсах. Развертывание автоматизированных систем в неконтролируемой среде требует другого подхода к проектированию систем. Тот, который учитывает неопределенность в окружающей среде и устойчив к непредвиденным обстоятельствам.

Системы, которые мы производим сегодня, работают хорошо только тогда, когда их задачи распределены по полочкам, каким-то образом ограничены. Для создания надежного искусственного интеллекта нам нужны новые подходы как к проектированию отдельных компонентов, так и к комбинации компонентов в наших системах ИИ. Нам нужно справиться с неопределенностью и повысить надежность. Сегодня легко обмануть искусственного интеллектуального агента, технологии должны решать проблему неопределенной среды для достижения надежного интеллекта.

Однако, даже если мы найдем технологические решения этих проблем, может случиться так, что сущность человеческого интеллекта останется вне досягаемости. Возможно, самый существенный элемент нашего интеллекта определяется ограничениями. Ограничения, с которыми компьютеры никогда не сталкивались.

Эта характеристика — наша ограниченная способность общаться, в частности, наша ограниченная способность общаться по сравнению с нашей способностью вычислять. Не вычисления с точки зрения арифметики или решения задач судоку, а количество вычислений, которое лежит в основе наших высших мыслей. Вычисления, которые делают наши нейроны.

Подсчитано, что для имитации человеческого разума потребуется суперкомпьютер, работающий так же быстро, как и самый быстрый в мире. Это может сделать компьютер Метеорологического бюро Великобритании, который используется для моделирования погоды и климата по всему миру.На момент написания статьи это был 11-й самый быстрый компьютер в мире. Гораздо быстрее, чем обычный рабочий стол. Но пока типичный компьютер, похоже, выполняет меньше операций, чем наш мозг. Типичный компьютер может общаться намного быстрее, чем мы.

Клод Шеннон разработал идею теории информации: математику информации. Он определил количество информации, которую мы получаем, когда узнаем результат подбрасывания монеты, как «бит» информации. Типичный компьютер может обмениваться данными с другим компьютером, передавая миллиард бит информации в секунду. Эквивалент миллиарда подбрасываний монеты в секунду. Так как это соотносится с нами? Ну, мы также можем оценить количество информации на английском языке. Шеннон подсчитал, что среднее английское слово содержит около 12 бит информации, двенадцать подбрасываний монеты, это означает, что скорость нашего вербального общения составляет порядка десятков-сотней бит в секунду. Компьютеры общаются в десятки миллионов раз быстрее нас, в относительном выражении мы ограничены небольшим количеством карманных денег, а компьютеры — это корпоративные миллиардеры.

Наш интеллект — это не остров, он взаимодействует, он делает выводы о целях или намерениях других, он предсказывает наши собственные действия и то, как мы будем реагировать на других. Мы социальные животные, и вместе мы формируем общий разум, который характеризует наш вид. Чтобы интеллект был общим, чтобы наши идеи каким-то образом разделялись. Нам нужно преодолеть это ограничение пропускной способности. Способность делиться и сотрудничать, несмотря на столь ограниченную способность к общению, характеризует нас. Мы должны интеллектуально общаться друг с другом. Мы не можем сообщить все, что мы видели, или детали того, как мы собираемся реагировать. Вместо этого нам нужно общее понимание. Тот, который позволяет нам делать выводы о намерениях друг друга через контекст и здравый смысл человечества. Эта характеристика настолько сильна, что мы антропоморфизируем любой объект, с которым взаимодействуем.Мы применяем настроения к нашим автомобилям, нашим кошкам, нашему окружению. Мы намеренно сеем погоду, вулканы, деревья. Наше желание общаться делает нас интеллектуально анимистами.

Но наша ограниченная пропускная способность не ограничивает нас в нашем воображении. Наше сознание, наше самоощущение позволяет нам разыгрывать различные сценарии. Внутреннее наблюдение за тем, как наше «я» взаимодействует с другими. Учиться на внутренней симуляции внешнего мира. Эмпатия позволяет нам понять вероятные реакции других, не имея полной информации об их психическом состоянии. Мы можем вывести их точку зрения. Самосознание также позволяет нам понять наши собственные вероятные будущие реакции, заглянуть в будущее, разыграть сценарий. Наш мозг содержит чувство себя и чувство других. Поскольку наше общение не может быть полным, оно является контекстуальным и культурным. При вождении автомобиля в Великобритании вспышка света на перекрестке уступает право проезда и приглашает другого участника дорожного движения продолжить движение, тогда как в Италии такая же вспышка подтверждает право проезда и предупреждает другого участника дорожного движения, чтобы он оставался.

Наш основной интеллект — это наш социальный интеллект, интеллект, предназначенный для преодоления ограничений пропускной способности. Мы индивидуально сложны, но как общество мы полагаемся на общее поведение и чрезмерное упрощение самих себя, чтобы оставаться последовательными.

Этот самородок нашего разума кажется невозможным для компьютера воссоздать напрямую, потому что он является следствием нашей эволюционной истории. Компьютер, с другой стороны, родился в мире данных, высокоскоростной связи. Его не было в генезисе нашего разума, и когнитивные компромиссы, на которые мы пошли, потеряны во времени. Чтобы стать настоящим человеческим разумом, вам нужно пройти этот путь вместе с нами.

Конечно, ничто из этого не мешает нам подражать тем аспектам человеческого интеллекта, которые мы наблюдаем у людей. Мы можем формировать эти эмуляции на основе данных.Но даже если искусственный интеллект может с высокой степенью точности подражать людям, это другой тип интеллекта. Он не ограничен, как человеческий разум. Вы спросите, имеет ли это значение? Что ж, во многих областях для нас, безусловно, важно, чтобы за ниточки дергал человек. Даже в чистой коммерции это имеет значение: повествовательная история продукта часто так же важна, как и сам продукт. Товары ручной работы имеют надбавку к цене по сравнению с фабричными. Или, наоборот, в сфере развлечений: люди платят больше за посещение живого концерта, чем за потоковую передачу музыки через Интернет. Люди также будут платить больше, чтобы пойти на спектакль в театре, а не на фильм в кинотеатре.

Во многих отношениях я возражаю против использования термина «искусственный интеллект». Он плохо определен и означает разные вещи для разных людей. Но есть один способ, в котором этот термин очень точен. Термин «искусственный» подходит точно так же, как мы можем описать пластиковое растение как искусственное растение. Часто бывает трудно определить издалека, искусственное растение или нет. Пластиковое растение может выполнять многие функции натурального растения, а пластиковые растения более удобны. Но они никогда не смогут заменить естественные растения.

Точно так же наш естественный интеллект — это развитая красота, следствие наших ограничений. Ограничения, которые не относятся к искусственному интеллекту и могут быть эмулированы только с помощью искусственных средств. Наш естественный интеллект, как и наши природные ландшафты, следует беречь, и его нельзя полностью заменить.