Что разум осьминога может рассказать нам о высшей тайне ИИ

Машинное сознание обсуждалось — и отвергалось — со времен Тьюринга. Тем не менее, он по-прежнему формирует наше представление об ИИ, таких как GPT-3.

Генри Хоренштейн / Гетти

• Страница архива Уилла Дугласа Хэвена

25 августа 2021 г.

Машины с разумом — основа научной фантастики. Идея робота, который каким-то образом воспроизводит сознание с помощью своего аппаратного или программного обеспечения, существует так давно, что кажется знакомой.

Таких машин, конечно, нет и, может быть, никогда не будет. Действительно, концепция машины с субъективным восприятием мира и взглядом на себя от первого лица идет вразрез с основными исследованиями ИИ. Он сталкивается с вопросами о природе сознания и себя — вещами, которые мы до сих пор не до конца понимаем. Даже представление о существовании такой машины поднимает серьезные этические вопросы, на которые мы, возможно, никогда не сможем ответить. Какие права имело бы такое существо и как мы могли бы их защитить? И все же, хотя сознательные машины все еще могут быть мифическими, сама их возможность формирует то, как мы думаем о машинах, которые мы строим сегодня.

Как выразился Кристоф Кох, нейробиолог, изучающий сознание: «Мы не знаем ни одного фундаментального закона или принципа, действующего в этой вселенной, который запрещал бы существование субъективных ощущений в артефактах, созданных или созданных людьми».

В подростковом возрасте мне нравилось превращать людей в зомби. Я смотрел в глаза тому, с кем разговаривал, и фиксировал тот факт, что их зрачки были не черными точками, а дырочками. Когда это произошло, эффект мгновенно дезориентировал, как переключение между изображениями в оптической иллюзии. Глаза перестали быть окнами в душу и превратились в полые шары. Магия исчезла, я смотрел, как рот того, с кем я разговариваю, открывался и закрывался как робот, чувствуя что-то вроде психического головокружения.

Впечатление бездумного автомата никогда не длилось долго. Но это заставило понять тот факт, что то, что происходит в головах других людей, навсегда недосягаемо. Независимо от того, насколько сильна моя убежденность в том, что другие люди такие же, как и я, — с сознательным умом, работающим за кулисами, смотрящим через эти глаза, чувствуя надежду или усталость, — впечатления — это все, что нам нужно. Все остальное догадки.

Алан Тьюринг понимал это. Когда математик и ученый-компьютерщик задал вопрос «Могут ли машины думать?» он сосредоточился исключительно на внешних признаках мышления — того, что мы называем интеллектом. Он предложил ответить, сыграв в игру, в которой машина пытается выдать себя за человека. О любой машине, которая преуспела — производя впечатление разумной, — можно было сказать, что она обладает разумом. Для Тьюринга внешность была единственной доступной мерой.

Но не все были готовы игнорировать невидимые части мышления, непреложный опыт вещи, обладающей мыслями, или то, что мы бы назвали сознанием. В 1948 году, за два года до того, как Тьюринг описал свою «Игру в имитацию», Джеффри Джефферсон, пионер нейрохирургии, выступил перед Королевским колледжем хирургов Англии с влиятельной речью о Manchester Mark 1, компьютере размером с комнату, который газеты приветствовали. как «электронный мозг». Джефферсон установил гораздо более высокую планку, чем Тьюринг: «Пока машина не сможет написать сонет или сочинить концерт из-за переживаемых мыслей и эмоций, а не из-за случайного падения символов, мы можем согласиться, что машина равна мозгу, то есть не только напиши это, но знай, что оно написало это».

Джефферсон исключил возможность существования мыслящей машины, потому что машине не хватало сознания в смысле субъективного опыта и самосознания («удовольствие от своих успехов, горе, когда ее клапаны перегорают»). Но перенесемся на 70 лет вперед и увидим, что мы живем с наследием Тьюринга, а не Джефферсона. Обычно говорят об разумных машинах, хотя большинство согласится с тем, что эти машины не имеют разума. Как и в случае с тем, что философы называют «зомби» — и как мне нравилось притворяться, что я наблюдал за людьми — логически возможно, что существо может действовать разумно, когда «внутри» ничего не происходит.

Но разум и сознание — разные вещи: разум — это делание, а сознание — бытие.История ИИ сосредоточилась на первом и игнорировала второе. Если бы машина когда-либо существовала как сознательное существо, как бы мы узнали об этом? Ответ связан с некоторыми из самых больших загадок о том, как работает наш мозг и разум.

Одна из проблем с тестированием кажущегося сознания машины заключается в том, что мы на самом деле не очень хорошо понимаем, что значит быть сознательным для чего-либо. Новые теории нейронауки обычно группируют такие вещи, как внимание, память и решение проблем, как формы «функционального» сознания: другими словами, как наш мозг выполняет действия, которыми мы наполняем нашу бодрствующую жизнь.

Но есть и другая сторона сознания, которая остается загадочной. Субъективный опыт от первого лица — ощущение присутствия в мире — известен как «феноменальное» сознание. Здесь мы можем сгруппировать все, от ощущений, таких как удовольствие и боль, до эмоций, таких как страх, гнев и радость, до специфических личных переживаний, когда мы слушаем лай собаки, пробуем соленый крендель или видим синюю дверь.

Для некоторых невозможно свести эти переживания к чисто научному объяснению. Вы могли бы изложить все, что можно сказать о том, как мозг вызывает ощущение вкуса кренделя, и все равно ничего не сказать о том, на что на самом деле был похож вкус этого кренделя. Это то, что Дэвид Чалмерс из Нью-Йоркского университета, один из самых влиятельных философов, изучающих разум, называет «сложной проблемой».

Сегодняшний ИИ далек от разума, не говоря уже о сознании. Даже самые впечатляющие глубокие нейронные сети совершенно бессмысленны.

Философы вроде Чалмерса предполагают, что современная наука не может объяснить сознание. Чтобы понять это, может даже потребоваться новая физика — возможно, такая, которая включает в себя другой тип вещества, из которого состоит сознание. Информация является одним из кандидатов.Чалмерс указал, что объяснения Вселенной многое говорят о внешних свойствах объектов и их взаимодействии, но очень мало о внутренних свойствах этих объектов. Теория сознания может потребовать открыть окно в этот скрытый мир.

В другом лагере Дэниел Деннетт, философ и когнитивист из Университета Тафтса, который говорит, что феноменальное сознание — это просто иллюзия, история, которую наш мозг создает для себя, чтобы придать смысл вещам. Деннет не столько объясняет сознание, сколько объясняет его.

Но является ли сознание иллюзией или нет, ни Чалмерс, ни Деннет не отрицают возможность существования сознательных машин — когда-нибудь.

Сегодняшний ИИ далек от разума, не говоря уже о сознании. Даже самые впечатляющие глубокие нейронные сети, такие как игровая AlphaZero от DeepMind или большие языковые модели, такие как GPT-3 от OpenAI, совершенно бессмысленны.

Тем не менее, как и предсказывал Тьюринг, люди часто называют эти ИИ разумными машинами или говорят о них так, как будто они действительно понимают мир — просто потому, что может показаться, что они это делают.

Разочарованная этой шумихой, Эмили Бендер, лингвист из Вашингтонского университета, разработала мысленный эксперимент, который она назвала тестом на осьминога.

В нем два человека терпят кораблекрушение на соседних островах, но находят способ передавать сообщения туда и обратно с помощью веревки, перекинутой между ними. Незаметно для них осьминог замечает сообщения и начинает их изучать. В течение длительного периода времени осьминог учится определять закономерности в закорючках, которые он видит, перемещаясь туда-сюда. В какой-то момент он решает перехватить записи и, используя то, что он узнал о шаблонах, начинает писать закорючки в ответ, угадывая, какие закорючки должны следовать за полученными.

Если люди на островах не замечают и верят, что они все еще общаются друг с другом, можем ли мы сказать, что осьминог понимает язык? (Осьминог Бендера, конечно же, является заменой ИИ, такого как GPT-3.) Кто-то может возразить, что здесь осьминог понимает язык. Но Бендер продолжает: представьте, что один из островитян присылает сообщение с инструкциями о том, как построить кокосовую катапульту, и запросом на способы ее улучшения.

Что делает осьминог? Он узнал, какие закорючки следуют за другими закорючками достаточно хорошо, чтобы имитировать человеческое общение, но понятия не имеет, что на самом деле означает закорючка «кокос» на этой новой заметке. Что, если один островитянин затем попросит другого помочь ему защититься от нападающего медведя? Что должен был сделать осьминог, чтобы продолжать обманывать островитянку, заставляя ее думать, что она все еще разговаривает со своим соседом?

Цель этого примера — показать, насколько мелкими на самом деле являются современные языковые модели искусственного интеллекта. По словам Бендера, вокруг обработки естественного языка много шумихи. Но за этим словом «обработка» скрывается механистическая истина.

Люди — активные слушатели; мы создаем смысл там, где его нет или он не предназначен. Дело не в том, что высказывания осьминога имеют смысл, а в том, что островитянин может их понять, говорит Бендер.

Несмотря на всю свою сложность, современные ИИ интеллектуальны так же, как можно сказать, что интеллектуален калькулятор: обе они представляют собой машины, предназначенные для преобразования ввода в вывод способами, которые люди — обладающие разумом — интерпретируют как осмысленные. Хотя нейронные сети можно условно смоделировать на основе мозга, самые лучшие из них гораздо менее сложны, чем мозг мыши.

И все же мы знаем, что мозг может производить то, что мы понимаем как сознание. Если мы в конце концов сможем выяснить, как это делает мозг, и воспроизвести этот механизм в искусственном устройстве, тогда сознательная машина все еще может быть возможна.

Когда я пытаюсь представить мир с точки зрения машины, я могу опираться только на то, что для меня значит сознание. Моя концепция сознательной машины бесспорно — возможно, неизбежно — подобна человеку. Это единственная форма сознания, которую я могу представить, как и единственная, которую я испытал. Но так ли это на самом деле, быть ИИ?

Вероятно, высокомерно так думать. Проект создания интеллектуальных машин ориентирован на человеческий интеллект. Но животный мир наполнен широким спектром возможных альтернатив, от птиц до пчел и головоногих моллюсков.

Несколько сотен лет назад общепринятой точкой зрения, продвигаемой Рене Декартом, было то, что только люди обладают сознанием. Животные, лишенные души, считались безмозглыми роботами. Сегодня мало кто так думает: если мы сознательны, то мало причин не верить, что млекопитающие с их похожим мозгом тоже сознательны. И зачем проводить черту вокруг млекопитающих? Кажется, что птицы размышляют, когда решают головоломки. Большинство животных, даже беспозвоночные, такие как креветки и омары, проявляют признаки ощущения боли, что предполагает наличие у них некоторой степени субъективного опыта.

Но как мы можем по-настоящему представить, как это должно ощущаться? Как заметил философ Томас Нагель, быть летучей мышью должно быть «похоже» на что-то, но что это такое, мы даже представить себе не можем, потому что понятия не имеем, каково было бы наблюдать за миром с помощью своего рода гидролокатора. Мы можем представить, как это может сделать человек (возможно, закрыв глаза и представив своего рода эхолокационное облако точек нашего окружения), но это не то, что должно быть похоже на летучую мышь с ее разумом летучей мыши.

Другой способ подойти к этому вопросу — рассмотреть головоногих, особенно осьминогов. Эти животные известны своей сообразительностью и любопытством — не случайно Бендер использовал их, чтобы донести свою точку зрения. Но у них совершенно другой тип интеллекта, который развился совершенно отдельно от интеллекта всех других разумных видов.Последним нашим общим предком с осьминогом, вероятно, было крошечное червеобразное существо, жившее 600 миллионов лет назад. С тех пор мириады форм позвоночных — среди них рыбы, рептилии, птицы и млекопитающие — развили свой собственный тип разума по одной ветви, а головоногие — по другой.

Поэтому неудивительно, что мозг осьминога сильно отличается от нашего. Вместо единого пучка нейронов, управляющего животным подобно центральному блоку управления, у осьминога есть несколько мозгоподобных органов, которые, кажется, контролируют каждую руку отдельно. Для всех практических целей эти существа настолько близки к инопланетному разуму, насколько это возможно. И все же Питер Годфри-Смит, философ, изучающий эволюцию разума, говорит, что когда вы сталкиваетесь лицом к лицу с любопытным головоногим, нет сомнения, что перед вами оглядывается сознательное существо.

Несколько сотен лет назад считалось, что только люди обладают сознанием. Животные, лишенные души, считались безмозглыми роботами. Сегодня мало кто так думает.

У людей ощущение себя, которое сохраняется с течением времени, формирует основу нашего субъективного опыта. Мы те же, что и сегодня утром, и на прошлой неделе, и два года назад, сколько себя помним. Мы вспоминаем места, которые мы посетили, вещи, которые мы сделали. Такой взгляд от первого лица позволяет нам видеть себя агентами, взаимодействующими с внешним миром, в котором есть другие агенты — мы понимаем, что мы вещь, которая что-то делает, и с ней что-то делают. Неясно, думают ли так осьминоги, а тем более другие животные.

Точно так же мы не можем быть уверены в том, что ощущение себя по отношению к миру является предпосылкой для того, чтобы быть сознательной машиной. Машины, сотрудничающие как рой, могут работать лучше, воспринимая себя, например, как часть группы, а не как отдельные личности.В любом случае, если бы потенциально сознательная машина когда-либо существовала, мы столкнулись бы с той же проблемой при оценке того, действительно ли она сознательна, что и мы, когда пытаемся определить интеллект: как предположил Тьюринг, для определения интеллекта требуется разумный наблюдатель. Другими словами, интеллект, который мы видим в современных машинах, проецируется на них нами — очень похоже на то, как мы проецируем смысл на сообщения, написанные осьминогом Бендера или GPT-3. То же самое будет верно и для сознания: мы можем утверждать, что видим его, но только машины будут знать наверняка.

Если ИИ когда-нибудь обретут сознание (а мы верим им на слово), нам придется принимать важные решения. Нам придется рассмотреть, включает ли их субъективный опыт способность терпеть боль, скуку, депрессию, одиночество или любое другое неприятное ощущение или эмоцию. Мы можем решить, что степень страданий приемлема, в зависимости от того, рассматриваем ли мы эти ИИ больше как домашний скот или людей.

Связанная история

Общий искусственный интеллект: близки ли мы, и есть ли смысл вообще пытаться?

Машина, которая могла бы думать как человек, была главной целью исследований ИИ с самых первых дней и остается самой спорной идеей.

Некоторые исследователи, обеспокоенные опасностью сверхинтеллектуальных машин, предложили ограничить эти ИИ рамками виртуального мира, чтобы они не могли напрямую манипулировать реальным миром. Если бы мы верили, что у них есть человеческое сознание, имели бы они право знать, что мы оцепили их в симуляции?

Другие утверждали, что было бы аморально выключать сознательную машину, что это было бы сродни прекращению жизни. Есть и связанные сценарии.Было бы этично переобучать сознательную машину, если бы это означало стирание ее воспоминаний? Можем ли мы скопировать этот ИИ, не навредив его самоощущению? Что, если бы сознание оказалось полезным во время обучения, когда субъективный опыт помогал ИИ учиться, но мешал при запуске обученной модели? Можно ли включать и выключать сознание?

Это только царапает поверхность этических проблем. Многие исследователи, в том числе Деннет, считают, что мы не должны пытаться создавать сознательные машины, даже если сможем. Философ Томас Метцингер дошел до того, что призвал к мораторию на работу, которая может привести к осознанию, даже если это не является намеченной целью.

Если бы мы решили, что у сознательных машин есть права, были бы у них также и обязанности? Можно ли ожидать, что ИИ будет вести себя этично, и будем ли мы наказывать его, если он этого не сделает? Эти вопросы уходят в еще более тернистую область, поднимая проблемы свободы воли и природы выбора. У животных есть сознательный опыт, и мы предоставляем им определенные права, но у них нет обязанностей. Тем не менее, эти границы смещаются со временем. Мы можем ожидать, что с сознательными машинами будут проведены совершенно новые границы.

Вполне возможно, что в один прекрасный день форм сознания может быть столько же, сколько типов ИИ. Но мы никогда не узнаем, каково быть этими машинами, как не знаем, каково быть осьминогом, летучей мышью или даже другим человеком. Могут быть формы сознания, которые мы не признаем за то, что они из себя представляют, потому что они радикально отличаются от того, к чему мы привыкли.

Столкнувшись с такими возможностями, нам придется жить в условиях неопределенности.

И мы можем решить, что мы счастливее с зомби. Как утверждал Деннет, мы хотим, чтобы наши ИИ были инструментами, а не коллегами. «Вы можете отключить их, вы можете разорвать их на части, точно так же, как вы можете это сделать с автомобилем», — говорит он. «И именно так мы должны сохранить это».

Уилл Дуглас Хэвен (Will Douglas Heaven) — старший редактор по искусственному интеллекту в MIT Technology Review.