Бэббидж и танцор

Встреча восьмилетнего мальчика с куклой-роботом меняет ход истории технологий. Со специальными гостями Кеном Голдбергом и Кейт Дарлинг мы взглянем на сверхъестественный мир эмоциональной робототехники. Что, если в антиутопическом будущем окажется, что роботы покорят человечество своей привлекательностью?

Ведущий Стивен Джонсон
От продюсера Кристен Тейлор
Звукорежиссура и монтаж музыки Джейсона Оберхолцера
Музыкальная тема Стивена Джонсона

Подпишитесь сейчас

Стенограмма

СТИВЕН ДЖОНСОН: У нас в голове есть набор стереотипов о том, как должны выглядеть серьезные исторические события. Может быть, это депутаты, собравшиеся вместе, чтобы подписать важный законопроект, или уличные беспорядки, или эпическое военное сражение, но иногда историю меняют иные события. Момент восторга или изумления, вдали от коридоров власти. Это история одного из таких моментов. Это история, которая вращается вокруг странного вопроса. Можно ли влюбиться в робота?

Я Стивен Джонсон, а это «Страна чудес». «Страна чудес» представлена ​​вам Microsoft и Riverhead Books, издателем моей новой книги. Страна чудес: как игра создала современный мир.

Представьте, что сейчас 1801 год, и вы идете по улицам лондонского Вест-Энда.Город кишит уличными уличными музыкантами и местными жителями, наслаждающимися ночной прогулкой по городу, и куда ни глянь, везде есть развлечения и механические прелести, волшебные фонари, представления с привидениями, 360-градусные панорамы и мюзиклы в исполнении анимированных кукол. Прогуливаясь по Ганновер-сквер, вы натыкаетесь на дверь с соблазнительной вывеской. Механический музей Мерлина. Вы входите внутрь.

Механический музей — творение гениального шоумена и изобретателя с действительно идеальным названием. Джон Джозеф Мерлин. Говоря современным языком. Магазин Мерлина — это своего рода гибрид между музеем науки, игровым залом и мастерской. Вы можете полюбоваться движущимися механическими куклами, называемыми «автоматами», или испытать удачу в игровых автоматах, или послушать сладкие мелодии музыкальных шкатулок. Но Мерлин также является своего рода наставником, поощряя тех, кого он называет «молодыми любителями механизмов», попробовать свои силы в изобретении. Мерлин хранит два призовых творения в своей мастерской на чердаке над музеем. Два миниатюрных женских автоматона, не выше фута или двух ростом. Одно существо идет по четырехфутовому пространству, держа в руке очки и почтительно кланяясь при ходьбе. Другой — танцор, держащий анимированную птицу.

Однажды в 1801 году мать приводит своего не по годам развитого восьмилетнего сына в музей Мерлина. Его зовут Чарльз Бэббидж. Старый шоумен чувствует в мальчике что-то многообещающее и предлагает отвести его на чердак вместе с мамой, чтобы еще больше разжечь его любопытство. Мальчик очарован гуляющей дамой, но соблазняет его танцовщица. Спустя годы он напишет: «Ее глаза были полны воображения и неотразимы». Теперь это один из тех тихих поворотных моментов в истории, частный момент, который сеет семя идеи в чьем-то уме. Начало навязчивой идеи, которая спустя десятилетия в конечном итоге меняет мир.

Одна из причин, почему я так одержима этой историей о Чарльзе Бэббидже и этом механическом танцоре, заключается в том, что, оглядываясь назад, мы можем видеть в ней своего рода превью грядущих достопримечательностей. Я имею в виду, что в то время это казалось буквально детской игрой. Восьмилетний мальчик становится одержим игрушечной куклой. Но вот мы 200 лет спустя, и идея развития эмоциональной связи с каким-то механическим устройством не кажется такой уж детской.

Теперь, когда у меня возникает вопрос о робототехнике или искусственном интеллекте, я всегда звоню своему другу Кену Голдбергу, руководителю программы робототехники в Беркли. Кен похож на Джона Джозефа Мерлина. Он художник, у него есть работа в постоянной коллекции Уитни. Но он также блестящий инженер и разбирается в современном робототехнике лучше, чем кто-либо из моих знакомых, поэтому я звоню ему, и он приглашает меня в лабораторию робототехники в Беркли. Но прежде чем мы сможем сесть и поговорить о будущем эмоциональной робототехники, он просто должен показать мне последнее дополнение к лаборатории.

КЕН ГОЛДБЕРГ: Это элегантно, у него просто красивые пропорции. Это как спортивная машина, да? У него просто есть это, он выглядит человеческим, понимаете, человеческим обликом, но не слишком человеческим.

СТИВЕН ДЖОНСОН: Верно.

КЕН ГОЛДБЕРГ: Понятно, что это робот. На нем нет головы или чего-то еще.

СТИВЕН ДЖОНСОН: Ага.

КЕН ГОЛДБЕРГ: Но руки, пропорции, изгибы. Я имею в виду, это очень сексуально.

СТИВЕН ДЖОНСОН: Здесь я, вероятно, должен упомянуть, что «робот», в которого так любили Кена и его команду, на самом деле был всего лишь двумя механическими руками, которые ставили друг на друга ряд бумажных стаканчиков. Так что представьте, как сильно они влюбились бы в анимированного танцора, держащего птицу. И вообще, когда мы позже вернулись в офис Кена, я спросил его об одержимости Бэббиджа этой игрушечной куклой.

КЕН ГОЛДБЕРГ: Я имею в виду, я думаю, что это продолжается, он все еще очень живой, и это происходит каждый день по всему миру, когда дети сталкиваются с каким-то роботом, который делает что-то, о чем они просто не могут перестать думать.

СТИВЕН ДЖОНСОН: Верно.

КЕН ГОЛДБЕРГ: И вот почему, вы знаете, я иногда говорю, что роботы — это наркотик для интереса к науке, технологиям, инженерному делу и математике, потому что, вы знаете, вы можете показывать им экраны, и они могут смотреть видео и прочее, но потом, когда они видят что-то движущееся, это производит совершенно другой эффект.

СТИВЕН ДЖОНСОН: Ага.

КЕН ГОЛДБЕРГ: Кажется, это связано с другой частью нашей когнитивной проводки. А еще интересно, что мы многие вещи антропоморфизируем, правда? От изображений, ну вы знаете, Человека на Луне до, ну знаете, кукол, мы можем взять почти что угодно и превратить это во что-то с хорошим воображением. Интересно, когда что-то идет нам навстречу, правда? И начинает фактически оживляться.

КЕЙТ ДАРЛИНГ: Самое интересное для меня в этом то, что даже если вы не сбиты с толку, даже если вы в детстве или во взрослом возрасте точно понимаете, как работает робот, вы все равно воспринимаете его как живого. Это просто невероятно для меня.

СТИВЕН ДЖОНСОН: Это Кейт Дарлинг, научный сотрудник медиа-лаборатории Массачусетского технологического института. Кейт — эксперт по юридическим и этическим последствиям эмоциональной робототехники.

КЕЙТ ДАРЛИНГ: У нас всегда было невероятное увлечение технологиями, созданными по нашему подобию. Возможно, в наше время научная фантастика и поп-культура подтолкнули нас к такому увлечению роботами, но я искренне думаю, что это гораздо глубже. Я думаю, это биологическое. Есть некоторые свидетельства того, что наш мозг биологически запрограммирован воспринимать роботов как что-то вроде живых, потому что роботы передвигаются таким образом, что мы не можем точно предвидеть, куда пойдет движение дальше, и поэтому оно кажется автономным. к нам, и мы проецируем намерение на это.И это просто открывает всевозможные возможности для воображения и проецирования себя на эти вещи.

СТИВЕН ДЖОНСОН: Бэббидж в молодости все больше одержим мощью механизации. Он написал обширный обзор новых машин промышленной революции, который на самом деле оказал большое влияние на мышление Карла Маркса 20 лет спустя. Но в 1820-х годах он начал набрасывать идеи и фактически строить рабочие прототипы двух машин. Во-первых, разностная машина, а затем более амбициозная аналитическая машина, которые теперь считаются первыми когда-либо созданными программируемыми компьютерами, за сто лет до того, как кто-либо еще начал думать о создании эквивалентных машин. И все началось в тот момент восторга и удивления в Механическом музее Мерлина.

Итак, у меня есть вопрос: что эквивалентно этому моменту сегодня? Какие отношения мы будем иметь с нашими машинами, которые вдохновляют нас и, возможно, даже пугают нас, как Бэббидж был так загипнотизирован тем танцором 200 лет назад? Я спросил Кейт и Кена, каким, по их мнению, будет следующий прорыв в области эмоциональной робототехники.

КЕН ГОЛДБЕРГ: Ну, я не думаю, я думаю, что это не будет визуальным. Я думаю, что у вас будет это в аудио форме. Слух. Это, возвращаясь к тому, как, в 2001, там нет визуальной привязки. Это просто голос.

СТИВЕН ДЖОНСОН: Мигающий свет.

КЕН ГОЛДБЕРГ: Да, мигающий свет, точно. Но пример Siri в какой-то степени привлекателен. Алекса и Эхо намного привлекательнее, у нее отличный характер, я должен сказать, я не знаю точно, что они сделали, чтобы осуществить это, но она просто чувствует себя кем-то, кого вы хотите иметь рядом. Тебе известно, Ей был классико컦.

СТИВЕН ДЖОНСОН: Спайк Джонз?

КЕН ГОЛДБЕРГ: Спайк Джонз, да, это, на мой взгляд, очень, очень убедительно и, я думаю, в пределах досягаемости.Вероятно, есть люди, которые могли бы иметь такие отношения со следующей версией Alexa.

СТИВЕН ДЖОНСОН: Да, потому что то, что мы не сделали, я имею в виду, как бы ни были интересны Siri, Alexa и Echo, мы еще не перешли к точке, где ИИ действительно развивает конкретное отношение к нам как к личности. Верно? Нет, это все еще запрограммировано на каком-то уровне, просто очень умно запрограммировано, и удивительно, что мы можем говорить, и они смогут ответить»¦

КЕН ГОЛДБЕРГ: Верно, но это не говорит: «Привет, Стивен, ты сегодня говоришь немного подавленно», что вполне может сделать.

СТИВЕН ДЖОНСОН: И это ощущение того, что вы будете строить отношения в течение года, скажем, с этим ИИ-роботом, называйте его как хотите, где к тому моменту, после года взаимодействия, у этого искусственного интеллекта будут уникальные отношения с ты и только ты.

КЕН ГОЛДБЕРГ: Верно.

СТИВЕН ДЖОНСОН: Я думаю, что это будет очень глубоко для людей.

КЕН ГОЛДБЕРГ: Я согласен. Я имею в виду, я думаю, что это идеальное липкое приложение, верно? Вы не захотите меняться, когда выйдет новая модель, потому что у вас есть все это, эти отношения выстроены, и люди будут очень лояльны. Я думаю, вы это увидите. Прямо сейчас очень и очень сложно определить эмоции по выражению лица и другим вещам. Но обнаружение по голосу; известно, что вы действительно можете уловить изменения высоты тона и определить, когда кто-то чувствует себя подавленным.

СТИВЕН ДЖОНСОН: Ух ты.

КЕН ГОЛДБЕРГ: В сфере слуха вы можете уловить огромное количество вещей.Кто-то устал, речь немного невнятная, да? Для автомобиля это будет лучший способ узнать, не умеет ли кто-то водить машину, верно? Вы знаете, алкотестеры общеизвестно ненадежны, но что-то, с чем вы только что немного поговорили, и оно скажет: «Я просто думаю, может быть, вам следует остановиться, дайте мне взять на себя». Но вы знаете, тогда я думаю, что вы правы, как только он начинает узнавать закономерности, какие, в частности, в каком настроении вы находитесь, какую музыку вы любите, что вы делали, когда вы пришли домой, когда ты встал, все эти вещи. Это будет очень, очень ценно.

СТИВЕН ДЖОНСОН: Ранее в этом году робототехническая компания Boston Dynamics выпустила рекламный ролик своего нового робота-гуманоида Atlas. Вы, наверное, видели это видео, оно было просмотрено около 18 миллионов раз, и я думаю, что его успех говорит нам кое-что о странной реакции людей на машины, похожие на живых. На видео Атлас просто покорно пытается поднять коробку, а этот парень продолжает тыкать в него хоккейной клюшкой, пытаясь сбить с ног. Я думаю, что видео было предназначено для того, чтобы продемонстрировать, насколько устойчивым был робот, но почти невозможно не чувствовать себя плохо из-за робота. В одном из заголовков описывалось, как человек «запугивает» машину, но как можно запугивать то, что не имеет разума?

КЕЙТ ДАРЛИНГ: На самом деле был еще один пример, та же компания, где у них был робот, очень похожий на собаку, и его звали Спот, и в этом случае они пинали робота-собаку, и люди очень расстраивались из-за этого, и это дошло до момент, когда PETA, организация по защите прав животных, получила так много телефонных звонков, что им, наконец, пришлось выступить с заявлением для прессы и сказать: «Эй, ребята, нас это не волнует, потому что это не настоящее животное». Трудно не проецировать насилие на этот образ этой роботизированной собаки, которую пинают, или этого гуманоидного робота Атласа, который просто пытается нести коробку через комнату, и на каждом шагу ему мешают и толкают. Очень трудно не видеть себя в этом.

Так же, как нас беспокоит плохое обращение с животными, нас беспокоит плохое обращение с роботами, и нас больше беспокоит плохое обращение с роботом, чем с блендером. И я думаю, что это повлияет на то, как мы используем технологию, и, в конечном итоге, возможно, даже на то, как мы ее регулируем. Я думаю, что самая большая ошибка, которую люди совершают, думая об этом, заключается в том, что они думают, что односторонние отношения — это не отношения, и это абсолютно неверно, я имею в виду, что даже некоторые из наших человеческих отношений, давайте посмотрим правде в глаза, могут быть очень одно- односторонний. Но люди любят своих кошек, и хотя неясно, действительно ли их кошки любят их в ответ, существуют всевозможные отношения, которые мы развиваем с вещами, которые очень односторонние, когда мы получаем что-то от отношений, несмотря на тот факт, что это не, знаете ли, искренняя ответная реакция на наши чувства.

СТИВЕН ДЖОНСОН: Было бы забавно, если бы большая угроза и вызов обществу, которые в конечном счете представляли роботы, не были чем-то вроде Терминатор сценарий, где они решают убить нас всех, но мы влюбляемся в них и развиваем эти действительно неустойчивые, одномерные эмоциональные привязанности.

КЕЙТ ДАРЛИНГ: Это так. Они убьют нас своей милотой.

СТИВЕН ДЖОНСОН: Меня всегда интересовала история Бэббиджа и танцора с точки зрения нашей технологической истории и, возможно, нашего технологического будущего. Но в последнее время я все больше и больше думаю об этой истории как родитель. Я думаю, что у многих из нас есть моменты из детства, когда вы впервые испытываете что-то, и это вызывает чувство восторга и удивления, а затем вы просыпаетесь 30 лет спустя, и это становится вашей карьерой. Я спросил Кейт Дарлинг, был ли у нее подобный опыт, который впервые заинтересовал ее робототехникой.

КЕЙТ ДАРЛИНГ: У меня есть история, но я не был ребенком. Мне было за двадцать. Да, я купил Плео, маленького робота-динозавра. Это действительно крутая технология, и в ней есть все эти сенсорные датчики, и она будет знать, когда она перевернута, потому что у нее есть датчик наклона. Так что, если вы поднимете его за хвост, он начнет плакать. Это действительно восхитительно, и я был очарован им из-за всех камер, микрофонов и всего, что в нем было, потому что в то время это была очень дорогая игрушка, и я показал ее своим друзьям и сказал: «О , поднимите его за хвост, посмотрите, что он делает!» А потом, через некоторое время, я понял, что это начинает меня беспокоить, когда Плео плакала, и я клал его и говорил им: «Хорошо, хватит», а потом я гладил его, чтобы он перестал. плачу, и это был такой ага-момент для меня, потому что я не очень материнский, и, и я знал, как работает этот робот, и тот факт, что я позволил плачу добраться до меня, это действительно, вау, там, что-то происходит здесь, что нужно исследовать. А потом я понял, что есть все эти исследования взаимодействия человека и робота, но не так много людей думают о социальных последствиях этого. И поэтому я полностью сменил карьеру, в конце концов, после того, как увлекся этой игрушкой.

СТИВЕН ДЖОНСОН: Что, где теперь игрушка? Осмелюсь ли я спросить?

КЕЙТ ДАРЛИНГ: О, у меня все еще есть. Так вот, мой первый Плео сломался, он больше не работает, но я всегда держался за него.

СТИВЕН ДЖОНСОН: В истории Бэббиджа и его танцовщицы есть большая симметрия. К сожалению, Мерлин не дожил до того, чтобы увидеть влияние, которое он оказал на историю изобретений. Он умер всего через два года после визита Бэббиджа, и все его оборудование, включая гуляющую леди и анимированного танцора, было продано сопернику по имени Томас Уикс. Уикс никогда не выставлял танцора на обозрение, он просто хранил его на складе почти 30 лет, пока не умер, а затем все его оборудование было выставлено на аукцион. И каким-то образом Чарльз Бэббидж попал на этот аукцион и купил танцовщицу, принес ее домой в свой лондонский таунхаус и установил в своей гостиной рядом с прототипом своей разностной машины.

Мне нравится представлять эти званые обеды у Бэббиджа, когда вся лондонская элита, ученые и интеллектуалы собрались вместе в его гостиной, рассматривая действительно одно из самых важных изобретений 19-го века, один из величайших концептуальных скачков всех времен. время. И прямо рядом с ним игрушка, которая первой пробудила это воображение.

[КОНЕЦ КРЕДИТОВ]

[ЭПИЗОД ЗАКАНЧИВАЕТСЯ]

How We Get To Next — это журнал, в котором исследуется будущее науки, технологий и культуры с 2014 по 2019 год. Волшебная страна — это серия подкастов Стивена Джонсона из десяти частей о прошлом и будущем игр и инноваций. Шоу, включающее беседы о творчестве и изобретениях с ведущими современными учеными, программистами, музыкантами и другими людьми, создано Microsoft и Riverhead Books.