Ирвинг Владавски-Бергер

Коллекция наблюдений, новостей и ресурсов об изменении характера инноваций, технологий, лидерства и других тем.

08 апреля 2019 г.

ИИ и наши социальные взаимодействия

Недавно я писал о мероприятии, которое я посетил 28 февраля, чтобы отпраздновать открытие Колледжа вычислительной техники имени Шварцмана при Массачусетском технологическом институте. Этот новый междисциплинарный колледж является ответом Массачусетского технологического института на появление искусственного интеллекта — чрезвычайно мощной технологии, которая, вероятно, изменит нашу экономику, общество и личную жизнь в ближайшие десятилетия. Но для раскрытия широкого потенциала ИИ потребуется не только постоянное множество технологических инноваций, но и не менее важные исследования проблем, к которым наше общество должно быть готово, включая этические проблемы, сбои на рабочем месте и взаимодействие между людьми.

Мероприятие включало основные доклады и панели по широкому кругу тем. Один из докладов, который показался мне наиболее интересным, — «Переосмысление трения в цифровой культуре» Шерри Теркл, профессора социальных исследований науки и технологий Массачусетского технологического института.

В своих многочисленных работах и ​​семинарах, в том числе в бестселлере «Вместе наедине» 2011 года, профессор Теркл уже давно предупреждает о влиянии технологий на наши социальные взаимодействия. «Большинство из нас, присутствующих здесь сегодня, познакомились с идеей без трения как действительно хорошая вещь», — сказала она в начале своего выступления. «Это эстетика инженерной эффективности, так почему бы ей не быть действительно хорошей вещью?» Идея о том, что технические вещи должны быть гладкими и плавными, легко проникает в другие области. «Эффективность становится желанной — в политике, в бизнесе, в образовании и в наших размышлениях об отношениях».

Она привела несколько примеров взаимодействий без трения, с которыми столкнулась в своем исследовании технологий и социальных отношений. Люди всех возрастов говорили ей, что предпочитают переписываться, а не разговаривать, даже когда общаются с коллегой в соседней кабинке или офисе. Люди говорили ей, что предпочитают писать своему супругу текстовые сообщения, а не разговаривать с глазу на глаз. Она объяснила, что отсутствие трения «обычно связано с надеждой на большую эффективность и меньшую уязвимость».

ИИ, возможно, сам того не желая, теперь стал частью этой свободной от трений истории. ИИ почти по определению — это «обещание эффективности без уязвимости — или, все чаще, иллюзия товарищества без требований дружбы. Но, пытаясь двигаться вперед к свободе от трений, мы ввязываемся во всевозможные новые неприятности».

Проблема свободной цифровой культуры заключается в том, что во многих случаях жизнь учит нас одному, а технологии — другому. «Технологии побуждали нас забыть все, что мы знали о жизни.И мы сделали цифровой мир, где мы могли бы забыть то, чему нас учила жизнь… Пришло время ассоциировать цифровое с другими ценностями, кроме ценности легкости. Скажем, наоборот легко. И пора вспомнить, что противоположность легкости — это не просто сложность. Противоположность слова easy также вызывается такими словами, как сложный, вовлеченный, а также требовательный.”

Профессор Теркл завершила свое выступление, напомнив нам, что, все больше живя в технологическом мире, мы должны помнить «все, что мы знаем о жизни и той жизни, которой мы хотим жить. Мы должны работать над реальным миром так же усердно, как мы работаем над нашими технологиями. Мы не можем просто работать над нашей технологией и надеяться, что она исправит реальный мир». Ее заставляющий задуматься разговор можно увидеть в этом видео.

Профессор Йельского университета Николас Кристакис высказал аналогичные соображения в недавней статье в Атлантический океан, — Как ИИ изменит США .

Научная фантастика долгое время изображала самые большие угрозы ИИ для людей как обезумевшие компьютеры, как, например, Hal 9000 в фильме «2001: Космическая одиссея»; или киборги-убийцы, такие как Терминатор. Некоторые опасаются, что в постсингулярном будущем сверхразумный общий ИИ намного превзойдет человеческий интеллект, что создаст экзистенциальную угрозу человечеству. Но реальная угроза человечеству, по словам профессора Кристакиса, заключается в том, что «к лучшему или к худшему роботы изменят способность людей к альтруизму, любви и дружбе».

Основные инновации уже давно повлияли на то, как люди взаимодействуют друг с другом. Такие технологии, как печатный станок, телефон, радио, телевидение и, в последнее время, Интернет, произвели революцию в том, как мы получаем доступ к информации и обмениваемся ею.

«Как бы ни были важны эти инновации, они не изменили фундаментальных аспектов человеческого поведения, составляющих то, что я называю социальный пакет: важнейший набор способностей, которые мы развили за сотни тысяч лет, включая любовь, дружбу, сотрудничество и обучение…», — написал он.«Но добавление искусственного интеллекта в нашу среду может быть гораздо более разрушительным. Тем более, что машины созданы так, чтобы выглядеть и вести себя как мы и глубоко проникать в нашу жизнь, они могут изменить нашу любовь, дружелюбие или доброту — не только в нашем непосредственном взаимодействии с рассматриваемыми машинами, но и в нашем взаимодействии с одной из них. еще один."

ИИ может помочь улучшить наше отношение друг к другу, а также заставить нас вести себя менее этично. Эксперименты с гибридными группами людей и роботов, работающих вместе, показали, что правильный тип ИИ может помочь улучшить общую производительность группы. Но в других экспериментах он обнаружил, что, добавив несколько ботов, изображающих из себя эгоистичных людей, те же самые группы, которые раньше вели себя альтруистично и щедро по отношению друг к другу, теперь подталкивались ботами к эгоистичному поведению. Это не должно нас удивлять, поскольку за последние несколько лет мы видели, как распространение дезинформации вредоносными ботами через социальные сети может иметь крайне негативное, поляризующее влияние на большие группы людей.

«Сотрудничество — ключевая черта нашего вида, необходимая для социальной жизни. А доверие и щедрость имеют решающее значение для отличия успешных групп от неуспешных. Если каждый вмешивается и чем-то жертвует, чтобы помочь группе, от этого выиграют все. Однако когда такое поведение нарушается, само понятие общественного блага исчезает, и страдают все. ”

«Тот факт, что ИИ может значительно уменьшить нашу способность работать вместе, вызывает крайнюю озабоченность… Поскольку ИИ проникает в нашу жизнь, мы должны противостоять возможности того, что он будет подавлять наши эмоции и препятствовать глубоким человеческим связям, делая наши отношения друг с другом менее взаимными или более мелкой или более нарциссической».

Нам потребуются правила, законы и политический надзор, чтобы помочь нам справиться с потенциально негативным воздействием ИИ на общество — мало чем отличаясь от того, как мы остановили корпорации от загрязнения наших источников воды или людей от распространения вредного сигаретного дыма. «Поскольку влияние ИИ на взаимодействие между людьми должно быть интенсивным и далеко идущим, а прогресс быстрым и масштабным, мы должны систематически исследовать, какие эффекты второго порядка могут возникнуть, и обсуждать, как регулировать их от имени общее благо».

«В недалеком будущем машины, наделенные ИИ, могут благодаря программированию или независимому обучению (способность, которую мы им дадим) начать демонстрировать формы интеллекта и поведения, которые кажутся странными по сравнению с нашими собственными», — пишет автор. в заключение профессор Кристакис. «Нам нужно будет быстро отличить просто странное поведение от того, что действительно угрожает нам. Аспекты ИИ, которые должны нас больше всего беспокоить, — это те, которые затрагивают основные аспекты социальной жизни человека — черты, которые обеспечили выживание нашего вида на протяжении тысячелетий».