Человечество должно опасаться достижений в области искусственного интеллекта

Растущая способность машин в последние годы копировать или даже превосходить человеческие способности в сложных задачах впечатляет. Методы искусственного интеллекта (ИИ) уже использовались, чтобы позволить машинам побеждать лучших игроков мира как в шахматы [ссылка: Time], так и в китайскую настольную игру го [ссылка: Guardian]. Система IBM Watson обыграла лучших игроков в многолетней викторине в США. Опасность! [Ссылка: Techrepublic]. Хотя такие демонстрации потенциала ИИ интригуют, в настоящее время появляется все больше и больше реальных приложений для систем ИИ. Например, системы распознавания голоса, такие как Alexa от Amazon и Siri от Apple, используют методы искусственного интеллекта, чтобы узнать, каким может быть наиболее подходящий ответ на наши вопросы. Беспилотные автомобили нельзя запрограммировать заранее на все случаи жизни, они должны «учиться» на собственном опыте с использованием ИИ. В сочетании с огромными наборами данных машины с поддержкой ИИ могут научиться интерпретировать рентгеновские снимки и другие сканы, что сделает диагностику более быстрой и точной [Ссылка: Обзор технологий].

Но последствия для общества только сейчас становятся очевидными. В 2015 году главный экономист Банка Англии Эндрю Холдейн предположил, что до трети рабочих мест в Великобритании — 15 миллионов — могут быть потеряны из-за автоматизации [Ссылка: Guardian]. Примеры могут включать замену водителей автономными транспортными средствами и административного персонала, замененного интеллектуальными помощниками, такими как Alexa. Более того, сейчас под угрозой находятся не только низкоквалифицированные рабочие места.В будущем более умные машины и искусственный интеллект могут повлиять на гораздо более широкий спектр рабочих мест, в том числе на многие высокооплачиваемые и высококвалифицированные должности. Системы распознавания лиц в сочетании с вездесущей системой видеонаблюдения могут поставить под сомнение нашу конфиденциальность. Всемирно известный физик Стивен Хокинг даже заявил, что «ИИ может полностью заменить людей» как «новая форма жизни», которая может быстро учиться и совершенствоваться, делая людей устаревшими [Ссылка: Independent]. Так должны ли мы приветствовать потенциал ИИ или предполагаемые угрозы слишком велики?

В КОНТЕКСТЕ

В этом разделе представлено краткое изложение ключевых вопросов, затронутых в дебатах, в контексте недавних дискуссий и конкурирующих позиций, которые были приняты.

Что такое ИИ?

Термин «искусственный интеллект» был придуман в 1956 году, но «ИИ сегодня стал более популярным благодаря увеличению объемов данных, усовершенствованным алгоритмам и улучшениям в вычислительной мощности и хранилище» [Ссылка: SAS]. По сути, ИИ — это «набор технологий, которые можно использовать для имитации или даже превосходства над задачами, выполняемыми людьми с помощью машин» [Ссылка: The Conversation]. ИИ используется в самых разных приложениях, от поисковых систем в Интернете до программ самообучения, способных учиться на собственном опыте, таких как технология Deepmind от Google [Ссылка: Financial Times]. Теперь, похоже, «машины быстро берутся за все более сложные когнитивные задачи, посягая на фундаментальную способность, которая отличает людей как вид: принимать сложные решения, решать проблемы и, самое главное, учиться» [Ref: Файнэншл таймс].

Этика ИИ

ИИ ставит перед обществом некоторые фундаментальные этические вопросы.Например, как нам следует рассматривать потенциал использования ИИ на военной арене? Хотя в настоящее время существует консенсус в отношении того, что «предоставление роботам права убивать людей означало бы переступить красную черту, которую никогда нельзя пересекать» [Ссылка: Financial Times], следует отметить, что роботы уже присутствуют в обезвреживании бомб, разминировании и противоракетные системы. Некоторые, такие как инженер-программист Рональд Аркин, считают, что разработка «этичных роботов», запрограммированных в соответствии со строгими этическими кодексами, может быть полезна в армии, если они запрограммированы никогда не нарушать правила ведения боя, которые люди могут игнорировать [Ссылка: Nature]. Точно так же потенциал для большей автономии и принятия решений, который воплощает ИИ, открывает моральный вакуум, который, по мнению некоторых, должен быть устранен обществом, правительствами и законодателями [Ссылка: The Times], в то время как другие утверждают, что кодекс этики для робототехники срочно необходимо [Ссылка: The Times]. В конце концов, кто будет нести ответственность за ошибочное решение, принятое машиной? Программист, инженер, владелец или сам робот?

Кроме того, критики говорят, что беспилотные автомобили могут быть задействованы в ситуациях, когда за доли секунды принимается решение либо свернуть, что может привести к гибели пассажиров, либо не свернуть, что может привести к гибели другого участника дорожного движения. Как должна решать машина? До какой степени мы должны позволять машинам решать? [Ссылка: Aeon] Другие утверждают, что технология принципиально «морально нейтральна», например: «Та же технология, которая запускала смертоносные ракеты во Второй мировой войне, привела Нила Армстронга и Базза Олдрина на поверхность Луны. Использование ядерной энергии опустошило Хиросиму и Нагасаки, но оно также обеспечивает электроэнергией миллиарды без сжигания ископаемого топлива». В этом смысле: «ИИ — это еще один инструмент, и мы можем использовать его, чтобы сделать мир лучше, если захотим». [Ссылка: гаджет]

Угроза человечеству?

Для некоторых критиков достижения в области искусственного интеллекта создают очень реальные экзистенциальные проблемы для человечества в будущем.Профессор Оксфорда Ник Бостром, например, выразил обеспокоенность по поводу того, что может произойти, если способность машин к самообучению ускорится очень быстро — то, что он называет «взрывом интеллекта». Бостром считает, что «в какой-то момент мы создадим сверхразумные машины, и что первая машина, достигшая сверхразума, может стать настолько мощной, что сможет формировать будущее в соответствии со своими предпочтениями» [Ссылка: Vox]. Технологические предприниматели Билл Гейтс и Илон Маск также публично заявили об опасениях по поводу опасностей искусственного интеллекта и предупредили, что существуют очень реальные риски, связанные с распространением технологий, если их не остановить [Ссылка: Guardian], хотя Гейтс звучал более оптимистично. обратите внимание недавно [Ссылка: CNBC]. Автономность — это ключевой вопрос, который особенно беспокоит некоторых критиков. Технолог Том Диттерих предупреждает, что, несмотря на предложения иметь беспилотные автомобили, автономное оружие и автоматизированных хирургических помощников, системы ИИ никогда не должны быть полностью автономными, потому что: «По определению полностью автономная система это то, над чем мы не имеем никакого контроля, и я не думаю, что мы когда-либо хотим оказаться в такой ситуации». [Ссылка: Business Insider] Кроме того, есть также практические вопросы, которые критики стремятся исследовать, например, будущее работы, причем многие предполагают, что достижения в области автоматизации приведут к тому, что определенные рабочие места устареют. Комментатор Клэр Фогес размышляет об этих событиях и проводит параллели с луддитами 200 лет назад, которые пытались сопротивляться растущей автоматизации своей работы во время начала промышленной революции [Ссылка: History.com]. Она отмечает, что на фоне недавних прогнозов о том, что до пяти миллионов человек могут потерять работу из-за автоматизации [Ссылка: The Times]: «Двести лет спустя более смелый новый мир появляется с поразительной скоростью и угрожает сделать из нас луддитов. все.Роботы идут, они здесь; тайно пробирается на фабрику, в контору и в магазин». [Ссылка: Таймс]

Дивный новый мир?

Для сторонников продвижение ИИ может изменить мир невообразимым образом, и они в значительной степени игнорируют предупреждения об опасностях, которые он может представлять. Как отмечает Адам Джезард: «Такие опасения не новы… От ткацких станков промышленной революции до велосипеда механизация вызывала опасения, что технологии сделают людей излишними или изменят общество тревожным образом». [Ссылка: Financial Times] Кроме того, сторонники просят нас учитывать преимущества, которые ИИ уже принес нам, такие как более быстрое обнаружение мошенничества [Ссылка: The Banker], которые будут продолжать развиваться и революционизировать то, как мы живем. В области медицины один комментатор высказывает все более правдоподобную идею о наличии программы, которая в будущем сможет распознавать разницу между раковыми опухолями и здоровыми тканями намного лучше, чем люди, что произведет революцию в здравоохранении [Ссылка: The Times]. Другие также критикуют аргументы, согласно которым прогресс в области ИИ сигнализирует о конце человечества, и указывают на тот факт, что: «После стольких разговоров о рисках сверхразумных машин пришло время включить свет, перестать беспокоиться о научно-фантастических сценариях, и начните сосредотачиваться на реальных проблемах ИИ». [Ссылка: Aeon] Возможно, более глубоко другие задаются вопросом, почему мы так быстро недооцениваем наши человеческие способности и боимся ИИ. Автор Николас Карр замечает, что хотя: «Каждый день нам напоминают о превосходстве компьютеров… Мы забываем, что наши машины созданы нашими руками», а на самом деле: «Если бы компьютеры обладали способностью удивлять, они были бы поражены нами». [Ссылка: New York Times] Кроме того, фундаментальным аргументом в пользу ИИ является идея о том, что технологический прогресс — это хорошо само по себе.Футурист Доминик Басульто резюмирует этот момент, когда говорит об «экзистенциальной награде», утверждая, что «человечеству необходимо учитывать антиутопические предсказания будущего. Но у него также есть необходимость двигаться вперед, чтобы полностью раскрыть свой потенциал». [Ссылка: Washington Post] Начиная с промышленной революции, мы постепенно делаем нашу повседневную жизнь проще и безопаснее благодаря инновациям, автоматизации и технологиям. Например, прогнозируется, что появление беспилотных транспортных средств резко сократит количество дорожно-транспортных происшествий в будущем, и: «Машины, известные как автомобили, давно сделали лошадей излишними в развитом мире — за исключением верховой езды для чистого досуга или спорта. [Ссылка: The Times]. Итак, учитывая все аргументы, правы ли критики, опасаясь распространения ИИ в нашей жизни и тех этических и практических проблем, которые он может создать для человечества в будущем? Или мы должны принять технологический прогресс, который представляет ИИ, и весь его потенциал изменить нашу жизнь к лучшему?

ОСНОВНЫЕ СВЕДЕНИЯ

ЗА

Роботы украдут вашу работу? Вероятно
Моше и Варди Страж 7 апреля 2016 г.

Пора поставить этих роботов на место
Бен Макинтайр Времена 11 марта 2016 г.

Автоматизированная этика
Том Чатфилд Эон 31 марта 2014 г.

ПРОТИВ

Я, например, приветствую появление роботов. Они могут делать работу, пока я играю
Доминик Лоусон Времена 20 марта 2016 г.

Почему мы всегда будем нужны роботам
Николас Карр Газета "Нью-Йорк Таймс 20 мая 2015 г.

Почему самые умные люди в мире не должны так бояться ИИ
Доминик Басульто Вашингтон пост 20 января 2015 г.

ГЛУБОКО

Искусственный интеллект и этика: 10 областей интересов
Брайан Патрик Грин Марккула Центр прикладной этики 21 ноября 2017 г.

Девять главных этических проблем в области искусственного интеллекта
Юлия Боссман Всемирный Экономический Форум 21 октября 2016 г.

Изобретение судного дня
Раффи Хачадурян Житель Нью-Йорка 25 ноября 2015 г.

«Предзнаменования»
Росс Андерсон Эон 25 февраля 2013 г.

ПРЕДПОСЫЛКИ

Полезные веб-сайты и материалы, являющиеся хорошей отправной точкой для исследований.

Как искусственный интеллект может освободить профессионалов для создания большей ценности
Кристофер Фицджеральд и Фернандо Флорес АССА 1 мая 2017 г.

Наш страх перед искусственным интеллектом
Пол Форд Обзор технологий Массачусетского технологического института 11 февраля 2015 г.

ОРГАНИЗАЦИИ

Ссылки на организации, группы кампании и официальные органы, на которые есть ссылки в Тематическом справочнике или которые будут полезны для предоставления дополнительной исследовательской информации.

В НОВОСТЯХ

Соответствующие последние новости из различных источников, которые обеспечивают учащимся актуальную осведомленность о состоянии дебатов.

Как ИИ избавляет здравоохранение от грязной работы
Джонатан Буш Гарвардский бизнес-обзор 5 марта 2018 г.

Использование ИИ для помощи жертвам инсульта, когда «время — это мозг»
Том Симонит Проводной 28 февраля 2018 г.

Забудьте о роботах-убийцах — реальная опасность ИИ — предвзятость
Уилл Найт метро 3 октября 2017 г.

АУДИО ВИЗУАЛЬНЫЙ

Роботы идут: друзья или враги?
Битва идей 18 октября 2014 г.

Новостная рассылка
Чтобы быть в курсе новостей, конкурсов и тематических руководств Debating Matters, присоединяйтесь к нашему списку рассылки. здесь.

Последние новости

• Вдохновленный обсуждением вопросов 28 июня 2022 г.
• В центре внимания выпускница DM: Юлия Даннеманн-Фрайтаг 28 июня 2022 г.
• Сабина Бепплер-Шпал: о запуске программы Debating Matters в Берлине, 28 июня 2022 г.
• Нельсон-Мандела-Шуле одерживает победу на чемпионате по дебатам в Берлине 2022 г. 22 июня 2022 г.
• Объявляем чемпионат по дебатам в Берлине 2022! 31 мая 2022 г.

Поддержка обсуждения вопросов

Debating Matters — проект зарегистрированной благотворительной организации «Битва идей».
Битва идей (бой),
5-8 Святилище, Лондон, SW1P 3JS