0 просмотров

Проблема с антропоморфизацией искусственного интеллекта

Робот играет в шахматы

На прошлой неделе в эссе для Нью-Йорк Таймс, известный математик Стивен Строгац похвалил недавно опубликованные результаты производительности AlphaZero, искусственного интеллекта для настольных игр, разработанного DeepMind, британской компанией по искусственному интеллекту, приобретенной Google в 2014 году.Хотя его анализ результатов AlphaZero интересен для чтения, некоторые выводы Строгаца об общих достижениях в области ИИ вызывают сомнения.

«[AlphaZero] явно демонстрирует тип интеллекта, которого люди раньше не видели и над которым мы еще долго будем размышлять», — пишет Строгац в начале статьи.

Далее Строгац пишет: «Играя против себя и обновляя свою нейронную сеть по мере того, как она училась на собственном опыте, AlphaZero самостоятельно открыла принципы игры в шахматы и быстро стала лучшим игроком в истории».

Строграц также заявил, что AlphaZero «казалось, выражает понимание», и описал свой игровой процесс как интуитивно понятный, красивый и романтичный.

Похвала Строгратца за инновации AlphaZero понятна. Достижения AlphaZero вошли в число самых впечатляющих разработок ИИ 2017 года. Однако проблема его эссе в том, что он пытается описать искусственный интеллект и глубокое обучение с точки зрения человеческих характеристик.

Такое мышление может привести к неправильной интерпретации технологических достижений и нереалистичным ожиданиям инноваций в области ИИ. Хотя я считаю маловероятным, что Строграц, будучи одним из ведущих специалистов в области математики, раздул иллюзии относительно пределов возможностей нынешних смесей ИИ, его труды, безусловно, могут способствовать созданию неправильного представления о том, в каком состоянии находится ИИ сегодня.

Статья в тему:  Как рассчитать значение q искусственного интеллекта

Антропоморфизация глубокого обучения

камни на доске го

Антропоморфизация ИИ — проблема, которая слишком часто встречалась в истории компьютеров и искусственного интеллекта. На протяжении десятилетий мы пытались создать соответствие между функциями искусственного интеллекта и человеческого мозга. Нам нравится думать, что когда-нибудь в будущем ИИ сможет воспроизвести абстрактное мышление человеческого разума.

Мы пытаемся думать об алгоритмах ИИ как о существах, которые могут любить (Ей а также ВАЛЛ-И), ненавидеть (HAL 9000), иметь злые амбиции (Матрица), жертвовать собой ради друзей (Большой герой 6, Терминатор 2) и проявляют многие другие типы человеческих эмоций и поведения.

Все эти примеры относятся к произведениям художественной литературы. Зрители без тени сомнения знают, что то, что они видят и о чем читают, даже отдаленно невозможно. Однако когда дело доходит до современных технологий, антропоморфизация ИИ может иметь более прямые последствия.

Справедливости ради следует отметить, что есть достаточно причин гуманизировать машинное обучение и глубокое обучение, самые популярные подмножества искусственного интеллекта. Глубокое обучение и его базовая технология, искусственные нейронные сети, смогли решить проблемы, которые исторически были сложными для классических подходов к созданию программного обеспечения. Нейронные сети особенно эффективны при обнаружении и классификации объектов на изображениях и видео, распознавании лиц и речи, расшифровке аудиоречей и синтезе искусственных голосов, которые звучат естественно. Нейронные сети также могут взаимодействовать с людьми на их родном языке способами, которые ранее были невозможны.

Статья в тему:  Как определяется термин неопределенность в искусственном интеллекте

Благодаря достижениям в области глубокого обучения и открывшихся вариантов использования взаимодействие между людьми и компьютерами сильно изменилось. Теперь у нас есть цифровые помощники, с которыми мы разговариваем на разговорном языке и персонифицируем их, называя их такими именами, как Siri, Alexa и Cortana.

Для тех, кто помнит дни, когда компьютерное программное обеспечение представляло собой жесткие фрагменты кода, которые могли выполнять задачи только на основе определенных правил, эти подвиги достаточно впечатляют, чтобы оправдать напоминание о третьем законе Артура Кларка:

Любая достаточно развитая технология неотличима от магии.

В этом плане у AlphaZero даже больше достоинств, чем у многих других достижений глубокого обучения. Во-первых, AlphaZero не использует информацию от людей (отсюда и название) и «изучает» настольные игры с нуля, играя против себя.Это противоречит общей практике глубокого обучения, которое включает в себя тщательную маркировку и классификацию обучающих данных людьми-операторами, дисциплина, породившая собственную индустрию труда.

Во-вторых, AlphaZero каким-то образом преодолела одно из известных ограничений глубокого обучения. Большинство алгоритмов глубокого обучения могут очень хорошо выполнять задачу, для которой они были обучены, но ужасно делать все, что выходит за рамки их узкой области. Например, нейронная сеть, обученная игре в шахматы, будет бесполезна в игре в го. Вам нужно будет переучить его с нуля. С другой стороны, AlphaZero удалось в определенной степени обобщить автоматизацию настольных игр. Ученым DeepMind удалось использовать один и тот же алгоритм для игры в шахматы, сёги и го — три настольные игры с совершенно разными наборами правил.

Статья в тему:  Что было после искусственного интеллекта

Почему неправильно гуманизировать глубокое обучение

Касание человеческих рук робота

Но, несмотря на все свои чудеса, AlphaZero нигде не сравнится с человеческим разумом. В ее игровом процессе нет ничего интуитивно понятного, красивого и романтичного.

Как объясняет эксперт в области ИИ и венчурный капиталист Кай-Фу в своей знаменитой книге «Сверхспособности ИИ»: «Со всеми достижениями в области машинного обучения правда остается в том, что мы все еще далеки от создания машин с искусственным интеллектом, которые вообще испытывают какие-либо эмоции. Можете ли вы представить восторг, который приходит от победы над чемпионом мира в игре, которой вы посвятили всю свою жизнь? AlphaGo так и делала, но не получала удовольствия от своего успеха, не чувствовала счастья от победы и не имела желания обнять любимого человека после своей победы».

AlphaZero тоже «усвоил принципы игры в шахматы», но не так, как гроссмейстер-человек.

ИИ в настольных играх обычно состоит из двух компонентов: функции ценности и алгоритма поиска по дереву. Функция ценности помогает ИИ оценить вероятность того, что определенное расположение на доске приведет к выигрышу каждого из игроков.Алгоритм поиска по дереву помогает ИИ оптимально ориентироваться в наборах возможных ходов и связанных с ними значений.

Stockfish, самый сильный алгоритм игры в шахматы до AlphaZero, гораздо ближе к принципам игры, известным игрокам-людям. Программисты тщательно закодировали его функцию ценности в соответствии с принципами и стратегиями игры в шахматы, известными людям-экспертам.

Статья в тему:  Почему нам нужно укреплять доверие к искусственному интеллекту

Напротив, AlphaZero использует нейронную сеть для разработки своей функции ценности. Это означает, что он исследует миллионы состояний шахматной доски и результирующий результат и разрабатывает математическую функцию, которая может присваивать значения новому расположению шахматной доски на основе его сходства с другими примерами, которые он видел раньше.

AlphaZero также использует обучение с подкреплением, что означает, что он не требует ввода или обучения со стороны людей-операторов. Он играет сам с собой много раз, начиная со случайных ходов и постепенно обновляя свою функцию ценности по мере того, как пробует разные последовательности. Хотя обучение с подкреплением является очень захватывающим и продвинутым подмножеством глубокого обучения, ему еще предстоит преодолеть много препятствий. Если оставить их наедине с собой, нейронные сети могут застрять или развить иррациональное поведение.

В следующем примере нейронная сеть, играющая в CoastRunners, решила, что бегать по кругу и наносить удары по объектам более полезно, чем оставаться на курсе и пытаться завершить игру.

Изобретательность AlphaZero заключалась в том, что ее создателям удалось разработать приемы, которые помогли ей пройти самостоятельную игру, не застряв. Но опять же, это не магия. Это правильная настройка нейросетей и поиск по дереву Монте-Карло. AlphaZero не ценит свои победы. Это не использование тактики в том смысле, в каком это делают люди. У него нет ментальной модели игры. Он не пытается читать мысли своих оппонентов. Это просто оптимизация для получения определенного результата, который в данном случае является выигрышным ходом.

Статья в тему:  Как искусственный интеллект использует данные

И давайте не будем забывать, что настольные игры почти так же сложны, как и некоторые другие области, в которые отважились проникнуть нейронные сети и алгоритмы глубокого обучения. В настольных играх игроки имеют полное представление обо всей окружающей среде и по очереди делают ходы. Это общий знаменатель между шахматами, сёги и го — всеми тремя играми, которыми овладела AlphaZero. По сути, вы можете обучать одну и ту же сеть на изображениях состояний доски из разных игр и получать приемлемые результаты.

Чего нельзя сказать о других областях, где применяется глубокое обучение, таких как самоуправляемые автомобили или даже другие игры, которые исследуются с помощью алгоритмов ИИ, такие как покер или стратегические видеоигры в реальном времени.

Ничто из этого не означает, что AlphaZero или другие приложения глубокого обучения, нейронных сетей и других инноваций в области искусственного интеллекта следует недооценивать и обесценивать. Они являются одними из самых важных и мощных достижений нашего века.

Но это не значит, что мы должны начать гуманизировать глубокое обучение и делать неверные выводы. В конце своей статьи Строграц предполагает, что AlphaZero, возможно, превратится «в более общий алгоритм решения проблем». AlphaZero — статистический зверь, и он может справиться с настольными играми, потому что они могут быть хорошо представлены в статистических терминах.

Статья в тему:  В искусственном интеллекте почему она ушла

AlphaZero может иметь общие настольные игры, но общее решение проблем требует здравого смысла и абстрактного мышления, характеристик, которые до сих пор присущи только человеческому разуму. Ведущие голоса в области искусственного интеллекта считают, что мы далеки от создания «общего ИИ», компьютеров, которые могут сравниться с интеллектуальными и мыслительными способностями людей.

Опять же, когда вы описываете нейронную сеть с глубоким обучением в терминах, применимых к людям, легко подумать, что они скоро смогут решить любую возможную проблему.

Как это:

Нравится Загрузка.

  • ТЕГИ
  • ИИ играет в игры
  • АльфаГо
  • Искусственный интеллект
  • глубокое обучение
  • Демистификация ИИ
  • машинное обучение
  • нейронные сети
  • Мнение
голоса
Рейтинг статьи
Ссылка на основную публикацию
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x
Adblock
detector