Прогресс в области искусственного интеллекта остановился?

Мы только что вступили в 2020 год, и мир так и не стал похож на Джетсонов с летающими машинами и роботами-горничными. Со всеми окружающими разговорами и шумихой об искусственном интеллекте, захватившем нашу жизнь и заменяющем нас роботами, мы все должны быть безработными и бездомными, но это не так.

Согласно исследованию, проведенному OpenAI, объем вычислительной мощности, используемой для обучения ИИ, удваивается каждые 3,4 месяца. Это массивное, почти невозможное ускорение, к которому не привыкла стандартная прогрессия.

Концепция, используемая в вычислениях, называется законом Мура, согласно которой вычислительная мощность удваивается каждые два года. Вычисления, описанные выше, производят в семь раз больше, чем закон Мура.

СЕМЬ РАЗ.

OpenAI считает, что для использования этой технологии ИИ потребовалось увеличение вычислительной мощности в 300 000 раз. Эта тенденция не является устойчивой, и из-за этого прогресс в области искусственного интеллекта страдает. Исследования показали, что большая вычислительная мощность приводит к предсказуемо более высокой производительности систем ИИ.

ИИ мешает тому, насколько продвинутым он может стать из-за фактических ограничений вычислительных возможностей. В OpenAI отмечают, что простая физика ограничит потенциальную эффективность чипов, используемых для питания и обучения систем ИИ.

Значит ли это, что в какой-то момент ИИ полностью перестанет развиваться? Может быть, если исследователи не найдут новые способы обойти это ограничение. Мы рассмотрим пару потенциальных новаторских открытий ниже.

«Скорость прогресса неустойчива, если вы посмотрите на лучшие эксперименты, каждый год стоимость увеличивается в 10 раз. Прямо сейчас эксперимент может быть семизначным, но он не будет 9- или 10-значным, это невозможно, никто не может себе этого позволить». Джеймс Песенти, глава отдела искусственного интеллекта Facebook.

Квантовые вычисления

Все компьютеры полагаются на фундаментальную способность хранить и обрабатывать информацию в отдельных битах. Эти биты представляют собой длинные строки, которые кодируются либо нулем, либо единицей. Вместо этого квантовые компьютеры используют квантовые биты или кубиты, которые меньше по размеру. Они работают по принципу суперпозиции, который позволяет находиться в нескольких состояниях одновременно.

Итак, какое это имеет значение для ИИ?

Ну, там, где стандартный компьютер может использовать нули и единицы для выполнения вычислений, квантовый компьютер имеет преимущество использования нулей, единиц и квантовых битов посредством суперпозиции для вычислений одновременно.

Все крупные игроки используют возможности квантовых вычислений, и они верят, что будущее за устранением нынешних ограничений ИИ. Google даже объявил, что достиг «квантового превосходства», разработав квантовый процессор, способный выполнять вычисления, на выполнение которых стандартному компьютеру потребовалось бы более 10 000 лет.

Amazon объявила о плане предлагать квантовые вычисления в качестве услуги, аналогичной тому, как она предлагает Amazon Web Services.

Обе эти компании могут представлять собой потенциальный прогресс ИИ в преодолении его текущих ограничений и возможностей.Однажды люди смогут развить способность думать, чувствовать и вести себя как настоящий человек в машине с искусственным интеллектом. Конечно, мы очень далеки от такой человеческой реакции, но она не выходит за рамки возможного.

Метаобучение

Эта концепция была первоначально описана Дональдом Б. Модсли в 1979 году как процесс, в ходе которого учащиеся осознают и все больше контролируют привычки восприятия, исследования, обучения и роста, которые они усвоили.

Другими словами, учащиеся учатся тому, как они учатся. Они адаптируются к новым условиям и осваивают новые навыки на нескольких обучающих примерах. Три наиболее распространенных подхода для достижения этой цели:

1. Изучите эффективную метрику расстояния. (на основе показателей)

2. Используйте рекуррентную сеть с внешней или внутренней памятью (на основе модели).

3. Явно оптимизируйте параметры модели для быстрого обучения. (на основе оптимизации)

Процесс адаптации происходит во время теста, но с ограниченным воздействием новой конфигурации задачи. Адаптированная модель будет выполнять новые задачи после того, как будет запущена несколько раз после того, как научится учиться.

Задачи могут представлять собой любое четко определенное семейство задач машинного обучения, включая обучение с учителем и обучение с подкреплением.

Хорошая модель метаобучения должна быть обучена различным задачам обучения и оптимизирована для достижения наилучшей производительности при распределении задач. Каждая задача связана с набором данных, содержащим как векторы признаков, так и истинные метки.

Вывод

Искусственный интеллект начинает замедляться с точки зрения прогресса, и ему нужен новый способ продолжать расти как на дрожжах. Отсутствие достаточной вычислительной мощности — одна из основных причин, по которой ИИ сдерживается. Джером Песенти, глава отдела искусственного интеллекта Facebook, сказал журналу Wired, что глубокое обучение работает лучше всего, когда его можно масштабировать и дать больше возможностей для работы. Он также предположил, что развитие искусственного интеллекта и машинного обучения вот-вот «упрется в стену».

Две многообещающие технологии, которые мы обсуждали ранее, считаются лучшими решениями для решения этой проблемы. Квантовые вычисления увеличат вычислительную мощность для выполнения гораздо большего количества вычислений, чем это может сделать стандартный компьютер. Метаобучение сделает ИИ умнее, обучая себя новым навыкам или быстро адаптируясь к новым условиям. Любой из этих потенциальных прорывов изменит правила игры для человечества. Нам просто нужно подождать и посмотреть, какой из них можно разработать и предложить лучший шанс решить самые большие проблемы в мире.