Почему самый умный ИИ все еще тупее малыша — и как мы можем это исправить

Тристан — футуролог, рассказывающий о достижениях искусственного интеллекта, ориентированных на человека, квантовых вычислениях, STEM, физике и космосе. Местоимения: (показать все) Тристан — футурист, освещающий достижения в области искусственного интеллекта, ориентированные на человека, квантовые вычисления, STEM, физику и космические вещи. Местоимения: он/его

Искусственный интеллект, несомненно, является одним из самых важных изобретений в истории человечества. Он принадлежит фэнтези «Mt. Наплыв технологий наряду с электричеством, паровыми двигателями и Интернетом. Но в своем нынешнем воплощении ИИ не очень умен.

На самом деле, даже сейчас, в 2020 году, ИИ все еще тупее младенца. Большинство экспертов по искусственному интеллекту — те, кто активно работает в сообществах исследователей и разработчиков — считают, что путь вперед лежит через постоянные инвестиции в системы статус-кво. Рим, как говорится, не был построен за один день, и системы искусственного интеллекта человеческого уровня тоже не будут построены.

Но Гэри Маркус, эксперт по искусственному интеллекту и познанию и генеральный директор робототехнической компании Robust.AI, говорит, что проблема в том, что мы только царапаем поверхность интеллекта. Он утверждает, что глубокое обучение — парадигма, на которой работает большинство современных ИИ, — не приблизит нас к интеллекту человеческого уровня без глубокого понимания.

Присоединяйтесь к TNW в Валенсии!

Сердце технологий приближается к сердцу Средиземноморья

В недавней статье о The Gradient Маркус написал:

Нынешние системы могут извергать знания, но они не могут по-настоящему понять в развивающейся истории, кто что кому сделал, где, когда и почему; у них нет настоящего чувства времени, места или причинности.

Пять лет с тех пор, как векторы мысли стали популярными, рассуждения так и не были решены. Спустя почти 25 лет после того, как Элман и его коллеги впервые попытались использовать нейронные сети для переосмысления врожденности, проблемы остаются более или менее такими же, как и всегда.

В частности, он имеет в виду GPT-2, большой генератор плохого текста, который в начале этого года попал в заголовки газет как одна из самых передовых систем искусственного интеллекта, когда-либо созданных. GPT-2 — это монументальное достижение в области информатики и свидетельство силы ИИ… и это довольно глупо.

Статья Маркуса делает все возможное, чтобы указать, что GPT-2 очень хорош в анализе невероятно больших объемов данных, но в то же время очень плохо справляется с чем-либо, даже отдаленно напоминающим базовое человеческое понимание информации. Как и в любой системе ИИ: GPT-2 ничего не понимает в словах, на которых она обучена, и ничего не понимает в словах, которые выплевывает.

Принцип работы GPT-2 прост: вы вводите приглашение, и нейросеть Transformer, обученная на 42 гигабайтах данных (по сути, весь чертов интернет) с возможностью манипулировать 1,5 миллиардами параметров, выдает больше слов. Из-за характера обучения GPT-2 он может выводить предложения и абзацы, которые кажутся написанными беглым носителем языка.

Но GPT-2 не понимает слов. Он не выбирает конкретные слова, фразы или предложения по их правдивости или значению. Он просто выдает блоки бессмысленного текста, которые обычно кажутся грамматически правильными только благодаря своей грубой силе (1,5 миллиарда параметров). Он может быть бесконечно полезен как инструмент для создания произведений искусства, но как источник информации он не имеет никакой ценности.

На следующем изображении Маркус получает очень плохой совет от GPT-2 о том, как справиться с проглатыванием соляной кислоты:

GPT-2 впечатляет, но не по тем причинам, по которым многие могут подумать. Как говорит Маркус:

Простая возможность построить систему, которая может обрабатывать данные в масштабе Интернета, сама по себе является подвигом, и тот, в котором преуспел его разработчик OpenAI.

Но интеллект требует большего, чем просто связывание битов данных с другими битами данных. Маркус утверждает, что нам понадобится глубокое обучение, чтобы приобрести глубокое понимание, если мы хотим двигаться вперед в этой области. Нынешняя парадигма не поддерживает понимание, а только предварительную цифровизацию: современный ИИ просто использует наборы данных для создания паттернов.

Глубокое понимание, согласно презентации Маркуса на NEURIPS в этом году, потребует от ИИ способности формировать «ментальную» модель ситуации на основе предоставленной информации.

Подумайте о самых продвинутых роботах сегодня: максимум, на что они способны, — это перемещаться, не падая, или выполнять повторяющиеся задачи, например, переворачивать гамбургеры в контролируемой среде. Нет робота или системы искусственного интеллекта, которые могли бы зайти на незнакомую кухню и приготовить чашку кофе.

Однако человек, который понимает, как готовится кофе, мог бы зайти практически на любую кухню в мире и понять, как приготовить чашку, если бы были доступны все необходимые компоненты.

Путь вперед, по словам Маркуса, должен включать в себя нечто большее, чем глубокое обучение. Он выступает за гибридный подход, который сочетает в себе символическое мышление и другие методы познания с глубоким обучением для создания ИИ, способного к глубокому пониманию, в отличие от продолжающихся вложений миллиардов долларов в то, чтобы втиснуть больше вычислений или более крупные пакеты параметров в те же старые архитектуры нейронных сетей.

Для получения дополнительной информации ознакомьтесь с «Перезагрузка ИИ» Гэри Маркуса и Эрнеста Дэвиса и прочитайте недавнюю редакционную статью Маркуса о градиенте здесь.

Также помечен

• Информатика
• Глубокое обучение