Когда наступит сингулярность? 995 мнений экспертов об AGI

Искусственный интеллект пугает и интригует нас. Почти каждую неделю в новостях появляется новая паника, связанная с ИИ, например, разработчики отключают ботов, потому что они стали слишком умными. Большинство этих мифов об ИИ являются результатом исследований, неверно истолкованных людьми, не занимающимися этой областью. Чтобы узнать об основах искусственного интеллекта, не стесняйтесь читать нашу подробную статью об искусственном интеллекте.

Наибольший страх перед ИИ вызывает сингулярность (также называемая общим искусственным интеллектом), система, способная мыслить на уровне человека. По мнению некоторых экспертов, сингулярность также подразумевает машинное сознание. Независимо от того, сознательна она или нет, такая машина могла бы постоянно совершенствоваться и выходить далеко за пределы наших возможностей. Еще до того, как искусственный интеллект стал предметом исследований в области компьютерных наук, писатели-фантасты, такие как Азимов, были обеспокоены этим и разрабатывали механизмы (например, законы робототехники Азимова), чтобы обеспечить благожелательность разумных машин.

Для тех, кто пришел получить быстрые ответы:

• Произойдет ли когда-нибудь сингулярность? По мнению большинства экспертов по ИИ, да.
• Когда произойдет сингулярность? До конца века.

Более подробные ответы приведены ниже. Было проведено несколько опросов и исследований ученых, занимающихся искусственным интеллектом, которые задавались вопросом, когда такие разработки произойдут.

Поймите результаты крупных опросов исследователей ИИ за 2 минуты

Мы рассмотрели результаты 4 опросов с участием 995 человек, в ходе которых исследователи оценивали, когда произойдет сингулярность. Во всех случаях большинство участников ожидали сингулярности ИИ до 2060 года.

В 2009 году был опрошен 21 эксперт по ИИ, участвовавший в конференции АГИ-09. Эксперты считают, что ОИИ произойдет примерно в 2050 году, а возможно, и раньше. Вы можете увидеть выше их оценки конкретных достижений ИИ: прохождение теста Тьюринга, сдача третьего класса, достижение достойных Нобелевской премии научных прорывов и достижение сверхчеловеческого интеллекта.

В 2012/2013 годах Винсент С. Мюллер, президент Европейской ассоциации когнитивных систем, и Ник Бостром из Оксфордского университета, опубликовавшие более 200 статей о сверхразуме и искусственном интеллекте (AGI), провели опрос исследователей ИИ. . 550 участников ответили на вопрос: «Когда может произойти ОИИ?» Ответы распределяются как

• 10% участников считают, что ОИИ может появиться к 2022 году.
• На 2040 год доля составляет 50%
• 90% участников считают, что ОИИ, скорее всего, произойдет к 2075 году.

В мае 2017 года были опрошены 352 эксперта по ИИ, которые публиковались на конференциях NIPS и ICML в 2015 году. Основываясь на результатах опроса, эксперты оценивают 50-процентную вероятность того, что ОИИ произойдет до 2060 года. Однако есть существенная разница во мнениях, основанная на географии: респонденты из Азии ожидают ОИИ через 30 лет, тогда как жители Северной Америки ожидают его через 74 года. Некоторые важные рабочие функции, которые, как ожидается, будут автоматизированы до 2030 года: представители колл-центра, вождение грузовика, розничные продажи.

В 2019 году 32 эксперта по ИИ приняли участие в опросе о сроках использования ИИ:

• 45% респондентов предсказывают дату до 2060 года.
• 34% всех участников предсказали дату после 2060 года.
• 21% участников предсказывали, что сингулярности никогда не будет.

Предприниматели в области ИИ также оценивают, когда мы достигнем сингулярности, и они немного более оптимистичны, чем исследователи:

• Луи Розенберг, ученый-компьютерщик, предприниматель и писатель: 2030 г.
• Патрик Уинстон, профессор Массачусетского технологического института и директор Лаборатории искусственного интеллекта Массачусетского технологического института с 1972 по 1997 год: Он упомянул 2040 год, подчеркнув при этом, что, хотя это произойдет, очень трудно определить дату.
• Рэй Кузвейл, ученый-компьютерщик, предприниматель и автор 5 национальных бестселлеров, в том числе «Сингулярность близка: 2045».
• Юрген Шмидхубер, соучредитель ИИ-компании NNAISENSE и директор швейцарской лаборатории ИИ IDSIA: ~2050 г.

Имейте в виду, что исследователи ИИ были чрезмерно оптимистичны до

• Пионер искусственного интеллекта Герберт А. Саймон в 1965 году: «В течение двадцати лет машины будут способны выполнять любую работу, которую может выполнять человек».
• У японского компьютера пятого поколения в 1980 году был десятилетний график с такими целями, как «ведение случайных разговоров».

Этот исторический опыт способствует тому, что большинство современных ученых избегают прогнозировать ОИИ в смелых временных рамках, таких как 10-20 лет. Однако то, что сейчас они более консервативны, не означает, что на этот раз они правы.

Поймите, почему достижение AGI кажется неизбежным для большинства экспертов

Это может показаться дикими предсказаниями, но они кажутся вполне разумными, если принять во внимание следующие факты:

• Человеческий интеллект неизменен, если мы каким-то образом не объединим наши когнитивные способности с машинами. Стартап Илона Маска, занимающийся нейронными шнурками, стремится сделать это, но исследования нейронных шнурков находятся на ранних стадиях.
• Машинный интеллект зависит от алгоритмов, вычислительной мощности и памяти. Вычислительная мощность и объем памяти растут экспоненциально.Что касается алгоритмов, то до сих пор нам удавалось снабжать машины необходимыми алгоритмами для эффективного использования их вычислительной мощности и памяти.

Учитывая, что наш интеллект неизменен, а машинный интеллект растет, это лишь вопрос времени, когда машины превзойдут нас, если только их интеллект не будет жестко ограничен. Мы еще не сталкивались с таким ограничением.

Это хорошая аналогия для понимания экспоненциального роста. Хотя сейчас машины могут показаться глупыми, они могут стать довольно умными довольно скоро.

Если классические вычисления замедлят свой рост, квантовые вычисления могут их дополнить

Классические вычисления увели нас довольно далеко. Алгоритмы ИИ на классических компьютерах могут превосходить человека в определенных задачах, таких как игра в шахматы или го. Например, AlphaGo Zero обыграла AlphaGo со счетом 100: 0. AlphaGo обыграла лучших игроков на земле. Однако мы приближаемся к пределу того, насколько быстрыми могут быть классические компьютеры.

Закон Мура, основанный на наблюдении, что количество транзисторов в плотной интегральной схеме удваивается примерно каждые два года, подразумевает, что стоимость вычислений уменьшается вдвое примерно каждые два года. Однако большинство экспертов считают, что закон Мура подходит к концу в течение этого десятилетия. Несмотря на то, что предпринимаются усилия по дальнейшему повышению производительности приложений, сохранить прежние темпы роста будет непросто.

Квантовые вычисления, которые все еще являются новой технологией, могут способствовать снижению вычислительных затрат после того, как закон Мура перестанет действовать. Квантовые вычисления основаны на одновременной оценке различных состояний, тогда как классические компьютеры могут вычислять одно состояние за один раз. Уникальная природа квантовых вычислений может быть использована для эффективного обучения нейронных сетей, которые в настоящее время являются самой популярной архитектурой искусственного интеллекта в коммерческих приложениях. Алгоритмы ИИ, работающие на стабильных квантовых компьютерах, имеют шанс открыть сингулярность.

Поймите, почему некоторые не верят, что мы никогда не достигнем ОИИ

Есть 3 основных аргумента против важности или существования ОИИ. Мы рассмотрели их вместе с их общими опровержениями:

1- Интеллект многомерен

Поэтому ОИИ будет другим, не превосходящим человеческий интеллект. Это правда, и человеческий интеллект также отличается от интеллекта животных. Некоторые животные способны на удивительные умственные способности, например, белки, которые месяцами вспоминают, где они спрятали сотни орехов.

Однако эти различия не мешают людям достигать гораздо большего, чем другие виды, с точки зрения многих типичных показателей успеха для вида. Например, homo sapiens — это вид, который вносит наибольший вклад в биомассу на земном шаре среди млекопитающих.

2- Интеллект не является решением всех проблем

Например, даже самая лучшая машина, анализирующая существующие данные, вероятно, не сможет найти лекарство от рака. Ему нужно будет проводить эксперименты и анализировать результаты, чтобы открывать новые знания в большинстве областей.

Это правда с некоторыми оговорками. Расширение интеллектуальных возможностей может привести к лучшему планированию и управлению экспериментами, а также к большему количеству открытий в каждом эксперименте. История продуктивности исследований, вероятно, должна продемонстрировать это, но данные довольно зашумлены, а отдача от исследований снижается. Мы сталкиваемся с более сложными проблемами, такими как квантовая физика, когда решаем более простые задачи, такие как ньютоновское движение.

3- ИИ невозможен, потому что невозможно смоделировать человеческий мозг.

Теоретически можно смоделировать любую вычислительную машину, включая человеческий мозг, с помощью относительно простой машины, которая может выполнять базовые вычисления и имеет доступ к неограниченной памяти и времени. Это гипотеза Черча-Тьюринга, выдвинутая в 1950 году. Она общепризнана. Однако, как сказано, для этого требуются определенные сложные условия: бесконечное время и память.

Большинство ученых-компьютерщиков считают, что для моделирования человеческого мозга потребуется меньше бесконечного времени и памяти.Однако нет математически обоснованного способа доказать это убеждение, поскольку мы недостаточно понимаем мозг, чтобы точно понять его вычислительную мощность. Мы просто обязаны построить такую ​​машину!

И мы пока не добились успеха. Хотя языковая модель GPT-3, запущенная в июне 2020 года, вызвала значительный ажиотаж благодаря своей беглости, отсутствие логического понимания делает ее выходную ошибку подверженной ошибкам. В качестве более яркого примера, это видео о том, что происходит, когда машины играют в футбол. Он немного устарел (с 2017 года), но по сравнению с ним даже я чувствую себя легендой футбола:

Чтобы узнать больше об искусственном общем интеллекте

Джошуа Бретт Тененбаум, профессор когнитивных наук и вычислений в Массачусетском технологическом институте, объясняет, как мы можем достичь сингулярности ОИИ:

Надеюсь, это проясняет некоторые основные моменты, касающиеся AGI. Чтобы узнать больше о том, как ИИ меняет мир, вы можете прочитать статьи об ИИ, технологиях ИИ и приложениях ИИ в маркетинге, продажах, обслуживании клиентов, ИТ, данных или аналитике.

И если у вас есть бизнес-проблема, которая здесь не рассматривается:

Источник: Аргументы против AGI, частично основанные на сводке Wired аргументов против AGI и Википедии.