Когда первая машина станет сверхразумной?
Примечание 1: Вы можете прочитать обновленную версию ИИ Революция 101. Я немного отредактировал его и объединил каждую часть в одну большую статью.
Примечание 2: Это шестая часть серии коротких эссе, целью которой является обобщение знаний о Революция искусственного интеллекта. Не стесняйтесь начать читать здесь или перейти к Часть 1, ← предыдущая|следующий → эссе или оглавление. Проект основан на двухчастном эссе. Революция ИИ Тим Урбан из Wait But Why.Я воссоздал все изображения, укоротил их в 3 раза и немного подправил. Узнайте больше о том, почему / как я это написал здесь.
«Сколько времени пройдет, пока первая машина не достигнет сверхразума? Неудивительно, что мнения сильно расходятся, и это вызывает жаркие споры среди ученых и мыслителей. Многие, такие как профессор Вернор Виндж, ученый Бен Герцель, соучредитель Sun Microsystems Билл Джой или, что наиболее известно, изобретатель и футурист Рэй Курцвейл, соглашаются с экспертом по машинному обучению Джереми Ховардом, когда он выставляет этот график во время выступления на TED Talk:
«Эти люди придерживаются мнения, что это происходит скоро — что экспоненциальный рост уже работает, и машинное обучение, хотя сейчас оно медленно подкрадывается к нам, в ближайшие несколько десятилетий пройдет мимо нас.
«Другие, такие как соучредитель Microsoft Пол Аллен, психолог-исследователь Гэри Маркус, ученый-компьютерщик из Нью-Йоркского университета Эрнест Дэвис и технический предприниматель Митч Капор, считают, что такие мыслители, как Курцвейл, сильно недооценивают масштаб проблемы [и переход на самом деле займет гораздо больше времени]. время] .
«Лагерь Курцвейла будет возражать, что единственная недооценка, которая происходит, — это недооценка экспоненциального роста, и они будут сравнивать сомневающихся с теми, кто смотрел на медленно растущий росток Интернета в 1985 году и утверждал, что это никак не могло произойти. что-либо существенное в ближайшем будущем.
«Сомневающиеся могут возразить, что прогресс, необходимый для развития интеллекта, также экспоненциально усложняется с каждым последующим шагом, что сводит на нет типичную экспоненциальную природу технического прогресса. И так далее.
«Третий лагерь, в который входит Ник Бостром, считает, что ни у одной из групп нет оснований быть уверенным в сроках, и признает как а) то, что это может произойти в ближайшем будущем, и б) что нет никаких гарантий на этот счет; это также может занять гораздо больше времени.
«Третьи, такие как философ Хьюберт Дрейфус, считают, что все три из этих групп наивны, полагая, что существует потенциал ИСИ [искусственного сверхразума — ИИ, который достигает уровня интеллекта, более умного, чем все человечество вместе взятое], утверждая, что это более вероятно. что на самом деле это никогда не будет достигнуто.
«Итак, что вы получите, если сложите все эти мнения вместе?»⁸⁶
Хронология искусственного общего интеллекта
(AGI — ИИ, достигший человеческого уровня интеллекта)
«В 2013 году Винсент С. Мюллер и Ник Бостром провели опрос, в ходе которого сотни экспертов по искусственному интеллекту спросили… следующее:»⁸⁷
«Для целей этого вопроса предположим, что человеческая научная деятельность продолжается без серьезных негативных сбоев. К какому году вы бы увидели (10% / 50% / 90%) вероятность существования такого машинного интеллекта человеческого уровня [или того, что мы называем ОИИ]?»⁸⁸
В опросе «их просили назвать оптимистичный год (год, в котором, по их мнению, существует 10%-я вероятность того, что у нас будет ОИИ), реалистическое предположение (год, по их мнению, вероятность ОИИ составляет 50%, т. е. после этого года, по их мнению, более вероятно, что у нас будет AGI), и надежное предположение (самый ранний год, к которому они могут сказать с 90-процентной уверенностью, что у нас будет AGI). Собранные вместе в один набор данных, вот результаты:
Средний оптимистичный год (вероятность 10%) → 2022 г.
Средний реалистичный год (вероятность 50%) → 2040 г.
Средний пессимистичный год (вероятность 90%) → 2075 г.
«Поэтому средний участник считает, что через 25 лет у нас скорее всего будет ОИИ. Медианный ответ 90%, равный 2075, означает, что если вы сейчас подросток, то средний респондент, наряду с более чем половиной группы экспертов по ИИ, почти уверен, что ОИИ произойдет в течение вашей жизни.
«Отдельное исследование, проведенное недавно автором Джеймсом Барратом на ежегодной конференции Бена Герцеля по ОИИ, отказалось от процентов и просто спросило участников, когда, по мнению участников, будет достигнут ОИИ — к 2030 году, к 2050 году, к 2100 году, после 2100 года или никогда. Результаты:⁸⁹
42% респондентов → К 2030 г.
25% респондентов → К 2050 г.
20% респондентов → К 2100 г.
10% респондентов → После 2100 г.
2% респондентов → Никогда
«Очень похоже на результаты Мюллера и Бострома. В опросе Баррата более двух третей участников считают, что ОИИ появится к 2050 году, и чуть менее половины прогнозируют появление ОИИ в течение следующих 15 лет. Также поразительно, что только 2% опрошенных не считают, что ИИ является частью нашего будущего».
Хронология искусственного сверхразума
(ASI — ИИ, достигший уровня интеллекта, превосходящего все человечество вместе взятое)
«Мюллер и Бостром также спросили экспертов, насколько вероятно, по их мнению, что мы достигнем ASI A) в течение двух лет после достижения AGI (т. е. почти немедленный взрыв интеллекта) и B) в течение 30 лет». выбрать вероятность для каждого варианта. Вот результаты:⁹²
Переход AGI-ASI через 2 года → вероятность 10 %
Переход AGI-ASI через 30 лет → вероятность 75%
«Средний ответ дает быстрый (2 года) переход AGI-ASI с вероятностью всего 10%, а более длительный переход в 30 лет или меньше — с вероятностью 75%. Из этих данных мы не знаем продолжительность этого перехода [AGI-ASI], которую медианный участник оценил бы с вероятностью 50%, но для приблизительного понимания, основываясь на двух приведенных выше ответах, давайте оценим, что они сказали бы: 20 лет.
«Итак, среднее мнение — то, которое находится в самом центре мира экспертов по ИИ, — считает, что наиболее реалистичным предположением о том, когда мы достигнем ИСИ… будет [прогноз для ОИИ к 2040 году + наш предполагаемый прогноз 20-летнего перехода от AGI в ASI] = 2060.
«Конечно, все вышеприведенные статистические данные являются спекулятивными и отражают лишь усредненное мнение экспертного сообщества по ИИ, но они говорят нам о том, что большая часть людей, которые больше всего знают об этой теме, согласятся, что 2060 г. является очень разумной оценкой прибытия потенциально изменяющего мир ИСИ. Всего через 45 лет»⁹³
