Что, если искусственный интеллект завладеет человечеством

Автор

1. Мауро Валлати Старший преподаватель информатики, Университет Хаддерсфилда

Заявление о раскрытии информации

Мауро Валлати не работает, не консультирует, не владеет акциями и не получает финансирование от какой-либо компании или организации, которые могли бы извлечь выгоду из этой статьи, и не раскрыл никаких соответствующих связей, помимо своей академической должности.

Партнеры

Университет Хаддерсфилда предоставляет финансирование в качестве члена The Conversation UK.

Сможет ли когда-нибудь искусственный интеллект превзойти человеческое мышление? Быстрый прогресс ИИ в сочетании с нашим стандартным страхом перед машинами вызывает опасения, что однажды его способности начнут бесконтрольно расти, что в конечном итоге приведет к захвату мира и уничтожению человечества, если он решит, что мы являемся препятствием на пути к его целям. . Этот момент обычно называют «сингулярностью ИИ».

Одним из аргументов против возможности существования такого высшего, неудержимого и бесконечно растущего разума является то, что он по определению должен быть в состоянии точно предсказывать будущее. А квантовая теория, один из ключевых способов объяснения Вселенной в современной науке, утверждает, что предсказание будущего может оказаться невозможным, потому что Вселенная случайна. Но что, если мы думаем, что предсказывать будущее невозможно только потому, что мы недостаточно умны, чтобы знать иное?

Интеллект — очень сложная и абстрактная концепция, не имеющая общепринятого определения. Тем не менее, существует общее согласие относительно некоторых компонентов, составляющих каждый вид известного интеллекта. Одним из них является способность решать проблемы, что требует способности планировать, предвидя будущее. Чтобы решить проблему, крайне важно понять текущие условия, предсказать, как будет развиваться среда, и предвидеть результаты действий, которые будут применены.

Случайная вселенная

Последние теории в физике предполагают, что Вселенная чрезвычайно хаотична и случайна.Возьмем пример нестабильных химических элементов, которые в конечном итоге подвергаются радиоактивному распаду в другое вещество. Вы можете оценить, сколько времени потребуется для распада определенного количества этого элемента, но вы не можете точно сказать, когда распадется хотя бы один его атом. Точно так же вы можете измерить положение или импульс частицы, но по определенным причинам, связанным с квантовой теорией, вы не можете знать и то, и другое одновременно с полной точностью. (Это известно как принцип неопределенности Гейзенберга.)

Предполагая, что эти теории верны, они предполагают, что за пределами определенного уровня детализации Вселенная в конечном счете непредсказуема, хаотична и нестабильна. Это означало бы, что любой растущий интеллект в конечном итоге достигнет точки, когда он больше не сможет улучшать свои предсказания будущего и, следовательно, не сможет дальше увеличивать свой интеллект. Другими словами, нет никакого риска того, что ИИ выйдет из-под контроля, потому что физические законы Вселенной налагают очень жесткие ограничения. Например, учитывая известные пределы предсказуемости погоды, система ИИ не сможет перехитрить людей, используя чрезвычайно точные долгосрочные прогнозы погоды для планирования будущих действий.

Очень приятно верить, что природа Вселенной в некотором смысле предотвращает эскалацию ИИ. Но есть и альтернативная точка зрения. Что, если люди воспринимают вселенную как случайную и хаотичную только потому, что наши когнитивные и логические способности слишком ограничены? Мы знаем о некоторых пределах человеческого понимания, но, перефразируя Дональда Рамсфелда, мы не знаем того, чего не знаем.

С этой точки зрения может оказаться, что Вселенная детерминистична и, следовательно, полностью предсказуема, но чрезвычайно сложным образом, который мы, люди, не можем понять. Альберт Эйнштейн утверждал, что квантовая теория — это неполное описание Вселенной и что должны быть скрытые переменные, которые мы еще не понимаем, но которые содержат ключ к определению будущих событий.

Это перевернуло бы стол на возможность сингулярности ИИ. Сверхразвитый интеллект мог бы раскрыть эти скрытые переменные и, таким образом, понять предсказуемую природу Вселенной, высвободив весь потенциал машины. Стоит отметить, что подходы ИИ уже используются для автоматических открытий в физике.

На практическом уровне сингулярность не кажется такой уж правдоподобной, учитывая, насколько на самом деле все еще ограничен ИИ. Недавние прорывы в ИИ были достигнуты с помощью так называемого узкого ИИ, предназначенного для выполнения четко определенной задачи, такой как игра в шахматы или вождение автомобиля. В то время как узкий ИИ может превзойти людей в некоторых задачах, мало что говорит о том, что более общий ИИ, который может эмулировать способность людей реагировать на множество различных задач, будет создан и подвергнет людей риску в ближайшем будущем.

Но полностью исключать этого мы не можем. Поскольку у нас все еще есть ограниченные знания о природе вселенной и силе ИИ, возможно, лучше перестраховаться. Даже без сингулярности ИИ окажет огромное влияние на человеческое общество. Нам нужно работать как можно усерднее, чтобы ИИ приносил пользу человечеству, а не представлял для него угрозу.

• Искусственный интеллект (ИИ)
• Квантовая механика
• Квантовая физика
• Сингулярность
• Прогноз
• Случайность
• Квантовая теория