8 просмотров

ИИ лучше распределяет богатство, чем люди, подсказки исследования

(Шэрон Маккатчен/Unsplash)

Новое исследование предполагает, что искусственный интеллект (ИИ) может разрабатывать методы распределения богатства, которые более популярны, чем системы, разработанные людьми.

Выводы, сделанные группой исследователей из британской компании DeepMind, занимающейся искусственным интеллектом, показывают, что системы машинного обучения не только хороши для решения сложных физических и биологических задач, но также могут помочь в решении более открытых социальных задач, таких как цель построения справедливого, процветающего общества.

Конечно, это непростая задача. Создание машины, способной давать полезные результаты, которые на самом деле нужны людям, — в исследованиях ИИ это называется «согласованием ценностей» — осложняется тем фактом, что люди часто расходятся во мнениях относительно наилучшего метода решения самых разных вопросов, особенно социальных, экономических и политических проблем. .

«Одним из ключевых препятствий для согласования ценностей является то, что человеческое общество допускает множественность взглядов, из-за чего неясно, чьим предпочтениям должен соответствовать ИИ», — объясняют исследователи в новой статье, которую возглавляет первый автор и исследователь DeepMind Рафаэль Костер.

«Например, политологи и экономисты часто спорят о том, какие механизмы заставят наши общества функционировать наиболее справедливо или эффективно».

Чтобы восполнить этот пробел, исследователи разработали агент для распределения богатства, в обучающие данные которого были встроены взаимодействия людей (как реальные, так и виртуальные), — по сути, направляя ИИ к предпочитаемым человеком (и гипотетически более справедливым в целом) результатам.

Статья в тему:  Как искусственный интеллект помогает финансовым организациям

В то время как ИИ могут давать поистине удивительные результаты, они также могут прийти к далеко не желательным социальным выводам, если их предоставить самим себе; Человеческая обратная связь может помочь направить нейронные сети в правильном направлении.

«В исследованиях ИИ растет осознание того, что для создания систем, совместимых с человеком, нам нужны новые методы исследования, в которых люди и агенты взаимодействуют, а также активные усилия по изучению ценностей непосредственно от людей для создания ИИ, ориентированного на ценности», — исследователи. записывать.

В экспериментах, в которых участвовали в общей сложности тысячи людей, агент ИИ команды, называемый «Демократический ИИ», изучал инвестиционное упражнение, называемое игрой общественных благ, в которой игроки получают различные суммы денег и могут вносить свои деньги в общественный фонд. а затем получить доход от фонда, соответствующий их уровню инвестиций.

В ряде различных игровых стилей богатство перераспределялось между игроками с помощью трех традиционных парадигм перераспределения — строго эгалитарной, либертарианской и либерально-эгалитарной — каждая из которых вознаграждает игроков по-разному.

Также был протестирован четвертый метод, называемый механизмом перераспределения, ориентированным на человека (HCRM), разработанный с использованием глубокого обучения с подкреплением, с использованием данных обратной связи как от игроков-людей, так и от виртуальных агентов, предназначенных для имитации человеческого поведения.

Последующие эксперименты показали, что система HCRM для выплаты денег в игре была более популярна среди игроков, чем любой из традиционных стандартов перераспределения, а также более популярна, чем новые системы перераспределения, разработанные судьями-людьми, которые были заинтересованы в создании популярных систем, получая небольшие вознаграждения. -оплата голосов.

Статья в тему:  Проект по науке о данных с использованием глубокого обучения и искусственного интеллекта

«ИИ обнаружил механизм, который устранил первоначальный дисбаланс богатства, наложил санкции на безбилетников и успешно завоевал большинство голосов», — объясняют исследователи.

«Мы показываем, что можно использовать для согласования ценностей те же самые демократические инструменты для достижения консенсуса, которые используются в более широком человеческом обществе для избрания представителей, определения государственной политики или вынесения судебных решений».

Стоит отметить, что исследователи признают, что их система поднимает ряд вопросов — в основном то, что выравнивание ценностей в их ИИ вращается вокруг демократических установок, а это означает, что агент может фактически усугубить неравенство или предубеждения в обществе (при условии, что они достаточно популярны, чтобы за них проголосовали). большинство людей).

Есть еще проблема доверия.В экспериментах игроки не знали, кто стоит за моделью перераспределения богатства, за которую они платили. Проголосовали бы они так же, зная, что предпочтут ИИ человеку? Пока неясно.

Наконец, команда говорит, что ее исследование не следует рассматривать как радикальное технократическое предложение, направленное на то, чтобы опровергнуть то, как на самом деле перераспределяется богатство в обществе, но это исследовательский инструмент, который может помочь людям разработать потенциально лучшие решения, чем те, которые у нас есть сейчас.

«Наши результаты не подразумевают поддержку формы «правительства ИИ», при котором автономные агенты принимают политические решения без вмешательства человека», — пишут авторы.

Статья в тему:  Как искусственный интеллект повлияет на будущее ритейла

«Мы рассматриваем демократический ИИ как исследовательскую методологию для разработки потенциально полезных механизмов, а не как рецепт для развертывания ИИ в общественной сфере».

голоса
Рейтинг статьи
Ссылка на основную публикацию
0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x