Как ИИ изменит то, как мы принимаем решения

Недавние достижения в области ИИ лучше всего рассматривать как снижение стоимости прогнозирования. Прогнозирование полезно, потому что оно помогает улучшить решения. Но это не единственный вклад в принятие решений; другой ключевой ввод — суждение. Суждение — это процесс определения вознаграждения за конкретное действие в конкретной среде. Во многих случаях, особенно в ближайшем будущем, такого рода суждения потребуются от людей. Они будут специализироваться на взвешивании затрат и выгод различных решений, а затем это суждение будет сочетаться с прогнозами, сгенерированными машиной, для принятия решений.Но разве ИИ не мог сам рассчитать затраты и выгоды? Да, но кто-то должен был запрограммировать ИИ на то, что является подходящей мерой прибыли. Это подчеркивает особую форму человеческого суждения, которая, как мы полагаем, станет более распространенной и более ценной.

Твитнуть
Почта
Делиться
Сохранять
Получить PDF
Купить копии
Распечатать

В связи с недавним взрывом ИИ возникла понятная обеспокоенность по поводу его потенциального влияния на работу человека. Многие люди пытались предсказать, какие отрасли и рабочие места пострадают больше всего и какие навыки будут наиболее востребованы. (Стоит ли вам учиться программировать? Или ИИ тоже заменит программистов?)

Вместо того, чтобы пытаться предсказать конкретику, мы предлагаем альтернативный подход. Экономическая теория предполагает, что ИИ существенно повысит ценность человеческого суждения. Люди, проявляющие здравый смысл, станут более ценными, а не менее ценными. Но чтобы понять, что влечет за собой здравый смысл и почему он станет более ценным, мы должны быть точными в том, что мы имеем в виду.

Что делает ИИ и почему он полезен

Недавние достижения в области ИИ лучше всего рассматривать как снижение стоимости прогнозирования. Под прогнозированием мы подразумеваем не только будущее — прогнозирование связано с использованием данных, которые у вас есть, для создания данных, которых у вас нет, часто путем преобразования больших объемов данных в небольшие управляемые объемы. Например, использование изображений, разделенных на части, для определения того, содержит ли изображение человеческое лицо, является классической проблемой прогнозирования. Экономическая теория говорит нам, что по мере того, как стоимость машинного предсказания падает, машины будут делать все больше и больше предсказаний.

Прогнозирование полезно, потому что оно помогает улучшить решения. Но это не единственный вклад в принятие решений; другой ключевой ввод — суждение. Рассмотрим пример сети кредитных карт, которая решает, одобрять или нет каждую попытку транзакции. Они хотят разрешить законные транзакции и предотвратить мошенничество. Они используют ИИ, чтобы предсказать, является ли каждая попытка транзакции мошеннической.Если бы такие прогнозы были идеальными, процесс принятия решений в сети был бы простым. Отказаться, если и только если существует мошенничество.

Однако даже лучшие ИИ совершают ошибки, и вряд ли это изменится в ближайшее время. Люди, управляющие сетями кредитных карт, по опыту знают, что существует компромисс между выявлением каждого случая мошенничества и причинением неудобств пользователю. (Было ли у вас когда-нибудь, что карта была отклонена, когда вы пытались использовать ее во время путешествия?) А поскольку удобство — это весь бизнес кредитных карт, этот компромисс нельзя игнорировать.

Это означает, что для того, чтобы решить, одобрять ли транзакцию, сеть кредитных карт должна знать цену ошибок. Насколько плохо было бы отклонить законную транзакцию? Насколько плохо было бы допустить мошенническую транзакцию?

Кто-то из ассоциации кредитных карт должен оценить, как вся организация пострадает, если законная транзакция будет отклонена. Им необходимо компенсировать это последствиями разрешения мошеннических транзакций. И этот компромисс может быть другим для состоятельных людей, чем для случайных пользователей карты. Никакой ИИ не может сделать этот звонок. Люди должны сделать это. Это решение и есть то, что мы называем суждением.

Какое суждение влечет за собой

Суждение — это процесс определения вознаграждения за конкретное действие в конкретной среде. Суждение — это то, как мы оцениваем выгоды и издержки различных решений в разных ситуациях.

Мошенничество с кредитными картами легко объяснить в этом отношении. Суждение включает в себя определение того, сколько денег будет потеряно в результате мошеннической транзакции, насколько недовольным будет законный клиент, когда транзакция будет отклонена, а также вознаграждение за правильные действия и разрешение хороших транзакций и отклонение плохих. Во многих других ситуациях компромиссы более сложны, а выигрыши не так просты. Люди узнают о выигрышах от различных результатов на опыте, делая выбор и наблюдая за своими ошибками.

Получить правильные выплаты сложно.Это требует понимания того, что больше всего волнует вашу организацию, какие преимущества она получает и что может пойти не так.

Во многих случаях, особенно в ближайшем будущем, такого рода суждения потребуются от людей. Они будут специализироваться на взвешивании затрат и выгод различных решений, а затем это суждение будет сочетаться с прогнозами, сгенерированными машиной, для принятия решений.

Но разве ИИ не мог сам рассчитать затраты и выгоды? В примере с кредитной картой, не мог ли ИИ использовать данные о клиентах, чтобы рассмотреть компромисс и оптимизировать для получения прибыли? Да, но кто-то должен был запрограммировать ИИ на то, что является подходящей мерой прибыли. Это подчеркивает особую форму человеческого суждения, которая, как мы полагаем, станет более распространенной и более ценной.

Установка правильных наград

Как и люди, ИИ могут учиться на собственном опыте. Одним из важных методов в ИИ является обучение с подкреплением, при котором компьютер обучается предпринимать действия, которые максимизируют определенную функцию вознаграждения. Например, программа DeepMind AlphaGo была обучена таким образом, чтобы максимизировать свои шансы на победу в игре Го. В играх часто легко применять этот метод обучения, потому что вознаграждение можно легко описать и запрограммировать, исключая человека из цикла.

Но игры можно обмануть. В качестве Проводной сообщает, что когда исследователи ИИ обучали ИИ играть в лодочные гонки CoastRunners, ИИ понял, как максимизировать свой счет, двигаясь по кругу, а не завершая курс, как предполагалось. Можно подумать, что это своего рода изобретательность, но когда дело доходит до приложений, выходящих за рамки игр, такая изобретательность может привести к извращенным результатам.

Ключевым моментом примера CoastRunners является то, что в большинстве приложений цель, поставленная перед ИИ, отличается от истинной и трудно поддающейся измерению цели организации. Пока это так, люди будут играть центральную роль в суждениях и, следовательно, в принятии организационных решений.

На самом деле, даже если организация позволяет ИИ принимать определенные решения, получение правильной отдачи для организации в целом требует понимания того, как машины принимают эти решения. Какие типы ошибок предсказания вероятны? Как машина может узнать неправильное сообщение?

Войдите в разработку функции вознаграждения. Поскольку ИИ дает более качественные и дешевые прогнозы, необходимо ясно мыслить и решать, как лучше всего использовать эти прогнозы. Разработка функции вознаграждения — это работа по определению вознаграждения за различные действия с учетом прогнозов, сделанных ИИ. Чтобы быть лучшим в этом, нужно понимать потребности организации и возможности машины. (И это нет то же самое, что ввести человека в курс дела, чтобы помочь в обучении ИИ.)

Иногда разработка функций вознаграждения включает в себя программирование вознаграждений до прогнозов, чтобы действия можно было автоматизировать. Беспилотные автомобили — пример такого жестко запрограммированного вознаграждения. Как только прогноз сделан, действие происходит мгновенно. Но, как показывает пример CoastRunners, получить правильное вознаграждение не так уж и просто. Инжиниринг функции вознаграждения должен учитывать возможность того, что ИИ чрезмерно оптимизирует один показатель успеха и при этом будет действовать таким образом, который несовместим с более широкими целями организации.

В других случаях такое жесткое кодирование наград слишком сложно. Возможных прогнозов может быть так много, что кому-то слишком дорого оценивать все возможные выигрыши заранее. Вместо этого некоторым людям нужно дождаться получения прогноза, а затем оценить выигрыш. Это ближе к тому, как сегодня работает большинство процессов принятия решений, независимо от того, включают ли они прогнозы, сгенерированные машиной, или нет. Большинство из нас уже занимается разработкой функции вознаграждения, но для людей — не для машин. Родители учат своих детей ценностям. Наставники учат новых работников тому, как работает система. Менеджеры ставят цели перед своими сотрудниками, а затем корректируют их для повышения производительности.Каждый день мы принимаем решения и оцениваем награды. Но когда мы делаем это для людей, предсказание и суждение группируются вместе, и особая роль инженерии функции вознаграждения не должна быть явно разделена.

По мере того, как машины совершенствуются в предсказаниях, особая ценность инженерии функции вознаграждения будет возрастать, поскольку применение человеческого суждения становится центральным.

В целом, машинное предсказание уменьшит или увеличит объем работы, доступной для людей в процессе принятия решений? Пока рано говорить. С одной стороны, машинное предсказание заменит человеческий прогноз при принятии решений. С другой стороны, машинное предсказание является дополнением к человеческому суждению. А более дешевые прогнозы вызовут больший спрос на принятие решений, а значит, появится больше возможностей для человеческого суждения. Таким образом, хотя еще слишком рано рассуждать об общем влиянии на рабочие места, мало кто сомневается, что вскоре мы станем свидетелями расцвета спроса на человеческое суждение в форме инженерии функции вознаграждения.