Вопросы и ответы: глобальные проблемы, связанные с развертыванием ИИ

Александр Мадри, Асу Оздаглар и Луис Видегарай, сопредседатели Форума по политике в области ИИ, обсуждают ключевые вопросы, стоящие сегодня перед политикой в ​​области ИИ.

Вычислительный колледж Шварцмана Массачусетского технологического института
Дата публикации :
26 сентября 2022 г.

Контакты для прессы:

Терри Парк
Электронная почта: terrip@mit.edu
Телефон: 617-253-5884
Вычислительный колледж Шварцмана Массачусетского технологического института

Подпись :

По инициативе Колледжа вычислительной техники им. Шварцмана Массачусетского технологического института главная цель Форума по политике в области искусственного интеллекта состоит в том, чтобы соединить высокоуровневые принципы политики в области искусственного интеллекта с практикой и компромиссами управления.

Кредиты:
Изображение: Pixabay

Предыдущее изображение Следующее изображение

Форум по политике в области искусственного интеллекта (AIPF) — это инициатива Колледжа вычислительной техники им. Шварцмана Массачусетского технологического института, направленная на то, чтобы перевести глобальный разговор о влиянии искусственного интеллекта с принципов на практическую реализацию политики. Основанный в конце 2020 года AIPF объединяет лидеров в правительстве, бизнесе и научных кругах к разрабатывать подходы к решению социальных проблем, возникающих в связи с быстрым развитием и растущей применимостью ИИ.

Сопредседателями AI Policy Forum являются Александр Мадри, профессор Cadence Design Systems; Асу Оздаглар, заместитель декана по учебной части Вычислительного колледжа им. Шварцмана Массачусетского технологического института и заведующий кафедрой электротехники и компьютерных наук; и Луис Видегарай, старший преподаватель Школы менеджмента Слоана при Массачусетском технологическом институте и директор MIT AI Policy for the World Project. Здесь они обсуждают некоторые ключевые проблемы, с которыми сегодня сталкивается политический ландшафт ИИ, и проблемы, связанные с развертыванием ИИ. Все трое являются соорганизаторами предстоящего саммита Форума по политике в области искусственного интеллекта 28 сентября, на котором будут дополнительно изучены обсуждаемые здесь вопросы.

В: Можете ли вы рассказать о текущей работе Форума по политике в области ИИ и о политическом ландшафте в целом?

Оздаглар: Нет недостатка в дискуссиях об ИИ на разных площадках, но разговоры часто проходят на высоком уровне, сосредоточены на вопросах этики и принципов или только на политических проблемах. Подход, который AIPF использует в своей работе, заключается в том, чтобы нацеливаться на конкретные вопросы с действенными политическими решениями и взаимодействовать с заинтересованными сторонами, работающими непосредственно в этих областях. Мы работаем «за кулисами» с небольшими фокус-группами, чтобы решить эти проблемы, и стремимся привлечь внимание к некоторым потенциальным решениям вместе с игроками, работающими непосредственно над ними на более крупных собраниях.

В: ИИ влияет на многие отрасли, что, естественно, заставляет нас беспокоиться о его надежности. Существуют ли какие-либо передовые методы разработки и развертывания надежного ИИ?

Мадри: Самое важное, что нужно понять при развертывании надежного ИИ, это то, что технология ИИ не является каким-то естественным, предопределенным явлением. Это нечто, созданное людьми. Люди, которые принимают определенные дизайнерские решения.

Таким образом, нам необходимо продвигать исследования, которые могут направлять эти решения, а также предлагать более желательные решения. Но нам также нужно быть обдуманными и тщательно продумывать стимулы, лежащие в основе этих решений.

Эти стимулы проистекают в основном из деловых соображений, но не исключительно. То есть мы также должны признать, что надлежащие законы и правила, а также установление продуманных отраслевых стандартов также играют большую роль здесь.

Действительно, правительства могут вводить правила, определяющие ценность развертывания ИИ, при этом хорошо осознавая соответствующие недостатки, подводные камни и невозможности. Разработка таких правил будет непрерывным и развивающимся процессом, поскольку технология продолжает совершенствоваться и меняться, и нам также необходимо адаптироваться к социально-политическим реалиям.

В: Возможно, одна из самых быстро развивающихся областей применения ИИ — финансовый сектор.С точки зрения политики, как правительства, регулирующие органы и законодатели должны сделать так, чтобы ИИ лучше работал на потребителей в сфере финансов?

Видегарай: В финансовом секторе наблюдается ряд тенденций, которые создают политические проблемы на пересечении систем ИИ. Во-первых, существует проблема объяснимости. По закону (в США и во многих других странах) кредиторы должны предоставлять разъяснения клиентам, когда они предпринимают какие-либо действия, наносящие ущерб интересам клиента, например отказ в выдаче кредита. Однако по мере того, как финансовые услуги все больше полагаются на автоматизированные системы и модели машинного обучения, возможности банков распаковать «черный ящик» машинного обучения, чтобы предоставить обязательные объяснения такого уровня, становятся незначительными. Итак, как финансовая отрасль и ее регулирующие органы должны адаптироваться к этому технологическому прогрессу? Возможно, нам нужны новые стандарты и ожидания, а также инструменты для выполнения этих требований законодательства.

Между тем, эффект масштаба и эффекты сети передачи данных приводят к распространению аутсорсинга ИИ, и, в более широком смысле, ИИ как услуга становится все более распространенным явлением в финансовой отрасли. В частности, мы видим, что финтех-компании предоставляют инструменты для андеррайтинга другим финансовым учреждениям — будь то крупные банки или небольшие местные кредитные союзы. Что эта сегментация цепочки поставок означает для отрасли? Кто несет ответственность за потенциальные проблемы в системах ИИ, развернутых через несколько уровней аутсорсинга? Как регулирующие органы могут приспособиться, чтобы гарантировать свои мандаты финансовой стабильности, справедливости и других социальных стандартов?

В: Социальные сети являются одним из самых противоречивых секторов экономики, что приводит к многочисленным социальным сдвигам и потрясениям по всему миру. Какая политика или реформы могут потребоваться для наилучшего обеспечения того, чтобы социальные сети служили общественному благу, а не вредили обществу?

Оздаглар: Роль социальных сетей в обществе вызывает у многих растущее беспокойство, но природа этих опасений может сильно различаться: одни считают, что социальные сети не делают достаточно для предотвращения, например, дезинформации и экстремизма, а другие считают их необоснованное замалчивание определенных точек зрения. Это отсутствие единого взгляда на проблему влияет на возможность принятия любых изменений. Все это дополнительно связано со сложностями правовой базы в США, охватывающей Первую поправку, раздел 230 Закона о пристойности в сфере связи и законы о торговле.

Однако эти трудности в регулировании социальных сетей не означают, что ничего не поделаешь. Действительно, регулирующие органы начали ужесточать контроль над социальными сетями как в США, так и за рубежом, будь то с помощью антимонопольных процедур или других средств. В частности, Ofcom в Великобритании и Европейском союзе уже внедряет новые уровни контроля над платформами. Кроме того, некоторые предложили налоги на онлайн-рекламу для устранения негативных внешних эффектов, вызванных текущей бизнес-моделью социальных сетей. Итак, инструменты политики есть, если есть политическая воля и надлежащее руководство для их реализации.