Может ли искусственный интеллект предсказать религиозное насилие?
Представьте, что вы президент европейской страны. В этом году вы планируете принять 50 000 беженцев с Ближнего Востока. Большинство из них очень религиозны, в то время как большая часть вашего населения очень светская. Вы хотите беспрепятственно интегрировать новичков, сводя к минимуму риск экономического спада или насилия, но у вас ограниченные ресурсы. Один из ваших советников говорит вам инвестировать в образование беженцев; другой говорит, что ключевым моментом является предоставление рабочих мест; еще один настаивает на том, что самое главное — дать молодежи возможность пообщаться с местными детьми. Что вы делаете?
Что ж, вы делаете все возможное и надеетесь, что выбранная вами политика сработает. Но может и нет. Даже политика, которая принесла большие результаты в другом месте или в другое время, может с треском провалиться в вашей конкретной стране при нынешних обстоятельствах. Если это произойдет, вы можете захотеть нажать гигантскую кнопку сброса и снова запустить весь эксперимент, на этот раз выбрав другую политику. Но, конечно, нельзя так экспериментировать, только не с реальными людьми.
Однако вы можете экспериментировать подобным образом с виртуальными людьми. И это именно то, чем занимается проект «Моделирование религии». Международная команда ученых-компьютерщиков, философов, религиоведов и других специалистов сотрудничает в создании компьютерных моделей, которые они наполняют тысячами виртуальных людей или «агентов». По мере того как агенты взаимодействуют друг с другом и с меняющимися условиями в их искусственной среде, их атрибуты и убеждения — уровни экономической безопасности, образования, религиозности и т. д. — могут меняться.Вначале исследователи программируют агентов так, чтобы они имитировали атрибуты и убеждения населения реальной страны, используя данные опросов из этой страны. Они также «тренируют» модель на наборе эмпирически подтвержденных правил социальных наук о том, как люди склонны взаимодействовать в условиях различных факторов давления.
А затем они экспериментируют: добавьте, скажем, 50 000 новичков и вложите значительные средства в образование. Как меняется искусственное общество? Модель говорит вам. Не нравится? Просто нажмите кнопку сброса и попробуйте другую политику.
Цель проекта — дать политикам эмпирический инструмент, который поможет им оценить конкурирующие варианты политики, чтобы они могли выбрать наиболее эффективный. Это благородная идея: если лидеры смогут использовать искусственный интеллект, чтобы предсказать, какая политика приведет к наилучшему результату, возможно, мы получим более здоровый и счастливый мир. Но это также и опасная идея: в конце концов, то, что «лучше», находится в глазах смотрящего.
«Поскольку все наши модели прозрачны, а код всегда онлайн, — сказал Лерон Шульц, преподающий философию и теологию в Агдерском университете в Норвегии, — свои права и свою группу от угроз со стороны других, тогда они могли бы использовать эту модель, чтобы [выяснить, как] усилить тревогу».
Проект «Моделирование религии», в котором участвуют сотрудники Бостонского центра разума и культуры, Центра моделирования, анализа и моделирования Вирджинии, а также Университета Агдера, осуществляется в течение последних трех лет при финансовой поддержке Фонда Джона Темплтона. Фундамент. Он завершился в прошлом месяце. Но это уже породило несколько спин-офф проектов.
Проект «Моделирование религии в Норвегии» (MODRN), который больше всего фокусируется на беженцах, все еще находится на ранней стадии. Возглавляемая Шульцем, она финансируется в основном Исследовательским советом Норвегии, который рассчитывает, что эта модель даст полезные советы о том, как норвежское правительство может наилучшим образом интегрировать беженцев.Норвегия — идеальное место для проведения этого исследования не только потому, что в настоящее время она изо всех сил пытается интегрировать сирийцев, но и потому, что страна собрала огромные массивы данных о своем населении. Используя их для калибровки своей модели, Шульц может получать более точные и детализированные прогнозы, моделируя то, что произойдет в конкретном городе и даже в конкретном районе.
Другой проект, «Прогнозирование религиозности и экзистенциальной безопасности с помощью агентной модели», исследует вопросы о неверии: почему атеистов так мало? Почему Америка секуляризуется медленнее, чем Западная Европа? Какие условия ускорили бы процесс секуляризации или, наоборот, сделали бы население более религиозным?
Команда Шульца решила эти вопросы, используя данные Международной программы социальных исследований, проведенной в период с 1991 по 1998 год. Они инициализировали модель в 1998 году, а затем позволили ей работать до 2008 года. в разных странах Европы и Японии — будут ли расти и падать вера в рай и ад, вера в Бога и посещаемость религиозных обрядов за 10-летний период, и если да, то как. В некоторых случаях мы смогли предсказать это в три раза точнее, чем линейный регрессионный анализ», — сказал Шульц, имея в виду метод прогнозирования общего назначения, который до начала работы команды был лучшей альтернативой.
Используя отдельную модель Future of Religion and Secular Transitions ( FOREST ), команда обнаружила, что люди склонны к секуляризации, когда присутствуют четыре фактора: экзистенциальная безопасность (у вас достаточно денег и еды), личная свобода (вы вольны выбирать, верить или нет), плюрализм (у вас доброжелательное отношение к разнообразию) и образование (у вас есть научная и гуманитарная подготовка). При отсутствии хотя бы одного из этих факторов весь процесс секуляризации замедляется. По их мнению, именно поэтому США секуляризуются медленнее, чем Западная и Северная Европа.
"Соединенные штаты.нашла способы ограничить влияние образования, оставив его локальным, а в частных школах может случиться все, что угодно», — сказал сотрудник Шульца Уэсли Уайлдман, профессор философии и этики Бостонского университета. «В последнее время высшие уровни правительства поощряют менее чем доброжелательное культурное отношение к плюрализму. Это формы сопротивления секуляризации».
Другой проект, «Взаимная эскалация религиозного насилия» (MERV), направлен на определение условий, при которых ксенофобия между двумя разными религиозными группами может выйти из-под контроля. Когда они построили эту модель, команда привлекла внешнего эксперта: Монику Тофт, ученого-международника, не имевшую опыта компьютерного моделирования, но обладающую обширными знаниями в области религиозного экстремизма.
«Они пригласили меня, чтобы я мог проверить реальность — например, имеют ли смысл предположения [социологии], лежащие в основе этой модели? А затем оценить, соответствует ли это реальным примерам из практики», — сказал мне Тофт. Сначала она сказала: «Я немного скептически отнеслась к этому. Но я думаю, что меня удивило то, насколько хорошо это было смоделировано по примеру Гуджарата». Она имела в виду беспорядки 2002 года, вспыхнувшие в индийском штате Гуджарат: три кровавых дня, в течение которых мусульмане и индуисты жестоко сталкивались друг с другом, в результате чего с обеих сторон погибли сотни людей. (По официальным данным, было убито 790 мусульман и 254 индуса.) «Когда я начал просматривать данные, я сказал Лерону и Уэсли: «Боже мой!», потому что я знал случай с Гуджаратом и то, что там произошло. Он прекрасно подходил к модели. Это было действительно захватывающе».
MERV показывает, что взаимная эскалация насилия наиболее вероятна, если существует небольшая разница в размерах между группами большинства и меньшинства (менее 70/30) и если агенты воспринимают членов чужой группы как социальную угрозу и угрозу заражения (они беспокоятся, что другие будет инвазивным или инфекционным).Это гораздо менее вероятно, если существует большая разница в размерах или если угрозы, с которыми сталкиваются агенты, в основном связаны с хищниками или стихийными бедствиями.
Это может показаться интуитивным, но наличие количественных эмпирических данных для поддержки социальных гипотез может помочь убедить политиков в том, когда и как действовать, если они хотят предотвратить будущие вспышки насилия. И как только будет показано, что модель работает с реальными историческими примерами, ученые могут более правдоподобно утверждать, что она даст заслуживающие доверия рекомендации, когда она получит новые ситуации. На вопрос, что может предложить нам MERV, Тофт сказал: «Мы можем остановить эту динамику. Нам не нужно позволять им выходить из-под контроля».
С этой целью следующим шагом будет заинтересовать других в опробовании моделей. Но это оказалось трудным. Исследование было опубликовано в таких изданиях, как Журнал познания и культуры и находится на рассмотрении в Природа, и команда создает онлайн-платформу, которая позволит людям с нулевым опытом программирования создавать модели на основе агентов. Тем не менее, Уайлдман пессимистично оценивает свою способность заинтересовать политиков такой новой и высокотехнологичной методологией.
«Всякий раз, когда возникает недоумение, у вас есть проблема с доверием, и я думаю, что здесь будет проблема с доверием», — сказал он. «Мы моделисты, социологи, философы — по сути, мы академические гики. Мы никогда не убедим их доверять модели». Но он считает, что политические аналитики, действующие как мосты между академическим миром и миром политики, смогут убедить политиков. «Мы собираемся получить их в конце концов».
Еще труднее переубедить тех, кто озабочен не техническими сложностями методологии, а ее этическими сложностями. Как сказал мне Уайлдман: «Эти модели являются генераторами инсайтов с равными возможностями. Если вы хотите стать милитаристом, то эти модели подскажут вам, какими должны быть цели».
Когда вы строите модель, вы можете случайно выдать рекомендации, которых не планировали. Несколько лет назад Уайлдман построил модель, чтобы выяснить, что заставляет одни экстремистские группы выживать и процветать, а другие распадаться. Выяснилось, что одним из важнейших факторов является высокохаризматичный лидер, который лично практикует то, что проповедует. «Это сразу подразумевало критерий убийства», — сказал он. «По сути, оставьте группы в покое, когда лидеры менее последовательны, [но] убейте лидеров групп, обладающих этими специфическими качествами. Было шоком обнаружить это выпадение из модели. Я чувствую себя очень некомфортно из-за того, что одна из моих моделей случайно создала критерий убийства религиозных лидеров».
Результаты этой модели были опубликованы, так что, возможно, они уже использовались в военных действиях. «Этот тип вещей используется для определения критериев убийств с помощью дронов? Я не знаю, потому что между секретными исследованиями в США и несекретной стороной есть огромная стена», — сказал Уайлдман. “Я пришел к выводу, что на секретной стороне они уже продумали все, о чем думали мы, потому что у них больше денег и они больше сосредоточены на этих вопросах. . Но вполне может быть, что эта модель действительно привела их туда. Это серьезная этическая головоломка».
По его словам, другие модели вызывают аналогичные опасения. «Модель MODRN дает вам рецепт ускорения секуляризации, а также рецепт ее блокирования. Вы можете использовать его, чтобы вернуть все к сверхъестественному, нарушив некоторые из этих ключевых условий — скажем, вызвав экологическую катастрофу. Затем все возвращается к досекуляризму. Это не дает мне спать по ночам».
По словам Нила Джонсона, физика, который моделирует терроризм и другие экстремальные явления, возникающие в сложных системах, «это преувеличение силы моделей». По его словам, невозможно надежно рассчитывать на то, что удаление одного фактора из общества замедлит или остановит секуляризацию. Это вполне может быть правдой в модели, но «это карикатура на реальный мир». Реальное человеческое общество настолько сложно, что «все вещи могут быть связаны между собой иначе, чем в модели».
Хотя Джонсон сказал, что считает исследование команды полезным и важным, его не впечатлило их заявление о том, что они превзошли предыдущие методы прогнозирования. «Линейный регрессионный анализ не очень эффективен для прогнозирования», — сказал он. «Я был немного удивлен силой их утверждений». Он предупредил, что нам следует скептически относиться к слову прогноз по отношению к этому типу модели. Мнение может быть лучше.
«Здорово иметь такой инструмент», — сказал он. «Это как, вы идете к врачу, они дают заключение. Это всегда мнение, мы никогда не говорим прогноз врача. Обычно мы соглашаемся с мнением врача, потому что он видел много подобных случаев, много людей, которые обращаются с тем же самым. Это даже больше относится к этим типам моделей, потому что они не обязательно видели много подобных случаев — история имитирует прошлое, но не повторяет его в точности».
Серебряная подкладка здесь заключается в том, что если сила моделей преувеличена, то это также является этической проблемой.
Тем не менее, как и Вайлдман, Шульц сказал мне: «Я теряю сон по ночам из-за этого. . Это является социальная инженерия. Это просто так — нельзя притворяться, что это не так». Но он добавил, что другие группы, такие как Cambridge Analytica, тоже занимаются такой вычислительной работой. И различные злоумышленники будут делать это без прозрачности и публичной подотчетности. «Это будет сделано. Так что не делать этого — не выход». Вместо этого он и Вайлдман считают, что ответ заключается в том, чтобы делать работу прозрачно. а также одновременно высказываются об этической опасности, заложенной в нем.
«Вот почему наша работа здесь двояка: я работаю как разработчик моделей и как специалист по этике», — сказал Уайлдман. «Это лучшее, что я могу сделать».
Видео в этой статье предоставлено Дженн Линдсей.
