Как испортить искусственный интеллект
Относительно мало примеров того, как искусственный интеллект (ИИ) и машинное обучение (ОД) были задействованы в антикоррупционной работе. Такие технологии чаще применяются следователями, банками и финансовыми учреждениями для раскрытия финансовых преступлений, мошенничества или подозрительных операций. Подобные инструменты недавно были предложены антикоррупционным организациям. Сотрудничество между Exiger и Transparency International (TI) в Великобритании направлено на расширение возможностей TI по анализу публичных документов для выявления рисков коррупции. В Украине местное отделение TI разработало собственный инструмент искусственного интеллекта для выявления мошеннических предложений в сфере государственных закупок. Они назвали инструмент Dozorro, поскольку использовали его для мониторинга системы государственных закупок с открытым исходным кодом Prozorro.
Управление генерального контролера Бразилии разработало приложение машинного обучения для оценки риска коррупционного поведения среди государственных служащих. Переменные из криминального прошлого, реестров образования, политической принадлежности, деловых отношений и т. д. включены в анализ.Команда, стоящая за проектом, позже разработала аналогичный инструмент для прогнозирования вероятности коррупции среди предприятий, но столкнулась с проблемами при интеграции информации из различных общедоступных баз данных. Бразильское законодательство также не допускает никаких санкций, основанных на предсказаниях этих инструментов. Инструменты искусственного интеллекта действительно могут быть эффективными для выявления и даже прогнозирования коррупции. Сохраняются проблемы с привлечением преступников к суду, с тем чтобы добиться осуждения и вынесения приговора.
Использование ИИ для изменения неисправных систем для обеспечения целостности
Другая стратегия применения ИИ в целях борьбы с коррупцией заключается в перестройке систем, ранее подверженных взяточничеству или коррупции. Включение инструментов ИИ для повышения честности, упрощения процедур или сокращения точек взаимодействия может со временем сократить возможности для взяточничества. Исследовательская группа IBM в Кении утверждает, что именно это и сделала. С 2014 года они работали с правительством Кении над повышением индекса легкости ведения бизнеса Всемирного банка. процессы принятия решений. Команда IBM работала не только над технической стороной проблемы, но и рассматривала ее с разных точек зрения, чтобы улучшить процесс создания. С тех пор Кения поднялась со 136 до 61 из 189 стран в списке.
Цифровизация является обязательным условием для решений ИИ
Необходимым условием для развертывания ИИ либо для отслеживания и выявления коррупции, либо для обновления систем государственных услуг являются доступные оцифрованные данные. Некоторые страны все еще зависят от бумажных систем, а частные корпорации предлагают свои услуги по оцифровке реестров или услуг. Одни проекты основаны на выдержках из телекоммуникационных данных, другие опираются на анализ спутниковых снимков. Мобильные деньги или оцифровка денежной помощи не только упрощают транзакции, но и делают их более безопасными и возможными для мониторинга.Полученные данные могут быть использованы в аналитических целях.
Проблемы конфиденциальности в рамках «информационного капитализма»
Записи звонков и данные отдельных транзакций являются конфиденциальными данными. Биометрическая идентификационная информация тем более. В некоторых странах доверие к частным компаниям может превышать доверие к правительству в плане обеспечения безопасности и защиты такой информации от неправомерного использования. Однако по-прежнему вызывает озабоченность тот факт, что частные предприятия контролируют огромное количество важных данных, собираемых в развивающихся странах. Информация — сила, и термин информационный капитализм используется для описания того, что происходит.
Образование необходимо для поощрения местной ответственности за данные и проекты
Содействие местной ответственности за данные и проекты является важной мотивацией для поддержки образования и исследований в развивающихся странах. Опять же, крупные игроки в этой области, такие как Google, IBM, Microsoft и Facebook, продвигают проекты и разрабатывают решения в развивающихся странах. В то время как некоторые компании четко заявляют о своих намерениях развивать финансово жизнеспособные проекты, другие участвуют в проектах развития в рамках своих программ социальной ответственности.
Сохраняющиеся опасения по поводу предвзятых результатов алгоритмов
Когда и если ИИ внедряется в управление и принятие решений для поддержки или замены существующих систем, есть причины беспокоиться о необъективных результатах. Нежелательные побочные эффекты таких систем принятия решений могут быть связаны с предвзятостью данных, используемых для обучения ИИ, или при разработке алгоритма. Непрозрачные алгоритмы и, следовательно, непрозрачные системы принятия решений представляют собой проблему, известную как проблема черного ящика. Право на объяснение требует прозрачной разработки алгоритмов или методологий, способных проверять или оспаривать решения. Несколько учреждений разработали этические рекомендации по разработке, применению и укреплению доверия к ИИ, в том числе европейское, в котором подчеркивается, что заслуживающий доверия ИИ должен быть законным, этичным и надежным.Проблемы возникают, когда технологии развиваются быстрее, чем законодательство, и поэтому могут работать в нерегулируемом глобальном контексте.
