Как Китай использует искусственный интеллект
Завтрашние разговоры о технической политике сегодня
29 апреля 2022 г.
Соединенные Штаты и Китай все больше соревнуются в том, кто будет доминировать в стратегических технологиях завтрашнего дня.Ни одна технология не играет такой важной роли в этой конкуренции, как искусственный интеллект: и Соединенные Штаты, и Китай рассматривают глобальное лидерство в области ИИ как жизненно важный национальный интерес, при этом Китай обещает стать мировым лидером к 2030 году. В результате и Пекин, и Вашингтон поощряют огромные инвестиции в исследования и разработки в области ИИ.
Тем не менее, конкуренция за ИИ касается не только финансирования. В дополнение к инвестициям в таланты и вычислительную мощность для высокопроизводительного ИИ также требуются данные — и много. Конкуренцию за лидерство в области искусственного интеллекта невозможно выиграть без приобретения и компиляции крупномасштабных наборов данных. Хотя у нас есть некоторое представление о китайском ИИ. финансирование в целом — см., например, недавний отчет Центра безопасности и новых технологий об инвестициях Народно-освободительной армии в искусственный интеллект — мы гораздо меньше знаем о стратегии Китая по сбору и получению данных. Учитывая заинтересованность Китая в интеграции передового ИИ в свои разведывательные и военные предприятия, этот недосмотр представляет собой серьезную уязвимость для национальной безопасности США. Таким образом, политики в Белом доме и Конгрессе должны сосредоточиться на ограничении в значительной степени нерегулируемого рынка данных не только для защиты конфиденциальности американцев, но и для того, чтобы лишить Китай стратегического актива в разработке их программ искусственного интеллекта.
Китайские проекты искусственного интеллекта, требовательные к данным
Попытки выяснить, как службы безопасности Китая используют данные для разработки ИИ, сорваны, среди прочего, из-за отсутствия международной прозрачности потоков данных, а также из-за собственных регулирующих усилий Китая. Внутри Китая в 2017 году был принят важный закон о кибербезопасности, который резко ужесточил требования к защите данных и локализации данных для компаний, работающих там. На международном уровне Китай запустил Глобальную инициативу по безопасности данных в сентябре 2020 года, отчасти направленную на то, чтобы убедить страны «Пояса и пути» принять его методы и стандарты безопасности данных.Усилия подтверждают важность «безопасности данных», тем не менее предоставляя китайским официальным лицам и агентствам более широкие полномочия и возможности для доступа к данным на индивидуальном уровне внутри страны и за рубежом.
Усилия Китая в области регулирования и политики в области безопасности данных помогли ускорить разработку ИИ, даже несмотря на то, что большая часть данных, которые он использует, остается непрозрачной. Китайские власти рассматривают автоматизированные системы массового наблюдения как инструмент сохранения власти Коммунистической партии. Эти системы построены на больших хранилищах данных, некоторые из которых были получены незаконным путем от американских компаний и систем. В силу того, что в Китае проживает почти 20% населения мира, Китай имеет преимущество в способности собирать широкий спектр данных с помощью нескольких способов. В сочетании с инициативой «Один пояс, один путь» китайское правительство закладывает то, что глава внешней разведки Великобритании недавно назвал «ловушками данных» — обширные усилия по сбору критически важных данных и подрыву национального суверенитета.
Наиболее хорошо задокументированное использование Китаем автоматизированных систем социального контроля — это его кампания геноцида против уйгурского меньшинства в Синьцзяне. Системы там полагаются на до 60 точек данных, чтобы определить, нуждается ли кто-то в «перевоспитании», как сообщила PBS Frontline в 2020 году. Чтобы построить эту систему, китайские разработчики и официальные лица сначала должны были определить уйгурскую идентичность таким образом, чтобы понятным для компьютера, требующим сбора огромных объемов данных для построения необходимых алгоритмов. Эти точки данных включают данные связи, видеонаблюдение, образцы ДНК, собранные на контрольно-пропускных пунктах, а также то, отрастил ли кто-то бороду или бросил ли курить. С помощью этих данных Коммунистическая партия создала машину наблюдения и инструмент социального контроля, который использует ИИ для выявления лиц, предположительно подверженных радикализации, и может даже следить за уйгурами по всему миру.
Кампания Китая против своего уйгурского меньшинства дает представление о том, как он может использовать технологии наблюдения ИИ в других системах. Например, подумайте, как можно построить аналогичную систему для идентификации американских военнослужащих или правительственных чиновников США. Такой инструмент может включать легкодоступные данные о личной информации военнослужащих (предоставленные, возможно, в результате взлома Управления кадров в 2015 году), данные о жизни (возможно, из цифровых данных о местоположении) и повсеместную технологию распознавания лиц для обучить алгоритм идентификации военнослужащих. Контент, загружаемый в принадлежащее китайцам вирусное видео-приложение Tiktok, например, может быть использован для разработки модели военнослужащих, которые выражают недовольство, подвержены влиянию операций или могут быть завербованы китайскими шпионами (возможно, с помощью похищенных данные о поездке). Уязвимость заключается не в какой-либо отдельной части данных, а в способности их агрегировать и делать из них выводы, которые можно использовать в качестве оружия против Соединенных Штатов и их союзников.
Однако наше понимание того, как Китай пытается использовать ИИ в приложениях национальной безопасности, омрачено широким сбором данных, который ведется китайскими организациями. Китайское государство долгое время полагалось на фирмы частного сектора для наращивания технологического потенциала, а закон о кибербезопасности 2017 года и последующие меры регулирования упростили для государственных чиновников и агентств запрос и доступ к данным частного сектора. Это привело к опасениям, что такие компании, как TikTok, могут быть использованы для предоставления данных для инициатив в области интеллектуальных вычислений. TikTok недавно начал собирать биометрические идентификаторы пользователей из США, и хотя материнская компания ByteDance отрицает, что поставляет данные китайскому государству, именно такие хранилища данных использовались для создания других китайских систем искусственного интеллекта.Другие случаи гнусного сбора данных, такие как неонатальный тест, используемый миллионами женщин во всем мире для предоставления данных о генах китайской компании, имеющей связи с китайскими военными, или получение американских данных из различных рекламных технологий и других коммерческих источников, усиливают опасения, что наше понимание китайского сбора данных и их использования может быть в лучшем случае ничтожным.
Возможные меры политики
Пока политики в Вашингтоне оценивают будущее отношений США с Китаем, будет крайне важно сосредоточиться на технологической конкуренции и технологиях искусственного интеллекта, особенно на данных, используемых для обучения алгоритмов, которые их приводят в действие. Политика Китая в области слежки означает, что Пекин может создавать мощные наборы данных для разведывательных и военных приложений, при условии, что они могут получать полезные обучающие данные для уже разработанных ими алгоритмов. Лучшее понимание объема и качества этих наборов данных должно стать главным политическим приоритетом для официальных лиц и регулирующих органов США.
Во-первых, директивным органам необходимо добиваться большей прозрачности алгоритмов и устанавливать надежные средства защиты конфиденциальности, ограничивающие объем данных, которые можно собирать, агрегировать и делать выводы о людях, проживающих в Соединенных Штатах. Регуляторные органы должны полностью понимать последствия использования или неправильного использования алгоритмов в интересах коммерческих интересов по сравнению с правами отдельных лиц, а также то, как коммерческие интересы могут влиять на вопросы национальной безопасности. От выборных должностных лиц до специалистов по государственным закупкам, политикам в Соединенных Штатах также необходимо изучать ИИ и данные, лежащие в основе приложений ИИ, если они когда-либо собираются эффективно контролировать его развертывание. У политиков нет оправдания заявлять, что они не понимают, как работает текущая экосистема данных, или беспечно принимать заявления отрасли о саморегулировании.Алгоритмические сбои могут иметь серьезные негативные последствия для жизни тех, кто подчиняется их решениям, и пока Китай использует свои алгоритмы для подавления инакомыслия, американские компании должны лидировать в прозрачности ИИ. Регулирующие органы должны установить стандарты, требующие прозрачности, возможности аудита и воспроизводимости для всех данных, используемых для разработки алгоритмов.
Во-вторых, тот факт, что Китай может покупать американские рекламные технологии и данные, но США не могут покупать китайские, является потенциальным экономическим рычагом, который можно использовать для достижения большей прозрачности. Политики должны рассмотреть возможность прекращения доступа Китая к данным США и относиться к данным США как к активу национальной безопасности с помощью экспортного контроля и других механизмов. Это потребует более четкого определения и регулирования экосистемы сбора данных. Подавляющее большинство приложений в магазинах приложений Google и Apple разрабатываются и управляются иностранными компаниями; во многих случаях данные, собранные об американских пользователях с помощью этих приложений, вероятно, покидают Соединенные Штаты. Мы должны быть глубоко обеспокоены тем, что Китай и другие иностранные субъекты делают с данными граждан США как сейчас, так и в будущем. Усиление контроля над сбором, агрегированием и доступом к данным США, доступным Китаю, — хороший первый шаг к устранению очевидной уязвимости национальной безопасности.
В-третьих, правительственные учреждения США должны иметь более сильные полномочия — и, при необходимости, новые полномочия — для надзора за индустрией данных, особенно за данными, используемыми в ИИ. Например, Федеральная торговая комиссия должна иметь больше возможностей для проверки и наказания технологических фирм за сбор и продажу данных граждан США. Точно так же Комиссия по ценным бумагам и биржам должна иметь больше возможностей для тщательного изучения того, как иностранные организации планируют использовать данные и алгоритмы, полученные в рамках слияний и поглощений американских фирм, и могут ли иностранные доли владения американских фирм облегчить доступ к данным.Точно так же Комитет по иностранным инвестициям должен более внимательно следить за любыми продажами или слияниями американских компаний с компаниями, связанными с КПК, что поможет предотвратить использование Китаем и другими злонамеренными субъектами подставных компаний для покупки данных, доступ к которым в противном случае был бы ограничен. Министерству обороны также следует разработать надежные технологические инструменты, политические рекомендации и передовой опыт для защиты личных устройств военнослужащих от постоянного наблюдения.
В-четвертых, директивные органы должны стремиться к тому, чтобы усилия Китая по установлению повестки дня в международных органах по стандартизации, касающиеся использования данных, управления ИИ и других стандартов, связанных с технологиями интернет-коммуникаций, не заставляли страны использовать только продукты, разработанные и произведенные в Китае. Признание Китаем и Россией стратегической важности управления ИИ должно послужить предупреждением для политиков о том, что эти страны рассматривают ИИ как развивающийся стратегический потенциал. Соединенным Штатам и их союзникам следует обеспечить, чтобы органы по международным стандартам не попали в руки авторитарных режимов, которые могут быть использованы для подрыва демократических обществ.
Наконец, чтобы противостоять непрозрачному подходу Китая к разработке ИИ и сбору данных, Соединенным Штатам следует финансировать академические исследования, которые развивают творческие идеи для оценки достижений Китая. Например, группа исследователей во главе с социологом Чарльзом Гомесом построила экологическую модель академических исследований в различных академических дисциплинах на основе цитат, которые можно использовать для определения областей, в которых Китай становится все более заметным. Хотя это не решает конкретно проблемы с данными, оно предоставляет интересную модель для разработки механизмов для дальнейших исследований и пример того, как творческие исследовательские подходы могут дать представление о закрытых политических системах.
Приложения с поддержкой ИИ в Соединенных Штатах должны быть не только более проверяемыми и прозрачными, но и данные, на которых они обучаются, должны рассматриваться и регулироваться как активы национальной безопасности, защищенные от иностранного сбора. Мы не должны ожидать, что Китай будет рекламировать для нас уязвимости, связанные с данными, в нашей экосистеме ИИ. Вместо этого Соединенные Штаты должны активно исследовать, проверять и запрашивать данные, лежащие в основе современного машинного обучения, и стать знаменосцем ответственной разработки и развертывания ИИ.
Джессика Доусон, доктор философии является начальник отдела информационной войны Армейского киберинститута.
Тара Уилер является пишущим редактором TechStream, научным сотрудником по киберпроектам Белферовского центра науки и международных отношений Школы государственного управления им. Кеннеди Гарвардского университета и научным сотрудником по международной безопасности в Новой Америке.
Приведенные здесь мнения отражают мнение авторов и никоим образом не отражают официальную позицию Министерства обороны, армии США, правительства США или Гарвардского университета.
