Китай может похвастаться искусственным интеллектом, «читающим мысли», который поддерживает «ИИ-тократию»

Институт искусственного интеллекта (ИИ) в Хэфэе, в китайской провинции Аньхой, заявляет, что разработал программное обеспечение, которое может измерять лояльность членов коммунистической партии. Если это правда, то это можно было бы считать прорывом, но оно вызвало общественный резонанс.

Аналитики говорят, что Китай улучшил свое наблюдение на основе ИИ, используя большие данные, машинное обучение, распознавание лиц и ИИ, чтобы «проникать в мозги и умы своего народа», создавая то, что многие называют драконовской цифровой диктатурой.

Умное образование мысли?

1 июля институт опубликовал видео под названием «Панель умного политического образования», чтобы похвастаться своим программным обеспечением для «чтения мыслей», которое, по его словам, будет использоваться на членах партии, чтобы «еще больше укрепить их решимость быть благодарными партии». слушай вечеринку и следуй за вечеринкой».

На видео было видно, как субъект просматривал онлайн-материалы, пропагандирующие политику партии, в киоске, где, по словам института, его программное обеспечение ИИ отслеживало его реакцию, чтобы увидеть, насколько он внимателен к мыслительной деятельности партии.

Пост, однако, был удален вскоре после того, как вызвал общественный резонанс среди китайских пользователей сети.

Хун Чинг-фу, профессор политологии в Национальном университете Ченг Кунг в Тайнане, на юге Тайваня, сказал, что Коммунистическая партия злоупотребляет технологическими достижениями в своих политических интересах.

«Они использовали передовые технологии для расширения возможностей своего партийного государства. Китай перешел от раннего распознавания лиц к программам искусственного интеллекта, которые пытаются проникнуть в мозг и умы (больше), чем кажется на первый взгляд. Внедрение передового искусственного интеллекта укрепит его полный контроль», — сказал Хунг «Голосу Америки» по телефону.

Хун добавил, что полицейское государство Китая, работающее на искусственном интеллекте, будет давить на его народ, который, вероятно, будет подвергать себя цензуре или жить в страхе.

Цифровая репрессия

Но он мало верит в то, что он назвал цифровыми репрессиями Китая, которые, по его словам, скорее всего, поставят Коммунистическую партию перед «дилеммой диктатора» — политический термин, описывающий неспособность государственного лидера завоевать сердца и умы своего народа.

«Чем выше вы строите свою стену [власти], тем дальше вы отрезаны от народа… Это составляет то, что мы называем «дилеммой диктатора» в политике. То есть, несмотря на свои огромные полномочия, диктаторы держатся в стороне от народа. Я не думаю, что какие-либо политические системы, противоречащие человеческой природе, выживут», — добавил Хунг.

Звонки и электронные письма «Голоса Америки» в Хэфэйский институт с просьбой прокомментировать ситуацию остались без ответа.

Так называемое программное обеспечение для чтения мыслей — это всего лишь новейшее цифровое управление, которое внедрил Китай.

Сообщается, что Китай уже давно внедрил распознавание лиц в Синьцзяне, чтобы следить за этническими уйгурами, а в последние годы усилил свое наблюдение с помощью программного обеспечения «один человек, один файл», чтобы упростить отслеживание его людей.

По сообщениям, в конце прошлого года власти провинции Хэнань запустили аналогичную систему для отслеживания тех, кого они считают «подозрительными» журналистами, иностранными студентами и женщинами.В то же время прокуратура в Шанхае, как сообщается, приняла прокуроров AI, которые могут выдвигать обвинения по восьми уголовным преступлениям, включая мошенничество с кредитными картами и обвинения в завязывании ссоры и провоцировании неприятностей.

Китайская интернет-газета The Paper сообщила, что школа коммунистической партии в Сычуани еще в 2017 году разработала «Умное красное облако», которое уже могло отслеживать реакцию членов партии на ее политическое образование и «рассчитывать» их лояльность.

Жертвы китайской системы наблюдения

Несколько юристов и активистов-правозащитников сообщили «Голосу Америки» на условиях анонимности, что они стали жертвами китайской системы цифрового наблюдения.

Правозащитник из Ухани, провинция Хэбэй, сказал, что однажды его забрала полиция, которая смогла опознать его после того, как придорожная камера запечатлела его лицо, когда он был на улице.

Адвокат по правам человека из Пекина пожаловался, что он не может публиковать онлайн-сообщения или проходить онлайн-регистрацию из-за жесткой цензуры и цифровой системы отслеживания в Китае.

Другой адвокат по правам человека сообщил, что китайская полиция незаконно собирает биометрические данные со зрачков людей, отпечатков пальцев и образцов мочи тех, кто находится под стражей, чтобы усилить то, что он назвал «точным, но злобным» наблюдением.

Однако широкое применение в Китае технологий искусственного интеллекта стимулирует инновации в этом секторе, согласно результатам недавнего исследования, проведенного автором Мартином Берахой, доцентом экономики Массачусетского технологического института, и тремя другими учеными из Гарвардского университета и Лондонской школы экономики. Экономика и политология.

Их исследование пришло к выводу, что в то время как новые технологии укрепляют автократическую власть, а автократический спрос стимулирует инновации, «эта взаимная выгода может даже привести к долгосрочным, устойчивым инновациям в области ИИ в Китае, создав то, что они называют «ИИ-тократией».

ИИ-тократия

«В процессе получения этого государственного контракта они [ИИ-фирмы в Китае] получают доступ к этим данным, что позволяет им, конечно, внедрять инновации для государственного приложения, которое обычно связано с общественной безопасностью или предотвращением преступлений и т.п. . Это распространилось на их коммерческие инновации, потому что потенциально они могут использовать либо одни и те же правительственные данные, либо, если это ограничено, они могут использовать те же алгоритмы, которые были обучены на этих данных, для разработки коммерческих продуктов, которые используются в частном секторе. », — сказал Бераха «Голосу Америки».

Одно такое коммерческое программное обеспечение, например, используется в супермаркетах для отслеживания покупателей, когда они перемещаются по проходам, добавил профессор.

Однако Бераха выразил обеспокоенность по поводу экспорта ИИ из Китая, который, как он обнаружил в своем исследовании, вероятно, помогает другим репрессивным правительствам.

«Одна вещь, которую мы наблюдаем, заключается в том, что страны, которые являются более авторитарными или относительно слабыми демократиями, действительно импортируют больше ИИ для распознавания лиц из Китая, и, скорее всего, ИИ для распознавания лиц из Китая, чем другие технологии. И для меня это говорит о том, что в некотором смысле эти технологии действительно используются для слежки и репрессий», — добавил Бераха.

Золя, известный блогер из Китая, который в настоящее время является гражданином Тайваня, сказал, что большинство пользователей сети в Китае выступают против цифрового подавления страны, хотя их оппозиция часто приглушена.

Он поставил под сомнение устойчивость китайской ИИ-тократии.

«Китай может экспортировать эти технологии в другие страны. Но в долгосрочной перспективе такая модель управления приведет общество к крайностям… повторяя иррациональную модель разработки политики периода (китайской) культурной революции. Это приведет к его собственному краху», — сказал Золя «Голосу Америки».

Эта статья возникла в сервисе VOA на китайском языке.