Создан, чтобы обманывать: кажутся ли вам эти люди настоящими?

Эти люди могут выглядеть знакомыми, как те, которых вы видели в Facebook или Twitter.

Или люди, чьи обзоры продуктов вы читали на Amazon, или профили знакомств, которые вы видели в Tinder.

На первый взгляд они выглядят потрясающе реальными.

Но их не существует.

Они родились из разума компьютера.

И технология, которая их производит, совершенствуется с поразительной скоростью.

Создан, чтобы обманывать: кажутся ли вам эти люди настоящими? Кашмир Хилл и Джереми Уайт, 21 ноября 2020 г. —>

Сейчас есть предприятия, которые продают поддельных людей. На сайте Generated.Photos можно купить «уникального, беззаботного» поддельного человека за 2,99 доллара или 1000 человек за 1000 долларов. Если вам просто нужна пара поддельных людей — для персонажей видеоигры или для разнообразия веб-сайта вашей компании — вы можете бесплатно получить их фотографии на ThisPersonDoesNotExist.com. Отрегулируйте их сходство по мере необходимости; сделайте их старыми или молодыми или этнической принадлежностью по вашему выбору. Если вы хотите, чтобы ваш фальшивый человек анимировался, компания Rosebud.AI может сделать это и даже заставить его говорить.

Эти смоделированные люди начинают появляться в Интернете, их используют в качестве масок реальные люди с гнусными намерениями: шпионы, которые делают красивое лицо, пытаясь проникнуть в разведывательное сообщество; правые пропагандисты, которые прячутся за поддельными профилями, фотографиями и всем прочим; онлайн-преследователей, которые троллит свои цели с дружелюбным видом.

Мы создали собственный ИИ. система, чтобы понять, как легко создавать разные поддельные лица.

А.И. система видит каждую грань как сложную математическую фигуру, диапазон значений, которые можно сдвигать. Выбор различных значений — например, тех, которые определяют размер и форму глаз — может изменить все изображение.

Глаза
Перспектива
Настроение

Для других качеств наша система использовала другой подход. Вместо смещения значений, определяющих определенные части изображения, система сначала сгенерировала два изображения, чтобы установить начальную и конечную точки для всех значений, а затем создала промежуточные изображения.

Пол
Раса и этническая принадлежность

Создание этих типов поддельных изображений стало возможным только в последние годы благодаря новому типу искусственного интеллекта, называемому генеративно-состязательной сетью. По сути, вы скармливаете компьютерной программе кучу фотографий реальных людей. Он изучает их и пытается придумать свои собственные фотографии людей, в то время как другая часть системы пытается определить, какие из этих фотографий являются поддельными.

Взад и вперед делает конечный продукт еще более неотличимым от реальной вещи. Портреты в этой статье были созданы The Times с использованием программного обеспечения GAN, которое стало общедоступным компанией Nvidia, занимающейся компьютерной графикой.

Учитывая темпы совершенствования, легко представить себе недалекое будущее, в котором мы сталкиваемся не с отдельными портретами фальшивых людей, а с целыми их коллекциями — на вечеринках с фальшивыми друзьями, тусовками с их фальшивыми собаками, держат своих поддельных детей.Становится все труднее отличить, кто на самом деле онлайн, а кто — плод компьютерного воображения.

«Когда эта технология впервые появилась в 2014 году, она была плохой — она была похожа на Sims», — сказала Камилла Франсуа, исследователь дезинформации, чья работа заключается в анализе манипулирования социальными сетями. «Это напоминание о том, как быстро могут развиваться технологии. Обнаружение со временем будет становиться только сложнее».

Успехи в подделке лиц стали возможными отчасти потому, что технологии стали намного лучше определять ключевые черты лица. Вы можете использовать свое лицо, чтобы разблокировать свой смартфон, или попросить программное обеспечение для обработки фотографий отсортировать ваши тысячи фотографий и показать вам только те, которые принадлежат вашему ребенку. Программы распознавания лиц используются правоохранительными органами для выявления и ареста подозреваемых в совершении преступлений (а также некоторыми активистами для раскрытия личности полицейских, которые прикрывают свои именные бейджи, пытаясь сохранить анонимность). Компания под названием Clearview AI извлекла из сети миллиарды общедоступных фотографий, которыми обычные пользователи случайно поделились в Интернете, чтобы создать приложение, способное распознавать незнакомца всего по одной фотографии. Технология обещает сверхспособности: способность организовывать и обрабатывать мир таким образом, который раньше был невозможен.

Но алгоритмы распознавания лиц, как и другие системы искусственного интеллекта, системы не совершенны. Из-за скрытой предвзятости данных, используемых для их обучения, некоторые из этих систем не так хороши, например, в распознавании цветных людей. В 2015 году первая система обнаружения изображений, разработанная Google, пометила двух чернокожих как «горилл», скорее всего, потому, что система получила гораздо больше фотографий горилл, чем людей с темной кожей.

Более того, камеры — глаза систем распознавания лиц — не так хороши, чтобы запечатлеть людей с темной кожей; этот неудачный стандарт восходит к ранним дням развития пленки, когда фотографии были откалиброваны, чтобы лучше всего отображать лица светлокожих людей. Последствия могут быть тяжелыми.В январе темнокожий мужчина в Детройте по имени Роберт Уильямс был арестован за преступление, которого он не совершал, из-за неправильного распознавания лиц.

Искусственный интеллект может облегчить нашу жизнь, но в конечном итоге он так же несовершенен, как и мы, потому что за всем этим стоят мы. Люди выбирают, как ИИ системы сделаны и какие данные они подвергаются. Мы выбираем голоса, которые учат слышать виртуальных помощников, заставляя эти системы не понимать людей с акцентом. Мы разрабатываем компьютерную программу для прогнозирования преступного поведения человека, передавая ей данные о прошлых решениях, вынесенных судьями-людьми, и в процессе учитываем предубеждения этих судей. Мы помечаем изображения, которые обучают компьютеры видеть; затем они ассоциируют очки с «слабаками» или «ботаниками».