Все говорят об искусственном интеллекте. Но что это?

«Портреты», сопровождающие эту статью, были созданы на веб-сайте This Person Does Not Exist. Подробнее об этих изображениях в конце этой статьи.

Технический магнат Илон Маск хочет достичь «своего рода симбиоза между человеком и искусственным интеллектом», заявил он недавно на презентации своей компании Neuralink.

Идея: провода с электродами тоньше человеческого волоса вживляются в мозг, чтобы, например, управлять протезом или лечить неврологическое заболевание. По словам Маска, Neuralink тестирует технологию на крысах и хочет начать использовать ее для людей в конце 2020 года.

История Маска — здесь нет ничего удивительного — довольно экстремальна. Кажется оптимистичным ожидать получения разрешения на эксперименты на людях от Управления по санитарному надзору за качеством пищевых продуктов и медикаментов уже в следующем году. Но эта новость, безусловно, является частью более широкой тенденции: в наши дни вы много слышите об искусственном интеллекте.

Стартапы в области ИИ привлекают финансирование, как никогда раньше, а правительства переполняют друг друга своими амбициями. Если верить шумихе, ИИ проникнет во все аспекты нашей жизни. Он будет обнаруживать наши опухоли, водить наши машины и вести наши войны. Некоторые говорят, что это может решить наши основные проблемы — от изменения климата до смерти — другие говорят, что это также может быть нашим «последним изобретением».

Так все об этом говорят. Но действительно ли мы знаем, о чем говорим?

Что такое искусственный интеллект?

Существуют разные мнения относительно того, что мы подразумеваем под «искусственным интеллектом». Некоторые определяют его настолько узко, что он охватывает только самообучающихся роботов, в то время как другие определения настолько широки, что даже очень простые статистические модели называются ИИ.

Вокруг ИИ много шумихи, поэтому этот термин используется для самых разных вещей. ИИ генерирует исследовательские гранты, инвестиции и внимание средств массовой информации. А когда нужно заработать деньги, люди склонны преувеличивать.

Одним из примеров является Майк Маллаццо, который недавно написал

о своей работе в компании Dynamic Yield, самопровозглашенной «платформе Personalization Anywhere™ на базе искусственного интеллекта», которую McDonald’s купил за 300 миллионов долларов. Но то, что делает Dynamic Yield, — это вовсе не ИИ, — говорит Маллаццо. Это в бизнесе «персонализации» — когда вам рекомендуют McFlurry в McDrive в жаркий день или когда киоск самообслуживания знает о вашей склонности к McChicken.

Все это означает, что стартап хорошо справляется с «очень скучной и вездесущей проблемой персонализации управления данными».

Компания прекрасно знала об этом, но они продолжали навешивать ярлык ИИ на то, что они делают. «Рынок хотел, чтобы мы были компанией, занимающейся искусственным интеллектом, поэтому мы усмехнулись и решили назвать себя одной из них».

Неужели нет определения ИИ?

Определения, безусловно, существуют. Вот это есть в Википедии,

Посетите страницу Википедии об ИИ. например: «интеллект, демонстрируемый машинами, в отличие от естественного интеллекта, демонстрируемого людьми». Другое описание — «Способность машины имитировать разумное человеческое поведение».

И вот в чем заключается проблема: что такое «разумное человеческое поведение»? Было время, когда мы думали, что это удивительно, что калькулятор может вычислить сложную сумму. И потом, что компьютер может выиграть в шахматы. Но не каждый сегодня назвал бы это ИИ.

Это «эффект ИИ»: как только мы узнаем, как заставить компьютер что-то делать, волшебство исчезает.Это нормально; что в этом умного? Как писал Дуглас Хофштадтер в Гёдель, Эшер, Бах: «ИИ — это то, что еще не сделано».

Вы также можете подвергнуть сомнению термин «искусственный». Это предполагает четкую разницу между человеком и машиной, но что, если бы человек был не более чем сложным компьютером? Где граница между искусственным и человеческим интеллектом?

Так или иначе, попытка дать определение ИИ поднимает несколько философских вопросов и не дает однозначного ответа.

Итак, когда я читаю что-то об ИИ, что это значит?

Большинство ИИ, о которых вы слышали, — это машинное обучение: использование алгоритмов и статистических моделей, чтобы заставить машину выполнять задачу, не задавая ей явных правил. Представьте, что вы учите компьютер распознавать кошку. Вы можете установить ряд правил. У этого предмета четыре ноги? Шерсть? Острые уши? Сложно, потому что даже после «да» на все три вопроса это все еще может быть собака. А некоторые кошки трехлапые, лысые или имеют вислоухие уши.

Это то, что маленькие дети усваивают легко, но компьютеры находят это довольно сложно. И здесь на помощь приходит машинное обучение: вместо того, чтобы давать компьютеру бесконечные варианты «если то, то это», вы заставляете его учиться самостоятельно. С нейросетью, например.

Что?

Нейронные сети в моде в мире ИИ. Многое из того, что вы читали об ИИ, относится к нейронным сетям. Они используются в беспилотных автомобилях, при распознавании речи на вашем телефоне и в Google Translate.

И взгляните на «Этот человек не существует»,

Посмотрите «Такого человека не существует». откуда взяты иллюстрации к этой статье. На этом сайте вы найдете фотографии несуществующих людей, созданные мгновенно с помощью искусственного интеллекта. Опять же, благодаря этим нейронным сетям.

(Если вам нравится, попробуйте «Этого кота не существует»

Посмотрите «Этого кота не существует». а также: это не так хорошо работает, но это очень забавно.)

Все это может показаться совсем 21-м веком, но основы нейронных сетей на самом деле были заложены еще в 1943 году, когда нейрофизиолог Уоррен МакКаллох и логик Уолтер Питтс создали первый искусственный нейрон, вдохновленный мозгом. Подобно переключателю в электрической цепи, нейрон может включаться и выключаться, передавая или удерживая информацию.

Идея нейронной сети получила дальнейшее развитие в течение десятилетий, начиная с 1940-х годов. Но только в последние несколько лет мы действительно смогли что-то сделать с этими нейронными сетями, так как до недавнего времени у нас не было достаточной вычислительной мощности и данных.

Как работает нейронная сеть?

Представьте, что мы хотим использовать нейронную сеть, чтобы распознать, есть ли кошка на черно-белой фотографии.

Первый строительный блок — это входные данные, в данном случае фотография — точнее, все пиксели на фотографии. Они формируют вход для «нейронов» в первом слое нашей сети. Они больше не включены и не выключены, как это было у Маккалоу и Питтса, но некоторые из них более активны, чем другие. С математической точки зрения: у каждого нейрона есть число от 0 до 1, код, который говорит нам, насколько черным (0) или белым (1) является пиксель.

Второй кирпичик — вывод: есть ли на фото кошка, да или нет? Это вопрос одного нейрона, который либо включен (кошка), либо выключен (без кошки). Здесь нейрон также может получить значение, в данном случае от 0 до 1. Если это значение равно 0,8, модель на 80% уверена, что на фотографии есть кошка.

Третий строительный блок — это сеть слоев нейронов между входом и выходом. Вот почему использование нейронных сетей также известно как глубокое обучение, поскольку информация проходит через несколько слоев.

Опять же, каждый нейрон «включен» в определенной степени, что определяет количество информации, которую он передает нейрону следующего слоя.Один нейрон может собирать все пиксели вокруг кошачьего носа, в то время как следующий ищет линии, а после этого нейрон идентифицирует их как усы.

Но дело в том, что вам не нужно указывать компьютеру, что должен проверять каждый слой. Он выясняет это для себя путем «обучения». Вы отправляете ему множество фотографий с пометками (кошка/без кошки) и позволяете этой системе протестировать сети, чтобы увидеть, какая из них дает наилучшие результаты. Если он получает, скажем, 90% фотографий неправильно в первый раз, он может настроить то, как нейроны передают информацию, чтобы в следующий раз все работало лучше.

Это всего лишь пример. Если вы хотите более подробно разобраться в нейронных сетях, канал YouTube 3Blue1Brown сделал доступную серию статей об этом методе. Смотрите первый выпуск здесь:

И насколько хорошо это работает?

В 2015 году Европейский Го

Го — настольная игра, в которой два игрока должны окружить камни противника. Он существует уже пару тысяч лет и очень популярен в таких странах, как Южная Корея, Китай и Япония. чемпион Фань Хуэй сыграл необычного соперника. Настольная игра Го известна огромным количеством возможных ходов в ней: больше, чем атомов во Вселенной. Хотя вы можете задать шахматному компьютеру ряд условий, которые, вероятно, помогут ему победить, вы не сможете сделать это в Го.

Введите нейронные сети.

Здесь есть хороший документальный фильм об AlphaGo. сеть, разработанная Google DeepMind, разгромила Hui со счетом 5: 0 в 2015 году. Когда программа играла с Ли Седолем, который 18 раз становился чемпионом мира, она выиграла со счетом 4: 1.

AlphaGo, пожалуй, самая известная история успеха ИИ. Но есть и другие: модели, которые могут обнаруживать раковые клетки, модели, которые могут предсказывать погоду, и — да — модели, которые могут предсказывать, что вы хотите увидеть дальше на Netflix.

Значит, это все хорошие новости?

Не совсем. Когда однажды вечером в 2015 году разработчик Джеки Альсине просматривал Google Фото, он сначала был впечатлен.

Google невероятно точно пометил его фотографии: фотография с самолетом была помечена как «самолет», велосипед — как «велосипед», а его брат в ступке — как «выпускной».

Пока он не сделал селфи с другом, оба афроамериканцы. «Гориллы», — говорилось на этикетке. Он прокрутил до других фотографий того дня. Гориллы, гориллы, гориллы.

Примеров предвзятости в ИИ множество. Чат-бот Microsoft в социальных сетях, который должен был быть девочкой-подростком, быстро научился

TechRepublic: «Почему ИИ-бот Microsoft Tay пошёл не так», чтобы быть фашистским женоненавистником. Программа прогнозирования рецидивизма нацелена на чернокожих мужчин.

Politico: «Ваше программное обеспечение расистское?» И большинство людей, показанных на Этот человек не существует, откуда берутся иллюстрации к этой статье, белые.

Нельзя винить в этом модели. Они учатся на данных, которые им подают, и, следовательно, на нас. Собранные вами данные неизбежно отражают то, насколько социальные сети переполнены ненавистническими высказываниями, или тот факт, что полиция использует этническое профилирование. Мир полон предрассудков, поэтому модели тоже. Мусор на входе, мусор на выходе.

Что еще хуже, модель может стать настолько сложной, что даже ее создатель больше не сможет ей следовать. Что немного трудно проглотить, если решение оказывает длительное влияние на вашу жизнь. Почему я не могу получить кредит? Да, это алгоритм. Почему я не получил эту работу? Ну, АИ.

Согласно последнему европейскому законодательству, вы имеете право на «человеческую оценку», когда лицо пересматривает решение и может его изменить. Но это не так просто, поскольку вы даже не всегда понимаете, что модель (ИИ или что-то еще) приняла решение о вашей жизни.

И, э…

Роботы захватят мир?

Это зависит от того, кого вы спросите. Такие люди, как Стивен Хокинг, Ник Бостром и Илон Маск, говорили, что у нас есть основания опасаться «сверхразума» — формы интеллекта, которая намного превосходит человеческий.

«Первая сверхинтеллектуальная машина — это последнее изобретение, которое когда-либо нужно было сделать человеку», — заявил математик Ирвинг Гуд еще в 1965 году. Соучредитель Apple Стив Возняк не особо беспокоится, но он думает, что в какой-то момент мы станем роботами». домашние питомцы.

The Guardian: «Соучредитель Apple Стив Возняк говорит, что люди станут домашними животными роботов». Не многие эксперты по ИИ думают, что это будет происходить очень быстро. «Беспокоиться об смертоносном ИИ — это все равно, что беспокоиться о перенаселении Марса», — сказал откровенный исследователь ИИ Эндрю Нг.

Ожидания также корректируются по ходу дела, как это было в случае с беспилотными автомобилями. Ford и другие производители автомобилей теперь признают

NYT: «Несмотря на большие надежды, самоуправляемые автомобили — это путь в будущее», они переоценили, как быстро автономные автомобили станут нормой.

В последние годы с ИИ, безусловно, были сделаны экстраординарные вещи, но все успешные модели преследовали ограниченные цели: выиграть в настольной игре, распознать лицо, перевести предложение. Пройдите немного дальше, и вскоре он рухнет. Просто попробуйте задать Siri неожиданный вопрос.

Может быть, когда-нибудь на сцену выйдет сверхразум, а может быть, и нет. Трудно предсказать. Но что еще больше беспокоит, так это то, что подобные страхи из научной фантастики отвлекают нас от реальных проблем с ИИ. Проблемы, которые уже есть.

Такие как?

например: реалистичные видеоролики, созданные с использованием ИИ. Были сняты поддельные порнофильмы с такими звездами, как Скарлетт Йоханссон, Эмма Уотсон и Галь Гадот. Такие фейковые видео также могут быть использованы для очернения имен политических оппонентов.

Ниже приведен пример того, как можно вложить слова в уста человека, в данном случае Барака Обамы.

Еще один пример проблематичного использования ИИ: Китай строит государство наблюдения, и одна из технологий, которые он использует, — распознавание лиц. Ею уже оборудованы отели, аэропорты и даже общественные туалеты.Но амбиции китайского правительства идут дальше: к 2020 году оно хочет, чтобы все примерно 200 миллионов камер были объединены в единую сеть.

Однако распознавание лиц используется и ближе к дому. В Лондоне ее используют для отслеживания правонарушителей, хотя несколько экспериментов показали, что в 96% случаев эта технология не дает результата.

ИИ еще долго будет находиться под контролем человека. Поэтому люди будут решать, что нам с этим делать. Те же алгоритмы, которые стоят за дипфейковыми видео, могут помочь обнаружить рак.

MIT Technology Review: «Новый способ использования искусственного интеллекта для дипфейков может улучшить диагностику рака». Но настоящий прогресс больше заключается не во все более совершенных методах, а в том, как мы их используем и в выборе, который делаем. Роботы могут прийти. Но люди уже здесь.

Эта статья была переведена с голландского языка Клэр МакГрегор.

Спасибо всем, с кем я говорил об ИИ в последние несколько месяцев. Особая благодарность Дэниелу Уорроллу (Philips Lab, Университет Амстердама), который оставил отзыв об этой статье.

Об изображениях:

Этого человека не существует. Парня на фото выше не существует. Вы смотрите на машинный продукт, на «портреты», созданные алгоритмом, который научился на десятках тысяч лиц. И не страшно, как хорошо это сделано? Даже если они выглядят как персонажи из фильма ужасов категории B. Присмотритесь повнимательнее к веселым смеющимся лицам, и время от времени вы будете натыкаться на кучу сбившихся пикселей. Мочка уха, которая кажется обрезанной, несколько черных точек на белых зубах или проблеск тематического парка в чьих-то волосах. А чья работа на самом деле эти портреты? Есть ли авторские права на фотографии, сделанные алгоритмом? (Лизе Страатсма, редактор изображений) Создавайте собственные портреты на веб-сайте «Этот человек не существует».

Будьте в курсе новостей Санне:

Присоединяйтесь к разговору о математике Следите за еженедельной рассылкой Sanne, чтобы получать заметки, мысли или вопросы по теме математики и искусственного интеллекта. Подпишите здесь