Что нас действительно пугает в ИИ
Когда я с большим энтузиазмом присоединился к Dataiku более трех лет назад, я был полон надежд на технологии, мир стартапов и расширение возможностей людей с помощью данных.
На самом деле с таким энтузиазмом, что я решил поделиться с миром своей надеждой на все, что связано с данными, и запустить информационный бюллетень, который превратился в Banana Data News. В то время большинство статей об искусственном интеллекте были посвящены интересному машинному обучению, потрясающим примерам использования данных и интересным проектам по визуализации данных. Конечно, уже было несколько недоброжелателей, среди них Илон Маск и Стивен Хокинг, но их критика все еще была очень концептуальной.
Затем я постепенно начал замечать темные облака. Начали выходить несколько статей, противоречащих великому технологическому будущему, которое я себе представлял. А потом их стало выходить все больше и больше.
В то время как мы годами слышали абстрактные опасения по поводу ИИ, я начал видеть реальные случаи использования, когда ИИ пошёл не так, как надо. И даже случаи использования, когда ИИ сделал то, что должен был, и все же умудрился пойти ужасно неправильно.
Посмотрите некоторые из моих любимых страшных проектов ИИ здесь.
Более того, они больше не ограничиваются специализированными СМИ и статьями по науке о данных, а попадают в основные СМИ. В результате я начал медленно терять веру в технологии и их основу — искусственный интеллект.
Дело в том, что я работаю в компании, занимающейся искусственным интеллектом.
В то же время Dataiku выросла из стартапа, занимающегося разработкой программного обеспечения для обработки данных, в компанию, занимающуюся искусственным интеллектом, в которой работает более 200 человек по всему миру. Я имею в виду, прямо на главной странице написано «Ваш путь к корпоративному ИИ».
И хотя несколько лет назад люди делали неловкие пустые лица, когда я говорил о своей работе, в последнее время я получаю гораздо больше шокированных лиц при мысли, что я вношу свой вклад в такие разрушительные технологии.
Так как же мне жить с самим собой и не бояться, что я позволяю людям делать более ужасные вещи? Что ж, чтобы понять, почему я не уволился с работы сразу после того, как начал писать эту статью, давайте начнем с определения того, что заставляет меня — и, возможно, вас сейчас — не доверять ИИ.
Почему мы боимся искусственного интеллекта
Важно разобраться, какие элементы составляют этот страх.По сути, то, что нас пугает в искусственном интеллекте, пугает нас по целому ряду совершенно разных причин.
1. Автоматизация меняет работу и влияет на менее квалифицированных
Это самый старый страх в книге: автоматизация отбирает рабочие места.
Бесчисленные отчеты показывают, что автоматизация приведет к тому, что огромное количество людей потеряют работу. Например, по оценкам McKinsey, к 2020 году в США может быть уничтожено 73 миллиона рабочих мест.
Этот страх также был движущим фактором первой и второй промышленных революций. Когда общество переходит от одних средств производства к другим, на первой фазе перехода многие люди теряют работу, поскольку новые средства производства устаревают. Когда на фабриках появились первые машины, многие мастера потеряли работу.
Однако на втором этапе промышленной революции новые машины создают больше рабочих мест — в данном случае люди строят, обслуживают и работают на машинах. На этом этапе ВВП страны растет.
Сегодня многие рабочие места уже теряются из-за автоматизации, например, на складах Amazon (см. ниже). Но мы по-прежнему не наблюдаем какого-либо роста ВВП — это может привести к выводу, что мы все еще находимся в первой фазе текущей революции — но ведущие ведущие экономисты обеспокоены тем, что мы сталкиваемся с промышленной революцией другого типа.
2. Технологии усиливают предвзятость и неравенство
Это, пожалуй, самая насущная проблема с ИИ сегодня. Действительно, данные, которые входят в алгоритмы ИИ, представляют собой представление нашего мира, а наш мир глубоко предвзят по отношению к множеству различных групп. Но ИИ не знает о предвзятости. Поэтому, когда мы обучаем искусственный интеллект на прошлых данных, технология воспринимает предвзятость как решение воспроизвести, а не что-то исправить.
Поэтому мы создаем предвзятые алгоритмы.
Более того, в области машинного обучения и науки о данных сегодня доминируют белые мужчины, которые не всегда думают проверять и тестировать на предвзятость.Это стало очевидным, когда несколько человек указали, что многие технологии распознавания лиц не работают с черными чертами лица.
Так что как гражданин, человек, потребитель, женщина и даже работник я волнуюсь, и не я один. Тем более, что следующая причина ниже делает его намного хуже.
3. Алгоритмы принимают решения, которые влияют на нас без нашего ведома
Алгоритмы принимают множество решений, которые влияют на наше общество без нашего ведома. Например, алгоритмы решают, какие заключенные с наибольшей вероятностью совершат преступления после того, как их выпустят в общество, но адвокаты и заключенные не имеют прозрачности в этом процессе. В Китае правительство использует данные для многих целей, например, для поиска преступников за пределами поп-концертов с помощью распознавания лиц и наблюдения.
И кто знает, сколько еще официальных решений может быть принято автоматически без нашего ведома?
Что еще более тревожно, правительства сегодня не единственные, кто оказывает такое же влияние на людей и бизнес. Технологические компании контролируют невероятное количество контента, который мы потребляем, а также то, как мы видим окружающий мир и взаимодействуем с ним.
Facebook опубликовал исследование, которое показывает, что на уровень счастья человека влияет контент, который он видит в своей ленте Facebook. Интересно. Но если немного подтолкнуть рассуждения, это означает, что, поскольку алгоритм Facebook контролирует то, что мы видим в нашей ленте, они должны были принять решение о как счастлив они хотели сделать своих пользователей. И мы думаем, что они решили пойти с максимальным уровнем счастья? Или, может быть, они выбрали уровень, который гарантировал, что люди просто достаточно несчастны, чтобы продолжать прокручивать страницу?
Подумайте о другой области нашей жизни, которую ИИ скоро будет в значительной степени контролировать: наши улицы и автомобили.В то время как технология беспилотных автомобилей тщательно тестируется и строго контролируется, алгоритмы, используемые Facebook или Google, никогда не тестировались подобным образом, а недавние новости показали, что даже их создатели не понимают, как они работают, и их влияние на мир. наша жизнь так же важна!
4. Алгоритмы лишают нас того, что делает нас людьми
Это более тонкий страх, тоже вполне западноцентричный. Это опасение, что алгоритмы делают именно то, для чего они созданы:
- создавая для нас беспроблемный опыт,
- снять с нас стресс, связанный с принятием решений, продвигая контент, который нам понравится,
- и сделать нашу зону комфорта намного более удобной и защищенной от внешнего вмешательства.
Эти алгоритмы создают кроличьи норы осознания, которые отрезают нас от мира. Они приводят к ситуациям, когда мы не знаем о мире за пределами таких людей, как мы, и более уязвимы для манипуляций. Это так часто упоминалось в новостях о Brexit или президентских выборах в США, что мы стали слишком осведомлены.
То, что делают эти алгоритмы, также потенциально лишает нас части того, что делает нас людьми. Наше право принимать решения — одна из таких вещей — проявление свободы воли, даже если речь идет о выборе сегодняшнего фильма, является частью того, что делает нас людьми. Алгоритмы, созданные для того, чтобы рекомендовать то, что мы действительно хотим, без того, чтобы нам приходилось приходить к этому заключению в одиночку, отнимают часть нашей человечности, даже если она крошечная, и даже если мы вполне готовы позволить им это иметь.
Я также считаю, что часть того, что делает нас людьми, — это наша способность процветать в промежутках между ними — позволять нашим мыслям блуждать, пока мы стоим в очереди, придумывать очередную гениальную идею, сидя в метро, и знакомиться с кем-то новым, ожидая подходящего момента. фильм для начала. Алгоритмы нацелены на эти моменты «пустоты», чтобы занять нас, пытаясь всегда развлекать нас.Их самая большая возможность роста — это то время, которое у нас есть. Создавая алгоритмы, которые постоянно занимают нас и никогда не дают скучать, потребляя контент, который, как они знают, нам понравится, мы создаем довольно темное слово, по крайней мере, на мой взгляд.
5. Грядет восстание роботов
Давайте будем честными: мы как бы играем в бога с чем-то, о чем мы недостаточно знаем, и в долгосрочной перспективе вероятность того, что мы потеряем контроль над искусственным интеллектом, и что роботы сделают нас рабами или будут держать нас в хороших зоопарках роботов, если нам повезет, очень вероятно.
Я имею в виду, что это просто факт, спросите Уилла Смита.
Вот и все — все, что нас пугает в искусственном интеллекте. Но я, например, верю, что есть надежда, и напишу статью о том, почему.
