ПОЛИТИКА Политико Логотип

Регистрируясь, вы разрешаете POLITICO собирать вашу пользовательскую информацию и использовать ее, чтобы лучше рекомендовать вам контент, отправлять вам по электронной почте информационные бюллетени или обновления от POLITICO, а также делиться идеями на основе агрегированной пользовательской информации. Вы также соглашаетесь с нашей политикой конфиденциальности и условиями обслуживания. Вы можете отказаться от подписки в любое время и можете связаться с нами здесь. Этот сайт защищен reCAPTCHA, и к нему применяются Политика конфиденциальности и Условия обслуживания Google.

Самое большое беспокойство Илона Маска

26 апреля 2022 г., 16:22 по восточному поясному времени

Обновлено 26.04.2022, 17:10 по восточному поясному времени.

С помощью Дерека Робертсона и Бена Шрекингера

Это не Твиттер.

В 2017 году на собрании Национальной ассоциации губернаторов он высказал мнение, что «самой страшной проблемой» является искусственный интеллект — изобретение, которое может представлять собой недооцененный «фундаментальный экзистенциальный риск для человеческой цивилизации».

Маск в течение многих лет, казалось, знал об опасностях ИИ. Еще в 2014 году он сказал студентам Массачусетского технологического института: «Я все больше склоняюсь к мысли, что должен быть какой-то регулирующий надзор, может быть, на национальном и международном уровне, просто чтобы убедиться, что мы не делаем что-то очень глупое. ”

Поэтому может показаться, что Маск будет очень осторожен в том, как его компании внедряют ИИ, и насколько тщательно они придерживаются правил.

Не совсем. Маск — крупный игрок в области искусственного интеллекта, отчасти благодаря своему автомобильному бизнесу. Илон Маск назвал Tesla крупнейшей в мире компанией по производству робототехники. «Наши автомобили — это полуразумные роботы на колесах», — сказал он в прошлогоднем выступлении на «дне ИИ», который провела компания. На мероприятии он также объявил о планах построить прототип робота где-то в 2022 году.По его словам, робот должен быть дружелюбным и устранять «опасные, повторяющиеся и скучные задачи». Он сказал, что сделает робота достаточно медленным, чтобы от него можно было убежать, и достаточно слабым, чтобы одолеть его.

На протяжении многих лет его автомобильная фирма Tesla не только продвигала системы автопилота на базе искусственного интеллекта за пределы того, что регулирующие органы, такие как Национальный совет по безопасности на транспорте, считают разумным, но и более четырех лет не могла «выполнить критические рекомендации по безопасности NTSB». Октябрь 2021 г. Письмо Дженнифер Хоменди, председателя агентства. И, как сообщал Fortune в феврале, Neuralink, стартап по разработке мозговых чипов, которым также руководит Маск, возможно, ввел в заблуждение федеральных регуляторов относительно его роли. Маск говорит, что хочет, чтобы чипы Neuralink помогли людям достичь «симбиоза с искусственным интеллектом».

Готовность Маска соблюдать правила, касающиеся ценных бумаг, поднимает более широкие вопросы о том, как Neuralink может соблюдать правила для интерфейсов мозг-компьютер, которые, по мнению экспертов, необходимо срочно написать.

Эмануэль Мосс, научный сотрудник Cornell Tech и Исследовательского института данных и общества, сказал, что «в интересах Маска позиционировать себя и свои компании как наиболее способных справиться с повышенным воображением рисков, связанных с ИИ».

По словам Мосса, Маск утверждает, что его компании — «немногие, кто способен справиться с рисками, связанными с ИИ, технически проницательным и надежным способом». Но Маск, по его словам, «хочет продать блестящую коробку, которая решает проблемы. Он думает, что есть технические решения для того, что на самом деле является социальными проблемами».

Это также точка зрения Алекса Джона Лондона., директор Центра этики и политики Университета Карнеги-Меллона, который сказал, что «предупреждения об искусственном интеллекте заставляют промышленность выглядеть социально ориентированной и часто являются витриной, предназначенной для укрепления доверия, но это доверие не оправдано».

Джанклаудио Мальджери, профессор бизнес-школы EDHEC в Лилле, изучающий регулирование ИИ и автоматизированное принятие решений, сказал, что видит маркетинговую стратегию Маска в том, чтобы «ИИ был улучшением человечества, а не заменой человечества».

Но это различие не является четким. По словам Мальгьери, люди, жившие 50 лет назад, были бы шокированы, узнав, сколько наших умственных способностей мы уже отдали ИИ — подумайте, как легко сейчас найти основные факты в Google или полагаться на GPS и ИИ, чтобы найти дорогу к дому друга. или как тщательно алгоритмические рекомендации теперь формируют музыкальные предпочтения людей.

Непосредственно перед тем, как Маск рассказал об амбициях Теслы в отношении роботов в День ИИ, человек в обтягивающем белом комбинезоне и черной маске с пустым лицом вышел на сцену, как будто пытаясь обмануть публику, заставив ее думать, что он очень способный робот, прежде чем маниакально танцевать под электронная музыка. Это неприятная попытка стереть границы между людьми и роботами.

Мальери рассказал басню о лягушке в кастрюле с водой, которую медленно доводят до кипения, и она не понимает, что умрет, пока не станет слишком поздно. «Когда мы начнем, — думал он, — отдавать нашу человечность машинам?»

Маск сказал на мероприятии, посвященном дню ИИ, что хочет иметь возможность попросить робота пойти в магазин за продуктами. У Мальери возникает вопрос: что теряется, когда покупки делают роботы?

Небольшой совет

Как мы рассмотрели на прошлой неделе здесь, в DFD, Европа намного опережает Штаты, когда речь идет о создании нормативных барьеров вокруг искусственного интеллекта. Одной из групп Силиконовой долины, предоставляющей свой опыт законодателям и регулирующим органам, является Mozilla Foundation, которая в понедельник опубликовала сообщение в блоге, в котором перечислены рекомендации для далеко идущего Закона об искусственном интеллекте Союза.

В сообщении, написанном исполнительным директором Mozilla Марком Сурманом и старшим исследователем политики Максимилианом Ганцем, указаны три основные области, в которых акт в его нынешнем виде можно улучшить: баланс ответственности за ответственное использование ИИ между его разработчиками и его пользователями; написание более строгих требований к раскрытию информации об использовании так называемых технологий искусственного интеллекта «высокого риска» и создание средств для конечных пользователей, чтобы они могли подавать жалобы на предполагаемое неправильное использование.

«Технологии, которые потенциально нейтральны или могут иметь предубеждения сами по себе, но их конструкция не предполагает деятельности с высоким уровнем риска, [по-прежнему] могут использоваться для целей с высоким или низким риском», — сказал Сурман. «Мы видим нашу роль — мы видим потребность в комиссии — бороться с практическими вопросами о том, как с этим справиться; мы думаем, что прямо сейчас акт слишком упрощен».

Исследователи рекомендовали законодателям ЕС «спрогнозировать» законопроект, расширив его сферу охвата, чтобы не исключать потенциальный вред, причиняемый ИИ, которого, возможно, еще даже не существует.

«Они определяют восемь областей, в которых это может быть изменено», — сказал Ганц. «Это излишне ограничивает пространство для маневра для Комиссии и европейских законодателей в будущем. То, что мы прямо сейчас не знаем, что что-то может быть рискованным и может навредить людям, не означает, что через два или три года это может не измениться».

Сурман и Ганц заявили, что европейские регулирующие органы в значительной степени восприняли их рекомендации и будут продолжать предлагать свои услуги по мере того, как будет продолжаться длительный процесс законодательства. (Закон о цифровых услугах, недавно согласованный в принципе законодателями ЕС, был впервые предложен в декабре 2020 года.) ИИ снова появляется в Вашингтоне… в конце концов. — Дерек Робертсон

Для записи

После пятницы вещь на галстуках между криптомагнатом Брок ПирсНезависимый кандидат в Сенат Вермонта и мир Трампа, кампания Пирса разослала сегодня заявление, в котором говорится, что он расстался со своей командой помощников Дональда Трампа из-за «идеологических разногласий». Пирс сказал, что помимо Стив Бэннон, он проконсультировался с Билл Де Блазио о его амбициях в Сенате и что его кампания теперь работает с командой демократов и независимых оперативников, включая Бен Кинсли, Тайри Мортон, Джефф Леб а также Дэвид Вайнер. — Бен Шрекингер

Полдник

Искусственная доверчивость? Один тревожный факт, связанный с искусственным интеллектом: так же, как машинное обучение может обнаруживать закономерности, недоступные людям, его также можно обмануть способами, которые никогда не обманут человека.

Это не просто теория: на прошлой неделе в несколько тревожной ветке Twitter писатель Кори Доктороу выложил длинный список примеров того, как исследователи обманывали и манипулировали алгоритмами машинного обучения, иногда в грубой и упрощенной форме с потенциально опасными подразумеваемое:

• «Китайская команда показала, что они могут нарисовать невидимые крошечные квадраты инфракрасного света на любом лице и заставить систему распознавания лиц думать, что это любое другое лицо».
• “. атака, которая добавляла в комнату неслышные звуки, которые мог слышать и действовать только умный динамик».
• «Команда из Торонто обнаружила, что классификатор, который надежно идентифицировал все в обычной гостиной, совершенно сбился с толку, когда они добавили в комнату слона»
• «В 2019 году команда Tencent показала, что они могут обманом заставить автопилот Tesla пересечь разделительную полосу, добавив на поверхность дороги маленькие безобидные полоски ленты».

В своей ветке, которую он также скомпилировал как сообщение в блоге, Доктороу резюмировал недавнюю статью, показывающую, как эти «состязательные примеры» — данные, которые при введении в систему машинного обучения вызывают ее сбой — могут быть добавлены практически к любой такой системе. , для любой цели — и они могли быть незаметны для любого, кто еще не знал, где искать.

«Другими словами, если вы обучите систему распознавания лиц с миллиардом лиц, вы сможете изменить любое лицо так, чтобы оно было незаметно для человеческого глаза, чтобы оно соответствовало любому из этих лиц», — пишет Доктороу. «Точно так же вы можете научить систему машинного обучения выдавать банковские кредиты, и злоумышленник может изменить заявку на получение кредита таким образом, что человек не сможет обнаружить его, так что система всегда одобряет кредит». — Дерек Робертсон

Будущее в 5 ссылках

• счет Нью-Йорка запрет на добычу криптовалюты с доказательством работы находится на пути к государственному собранию.
• Джек из коробки приносит роботы, переворачивающие гамбургеры в место Сан-Диего.
• Косметическая компания, специализирующаяся на цифровых технологиях, предлагает инвесторам маркер безопасности привязан к IPO.
• Прочитайте интервью с исследователем, используя технология распознавания лиц удостоверение личности российских солдат.
• Некоторые вещи вы просто не можете визуализировать: Meta открывает свой первый личный розничный магазин виртуальной реальности.

Оставайтесь на связи со всей командой: Бен Шрекингер ( [электронная почта защищена] ); Дерек Робертсон (англ. [электронная почта защищена] ); Константин Какаес (англ. [электронная почта защищена] ); и Хайди Фогт ( [электронная почта защищена] ).

Если вы получили этот информационный бюллетень, вы можете подпишите здесь. И читать заявление о нашей миссии здесь.

ПОЛЬЗОВАТЕЛИ ПРИЛОЖЕНИЯ POLITICO: ОБНОВИТЕ ПРИЛОЖЕНИЕ ДО 19 ДЕКАБРЯ! Недавно мы обновили приложение POLITICO, придав ему новый внешний вид и улучшенные функции для более легкого доступа к сенсациям и новаторским отчетам POLITICO. С 19 декабря у пользователей больше не будет доступа к предыдущей версии приложения.Обновите свое приложение сегодня, чтобы быть в курсе важных политических новостей, идей и аналитических материалов от лучших журналистов в бизнесе. ОБНОВИТЬ ПРИЛОЖЕНИЕ iOS – ОБНОВИТЬ ПРИЛОЖЕНИЕ ANDROID.

Следуйте за нами на Twitter

• Бен Шрекингер @SchreckReports
• Дерек Робертсон @afternoondelete
• Стив Хьюзер @sfheuser
• Бентон Айвз @BentonIves

Подписывайтесь на нас

ИСПРАВЛЕНИЕ: В более ранней версии Digital Future Daily неверно указано местонахождение кампуса бизнес-школы EDHEC, где преподает Джанклаудио Мальджери. Это в Лилле.

Об авторе: Константин Какаес

Константин Какаес — заместитель редактора журнала POLITICO по технологиям и кибербезопасности.

Он начал свою карьеру в журналистике в 2002 году, когда писал о науке и технологиях для The Economist, в котором он позже был главой бюро Мехико, освещая Мексику, Центральную Америку и Карибский бассейн с 2005 по 2009 год.

В 2009-10 учебном году он был научным сотрудником Knight Science Journalism в Массачусетском технологическом институте. Осенью 2010 года он был научным сотрудником проекта «Международная отчетность» Школы перспективных международных исследований Университета Джона Хопкинса. Он был научным сотрудником Фонда Новой Америки с 2011 по 2018 год, а в 2019 году был постоянным журналистом Института теории вычислений Саймонса в Калифорнийском университете в Беркли.

Совсем недавно он был редактором MIT Technology Review, где его работа была удостоена двух номинаций на премию National Magazine Award.

Он вырос за пределами Вашингтона, округ Колумбия, и окончил Гарвардский университет со степенью в области физики.

Какаес — автор научной детективной книги «Детективы-первопроходцы».

Он как можно реже пишет в Твиттере @kkakaes.