Кто разработал золотое правило искусственного интеллекта

Автор

1. Марк Роберт Андерсон, профессор компьютерных и информационных систем, Университет Эдж Хилл

Заявление о раскрытии информации

Марк Роберт Андерсон не работает, не консультирует, не владеет акциями и не получает финансирование от какой-либо компании или организации, которые могли бы извлечь выгоду из этой статьи, и не раскрыл никаких соответствующих связей, помимо своей академической должности.

Партнеры

Университет Эдж Хилл предоставляет финансирование в качестве члена The Conversation UK.

Когда писатель-фантаст Айзек Азимов разработал свои «Три закона робототехники», он думал об андроидах. Он представил себе мир, в котором эти человекоподобные роботы будут действовать как слуги и им потребуется набор правил программирования, чтобы предотвратить причинение вреда. Но за 75 лет, прошедших с момента публикации первого рассказа, в котором представлены его этические принципы, произошли значительные технологические достижения. Теперь у нас совсем другое представление о том, как могут выглядеть роботы и как мы будем с ними взаимодействовать.

Высокоразвитая область робототехники производит огромный спектр устройств, от автономных пылесосов до военных дронов и целых заводских производственных линий. В то же время искусственный интеллект и машинное обучение все чаще стоят за большей частью программного обеспечения, которое ежедневно влияет на нас, независимо от того, ищем ли мы в Интернете или предоставляем государственные услуги. Эти разработки быстро ведут к тому времени, когда роботы всех видов станут преобладать почти во всех аспектах жизни общества, а взаимодействие человека и робота значительно возрастет.

Законы Азимова до сих пор упоминаются как шаблон для разработки роботов. В 2007 году правительство Южной Кореи даже предложило Хартию этики роботов, отражающую законы. Но учитывая, насколько робототехника изменилась и будет продолжать развиваться в будущем, мы должны задаться вопросом, как эти правила могут быть обновлены для версии искусственного интеллекта 21-го века.

Три закона

Предложенные Азимовым законы были разработаны для защиты людей от взаимодействия с роботами. Они есть:

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред
• Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.
• Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму законам.

Как уже упоминалось, одна из очевидных проблем заключается в том, что современные роботы кажутся гораздо более разнообразными, чем в рассказах Азимова, включая и гораздо более простых. Поэтому нам нужно подумать, следует ли нам установить порог сложности, ниже которого правила могут не потребоваться. Трудно представить себе робота-пылесоса, способного причинять вред людям или даже требующего способности подчиняться приказам. Это робот с единственной задачей, которая может быть задана до его включения.

Однако на другом конце спектра находятся роботы, предназначенные для военных боевых действий.Эти устройства разрабатываются для шпионажа, обезвреживания бомб или перевозки грузов. Похоже, что они по-прежнему соответствуют законам Азимова, особенно потому, что они создаются для снижения риска для человеческих жизней в очень опасных условиях.

Но это лишь небольшой шаг, чтобы предположить, что конечной военной целью будет создание вооруженных роботов, которых можно будет использовать на поле боя. В этой ситуации Первый закон — не причинять вреда людям — становится чрезвычайно проблематичным. Роль военных часто заключается в спасении жизней солдат и гражданских лиц, но часто и в нанесении вреда своим врагам на поле боя. Таким образом, законы, возможно, придется рассматривать с разных точек зрения или интерпретаций.

Двусмысленность законов побудила авторов, в том числе Азимова, исследовать, как они могут быть неверно истолкованы или неправильно применены. Одна проблема заключается в том, что они на самом деле не определяют, что такое робот. По мере того, как исследования раздвигают границы технологий, появляются новые отрасли робототехники, в которых рассматриваются более молекулярные устройства.

Например, «роботы», сделанные из ДНК и белков, могут использоваться в хирургии для исправления генных нарушений. Теоретически эти устройства должны действительно следовать законам Азимова. Но для того, чтобы они могли следовать приказам через сигналы ДНК, им, по сути, нужно было стать неотъемлемой частью человека, над которым они работали. Эта интеграция затем затруднила бы определение того, был ли робот достаточно независимым, чтобы подпадать под действие законов или действовать вне их. И на практическом уровне для него было бы невозможно определить, причинят ли какие-либо полученные им приказы вред человеку в случае их выполнения.

Также возникает вопрос о том, что считается причинением вреда человеку. Это может быть проблемой, например, при рассмотрении вопроса о разработке младенцев-роботов в Японии. Если бы человек принял одного из этих роботов, это могло бы нанести эмоциональный или психологический вред.Но этот вред мог возникнуть не в результате непосредственных действий робота или стать очевидным только через много лет после прекращения взаимодействия человека и робота. Эта проблема может относиться даже к гораздо более простому ИИ, например, к использованию машинного обучения для создания музыки, вызывающей эмоции.

Практические проблемы

Другая большая проблема с законами заключается в том, что нам потребуется значительный прогресс в области ИИ, чтобы роботы действительно могли им следовать. Цель исследований ИИ иногда описывается как разработка машин, которые могут мыслить и действовать рационально, как человек. До сих пор подражание человеческому поведению не было хорошо изучено в области ИИ, и развитие рационального поведения было сосредоточено в ограниченных, четко определенных областях.

Имея это в виду, робот может действовать только в очень ограниченной сфере, и любое рациональное применение законов будет сильно ограничено. Даже это может быть невозможно с современными технологиями, поскольку система, которая могла бы рассуждать и принимать решения на основе законов, нуждалась бы в значительной вычислительной мощности.

Учитывая все эти проблемы, законы Азимова предлагают не более чем основополагающие принципы для тех, кто сегодня хочет создать роботизированный код. Нам нужно следовать им с гораздо более всеобъемлющим набором законов. Тем не менее, без значительных разработок в области ИИ реализация таких законов останется невыполнимой задачей. И это еще до того, как мы задумаемся о возможных травмах, если люди начнут влюбляться в роботов.