Человеческий фактор в искусственном интеллекте

08 октября 2019 г. Сильвен Хурлье, эксперт по человеческому фактору, объясняет, что такое «человеческий фактор» и как он учитывается при разработке систем Thales на основе искусственного интеллекта.

• Как бы вы определили человеческий фактор?

Человеческий фактор касается всех взаимодействий человека с окружающей средой.Таким образом, он охватывает взаимодействие человека с технологией и то, как человеческие способности и ограничения должны учитываться при разработке этих технологий.

• Каковы применения ВЧ в деятельности Thales в области авионики?

Thales занимается в основном технологиями как гражданского, так и военного применения, и уже более 30 лет является лидером в области применения ВЧ для проектирования.

HF присутствует везде, во всех формах технологий, разработанных Thales, потому что эти технологии будут использоваться людьми, и поэтому они должны учитывать HF. Новые новые технологии, такие как искусственный интеллект, машинное обучение и глубокое обучение, точно так же нуждаются в HF, потому что пользователям необходимо понимать и знать, как с ними работать для достижения эффективной работы.

Люди должны быть уверены в системе, и они должны быть в состоянии предвидеть результаты своего взаимодействия с системой, независимо от того, исходят они от ИИ или нет. Пользователям необходимо достаточно хорошо разбираться в системе, чтобы заставить ее работать с высокой производительностью.

• Каковы преимущества ВЧ в системах, разработанных Thales?

Преимущество ВЧ заключается в совершенствовании технологии до уровня, при котором взаимодействие человека и машины становится эффективным. а в итоге даже приятно!

«Лучшая из когда-либо существовавших технологий, если она не может быть использована людьми, является худшей из технологий»

Преимущества использования HF в процессе проектирования заключаются в возможности разрабатывать технологии, которые варьируются от «по крайней мере пригодных для использования» до «оптимально работающих» по мере взаимодействия с ними пользователей. И чем больше ВЧ вы закладываете в конструкцию системы, тем больше вы переходите от практически непригодной к оптимальной производительности человеко-машинной системы.

• Есть ли особенности в КВ для систем на базе ИИ?

Сегодняшний ИИ — это первая попытка имитации человеческого интеллекта.

Таким образом, возникает новая проблема взаимодействия с новой формой разума, о которой мы ничего не знаем, например, с инопланетянином! Инопланетянин, обладающий способностями, но отличными от человеческих.Это означает, что нам нужно создавать новые модели взаимодействия — которых у нас пока нет, — поскольку все модели взаимодействия, которые у нас есть, основаны на моделях, связанных с людьми или моделями, связанными с животными. Мы пока не знаем, какие модели ИИ потребуются для взаимодействия с такими системами. Нам необходимо разработать эти новые модели взаимодействия: модели ИИ для взаимодействия людей с ИИ и модели для взаимодействия ИИ с людьми. В этом суть человеческого фактора.

• Каковы пределы человеческого фактора?

HF представляет собой стоимость в процессе проектирования, и как стоимость она должна быть обоснована. Проблема с КВ в том, что он может оправдать свою стоимость только в том случае, если его не применяли. Когда ВЧ применяется правильно, результат лучше, но трудно заставить всех согласиться, что это лучше из-за ВЧ.

На самом деле, опыт, полученный в результате неудач, часто является способом показать, какими были бы преимущества ВЧ.

ВЧ везде, это бесспорно. Каждая система, которую мы разрабатываем, до сих пор создавалась людьми для людей. Но с появлением ИИ становится интересно попытаться понять, нужны ли ИИ определенные «факторы ИИ» для разработки в качестве дополнения к HF.

Но если вы считаете, что ИИ когда-либо будет служить людям, тогда HF будет применяться как есть. Это просто еще одна система, разработанная для людей.

Представьте, что человек впервые сталкивается с инопланетянином. Затем у людей будут какие-то испытания, чтобы общаться с этим инопланетянином, чтобы понять смысл любого его общения. Это объяснимость: попытка понять, что говорит инопланетянин, чтобы мы могли взаимодействовать с ним должным образом.

Вам не кажется, что когда ваш смартфон не работает должным образом, он ведет себя как инопланетянин? Вы не можете понять это, и оно не реагирует на то, что вы хотите. Именно тогда должна вступить в действие объяснимость. Более того, если вы разрабатываете систему с аналогичным или некоторым интеллектуальным потенциалом, вам нужен эффективный способ понять ее и взаимодействовать с ней.Это основа объяснимости.

• Является ли человеческий фактор способом контролировать ИИ?

HF — это способ придать некоторую человеческую меру развитию ИИ: я бы сказал, что рассматривать ИИ как вспомогательную систему для людей — это безопасный способ разработки ИИ.

Оставайтесь на связи с нами

Найдите нас в Twitter @ThalesAerospace, на нашем официальном канале Youtube Thales Aerospace и на LinkedIn Thales Aerospace.