38 просмотров

Кто несет ответственность за ошибки ИИ?

этический ИИ

Кто несет ответственность за ошибки ИИ?

Этот пост является частью серии, в которой представлены ответы на самые популярные вопросы об искусственном интеллекте, полученные непосредственно от наших специалистов по обработке и анализу данных. Чтобы получать похожий контент на свой почтовый ящик, подпишитесь на наш ежемесячный электронный дайджест.

Стратегия, проектирование и внедрение ИИ могут быть значительными затратами ресурсов для организаций, что означает Ошибки ИИ могут дорого обойтись.

Чтобы смягчить предвзятость, риск и другие непреднамеренные последствия искусственного интеллекта, это очень важно вовлекать людей на каждом этапе проектирования и разработки.

Но когда эти ошибки случаются, кого мы привлекаем к ответственности? Виноват ли ИИ или ответственность ложится на человеческие команды?

Наш ИИ потерпел неудачу — кого мы виним?

Хотя ваш первый инстинкт может заключаться в том, чтобы винить во всем ИИ, кажущуюся чужеродной и сложную смесь алгоритмов, в конечном итоге люди несут ответственность за ошибки ИИ.

Однако хорошая новость заключается в том, что многие ошибки ИИ легко предотвратить. Задавать правильные вопросы и вести прозрачные беседы на всех этапах процесса проектирования ИИ — это ключ к выявлению распространенных ошибок до того, как они станут проблематичными.

3 распространенные ошибки в дизайне и разработке ИИ

Ошибки ИИ могут принимать разные формы, и некоторые из них встречаются чаще, чем другие. Ниже приведены три ошибки, которые организации часто совершают, погружаясь в проектирование и разработку ИИ.

Статья в тему:  Как искусственный интеллект меняет мировую экономику

1. Использование предвзятых данных обучения

Предвзятость возникает, когда результаты не могут быть широко обобщены.

«Мы часто думаем о предвзятости, возникающей из-за предпочтений или исключений в данных обучения», — сказал в интервью доктор Стэнфордского университета доктор Санджив М. Нараян. «Но предвзятость также может быть вызвана тем, как получаются данные, как разрабатываются алгоритмы и как интерпретируются результаты ИИ».

Независимо от того, как возникают необъективные данные, их включение в ИИ приведет к необъективным результатам. Рассмотрите эти шаги, чтобы избежать необъективных данных и предвзятых результатов.

2. Постановка неясных целей

Неясные цели являются результатом того, что организация не определила проблему, которую пытается решить. А когда организация не может определить свою проблему, маловероятно, что она выберет наиболее эффективное решение.

ИИ создан для выполнения очень узких структурированных задач. Это не удастся, если сначала не будет определена четкая проблема или проблема. Иногда после выявления проблемы компании понимают, что ИИ — не самое подходящее решение. Они могут признать, что у них есть инструменты для решения проблемы в их существующем технологическом стеке.

3. Установление нереалистичных ожиданий

Решение на основе ИИ не является волшебством, и организации, которые его ожидают, возлагают на него нереалистичные ожидания. Мысль о быстрых и легких результатах может побудить организацию спешить с решением ИИ, практически не учитывая процесс проектирования и разработки.

Статья в тему:  Как искусственный интеллект изменит профессию бухгалтера

Вместо этого рассмотрите KPI, которые могут эффективно и реалистично измерить производительность модели искусственного интеллекта. Неправильное измерение результатов ИИ может привести к тому, что организация объявит решение неудачным, хотя на самом деле оно работает хорошо.

5 вопросов, которые нужно задать перед разработкой ИИ

Люди несовершенны, а это означает, что искусственный интеллект всегда будет в той или иной степени ошибаться. Тем не менее, следующие вопросы могут помочь определить и предотвратить ошибку, которая может остановить ход проекта ИИ. Чем сложнее ИИ, тем более важными становятся эти вопросы.

  1. Кого затронет этот проект?
  2. Какие решения будут приняты?
  3. Каков потенциал несоизмеримого воздействия?
  4. Как вы будете последовательно обеспечивать конфиденциальность, прозрачность и справедливость?
  5. Как вы измеряете и отслеживаете эту информацию?

Независимо от размера проекта искусственного интеллекта в организации принятие полной ответственности за ошибки, которые могут произойти, и принятие соответствующих мер для предотвращения будущих ошибок имеют решающее значение для предотвращения непредвиденных последствий искусственного интеллекта.

Найдите ответы на свои вопросы об ИИ

Узнайте больше о стратегиях снижения рисков, связанных с ИИ, и узнайте ответы на главные вопросы других читателей об ИИ, подписавшись на наш ежемесячный дайджест Voices of Trusted AI. Это электронное письмо раз в месяц, которое содержит полезные надежные ресурсы искусственного интеллекта, достоверную информацию и практические советы непосредственно от самих экспертов по науке о данных.

Статья в тему:  Через какое время исчезнет ядерное излучение

Надежный ИИ

САвтор Николь Понстингл МакКэффри — главный операционный директор и переводчик ИИ в компании Pandata.

голоса
Рейтинг статьи
Ссылка на основную публикацию
Статьи c упоминанием слов:

0
Оставьте комментарий! Напишите, что думаете по поводу статьи.x