Wargaming с Athena: как сделать армию умнее, быстрее и эффективнее с помощью искусственного интеллекта
Для Клаузевица, хотя характер войны меняется, природа остается неизменной. Для министра обороны США Джима Мэттиса, заядлого читателя военной истории и теории, появление искусственного интеллекта (ИИ) бросает вызов этому проверенному временем принципу. Он не один. На недавней конференции по искусственному интеллекту бывший заместитель министра обороны США Роберт Уорк заявил: «Я начинаю очень, очень глубоко верить, что это также изменит характер войны». В телевизионном выступлении в сентябре 2017 года президент России Владимир Путин предсказал, что страна, которая первой разработает настоящий ИИ, будет править миром.
ИИ призван изменить военную мощь и баланс сил. Но новые технологии сами по себе не гарантируют будущих побед. То, как солдаты интегрируют любые разрушительные возможности в более крупную систему тактики и обучения, меняет военную мощь. Потенциал ИИ заключается не столько в более умных ракетах, сколько в расширенных боевых сетях и организациях, сочетающих человеческое творчество с приложениями ИИ для создания новых концепций операций, тактики и командных отношений. Вопрос в том, как туда попасть.
Перспективы ИИ реальны, но проблемы интеграции пугают.Нынешняя волна энтузиазма в области ИИ, как и предыдущие периоды бума, увянет без испытательного стенда для сбора данных и экспериментов с различными приложениями для принятия решений. С этой целью мы утверждаем, что варгеймы представляют собой оптимальную платформу для изучения того, как интегрировать ИИ с оперативным суждением. Наша военная игра Athena предлагает способ создать хранилище данных для будущего тестирования, улучшить понимание того, как ИИ может помочь в обучении, объединении в команду и моделировании, а также выявить пределы этих возможностей, когда они взаимодействуют с людьми в неопределенных условиях. среды.
Что такое искусственный интеллект?
ИИ — это ярлык, присвоенный широкой категории программных приложений, которые помогают машинам учиться. Существует виртуальное измерение, о чем свидетельствует то, как искусственный интеллект помогает отслеживать финансовые транзакции от мошеннических действий, а также физическое измерение, например, как Amazon прогнозирует потребности клиентов и намеревается использовать эту информацию в будущем для доставки товаров до того, как вы их закажете. .
Достижения в области аппаратного и программного обеспечения, в том числе возрождение концепции нейронных сетей середины 20-го века, такие методы, как обучение с подкреплением и большие данные, открывают новые возможности. Приложения ИИ могут учиться у мира посредством распознавания изображений и обработки естественного языка. Они также могут «учиться для себя… [через] метод проб и ошибок, исключительно из наград или наказаний».
Как эти разработки повлияют на боевое будущее? Разногласия и неуверенность, усугубляемые столкновением воль, то есть войной, затмевают человеческие суждения, как и групповая динамика и когнитивные искажения. Старая поговорка о том, что первый отчет всегда неверен, отражает то, как страх и эвристика часто искажают то, как люди интерпретируют данные.
ИИ может сбалансировать человеческую интерпретацию с неопровержимыми фактами данных. Например, программные приложения могут прослушивать группу планирования и анализировать ключевые термины, чтобы определить возможную предвзятость.Разве планировщики обсуждали только тактические задачи, ориентированные на противника, и не рассматривали дружественные или ориентированные на местность задачи? Кроме того, приложения ИИ могут высвободить время сотрудников, чтобы они могли сосредоточиться на операционном искусстве и дизайне. По мере того, как планировщики разрабатывают планы действий, программные агенты могут запускать симуляции того, насколько эти варианты осуществимы с точки зрения логистики, учитывая уровни снабжения театра военных действий, исторические темпы расхода боеприпасов и предполагаемые потери.
ИИ также может помочь планировщикам узнать врага. Представьте себе оперативную группу морской пехоты, развернутую для поддержки партнерских сил в зоне боевых действий. Извлекая исторические данные, социальные сети, отчеты о погоде и патрулировании, приложения ИИ могут выявлять повторяющиеся закономерности, которые помогают консультантам понимать окружающую среду. Программное обеспечение могло даже вероятностно предсказывать будущие атаки и давать рекомендации о том, как изменить положение сил подразделения.
Помимо боевых действий, приложения ИИ могут революционизировать обучение и образование. Программное обеспечение для адаптивного обучения может сместить образовательную парадигму с заводской модели на индивидуальный опыт. Когда вы читаете и отвечаете на вопросы, система узнает о вас и вносит соответствующие коррективы. Применительно к военному образованию военнослужащие могут когда-нибудь иметь свое собственное специализированное приложение ИИ, которое понимает их аналитические слепые зоны и профиль риска и даже регулирует цвета фона и язык, используемые на экзаменах и военных играх, с учетом сильных и слабых сторон студента. Если вы лучше разбираетесь в математике, приложение может сообщить вам вероятность успеха, а если вы реагируете на спортивные метафоры, приложение может объяснить новые данные с помощью общих спортивных ссылок.
Американские военные тоже могут найти своих Эндеров. Министерство обороны может использовать несекретные игровые наборы, чтобы военнослужащие могли сражаться с формированиями от отряда до объединенной оперативной группы коалиции в современных сценариях в качестве средства обучения доктрине, тактике и боевому порядку противника.Военные игры — центральная особенность современной военной профессии. От знаменитых картографических упражнений Мольтке до игр с тактическими решениями и многомиллионных ротаций в Национальном учебном центре — военная профессия уже давно использует моделирование для оттачивания своих боевых способностей. Если война действительно представляет собой «динамический процесс человеческого соревнования, требующий как научных знаний, так и творчества в искусстве», американским военным необходимо определить тех людей и группы, которые лучше всего способны применять оперативные решения. Сегодня варгеймы обладают потенциалом для разработки испытательного стенда ИИ.
Athena: создание испытательного стенда для ИИ и принятия решений
«Где находится наша боевая лаборатория «Игра Эндера»… где мы не можем просто дать своих руководителей, но мы действительно можем узнать, кто действительно хорошие лидеры?»
Представьте себе, что вы заходите в варгейм под названием Athena, чтобы попрактиковаться в планировании воздушной атаки, чтобы захватить блокирующие позиции для поддержки высадки морского десанта. Игра заставляет вас завершить процесс планирования, пока вы разговариваете с Alexa-подобным приложением, которое напоминает вам о формах защиты, определениях различных тактических задач и соответствующих исторических примерах. Пока вы играете в игру, приложение ИИ собирает данные и сравнивает использование вами укрытий и пересекающихся полей огня, среди прочих факторов, чтобы оценить вашу производительность, внося свой вклад в большую базу данных о том, как сражаются профессиональные военные США. В конце Athena оценивает данные и предлагает вам конструктивные советы, сравнивая ваши усилия с усилиями лучших исполнителей.
В настоящее время военным не хватает объема данных, необходимого для создания обучающих приложений ИИ, которые бы поддерживали командно-штабные решения в описанном выше порядке. Иногда данные существуют, например, в базах данных боевых учений, но они не предназначены для машинного обучения и других алгоритмов ИИ.Таким образом, использование коммерческих игр обеспечивает структурированную среду, необходимую для сбора больших объемов данных, необходимых для тестирования приложений ИИ для принятия военных решений.
С этой целью Университет морской пехоты экспериментировал с Athena, платформой для военных игр, предназначенной для обучения, обучения и тестирования будущих приложений ИИ. В ходе серии турниров по варгеймам, организованных сотрудниками Группы тактики и операций морской пехоты, команда под руководством одного из нас (доктор Бенджамин Дженсен) определила лучшие коммерческие готовые движки для варгеймов. В игры было легко играть, но они все же захватили военное искусство и науку от отряда до уровня совместной оперативной группы. Они предлагали игрокам возможность создавать сценарии, отражающие новые угрозы и возможности. Например, в рамках организованного командой турнира по военным играм Sea Dragon 3.0, Дженсен и полковник Тимоти Баррик представили сценарии, отражающие Оперативную концепцию морской пехоты, и дали игрокам возможность сражаться против современного российского боевого порядка.
Благодаря таким игровым средам американские военные могут находить свои Эндеры, одновременно собирая данные, необходимые для создания будущих приложений ИИ. Он может тестировать различные наборы инструментов для принятия решений и исследовать человеческий фактор, связанный с интеграцией любой новой технологии. Athena предлагает три основных преимущества для военных планировщиков США, поскольку они стремятся включить ИИ в современные возможности.
Во-первых, это позволит создать более адаптивную и адаптированную образовательную среду. Отслеживая вопросы, которые задают игроки, их взаимодействие с игрой и результаты, Athena поймет, как сражаются американские военные и что можно улучшить.
Во-вторых, игра предоставит платформу для тестирования новых приложений ИИ. Например, разработчики могут представить новое управление логистикой с поддержкой ИИ, чтобы посмотреть, улучшит ли оно производительность игроков.
Чем больше игр сыграно, тем больше данных собирается для оптимизации приложений ИИ.Следующим шагом является сбор данных и начало их структурирования, чтобы можно было проводить различные эксперименты с ИИ. Команда Дженсена разрабатывает эту архитектуру в сотрудничестве с армейским командованием будущего, новой 75-й инновационной дивизией армии США и Командованием подготовки и обучения морской пехоты США. Эти данные будут использованы для ряда приложений ИИ, которые можно протестировать в игровой экосистеме. Военная игра, как испытательный полигон, представляет собой форум для наблюдения за взаимодействием человека и машины.
В-третьих, Athena обеспечит автоматическую работу с красными командами. По мере того, как все больше игроков планируют и выполняют миссии, взаимодействуя с интерфейсами, похожими на Alexa — вспомните J.A.R.V.I.S Тони Старка для войны — мы создадим корпус данных, который иллюстрирует наши предубеждения и терпимость к риску. Система позволит проверить, повлияло ли выявление этих предубеждений на исход варгеймов.
Наконец, при наличии достаточного объема данных Athena может самостоятельно моделировать современные военные операции посредством референциального обучения и предлагать новые тактики. Эти тактики, а также приложения, проверяющие разработанные людьми способы действий, можно протестировать на коммерческой платформе, когда тысячи людей соревнуются в боевых турнирах. Со временем игровая среда может быть использована для проверки ключевых элементов победы, определенных в военной доктрине, таких как «эффекты маневра, темпа или внезапности; преимущества, предоставляемые географией или климатом; относительная сила нападения и защиты; или относительные достоинства удара по врагу спереди, с фланга или с тыла».
Проблемы интеграции
Athena также покажет, как человеческий фактор, вероятно, ограничит потенциал ИИ. Машины, которые учатся, останутся переплетенными с человеческими предубеждениями и будут сталкиваться с неопределенностью. Даже когда алгоритмы стремятся имитировать человеческое взаимодействие на основе воспроизведенного поведения, они никогда не будут по-настоящему свободны от худших склонностей людей.
Очевидным недавним примером этих недостатков стал крах системы распознавания изображений Google, когда фотографии афроамериканцев были ошибочно идентифицированы и помещены в альбом под названием «Гориллы». Здесь машинное обучение применялось таким образом, чтобы результат отражал основные социальные патологии, а не предполагаемый умный процесс. Помимо этого примера, многочисленные исследования начинают подчеркивать, как приложения ИИ могут быть расистскими и сексистскими.
Помимо трагедии скрытой предвзятости, эти эпизоды подчеркивают опасность неправильного понимания ИИ вооруженными силами. Если бы возможности распознавания изображений за системами наведения имели аналогичный недостаток, американские военные могли бы, например, быть направлены на нападение на неверных идентифицированных гражданских лиц во время городских операций.
Игровая среда представляет собой форум, на котором можно увидеть, как люди уравновешивают данные и интуицию в условиях стресса и неопределенности. Как недавно заметила Мэри «Мисси» Каммингс, вместо того, чтобы думать о том, какую пользу от ИИ выиграют конкретные военные функции, стоит подумать о том, как военные нет дополненные системами, имитирующими человеческое поведение, имеют дело с неопределенностью и двусмысленностью.
Короткий ответ заключается в том, что военные на протяжении всей истории культивировали глубину и гибкость посредством обучения и образования, часто основанного на варгеймах, которые обеспечивают выполнение ключевых функций на основе опыта. Повышение квалификации требует значительных инвестиций в специализированные способности, которые требуют больших затрат на обучение и не могут быть применены ко всем военным задачам. Экспертная оценка отличается от общих функциональных знаний или обучения, которое направлено на культивирование соблюдения институциональных процедур. Скорее, это уникальное слияние человеческого инстинкта (Клаузевиц удачный ход), обширное владение набором навыков и ситуационная осведомленность. Все эти атрибуты отточены в конкурентных варгеймах, которые заставляют профессионалов действовать в нестабильных, хаотичных системах. Таким образом, одного ИИ недостаточно.Суждение требует интеграции лучших машин, таких как распознавание образов, с лучшими людьми.
Вывод
Большие неклассифицированные игровые среды, такие как Athena, предлагают испытательный стенд для поиска правильного баланса человека и машины в войне будущего. Вопрос о том, сможет ли машина когда-либо действительно имитировать человеческое поведение на высоком профессиональном уровне, лежит в основе исследований ИИ. Действительно, этот вопрос вдохновил знаменитую статью Алана Тьюринга 1936 года «О вычислимых числах.” в котором математик задавался вопросом, сможет ли машина когда-нибудь хорошо играть в шахматы. Он вообразил, что машину можно легко научить плохо играть в шахматы, а при достаточно сложном программировании играть в шахматы хорошо с небольшим риском время от времени совершать катастрофические ошибки. Даже после десятилетий последующего научного развития идеи Тьюринга по-прежнему эффективно описывают современную область ИИ: алгоритмы можно научить имитировать и предсказывать поведение человека на основе базовой деконструкции переменных и знания условий реального мира, но иногда они допускают серьезные ошибки и имеют потолок производительности.
Чтобы эффективно внедрить ИИ, военные планировщики должны признать, что присущую человеческому суждению способность смягчать крайнюю неопределенность в конфликте также труднее всего воссоздать в нечеловеческих системах. В настоящее время ИИ, вероятно, будет наиболее эффективен в системах обучения, где опыт является определяющей переменной в исходе сценария конфликта. Системы искусственного интеллекта могут эффективно воспроизводить основные человеческие навыки, действовать при определенном понимании сложных правил и помогать военнослужащим разрабатывать инструменты знаний, расширяющие их возможности суждений. Мы можем увеличить удачный ход но вряд ли заменит.
Athena предлагает испытательный стенд для изучения того, как интегрировать ИИ в процессы принятия военных решений.Использование соревновательных варгеймов для наблюдения за тем, как военный профессионал принимает решения, создает исходные данные, необходимые для тестирования ряда приложений, которые дополняют, но никогда не заменят оперативные суждения.
Бенджамин Дженсен, доктор философии, имеет двойную должность в Университете морской пехоты и Американском университете, в Школе международной службы. Он автор Ковка меча: доктринальные изменения в армии США, 1975–2010 гг., Киберстратегия: развивающийся характер власти и принуждения и «Следующая войнасериал «Война на скалах».
Скотт Куомо — офицер пехоты морской пехоты и в настоящее время участвует в программе коменданта морской пехоты в Джорджтаунском университете. Он служил в пехотных подразделениях, когда участвовал в операциях «Иракская свобода», «Несокрушимая свобода» и многих других операциях в чрезвычайных ситуациях.
Крис Уайт, доктор философии. является доцентом Школы государственного управления и связей с общественностью Л. Дугласа Уайлдера в Университете Содружества Вирджинии. Его исследовательские интересы включают ряд тем международной безопасности, связанных с использованием информационных технологий в условиях войны и мира, политическими коммуникациями и доктриной/политикой кибербезопасности. Высказанные мнения принадлежат исключительно авторам и не отражают политику правительства или волю Скайнет.
