Использование искусственного интеллекта (ИИ) для ведения войны было обещанием научной фантастики и политиков в течение многих лет, но новое исследование Технологического института Джорджии утверждает, что автоматизировать можно лишь ограниченное количество вопросов, и показывает ценность человеческого суждения.

«Все сложные проблемы в ИИ на самом деле связаны с суждением и проблемами с данными, и самое интересное в этом то, что когда вы начинаете думать о войне, сложные проблемы — это стратегия и неопределенность или то, что хорошо известно как туман войны», — сказал он. Джон Линдсей, доцент Школы кибербезопасности и конфиденциальности и Школы международных отношений Сэма Нанна. «Вам нужно человеческое осмысление и принятие моральных, этических и интеллектуальных решений в невероятно запутанной, чреватой и пугающей ситуации».

Принятие решений ИИ основано на четырех ключевых компонентах: данные о ситуации, интерпретация этих данных (или прогноз), определение наилучшего способа действовать в соответствии с целями и ценностями (или суждение) и действие. Достижения в области машинного обучения упростили прогнозирование, что делает данные и суждения еще более ценными. Хотя ИИ может автоматизировать все, от торговли до транзита, люди должны вмешиваться в суждения, как написали Линдси и профессор Университета Торонто Ави Гольдфарб в статье «Предсказание и суждение: почему искусственный интеллект увеличивает важность людей на войне», опубликованной в журнале International. Безопасность.

Многие политики предполагают, что людей-солдат можно заменить автоматизированными системами, что в идеале сделает вооруженные силы менее зависимыми от человеческого труда и более эффективными на поле боя. Это называется теорией замещения ИИ, но Линдсей и Гольдфарб заявляют, что ИИ следует рассматривать не как замену, а как дополнение к существующей человеческой стратегии.

«Машины хороши в прогнозировании, но они зависят от данных и суждений, а самые сложные проблемы на войне — это информация и стратегия», — сказал он. «Условия, которые заставляют ИИ работать в коммерции, — это условия, которые труднее всего выполнить в военной среде из-за его непредсказуемости».

В качестве примера Линдсей и Голдфарб выделила горнодобывающую компанию Rio Tinto, которая использует беспилотные грузовики для перевозки материалов, что снижает затраты и риски для водителей-людей. Существуют обильные, предсказуемые и непредвзятые схемы и карты трафика данных, которые требуют минимального вмешательства человека , если только нет перекрытых дорог или препятствий.

Войне, однако, обычно не хватает беспристрастных данных, а суждения о целях и ценностях по своей сути противоречивы, но это не значит, что она невозможна. Исследователи утверждают, что ИИ лучше всего использовать в бюрократически стабилизированной среде для решения конкретных задач.

«Все волнения и страх связаны с роботами-убийцами и смертоносными транспортными средствами, но наихудшим случаем для военного ИИ на практике будут классические милитаристские проблемы, когда вы действительно зависите от творчества и интерпретации», — сказал Линдсей. «Но то, на что мы должны обратить внимание, — это кадровые системы, администрирование, логистика и ремонт».

По словам исследователей, использование ИИ также имеет последствия как для военных, так и для их противников. Если люди являются центральным элементом, решающим, когда использовать ИИ в войне, то структура и иерархия военного руководства могут меняться в зависимости от человека, отвечающего за проектирование и очистку систем данных и принятие политических решений. Это также означает, что противники будут стремиться скомпрометировать как данные, так и суждения, поскольку они в значительной степени повлияют на траекторию войны. Конкуренция с ИИ может подтолкнуть противников к манипулированию данными или их искажению, чтобы сделать здравые суждения еще сложнее. По сути, вмешательство человека будет еще более необходимым.

Но это только начало споров и нововведений.

«Если ИИ автоматизирует прогнозирование, это делает действительно важными суждения и данные», — сказал Линдсей. «Мы уже автоматизировали многие военные действия с помощью механизированных сил и высокоточного оружия, затем мы автоматизировали сбор данных с помощью разведывательных спутников и датчиков, а теперь мы автоматизируем прогнозирование с помощью ИИ. Итак, когда мы собираемся автоматизировать суждения или Существуют ли компоненты суждения , которые нельзя автоматизировать?»

До тех пор, однако, тактические и стратегические решения, принимаемые людьми, продолжают оставаться наиболее важным аспектом ведения войны.