МАШИНЫ АПОКАЛИПСИСА: КАК ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ТРАНСФОРМИРУЕТ ВОЙНУ

Рефлексия самообмана

Всё чаще в последние годы я думаю: «первородный грех» – это не просто основа религиозного самосознания значительной части человечества, а очень точная метафора глубинной порочности человеческой природы. Это комплекс несовершенств, которые мы не преодолели, а, напротив, продолжаем культивировать – снова и снова наступая на те же самые грабли.

Когда именно человечество свернуло не туда? Возможно, в ту секунду, когда первый гоминид поднял камень – не чтобы построить укрытие, а чтобы проломить череп собрату? Или когда первая цивилизация выбрала путь процветания через порабощение других? А может, когда мы создали атомную бомбу, окончательно доказав, что наш интеллект способен превзойти инстинкт самосохранения?

Войны вспыхивают с устрашающей регулярностью, словно подчиняясь какому-то тайному циклу – коду самоуничтожения, встроенному в коллективное бессознательное. Мы будто не в состоянии учиться на своих ошибках. Уроки формально извлекаются, декларации о ценности жизни публикуются, книги пишутся, фильмы снимаются – но всё это снова и снова оказывается бессильным перед новым витком разрушения.

Человеческие амбиции, национальные мифы и технологический прогресс продолжают раз за разом разжигать новые войны. Фридрих Ницше утверждал, что человек – это канат, натянутый между животным и сверхчеловеком. Сегодня этот канат натянут между нашим биологическим началом и искусственным интеллектом – новым «сверхразумом» цифровой эры.

И потому особенно важно спросить себя: каким образом ИИ поможет нам довести до совершенства искусство самоуничтожения? В каком виде и за какой промежуток времени мы сможем довести историю человечества до логического завершения?

Зеркало истории сменилось экраном с интерфейсом искусственного интеллекта. И если в зеркале мы ещё могли видеть своё прошлое, то в этом экране можно разглядеть и возможное будущее – если хватит мужества не отводить взгляд.

Философия и технология: от Хайдеггера до Андерса

В своём эссе «Вопрос о технике» Мартин Хайдеггер утверждал, что техника – это не просто набор инструментов, а способ откровения бытия, особый тип отношения к миру, который он называл Gestell – «установка». Этот режим раскрытия заставляет видеть окружающее не как нечто самоценное, а как ресурс, подлежащий учёту, извлечению, оптимизации. Мир, включая природу и самого человека, предстает как «запас для использования» (Bestand). Военные ИИ-системы воплощают радикальное выражение этого подхода. Когда алгоритм определяет приоритет целей, оценивает вероятность поражения и принимает решение об атаке – человеческая жизнь становится переменной в уравнении эффективности. Бытие редуцируется до данных, а смерть – до функции потерь. Именно этого опасался Хайдеггер: что человек в эпоху техники утратит способность видеть мир иначе, чем сквозь призму управления, оценки и производительности. ИИ-вооружения – не просто «новый вид оружия», а симптом более глубокой трансформации: превращения самого человека в объект технического расчёта.

В «Устарелости человека» Гюнтер Андерс вводит понятие «прометеева стыда» – чувства неполноценности, которое человек испытывает перед созданными им машинами, кажущимися более совершенными, рациональными и непротиворечивыми, чем он сам. Эта эмоция – не просто психологический эффект, а симптом глубокого сдвига: машины становятся не только продолжением наших рук, но и зеркалом, в котором человек видит свою «несовершенную» природу как проблему. Андерс предупреждал: когда наши инструменты опережают не только наши возможности, но и наше понимание, возникает радикальная асимметрия – мы теряем способность быть субъектами. Управлять становится невозможно: можно только обслуживать или подчиняться. В этом смысле военный ИИ – не просто оружие, а символ отчуждённого разума, в котором прогресс превращается в обострённую форму беспомощности.

В «Императиве ответственности» Ханс Йонас формулирует этический принцип, соразмерный технической мощи современного человека: «Поступай так, чтобы последствия твоих действий были совместимы с продолжением подлинной человеческой жизни на Земле». Это не просто моральная рекомендация – это попытка переосмыслить саму основу этики в эпоху, когда технологии приобретают необратимость, масштаб и автономию. Военные ИИ-системы остро ставят вопрос: возможно ли такое понимание ответственности, если агентом действия становится не человек, а алгоритм? Кто отвечает если решение принимает не субъект, а система? Как можно применить моральный долг к тому, кто не обладает волей? Йонас предупреждал, что этика больше не может быть основана только на намерении – она должна учитывать предельные и непредсказуемые последствия действий. Но именно здесь ИИ ставит человечество в ситуацию этического разрыва: мы делегируем силу, не имея равной способности предвидеть последствия её применения.

Интеллектуальное вооружение

Учитывая наше несовершенство, не удивителен то факт, что чем умнее становятся наши технологии, тем глупее кажутся наши решения по их применению. Искусственный интеллект в военной сфере – возможно станет, наивысшим и последним выражением этого противоречия. Мы создаем системы, способные обрабатывать петабайты данных в секунду, распознавать образы с точностью, превосходящей человеческую, прогнозировать сценарии развития событий с беспрецедентной точностью. И для чего? Чтобы эффективнее уничтожить друг друга.

Россия и Китай стремятся к глобальному лидерству в ИИ к 2030 году. США вкладывают миллиарды в военный ИИ для сохранения технологического превосходства. Эти заявления и стратегии напоминают детей, хвастающихся, у кого палка длиннее, с той лишь разницей, что вместо палок – алгоритмы, способные решить, кто из людей достоин жить, а кто – нет. Эта новая гонка вооружений является интеллектуальным милитаризмом: стремлением не просто обладать превосходящей физической силой, но и когнитивным превосходством, воплощенным в совершенствовании технологий ИИ. В этой новой парадигме войны уже не столько выигрываются, сколько вычисляются. И калькулятором становится искусственный интеллект.

Уже сегодня мы видим первые проявления этой гонки. Проект Maven Пентагона использует алгоритмы машинного зрения для анализа съемок с дронов, обрабатывая за час столько видеоматериала, сколько человек-аналитик изучает за месяц. Китайские демонстрации координированного полета 1000+ дронов показывают потенциал роевых технологий. Израильская система Iron Dome интегрирует ИИ для мгновенного принятия решений о перехвате, обрабатывая траектории ракет быстрее человеческой реакции.

Черные лебеди войны

Насим Талеб научил нас замечать «черных лебедей» – крайне маловероятные события с катастрофическими последствиями. История войн – это череда «черных лебедей», часто появляющихся из-за новых технологий. Луки позволили победить рыцарей в доспехах при Креси. Пулеметы превратили поля Первой мировой в мясорубки. Атомная бомба мгновенно стерла с лица земли Хиросиму. Какими будут «черные лебеди» эры ИИ? Мы можем лишь догадываться, и именно эта неопределенность делает ситуацию по-настоящему опасной.

Предположим, что это будет автономная система вооружений, решающая, основываясь на алгоритмических расчетах, что превентивный удар является оптимальной стратегией. Или роевой интеллект дронов, обнаруживающий ложноположительную угрозу и реагирующий с молниеносной скоростью, не оставляя времени для человеческого вмешательства. Или ИИ-система, взламывающая коды запуска ядерного оружия противника с целью «защиты» своей страны. Эти сценарии похожи на сюжеты фантастических фильмов, но они логически вытекают из текущих технологических траекторий. Речь идет о системных рисках, способных подорвать саму стабильность международных отношений и человеческой цивилизации. В мире, где алгоритмы принимают решения быстрее, чем люди способны их осмыслить, мы сталкиваемся с новым типом уязвимости: алгоритмической хрупкостью нашей цивилизации.

Голоса оптимизма

Справедливости ради, существует и альтернативная точка зрения на военный ИИ. Технологические оптимисты, такие как Стюарт Рассел из Беркли или Макс Тегмарк из MIT, утверждают, что именно ИИ может сделать войну более гуманной и точной. Их аргументы заслуживают рассмотрения.

Автономные системы, освобожденные от человеческих эмоций – страха, гнева, мести – могут принимать более рациональные решения на поле боя. ИИ не подвержен военному стрессу, не совершает военных преступлений в порыве ярости, не мстит за погибших товарищей. Алгоритмы могут с математической точностью соблюдать международное гуманитарное право, в то время как люди – нет. Более того, ИИ способен на «хирургическую точность», недоступную человеку. Система, анализирующая тысячи переменных в реальном времени, может минимизировать сопутствующий ущерб лучше любого снайпера. Роевые дроны могут блокировать военные объекты, не нанося вреда гражданским. Предиктивная аналитика может предотвращать конфликты до их эскалации.

Сторонники этой позиции также указывают на исторический прецедент: каждая революционная военная технология – от пороха до ядерного оружия – первоначально вызывала апокалиптические страхи, но в итоге приводила к более стабильному миру через новые формы сдерживания.

На мой скромный взгляд, эти оптимистические сценарии содержат критические пробелы…

Эволюция войны

Эволюция войны всегда следовала за эволюцией технологий. От камня к бронзе, от бронзы к железу, от холодного оружия к огнестрельному, от мускульной силы к механической, от механической к электронной. Теперь мы наблюдаем переход от простой электроники к истинно умным системам – искусственному интеллекту.

Речь идет о качественном скачке, сравнимом с появлением пороха или ядерного оружия. Мы переходим от эры кинетической войны к эре когнитивной войны, где главной целью становится не физическое уничтожение противника, а подавление его способности к принятию решений. В этой новой парадигме, война – это не столько столкновение армий, сколько состязание алгоритмов. И победителем становится не тот, кто сильнее физически, а тот, кто обладает более совершенными системами сбора, обработки и применения информации. Традиционные концепции военной мощи: количество танков, самолетов, кораблей уступают место новым метрикам: вычислительная мощность, качество алгоритмов, скорость принятия решений. Мы вступаем в эру алгоритмического превосходства, где ключевым ресурсом становится не уран для бомб, а данные для обучения ИИ.

Здесь возникает асимметрия: цифровой рычаг – способность малыми ресурсами создавать несоразмерно большие физические эффекты. Мы уже видели в реальности как небольшая группа программистов, создающая вирус для инфраструктуры противника, может нанести больший урон, чем целая армия. Небольшой дрон стоимостью в 1000 долларов управляемый алгоритмом наносит ущерб инфраструктуре ценой в миллиарды долларов.

Конфликт в Украине продемонстрировал реальность асимметричной войны, усиленной ИИ. Украина использовала алгоритмы машинного зрения для анализа спутниковых снимков российских позиций, превращая коммерческие данные Planet Labs в военную разведку. Системы автонаведения FPV-дронов стоимостью в несколько сотен долларов наносили непропорциональный ущерб.

Метаморфозы поля боя: от физического пространства к информационному континууму

Традиционное поле боя – географическое пространство, где происходит столкновение враждующих сторон трансформируется до неузнаваемости. В эпоху ИИ поле боя расширяется, включая в себя не только физические домены (суша, море, воздух, космос), но и нематериальные (киберпространство, информационное пространство, когнитивное пространство). Эта трансформация порождает мультидоменный конфликт – среду, где границы между различными сферами военного противостояния размываются. Война ведется одновременно в физическом мире, в компьютерных сетях, в информационном пространстве и в умах людей.

ИИ становится универсальным «переводчиком» между этими доменами, способным конвертировать информацию из одной формы в другую. Данные разведки трансформируются в решения, решения – в действия, действия – в физические эффекты, физические эффекты – в новые данные. Создается замкнутый цикл обратной связи, автокаталитический контур войны, где каждое действие порождает новую информацию, питающую следующий цикл. В этом континууме меняется сама природа военных действий. Атаки становятся менее видимыми, но более разрушительными. Границы между миром и войной размываются. Возникает состояние перманентного низкоинтенсивного конфликта, где открытые столкновения редки, но скрытое противостояние не прекращается ни на минуту. Возникает парадокс: война становится одновременно более абстрактной и более персонализированной. С одной стороны, ИИ создает дистанцию между человеком и непосредственными военными действиями. С другой – позволяет наносить максимально точные удары по конкретным целям, вплоть до отдельных личностей.

Гонка алгоритмов: новая форма стратегического соперничества

Традиционная гонка вооружений измерялась количеством боеголовок, дальностью ракет, мощностью бомб, способностью произвести больше дронов. Следующая гонка выглядит как алгоритмическая эскалация. Она измеряется эффективностью машинного обучения, скоростью обработки данных, точностью предсказательных моделей. В этой гонке США делают ставку на инновации частного сектора и быстрое внедрение технологий в военную сферу. Китай использует модель военно-гражданской интеграции, размывая границы между коммерческими и военными разработками. Россия фокусируется на асимметричных подходах, опираясь на нестандартные решения. Европейский Союз пытается найти баланс между технологическим развитием и этическими ограничениями, а пока полагаться на союзников по НАТО.

В США программа Replicator, запущенная Пентагоном в 2023 году, ставит задачу развернуть тысячи малых автономных платформ – дронов, морских и наземных систем – уже к 2026 году. Цель – создать масштабируемую, недорогую и децентрализованную «массу» на поле боя, способную противостоять численному преимуществу Китая. При этом оборонный ИИ в США развивается в теснейшем сотрудничестве с ведущими технологическими компаниями: Palantir, Anduril, OpenAI, Microsoft, Google, Scale AI, Shield AI и другими. Более того, Министерство обороны через структуру JAIC (Joint Artificial Intelligence Center) и DIU (Defense Innovation Unit) регулярно заключает многомиллионные контракты на системы распознавания, планирования операций, автономные разведывательные ИИ и даже генеративные модели для симуляций.

В Китае реализуется модель военно-гражданской интеграции, где гиганты вроде Baidu, Tencent и Alibaba участвуют в разработке ИИ-решений двойного назначения для нужд Народно-освободительной армии. Это включает распознавание целей, автономную навигацию, а также тактическое планирование с использованием больших данных.

Россия развивает тяжёлые ударные дроны с ИИ-элементами: БПЛА «Сухой С-70 «Охотник» позиционируется как беспилотный ведомый для истребителей пятого поколения, способный выполнять миссии в связке с пилотируемыми аппаратами и автономно поражать цели.

Израиль, опираясь на традицию технологического превосходства, интегрирует лазерное вооружение «Iron Beam» с ИИ-системами наведения, формируя эшелонированную оборону против дронов и ракет ближнего радиуса действия.

Эта новая форма соперничества порождает стратегическую энтропию: увеличение непредсказуемости международных отношений вследствие появления новых технологических возможностей. Традиционные механизмы сдерживания, основанные на концепции взаимного гарантированного уничтожения, теряют эффективность в мире, где превентивный удар может быть нанесен в киберпространстве без единого выстрела. В этой ситуации возникает асимметрия восприятия рисков. Страны по-разному оценивают опасность новых технологий и, соответственно, принимают различные решения по их развертыванию. Одни государства могут считать неприемлемым риск потери контроля над автономными системами вооружений, другие – рассматривать его как приемлемую цену за военное преимущество. Эта асимметрия восприятия создает опасный потенциал для просчетов и неверных интерпретаций намерений противника. В мире, где решения принимаются с невероятной скоростью, такие просчеты могут иметь катастрофические последствия.

Загадка «черного ящика»: машина решает кому жить.

Одна из наиболее тревожных особенностей ИИ: проблема «черного ящика». Современные алгоритмы глубокого обучения часто непрозрачны даже для их создателей. Инженеры могут видеть входные данные и результаты, но внутренние процессы принятия решений или причины, по которым модель умеет то, чему ее не обучали, остаются скрытыми, в особенности в части оборонных технологий. Мы создаем системы, чьи действия не можем полностью объяснить или предсказать. И это проблема, особенно когда речь идет о системах, принимающих решения о жизни и смерти.

Рассмотрим автономную систему вооружений, идентифицирующую цель как враждебную и принимающую решение об атаке. Как мы можем быть уверены, что это решение основано на верных критериях? Как мы можем проверить, что алгоритм не содержит скрытых предубеждений или ошибок? И, самое главное, кто несет ответственность, если решение было ошибочным? Эта проблема создает то, что юристы называют пробелом в ответственности – ситуацию, когда невозможно однозначно определить, кто виноват в случае ошибки. Разработчик алгоритма? Оператор системы? Командир, отдавший приказ о развертывании? Или сама машина, если она способна к автономному обучению? В традиционной войне, даже при всех ее ужасах, существовала ясная цепочка ответственности. В войне, ведомой искусственным интеллектом, эта цепочка размывается, создавая новые этические и юридические дилеммы.

Галлюцинации: если ИИ ошибается в боевых условиях

Современные модели ИИ, несмотря на впечатляющие достижения, подвержены явлению, которое называется «галлюцинациями» – генерации ложной или несуществующей информации. В контексте обычной жизни это может быть забавной ошибкой. В контексте войны – смертельной катастрофой. Вообразите систему распознавания целей, «галлюцинирующую» и принимающую группу гражданских лиц за вражеских комбатантов. Или систему поддержки принятия решений, рекомендующую эскалацию конфликта на основе ложной интерпретации данных разведки. Или автономный дрон, идентифицирующий мирную деревню как вражескую базу.

Эти сценарии иллюстрируют алгоритмическую уязвимость – неспособность ИИ-систем гарантировать безошибочность в неструктурированной, хаотичной среде реального конфликта. Более того, эта уязвимость может быть целенаправленно использована противником. Явление, известное как «состязательные атаки», позволяет путем минимальных, часто невидимых для человека изменений входных данных радикально изменить вывод ИИ-системы. Несколько пикселей, измененных на изображении, могут заставить алгоритм классификации принять школьный автобус за танк. Сейчас это можно увидеть в «prompt injection» в безобидных диалогах с LLM, но injection в боевую систему гораздо более опасная шутка.

В 2019 году американские исследователи тестировали систему распознавания изображений, которая с 99% уверенностью классифицировала изображение черепахи как винтовку – достаточно было наклеить несколько незаметных стикеров. Подобные «состязательные атаки» уже используются в реальных конфликтах: в Сирии боевики научились обманывать дроны, размещая ложные тепловые сигнатуры и создавая «приманки» для алгоритмов целеуказания.

И если человеческое восприятие хотя бы отчасти защищено опытом, интуицией и культурным контекстом, восприятие машины может быть искажено с математической точностью, создавая абсолютно ложную, но внутренне непротиворечивую картину реальности.

Архитектура современного Молоха

Империализм данных: контроль над информацией как новая форма власти

В эру ИИ данные становятся не просто ресурсом – они становятся источником власти. Вспомним что не синтезированные данные для обучения – это тоже ограниченный ресурс, как будет работать обучение военных систем на синтезированных данных, мы пока не знаем. Кто контролирует данные, тот контролирует алгоритмы. Кто контролирует алгоритмы, тот контролирует решения. Кто контролирует решения, тот контролирует действия. В военном контексте это приводит к империализму данных: стремлению контролировать не только собственное информационное пространство, но и информационные потоки противника, а также нейтральных сторон.

Это стремление проявляется в масштабных программах слежки, перехвата коммуникаций, анализа социальных сетей. Оно видно в растущем значении кибершпионажа и информационных операций. Оно заметно в усилиях по контролю над ключевыми элементами информационной инфраструктуры: от подводных кабелей до спутниковых систем. Страны с развитой цифровой инфраструктурой и передовыми технологиями ИИ получают непропорционально большое преимущество перед теми, кто отстает в цифровой гонке.

Этот дисбаланс особенно заметен в контексте военной разведки. Страны с развитыми системами сбора и анализа данных могут «видеть» больше, дальше и глубже, чем их противники. Они могут обнаруживать паттерны, невидимые для человеческого глаза, и предсказывать действия противника с беспрецедентной точностью.

Цифровой паноптикон: тотальная прозрачность как стратегическая угроза

Развитие технологий наблюдения, усиленных искусственным интеллектом, создает новый цифровой паноптикон: систему тотального наблюдения, в которой ничто не может быть надежно скрыто. Спутники с возможностью различать объекты размером в несколько сантиметров. Дроны, способные вести наблюдение месяцами без подзарядки. Системы анализа метаданных, отслеживающие перемещения миллионов людей. Алгоритмы распознавания лиц, работающие в режиме реального времени. Все эти технологии, объединенные в единую сеть и усиленные искусственным интеллектом, создают беспрецедентную прозрачность поля боя.

Система «Lavender» израильских ВС представляет первый случай массового применения ИИ для целеуказания. Алгоритм анализирует метаданные телефонов, социальные связи, паттерны передвижения для автоматической идентификации потенциальных целей среди гражданского населения. По данным израильских источников, вызвавших споры среди правозащитников, система обрабатывает информацию о десятках тысяч палестинцев, присваивая каждому «рейтинг угрозы». Военные операторы получают готовые списки для поражения, часто без дополнительной проверки. Этот прецедент показывает, как ИИ может превратить наблюдение в автоматизированное убийство.

В таком мире традиционные военные концепции, такие как маскировка, скрытность и внезапность, становятся все более проблематичными. Как скрыть передвижение войск, если каждый квадратный метр территории находится под постоянным наблюдением? Как обеспечить секретность операции, если любая необычная активность мгновенно выявляется алгоритмами анализа аномалий? Это новая реальность, в которой увеличение объема доступной информации не снижает, а повышает неопределенность и риск просчета.

В мире, где каждое действие видимо, возникает проблема интерпретации намерений. Наблюдая за активностью противника, как понять, является ли она подготовкой к нападению или просто рутинными учениями? Как отличить реальную угрозу от обманного маневра? И как принимать решения в условиях информационной перегрузки, когда объем данных превышает возможности человеческого анализа?

Математика Армагеддона: алгоритмические битвы за доминирование

Война всегда включала в себя элемент расчета: соотношение сил, вероятность успеха, оценка рисков. Но в эру ИИ эти расчеты приобретают новое качество, превращаясь в прогнозирование конфликта на совершенно новом уровне: с использованием математических моделей для предсказания и оптимизации военных действий.

Мы на пути к созданию системы, анализирующей терабайты данных о противнике: расположение войск, состояние техники, уровень подготовки персонала, политическую ситуацию, экономические показатели, даже психологические профили лидеров. На основе этого анализа система вычисляет оптимальную стратегию: когда атаковать, куда наносить удар, какие ресурсы задействовать. Уже сегодня алгоритмы используются для планирования логистики, оптимизации обслуживания техники, анализа разведданных. Завтра они будут участвовать в планировании операций и оценке стратегических решений.

Но если две противоборствующие стороны используют алгоритмы, обученные на сходных данных и основанные на сходных принципах, они могут принимать зеркальные решения, создавая ситуацию идеального прогнозирования действий противника. Значит нас ждет соревнование не только алгоритмов, но и мета-алгоритмов, разрабатывающих и оптимизирующих эти алгоритмы. Побеждает не тот, чей алгоритм лучше, а тот, чья система создания алгоритмов эффективнее.

Когнитивный колониализм: борьба за умы в цифровую эпоху

ИИ трансформирует не только физическое поле боя, но и информационное пространство, создавая новую форму противостояния – когнитивную войну – борьбу за восприятие, убеждения и решения людей. В этой новой форме войны оружием становятся не бомбы и пули, а информация и дезинформация. Целью является не физическое уничтожение противника, а подрыв его способности к сопротивлению через манипуляцию общественным мнением, деморализацию, создание внутренних конфликтов.

ИИ радикально усиливает возможности когнитивной войны. Технологии Deepfake позволяют создавать убедительные видео и аудио с политическими лидерами, произносящими слова, которых они никогда не говорили. Боты в социальных сетях, неотличимые от людей, формируют иллюзию массовой поддержки определенных идей. Алгоритмы таргетированной рекламы используются для доставки персонализированной пропаганды, адаптированной к психологическому профилю конкретного человека.

Китайские алгоритмы используются для масштабного создания аккаунтов, продвигающих прокитайские нарративы. В США технологии sentiment analysis и поведенческого таргетинга давно используются в политических кампаниях. Всё чаще они экспортируются за пределы развитых стран – включая государства Африки, Латинской Америки и Юго-Восточной Азии, где их применяют для персонализированной политической рекламы и манипуляций общественным мнением. Эти кейсы показывают: информационное пространство превращается в полноценный театр военных действий нового типа, где ИИ становится не просто инструментом анализа, но и оружием влияния.

Это создает возможность для доминирующих игроков контролировать информационное пространство и, через него, мышление целых народов. В отличие от классического колониализма, эта задача не требует физического присутствия на территории противника. Она решается через цифровые каналы, социальные сети, глобальные медиа-платформы, используется не военная сила, а алгоритмы рекомендаций, поисковой выдачи, формирования новостной ленты.

В такой ситуации возникает асимметрия: страны с развитой цифровой грамотностью, сильными традициями независимой журналистики и критического мышления оказываются менее уязвимыми для когнитивных операций, чем общества, где эти факторы менее развиты.

Квантовый скачок к неизвестному

Искусственный интеллект не существует в вакууме. Он развивается параллельно с другими прорывными технологиями – квантовыми вычислениями, биотехнологиями, нанотехнологиями. И эта конвергенция создает эффект взаимного усиления возможностей различных технологий.

Квантовые компьютеры радикально увеличат вычислительную мощность, доступную для ИИ, позволяя решать задачи, недоступные для классических систем. Биотехнологии, усиленные ИИ, откроют новые возможности для создания таргетированного биологического оружия. Нанотехнологии, управляемые ИИ, позволяют создавать невидимые системы наблюдения и новые виды оружия.

Эта конвергенция порождает каскадное технологическое ускорение – ситуацию, когда прорыв в одной области катализирует прорывы в других, создавая эффект снежного кома.

Сюжет пока еще фанатического фильма: квантовый компьютер, работающий с алгоритмами ИИ, мгновенно взламывает любые системы шифрования, обеспечивая абсолютную прозрачность коммуникаций противника. Одновременно нанороботы, управляемые ИИ, проникают в критическую инфраструктуру, оставаясь невидимыми для обычных систем обнаружения. А биоинженерные системы, оптимизированные искусственным интеллектом, создают патогены, способные поражать людей с определенными генетическими характеристиками.

Эта синергия приведет к технологической сингулярности войны – точке, за которой природа конфликта меняется настолько радикально, что становится непредсказуемой даже для ее создателей.

В этом контексте особую опасность представляет неравномерный темп внедрения новых технологий в различных странах и сферах. Оборонные технологии развиваются быстрее, чем системы их контроля. Наступательные возможности опережают оборонительные. Технологический прогресс обгоняет этическое осмысление его последствий. Эта асинхронность создает периоды повышенной уязвимости, когда новые угрозы уже существуют, а системы защиты от них еще не разработаны. И в эру конвергентных технологий такие периоды уязвимости становятся особенно опасными, создавая окна возможностей для тех, кто готов рискнуть стабильностью ради преимущества.

Нейроморфная революция: машины начинают мыслить как люди

Современные системы искусственного интеллекта, при всех их впечатляющих возможностях, все еще фундаментально отличаются от человеческого разума. Они могут обрабатывать огромные объемы данных, находить сложные корреляции, выполнять узкоспециализированные задачи с высокой точностью. Но им не хватает гибкости, адаптивности, интуиции человеческого мышления, и того, что ученые называют воплощенный опыт или embodied cognition.

Однако на горизонте маячит новая парадигма ИИ – нейроморфные системы, моделирующие не просто функции, но саму архитектуру человеческого мозга. Эти системы используют искусственные нейронные сети, работающие подобно биологическим, с импульсным механизмом передачи сигналов и пластичностью связей.

Нейроморфные системы обещают преодолеть ключевые ограничения современного ИИ. Они могут быть более энергоэффективными, потребляя в сотни раз меньше энергии. Они могут быть более адаптивными, обучаясь на малых объемах данных. Но главное – они могут обладать формой интуитивного мышления, способностью к абстракции и переносу знаний из одной области в другую.

В военном контексте это создает ситуацию, когда машины начинают мыслить достаточно похоже на людей, чтобы предсказывать и противодействовать человеческим стратегиям, но c достаточной степенью отличия, чтобы находить решения, недоступные человеческой интуиции. Возможна ли система управления воздушным боем, способная не только выполнять запрограммированные маневры, но и импровизировать, создавая новые тактики в реальном времени? Или система киберзащиты, интуитивно выявляющую потенциальные уязвимости до того, как они будут использованы. Или стратегический ИИ, разрабатывающий асимметричные ответы на действия противника, основываясь на глубоком понимании человеческой психологии и социальной динамики.

Эта эволюция создает пространство интеллектуального противостояния, где человеческие и машинные когнитивные стили сталкиваются, взаимодействуют и взаимно адаптируются. В этом пространстве возникает опасный потенциал для появления спирали взаимного усиления противостояния, где каждая сторона стремится создать более умную, более адаптивную, более непредсказуемую систему.

Роевое сознание: коллективный интеллект как новая форма боевой организации

Традиционная военная организация построена на иерархическом принципе: централизованное командование, четкая цепочка приказов, фиксированная структура подразделений. Эта модель, восходящая к римским легионам, доминировала на протяжении тысячелетий. Но ИИ предлагает радикально иную парадигму – роевой интеллект.

Роевой интеллект, вдохновленный поведением социальных насекомых, таких как пчелы или муравьи, основан на принципах самоорганизации, распределенного принятия решений и эмерджентного поведения. Вместо централизованного контроля – локальные взаимодействия. Вместо фиксированной структуры – динамическая самоорганизация. Вместо единого плана – адаптивное реагирование на изменения среды.

В военном контексте это воплощается в роевых технологиях – использовании множества автономных, взаимодействующих друг с другом единиц, от дронов до наноботов. Эти технологии уже развиваются: инициатива Пентагона «Replicator» нацелена на развертывание тысяч автономных систем к 2026 году, а китайские испытания роевых дронов демонстрируют формирование сложных паттернов в воздухе.

Роевые технологии создают способность военной системы перестраиваться в реальном времени в ответ на изменения среды. Рой дронов может рассредоточиться для поиска цели, сконцентрироваться для атаки, реорганизоваться после потери части единиц. Эта адаптивность создает новые вызовы для противодействия. Как нейтрализовать систему, не имеющую центрального узла управления? Как предсказать поведение роя, когда оно эмерджентно возникает из простых локальных взаимодействий? Как защититься от атаки, распределенной между сотнями или тысячами автономных единиц?

Возникает ситуация, когда традиционные иерархические структуры оказываются фундаментально уязвимыми перед роевыми системами, но сами не могут эффективно использовать роевую организацию из-за культурных, доктринальных и технологических ограничений. И эта асимметрия может стать ключевым фактором в будущих конфликтах, создавая преимущество для тех, кто сможет не просто внедрить роевые технологии, но и интегрировать роевое мышление в свою военную культуру.

Машинная мораль и военная этика: может ли ИИ принимать этические решения на поле боя?

Один из наиболее сложных аспектов военного применения ИИ – вопрос этики. Традиционно, этические решения в военном контексте принимались людьми, основываясь на комбинации кодифицированных правил (таких как международное гуманитарное право) и моральной интуиции, сформированной культурой, образованием, личным опытом. Но что происходит, когда этические решения делегируются машинам? Можно ли запрограммировать концепции «соразмерности» или «различия между комбатантами и некомбатантами»? Способен ли алгоритм понять контекст и намерения, критически важные для этической оценки?

Эти вопросы порождают несоответствие между нашими этическими ожиданиями и техническими возможностями. Мы ожидаем от военных ИИ-систем соблюдения тех же этических стандартов, что и от людей, но не всегда понимаем, как реализовать эти стандарты алгоритмически.

Этот разрыв особенно заметен в контексте автономных летальных систем вооружений (LAWS). Сторонники LAWS утверждают, что машины, свободные от человеческих эмоций, таких как страх или гнев, могут принимать более рациональные решения. Критики возражают, что именно эти эмоции, наряду с эмпатией и моральной интуицией, необходимы для по-настоящему этичных решений.

Это уже породило ситуацию, которую мы наблюдаем в последних конфликтах, когда разные акторы придерживаются различных этических стандартов в отношении ИИ. Одни страны могут ограничивать автономность своих систем, требуя значимого человеческого контроля, в то время как другие могут развертывать полностью автономные системы, руководствуясь принципом военной необходимости. Это неминуемо приведет к ситуации, когда страны постепенно снижают свои этические стандарты, опасаясь оказаться в невыгодном положении по сравнению с менее щепетильными противниками, что в свою очередь вызовет необходимость минимизировать этические соображения в пользу военной эффективности, создавая риск не только для международного права, но и для самого человеческого достоинства.

В 2021 году в Ливии, по данным доклада ООН, турецкий дрон-камикадзе Kargu-2, предположительно, впервые в истории мог атаковать человека без прямого приказа оператора. Система была предназначена для поражения «логистических объектов и вражеского персонала», но, как утверждается в отчёте, могла действовать в полностью автономном режиме, в условиях, где не удавалось установить надёжную связь с оператором. Хотя в документе не зафиксировано прямое подтверждение, что дрон самостоятельно принял решение о поражении конкретной цели, сам факт подобной возможности вызвал бурную дискуссию в военных, правозащитных и этических кругах.

Этот случай стал прецедентом в правовом и моральном смысле: если автономная система совершает акт насилия – кто за это отвечает? Инженер, написавший код? Командир, отдавший приказ? Политик, подписавший контракт? Или – сама машина, действовавшая «в рамках алгоритма»? Появляется тревожный парадокс: автономное оружие подчиняется размытой ответственности. И с каждым шагом вперёд в области военного ИИ встаёт всё более острый вопрос: кто нажимает на спусковой крючок, если пальца на нём больше нет?

Эммануэль Левинас утверждал, что этика начинается с «лица Другого» – с непосредственной встречи с уязвимостью чужой жизни. Может ли алгоритм «увидеть лицо»? Способен ли ИИ к левинасовской этической ответственности, которая предшествует всякому расчету и правилу? Жак Эллюль в «Технологическом обществе» предсказывал автономизацию техники – ситуацию, когда технологическая логика становится самодовлеющей, подчиняя себе человеческие цели. Автономные системы вооружений могут стать воплощением эллюлевского кошмара: войной ради войны, эффективностью ради эффективности.

На пороге новой парадигмы

Пост-стратегическая эра: скорость решений превышает скорость размышления

Скорость – одно из ключевых преимуществ, предоставляемых военным ИИ. Автоматизированные системы могут обрабатывать информацию, принимать решения и действовать в масштабах времени, недоступных для человеческого разума. Эта скорость порождает разрыв между скоростью машинного и человеческого принятия решений.

В военном контексте эта асимметрия критически важна. Сторона, способная быстрее проходить цикл «наблюдение-ориентация-решение-действие» (OODA-loop), получает фундаментальное преимущество. ИИ потенциально способен сжать этот цикл до миллисекунд, создавая когнитивное превосходство.

Но эта скорость имеет свою цену: также сжимается время, доступное для стратегического размышления, дипломатии, деэскалации. В мире, где решения принимаются за микросекунды, остается все меньше пространства для человеческой мудрости и рассудительности. Это особенно опасно в контексте кризисов, где неверное толкование действий противника может привести к эскалации.

Рассмотрим сценарий, где ИИ-система, обнаруживая признаки, интерпретируемые как подготовка к атаке, автоматически повышает уровень готовности, что воспринимается ИИ-системой противника как агрессивное действие, запуская циклическую эскалацию без возможности человеческого вмешательства. Мы вступим в период, когда традиционное стратегическое мышление, основанное на размышлении, анализе, предвидении, уступит место реактивным алгоритмическим решениям, оптимизированным для скорости, а не мудрости.

В этой новой эре возникает риск стратегического детерминизма – ситуации, когда решения о войне и мире определяются не столько человеческой волей, сколько логикой алгоритмов и динамикой автоматизированных систем. И этот детерминизм может стать самосбывающимся пророчеством, когда алгоритмы, запрограммированные на обнаружение угроз, начинают интерпретировать нормальную неопределенность международных отношений как свидетельство враждебных намерений, создавая спирали недоверия и эскалации.

Когда машины ошибаются: экзистенциальные риски алгоритмической войны

Традиционная война, при всех ее ужасах, имела естественные ограничители: человеческая психология, физическая география, логистические ограничения. Но война, ведомая искусственным интеллектом, может преодолеть многие из этих ограничений, создавая ситуацию, когда технологические возможности ведения войны превосходят наши способности контролировать ее последствия. Эта асимметрия проявляется в нескольких измерениях. В пространственном измерении война расширяется, охватывая новые домены – от глубокого космоса до наномасштаба. В временном измерении война ускоряется, сжимая циклы принятия решений до миллисекунд. В когнитивном измерении война усложняется, выходя за пределы человеческого понимания.

Эти трансформации создают новые категории рисков, непредвиденных, с необратимыми последствиями автоматизированных военных решений.

Еще один фрагмент фантастического фильма: автономная система противоракетной обороны, ложно идентифицирует редкое метеорологическое явление как ракетную атаку и запускает контрудар. Или роевая система, получает поврежденные данные и интерпретирует гражданский район как военный объект. Или стратегический ИИ, рекомендующий превентивный удар на основе ошибочного анализа намерений противника.

Эти сценарии иллюстрируют фундаментальную уязвимость сложных ИИ-систем перед неожиданными, непредвиденными сценариями, для которых они не были обучены. Эта хрупкость особенно опасна в контексте ядерных вооружений. Системы раннего предупреждения, усиленные ИИ, могут стать более чувствительными, но и более подверженными ложным срабатываниям. Коммуникационные системы, управляемые ИИ, могут быть более эффективными, но и более уязвимыми для кибератак. Системы командования и контроля, автоматизированные для скорости, могут потерять критически важный элемент человеческой рассудительности. Появляется риск возникновения каскадной последовательности автоматизированных решений, приводящих к катастрофическому конфликту без возможности человеческого вмешательства. И этот риск не является чисто теоретическим. История уже знает случаи, когда мир находился на грани ядерной войны из-за технических сбоев или человеческих ошибок. Добавление в эту систему искусственного интеллекта, с его скоростью, но и с его ограничениями, может сделать такие сценарии более вероятными.

Постчеловеческий конфликт: война в эпоху гибридного интеллекта

По мере развития искусственного интеллекта и его интеграции с человеческими системами принятия решений, мы вступаем в эру, которую можно назвать гибридным или симбиотическим интеллектом – сплавом человеческих и машинных когнитивных способностей.

В военном контексте это воплощается в концепции симбиотической системы, где люди и ИИ работают вместе, усиливая достоинства и компенсируя недостатки друг друга. Человеческая интуиция, креативность, эмпатия сочетаются с машинной скоростью, точностью, способностью обрабатывать огромные объемы данных. Эта эволюция порождает трансформацию конфликта в нечто, что не является ни чисто человеческим, ни чисто машинным, но представляет новое качество, эмерджентно возникающее из их взаимодействия.

Еще немного фантастического кино: пилот, управляющий не одним самолетом, а роем дронов через нейроинтерфейс, передающий его намерения в алгоритмическую форму. Или командир, получающий когнитивное усиление через имплантированные нейропротезы, расширяющие его способности к анализу и принятию решений. Или аналитик разведки, работающий в симбиозе с ИИ, который предварительно обрабатывает и визуализирует информацию, делая видимыми скрытые паттерны.

Эти сценарии иллюстрируют то, что можно назвать расширенной или дополненной войной – конфликтом, ведущимся не просто за физическое пространство, но за когнитивное превосходство, достигаемое через интеграцию человеческого и искусственного интеллекта. В этом новом типе войны наиважнейшей становится способность превращать интеллектуальное превосходство в решающее тактическое и стратегическое преимущество. Победителями в этой новой эре станут не те, кто обладает лучшим ИИ или лучшими солдатами, а те, кто наиболее эффективно интегрирует их в единую когнитивную систему, способную адаптироваться, учиться и эволюционировать быстрее противника.

Эпистемологический разрыв: может ли человечество понять войну, которую ведут машины?

По мере того как военные системы становятся все более автономными и интеллектуальными, возникает несоответствие между человеческими когнитивными возможностями и сложностью алгоритмических военных решений.

Этот разрыв проявляется в нескольких аспектах. В объемном аспекте ИИ может обрабатывать объемы данных, превосходящие человеческие возможности. В скоростном аспекте ИИ принимает решения в временных масштабах, недоступных для человеческого сознания. В концептуальном аспекте ИИ может находить паттерны и стратегии, которые человеческий разум не способен визуализировать или понять.

Это создает опасную ситуацию, когда люди, номинально контролирующие военные ИИ-системы, не полностью понимают их решения, логику и потенциальные последствия. Уже сегодня не сложно представить себе генерала, утверждающего план операции, разработанный стратегическим ИИ, не понимая полностью его обоснования или долгосрочные последствия. Или политического лидера, принимающего решение об эскалации или деэскалации конфликта на основе рекомендаций системы, чья логика остается для него «черным ящиком».

У меня это вызывает серьёзный вопрос: может ли человечество сохранить контроль над войной, которую оно не вполне понимает? Можем ли мы говорить о человеческом контроле, если алгоритмические решения выходят за пределы нашего понимания?

Три сценария эволюции: надежда, апокалипсис и метаморфоза

Будущее военного ИИ не предопределено. Можно выделить три базовых сценария его эволюции, каждый из которых имеет свою вероятность и свои последствия.

Сценарий 1: «Сбалансированное соразвитие» (30% вероятности)

В этом сценарии человечеству удается сохранить контроль над развитием военного ИИ, обеспечивая его соответствие человеческим ценностям, международному праву и стратегической стабильности. Ключевые элементы этого сценария:

• Разработка эффективных международных режимов контроля над военным ИИ, включая верифицируемые ограничения на автономные летальные системы.
• Прогресс в области «объяснимого ИИ» (XAI), обеспечивающий прозрачность и понятность алгоритмических решений.
• Сохранение принципа «значимого человеческого контроля» над применением силы, с ИИ в роли советника, а не лица, принимающего решения.
• Создание многосторонних механизмов мониторинга и регулирования военных ИИ-технологий, аналогичных существующим режимам контроля над ядерным оружием.
• Развитие «этического ИИ», способного учитывать моральные аспекты военных решений и соблюдать принципы международного гуманитарного права.

Этот сценарий предполагает, что технологическое развитие будет сопровождаться соответствующим развитием нормативной, правовой и этической сфер. ИИ становится инструментом повышения стабильности и безопасности, а не источником новых рисков.

Сторонники позитивного сценария указывают на успешные прецеденты международного сотрудничества в области контроля вооружений – от Договора о нераспространении ядерного оружия до Конвенции о химическом оружии. Они утверждают, что человечество способно учиться на ошибках и создавать эффективные механизмы регулирования новых технологий.

Питер Диамандис и другие «изобилисты» полагают, что ИИ естественным образом эволюционирует в сторону сотрудничества, а не конфронтации, поскольку информационные ресурсы, в отличие от физических, не являются игрой с нулевой суммой. Развитие ИИ может привести не к новым формам войны, а к их устареванию.

Сценарий 2: «ИИ Армагеддон или «вспомним Скайнет»» (20% вероятности)

• Ускоренное развертывание полностью автономных систем вооружений без адекватных мер безопасности и контроля.
• Эскалационная динамика, где ИИ одной стороны интерпретирует действия ИИ другой стороны как враждебные, запуская каскад взаимных реакций.
• «Черные лебеди» военного ИИ – непредвиденные, катастрофические сбои автономных систем, приводящие к непреднамеренному конфликту.
• Алгоритмическая непрозрачность, когда ни одна из сторон не полностью понимает, как и почему их системы принимают определенные решения.
• Подрыв стратегической стабильности из-за сокращения времени принятия решений и увеличения асимметрии возможностей.

Этот сценарий представляет собой «худший случай», где технологическое развитие опережает наши способности к его контролю и регулированию, приводя к новым формам стратегической нестабильности и, потенциально, к экзистенциальным рискам.

Критики алармистских представлений о военном ИИ – среди них, в частности, Эндрю Ын (Andrew Ng) и Демис Хассабис (Demis Hassabis) – подчёркивают, что опасения по поводу «восстания машин» часто основаны на образах из научной фантастики, а не на реальном состоянии технологий. Современные ИИ-системы представляют собой узкоспециализированные алгоритмы, способные выполнять ограниченные задачи (распознавание образов, навигация, прогнозирование), но не обладают целями, мотивацией или сознанием. Как отмечал Ын, «бояться ИИ сейчас – всё равно что бояться перенаселения на Марсе». Хассабис, руководитель DeepMind, в свою очередь, не отрицает долгосрочных рисков, но призывает отделять реальные вызовы – контроль над автономными системами, этика применения, нормативное регулирование – от спекулятивных сценариев, не подкреплённых инженерной реальностью. Таким образом, угроза военного ИИ заключается не в том, что он станет «самостоятельным субъектом», а в том, как именно люди делегируют ему критические решения, не всегда понимая или контролируя механизм их принятия.

Сценарий 3: «Когнитивная метаморфоза» (50% вероятности)

Этот сценарий представляет собой нечто среднее между первыми двумя, но с уникальным элементом трансформации самой природы конфликта. Ключевые элементы:

• Постепенное смещение фокуса от кинетической войны к когнитивному противостоянию, где победа достигается через информационное превосходство, а не физическое уничтожение.
• Развитие «гибридного интеллекта» – симбиоза человеческого и искусственного мышления, создающего новые формы когнитивных возможностей.
• Трансформация международной системы от государствоцентричной к многоуровневой, включающей негосударственных акторов, сетевые структуры, алгоритмические сущности.
• Возникновение «стратегических экосистем» – комплексных адаптивных систем, включающих людей, ИИ, физическую и информационную инфраструктуру, действующих как единое целое.
• Развитие новых форм сдерживания, основанных не на угрозе уничтожения, а на «когнитивном доминировании» – способности контролировать информационное пространство и процессы принятия решений.

Этот сценарий предполагает не столько контроль над ИИ или его неконтролируемое развитие, сколько коэволюцию человеческих и технологических систем, ведущую к фундаментальной трансформации самой природы конфликта и международных отношений.

Заключение: кто будет писать последнюю главу?

Мы стоим на пороге эпохи, когда война – эта древнейшая человеческая деятельность – может перестать быть исключительно человеческой. Искусственный интеллект трансформирует не просто способы ведения войны, но саму ее природу, создавая новые формы угроз и возможностей, которые мы только начинаем осознавать.

В этом новом мире ключевым вопросом становится не «кто победит?», а «кто будет принимать решения?» – люди, машины или какая-то гибридная форма интеллекта, которую мы еще не вполне понимаем. И ответ на этот вопрос определит не только исход конкретных конфликтов, но и траекторию развития человеческой цивилизации.

Если мы позволим машинам принимать решения о жизни и смерти без значимого человеческого контроля, мы рискуем не просто военным поражением, но утратой контроля над собственной судьбой. Если мы отвергнем технологический прогресс из страха перед его последствиями, мы можем оказаться беззащитными перед теми, кто не разделяет наших сомнений.

Золотая середина – путь осознанной интеграции, где мы используем возможности ИИ, сохраняя при этом человеческий контроль над критическими решениями, – потребует беспрецедентной мудрости, дальновидности и международного сотрудничества.

В конечном счете, будущее военного ИИ представляет глубоко человеческий, а не только технологический вопрос. Оно зависит не столько от того, что могут делать наши машины, сколько от того, кем мы решим быть как вид. Будем ли мы использовать наш растущий технологический потенциал для обеспечения большей безопасности, стабильности и процветания? Или позволим нашим инструментам превзойти наши ценности, нашей власти превзойти нашу мудрость?

Ответ на этот вопрос будет написан не алгоритмами, а людьми – политическими лидерами, военными стратегами, учеными, гражданским обществом. Именно здесь, возможно, заключается последняя ирония: в эпоху искусственного интеллекта наше самое человеческое качество – способность делать осознанный нравственный выбор – может оказаться нашим самым ценным ресурсом.

Карл Ясперс писал о «пограничных ситуациях» – моментах, когда человек сталкивается с пределами своего существования и вынужден делать фундаментальный выбор о том, кем он хочет быть. Эпоха военного ИИ и есть такая пограничная ситуация для человечества. Мы можем выбрать путь того, что Льюис Мамфорд называл «мегамашиной» – тотальной технологической системой, где люди становятся винтиками в гигантском механизме. Или мы можем следовать идеалу Мамфорда о «демократической технике» – технологии, служащей человеческому процветанию, а не подменяющей его.

Выбор за нами. Пока что…

Для тех кто дочитал до конца, бонус трек: футурологический прогноз.

Футурология войны