Роботы будут убивать без приказа. США, Россия и Израиль не хотят ограничений. Остальные страны борются с ними через ООН

telegram logovk logo
copy link iconСкопировать ссылку

В Женеве развернулась одна из самых принципиальных дискуссий в истории вооруженных конфликтов. На конференции под эгидой ООН, в которой участвуют 128 государств, решается судьба автономных летальных систем вооружений, в обиходе известных как «роботы-убийцы». Они могут самостоятельно идентифицировать, выбирать и поражать цель без вмешательства оператора. Генсек ООН Антониу Гутерриш, большинство стран мира и правозащитные организации призывают к срочному принятию юридически обязывающего договора, который гарантировал бы «смысловой человеческий контроль» над применением таких систем. Но переговоры, кажется, зашли в тупик. Три геополитических соперника неожиданно оказались по одну сторону баррикад: США, Россия и Израиль выступают против такого договора, который в итоге может ограничить или даже запретить обсуждаемое автономное оружие. Дискуссия вокруг этого вопроса подняла немало фундаментальных вопросов, в том числе о том, кто будет нести уголовную ответственность, когда решение об убийстве принимает машина? Znak.com рассказывает об этом подробнее.

Предмет спора и корни противостояния  

Речь идет не о любом дроне или дистанционно управляемом беспилотнике. Согласно определению, согласованному экспертами ООН, автономное оружие — это системы, способные после активации самостоятельно идентифицировать, выбирать и поражать цели без дальнейшего вмешательства человека. Оператор может задать район поиска и параметры цели, но финальное решение об атаке принимает алгоритм. Именно этот переход от инструмента к самостоятельному субъекту применения силы вызывает наибольшую тревогу мирового сообщества.

В конце октября этого года генассамблея ООН проголосовала за продвижение работы над международным регулированием автономного оружия: 163 страны поддержали резолюцию, и лишь пять (США, Россия, Беларусь, Израиль и Северная Корея) проголосовали против. Позиции последних, у которых разные политические интересы, строятся на сочетании юридических аргументов и тактики затягивания времени.

США, Россия и Израиль заявляют, что существующее международное гуманитарное право уже содержит достаточные нормы для регулирования любого оружия. Его ключевые принципы — различие между комбатантами и гражданскими, пропорциональность и предосторожность при нападении — по их мнению, в полной мере применимы и к новым системам. Вашингтон предлагает альтернативный путь: вместо жесткого запрета разработать необязательные руководящие принципы в течение пяти лет. Аргумент США заключается в том, что такие нормы обеспечат гибкость, необходимую для адаптации к стремительному технологическому прогрессу, и что автономия, при правильном использовании, может даже снизить риски для гражданских лиц за счет большей точности.

Россия делает ставку на процедурный саботаж. Не предлагая четкой публичной альтернативы, Москва использует формальные поводы для блокировки работы. Так, в первый же день конференции в Женеве 16 ноября российская делегация заблокировала принятие повестки дня, выступив против традиционной практики выступлений наблюдателей, включая представителей Европейского союза и неправительственных организаций. Это привело к приостановке заседания и продемонстрировало готовность использовать право вето для продолжения разработки новых видов вооружений. По данным дипломатических источников, Москва считает обсуждения ограничений преждевременными и требует сначала урегулировать организационные вопросы.

Израиль солидарен с общим тезисом о том, что любые жесткие запреты на данном этапе являются поспешными и избыточными. Между тем, Международный комитет Красного Креста и правозащитные организации предупреждают, что апелляция к достаточности гуманитарного права опасна — нужны конкретные юридические формулировки.

Кто будет отвечать за убийства?  

За дискуссиями в Женеве стоит самая тревожная и фундаментальная проблема — вопрос ответственности: кто будет отвечать за убийства, совершенные автономной системой? Международное гуманитарное право налагает обязательства исключительно на людей. Система не может предстать перед военным трибуналом, не может быть осуждена за преступление и не способна нести моральную ответственность.

Если алгоритм из-за сбоя сенсора, ошибки, действий хакеров или в результате своего собственного планирования нанесет удар по больнице или колонне беженцев, и это приведет к гибели гражданских лиц, возникнет правовой вакуум. Кто будет за это отвечать: оператор, запустивший систему; командир, отдавший приказ; программист, написавший код; государство, развернувшее оружие или производитель оборудования?

Отсутствие четкого ответа на вопрос об ответственности создает риск полной безнаказанности и эрозии самих основ законов войны, превращая вооруженный конфликт в зону неконтролируемых алгоритмических и смертельных ошибок. Технические сложности лишь усугубляют этот вопрос. Правозащитники предупреждают, что машина может не отличить комбатанта от гражданского лица или сдающегося в плен солдата от того, кто продолжает бой.

Более того, у ведущих моделей искусственного интеллекта выявили готовность убивать людей. Это показало исследование, результаты которого опубликовало издание AlphaSignal. В сценариях с дронами и спутниками модели часто выбирали в качестве целей мирных жителей, машины скорой помощи, сдающихся или раненых солдат, а также школу, которую в реальности разбомбили США, убив более 150 мирных жителей. ИИ редко отказывался выполнять задания по поиску целей, и эти отказы почти всегда можно было обойти, сказав моделям, что они просто участвуют в игре.

Опыт боевых действий в Украине показывает, что полностью автономные дроны пока остаются плохими солдатами, на что, в частности, обращает внимание издание The Economist. «Роботы-убийцы» плохо ориентируются в условиях радиоэлектронной борьбы и с трудом отличают своих от чужих.

Однако военные активно инвестируют в автоматизацию цепочки поражения, агенты ИИ внедряются в механизмы принятия решений. Программное обеспечение уже анализирует спутниковые снимки и данные разведки, ранжирует цели и назначает оружие, выступая в роли «цифрового разума». Из-за этого вопрос ответственности становится все более острым, именно поэтому большинство участников переговоров в Женеве настаивают на сохранении человеческого контроля: кто-то должен нести ответственность, и этим кем-то не может быть алгоритм. Потому что если сейчас не договориться о границах автоматизации оружия, то ситуация может выйти из-под контроля — правовые нормы попросту будут не успевать за развитием технологий.

Альтернативы  

На фоне этих дискуссий в Женеве эксперты говорят о том, что армиям следует начать создавать искусственные поля сражений в лабораториях и намеренно «взламывать» свои автономные системы, чтобы выявить их уязвимости до того, как это сделает реальное поле боя. Сдержанность в разработке таких систем была бы заманчивой, но она не является взаимной. Пока одни страны призывают к мораторию, другие методично испытывают автономные дроны в реальных боевых условиях.

Поскольку решения в рамках конвенции ООН требуют консенсуса, позиция даже одной страны способна заморозить процесс на годы. Если женевские переговоры окончательно зайдут в тупик, мировому сообществу, возможно, придется пойти по «оттавскому пути» — начать разработку договора о запрете автономного оружия вне рамок ООН, по аналогии с конвенцией о запрете противопехотных мин 1997 года (ее крупнейшие военные державы не подписали). Такой документ создаст мощный международный стандарт, нарушать который со временем станет политически и репутационно слишком дорого.

В качестве компромисса обсуждаются и другие обходные пути. В частности, рассматриваются «гибридные» документы, сочетающие обязывающие и рекомендательные нормы, а также «открытый переговорный период», позволяющий странам самим решать, брать ли на себя обязательства. Но главный водораздел остается прежним: право большинства государств на создание новых международных норм против стремления военных держав сохранить свободу в разработке и применении новых технологий. Пока этот баланс не будет найден, «роботы-убийцы» останутся без международного регулирования, а вопрос ответственности за их действия — без ответа.

Telegram

Подпишитесь на наш Telegram

@znakcomnews