Начнется ли война «роботов-убийц» раньше, чем мы предполагаем?

Целые корпуса беспилотных танков, дроны, которые могут обнаружить повстанца в толпе мирных жителей, и оружие, контролируемое компьютеризованными «мозгами», которых также легко обучить, как и нас, все являются «умными» технологиями, разработанными военной промышленностью, вступающей, как многие считают, в «третью революцию в военном деле».

«Во всех областях поля современной битвы - в воздухе, на море, под водой или на суше - военные во всем мире теперь демонстрируют свой прототип автономного оружия, - говорит Тоби Уолш, профессор искусственного интеллекта в университете Нового Южного Уэльса в Сиднее.«Новые технологии, такие как методы «глубокого обучения», помогают управлять этой революцией. Технологическая сфера явно опережает все другие отрасли, и военным приходится догонять».

Один из сообщенных прорывов, который не дает спать противникам роботов-убийц, это боевой модуль «нейронной сети» Калашникова. Он оснащен 7,62-мм пулеметом и камерой, соединенной с компьютерной системой, о которой, ее создатели заявляют, что она может делать собственные суждения о прицеливании без какого-либо контроля со стороны человека.

По данным российского государственного агентства новостей ТАСС, система использует «нейронные сетевые технологии, позволяющие определять цели и принимать решения».

В отличие от обычного компьютера, который использует запрограммированные заранее инструкции для решения определенного, но ограниченного круга предсказуемых задач, нейронная сеть предназначена для изучения предыдущих примеров, а затем адаптируется к обстоятельствам, которые она, возможно, раньше не встречала. И это именно та предполагаемая способность принимать собственные решения беспокоит многих.

«Если оружие использует нейронные сети и передовой искусственный интеллект, тогда мы не обязательно будем знать, на основе чего они приняли решение атаковать, - и это очень опасно», - говорит Эндрю Нансон, главный специалист по технологиям в отделе обороны компании Ultra Electronics. Но он по-прежнему скептически относится к некоторым заявлениям, которые делают производители оружия.

Автоматизированные системы обороны уже могут принимать решения, основанные на анализе угрозы - например, о форме, размере, скорости и траектории приближающейся ракеты, - и выбрать соответствующий ответ намного быстрее, чем люди.

Но что происходит, когда такие системы сталкиваются с чем-то, о чем у них нет опыта, но теперь им предоставляется свобода действовать с использованием подхода выбора «наилучшего предположения»? Ошибки могли быть катастрофическими - убийство невинных гражданских лиц, уничтожение мирных целей, атаки «дружественного огня» по своей стороне.

И это то, чего многие эксперты боятся, не того, что ИИ станет слишком умным - захватит мир, как суперкомпьютер Skynet из фильмов Терминатора, - наоборот, эксперты боятся, что ИИ слишком неразумен.

«Нынешние проблемы связаны не с супер-интеллектуальными роботами, а с довольно примитивными, которые не могут тонко различать между гражданскими и военными объектами, за исключением случаев, когда имеют очень узко ограничивающие их настройки», - говорит Ноэль Шарки, профессор искусственного интеллекта и робототехники в Шеффилдском университете.

Несмотря на такие опасения, новейшие продукты Калашникова - это не единственное автономное и полуавтономное оружие, которое испытывается в России.

«Уран-9» - беспилотное наземное боевое движущееся средство, оснащенное пулеметом и 30-мм пушкой. Им можно дистанционно управлять на расстоянии до 10 км. Это также небольших размеров боевой робот Платформа-М, имеющий автоматическое нацеливание и возможность работать в экстремальных условиях высоких и низких температур.

Это «супер танк Армата Т-14» с автономной башней, которая по утверждению дизайнера Андрея Терликова, проложит путь для полностью автономных танков на поле боя.

Производитель танка «Уралвагонзавод»  не ответил на запросы Би-би-си об интервью, но профессор Шарки, являющийся членом группы давления «Кампания по запрету роботов-убийц», опасается его потенциала.

«T-14 на годы опережает Запад, и мысль о стоящих на границе с Европой тысячах автономных Т-14,не дает покоя», - говорит он.

Прошлым летом Управление перспективных исследований и разработок Министерства обороны США (Darpa) оснастило обычный разведывательный дрон продвинутым ИИ, разработанным для различения гражданских лиц и повстанцев во время испытания над имитацией ближневосточной деревни в штате Массачусетс.

Это оружие для часового SGR-A1 от Samsung, способное стрелять автономно, которое было развернуто вдоль южнокорейской стороны корейской демилитаризованной зоны.

В  Великобритании компания BAE Systems разрабатывает беспилотный дрон «Таранис», размером примерно с истребитель Red Arrow Hawk. BAE говорит, что он рассчитан нести на себе несметное количество оружия на большие расстояния, и будет иметь «элементы» полной автономии.

На воде автономный военный корабль «Морской охотник» США предназначен для длительной эксплуатации в море без единого члена экипажа и для того, чтобы даже самостоятельно пройти в порт и из порта.

Все производители западных вооружений, с которыми связались служба ВВС, в том числе компании Boeing Phantom Works, Northrop Grumman, Raytheon, BAE Systems, Lockheed Martin и General Dynamics, отказались использовать в своем производстве данные свойства, что указывает, возможно, на противоречивый характер этой технологии.

Но можно ли использовать автономные военные технологии просто, как поддержку военных операций человека?

Роланд Сонненберг, глава отдела обороны консалтинговой фирмы PricewaterhouseCoopers, говорит, что симуляция боевых действий, логистика, анализ угроз и вспомогательные функции являются более обыденными, но не менее важными, аспектами ведения войны, которые могут выполнять роботы и ИИ.

«Преимущества, которые может предложить ИИ, полезны только в том случае, если их можно эффективно применять в реальном мире, и они будут широко приняты только в том случае, если компании, потребители и общество будут доверять данной технологии и примут ответственный подход к ней», - говорит он.

А некоторые даже утверждают, что автономное оружие могло фактически сократить количество человеческих жертв.

Но Элизабет Кинтана, старший научный сотрудник Королевского Объединенного института исследований в области обороны и безопасности, не согласна.

«Развертывание роботизированных систем может быть более привлекательным для политиков, потому что будет меньше гробов, возвращающихся домой.

Мое мнение состоит в том, что война – это деятельность, неотъемлемо присущая человеку и что, если вы будете вести войну на расстоянии от другой группы людей или страны, они найдут способ нанести вам удар дома, потому что это единственный способ, которым они могут действительно могут отплатить».

Перспектива получения автономных систем вооружений, непреднамеренно приводящих к эскалации внутреннего терроризма или кибервойны, является, пожалуй, еще одной причиной, чтобы относиться к этой новой технологии  с осторожностью.