Введение

В последние несколько лет в Соединенных Штатах и Европе тема робототехники стала одной из наиболее востребованных среди бизнес-сообщества, военных кругов, университетов и органов государственной власти. Подавляющее большинство встреч и семинаров, издаваемых книг, статей, публикаций в электронных, научных и профессиональных журналах касаются исключительно гражданских, либо военных роботов и автономных автоматизированных систем (ААС). Соответственно проблематика рассматривается под углом зрения возможности использования робототехники в вооруженных силах, в бизнесе, а также влияние массового применения роботов на экономические, социальные и политические тренды и тенденции.

При всей важности указанных аспектов совершенно вне сферы внимания остается такая ключевая тема как возможности, риски и угрозы использования ААС и роботов различного типа и функционального применения организованной преступностью, экстремистскими группами и террористическими структурами. Ни один исследовательский центр в Соединенных Штатах и Западной Европе, ни одна ведущая «фабрика мысли» не получили от государственных или от частных структур грантов на это важнейшее направление. Оно остается практически вне поля зрения ведущих, в том числе действующих, политиков. Единственными исключениями стали выступления на эту тему бывшего министра обороны США и главы ЦРУ Р. Гейтса и бывшего директора ЦРУ Л. Панет-ты, а также статьи бывшего советника Б. Обамы К. Санстейна.

Публикуемые на этот счет работы и прежде всего бестселлер Нью-Йорк Таймс «Future Crimes» («Будущее преступности») М. Гудмана рассчитаны, прежде всего, на широкую публику, а не на высокопрофессиональную среду и лиц, принимающих решения. Поэтому главная ценность этой и подобных ей книг состоит в огромном количестве ярких и запоминающихся примеров, а не в жестком структурировании проблемы.

В этой связи главной задачей рабочего доклада, являющегося первым этапом работы над темой «Угрозы и риски использования автономных автоматизированных систем и роботов организованной преступностью, экстремистами и террористами», выполняемой междисциплинарным коллективом исследователей из различных университетов США на базе MTI по заказу федеральных органов власти США, является создание концептуальной и терминологической решетки для дальнейшего обсуждения темы, а также определение возможностей, степени риска и разнообразия угроз использования робототехники преступниками, экстремистами и террористами.

 

Терминология

В настоящее время в Соединенных Штатах и в целом в международном сообществе, существует терминологический разнобой, связанный с применением таких категорий, как «автономные автоматизированные системы» и «роботы». Например, в документах ООН и министерства обороны США используются в основном термины: «автономные автоматизированные системы (ААС)» и «автономные смертоносные системы вооружений (АССВ)». В то же время бизнес, средства массовой информации в Соединенных Штатах и официальные документы НАТО и ЕС используют термины «роботы», «роботы-убийцы», «роботизированное оружие» и т. п.

При всей близости «ААС» и «роботов» они являются терминами, обозначающими несколько различные технические и программные устройства. Большинство специалистов в области информационных технологий и робототехники придерживаются следующей точки зрения. ААС являются более широким термином, чем роботы. ААС включают в себя программно-технические комплексы с различной степенью автоматизации. В свою очередь роботы представляют собой высокоавтоматизированные ААС.

Продемонстрируем это на понятном для лиц, принимающих политические решения, примере. Например, так называемые беспилотные летающие аппараты (БПЛА) или дроны, без сомнения, с первых своих образцов должны быть отнесены к ААС. Однако нельзя забывать, что до последнего времени подавляющая часть дронов предполагала наличие оператора, который не только принимает решения о применении вооружений, но и в отдельных случаях дистанционно пилотирует дрон. В этом случае, конечно же, ни о каком роботе речь идти не может. Такие дроны не являются роботами, хотя и представляют собой ААС.

Представляется, что теория автоматического управления уже к 60-м гг. прошлого века выработала эффективный критерий, позволяющий надежно выделять роботов в структуре ААС. Данным критерием является способ принятия решения, требующегося в тех случаях, когда перед программно-аппаратным комплексом встает необходимость сделать выбор из нескольких альтернатив. Любой программно-аппаратный комплекс вне зависимости от своего функционального предназначения должен быть способен выполнять как минимум две операции: перемещаться в пространстве и реализовывать свою функцию, например, эвакуация раненых, разминирование, получение информации, огневое поражение и т. п.

Соответственно принципиально возможны четыре комбинации в принятии решений. Первая – все решения дистанционно принимает оператор ААС. Вторая – все решения принимаются программным комплексом ААС без участия человека. Третья – решения относительно всех операций ААС могут приниматься как человеком, так и программным комплексом. Четвертая – на различных стадиях и человек, и программный комплекс могут принимать решения, но решение человека или программного комплекса на каждой из операций имеет окончательный приоритет.

Без сомнения к роботам можно отнести второй тип ААС и с некоторой натяжкой третий. Далее в тексте в тех случаях, когда будет использоваться специально термин «роботы», он будет использоваться в отношении ААС второго и третьего типов. Во всех остальных случаях термин «ААС» будет использоваться, подразумевая, что он включает и все типы роботов.

В докладе будут рассмотрены ААС и роботы следующего функционального предназначения: эвакуационные, разведывательные, боевые, включая использование ими средств огневого и любого иного физического и ментального поражения. Кроме того, будут рассмотрены возможности использования преступниками, экстремистами и террористами роботов гражданского назначения в самых различных сферах, начиная от интернета вещей до программно-аппаратных комплексов высокочастотного трейдинга.

Для того, чтобы не было разночтений специально оговорим, что в тексте термины «преступность», «терроризм» и «экстремизм» применяются в общепринятом международном смысле. А именно, преступность – это противоправная деятельность; терроризм – деятельность, основанная на достижение целей посредством насилия, запугивания и устрашения; соответственно, экстремизм – это приверженность к крайним взглядам на внутреннюю и внешнюю политику, отношения в обществе, на национальные, расовые и т. п. вопросы.

 

Направления использования ААС и роботов

Анализ многочисленных публикаций в правительственных, неправительственных, деловых, исследовательских источниках, содержащих фактическую информацию и оценку перспектив развития новых технологий, позволяет выделить основные направления использования ААС и роботов деструктивными организациями, включая преступные группировки, экстремистские сообщества и террористические структуры. По большинству из разбираемых ниже направлений деструкторы уже сегодня используют робототехнику. По некоторым будут делать это в самые ближайшие годы. Можно выделить следующие основные направления использования ААС и робототехники деструктивными организованностями:

Разведка. До последнего времени использование радиотехнической, электронной, воздушной, подводной и иной технологически сложной разведки было прерогативой исключительно государственных структур, включая разведывательные службы, правоохранительные органы и т. п. В настоящее время положение дел коренным образом изменилось. Впервые в истории деструктивные организованности получили возможность ведения разведки по своей технической сложности, а соответственно и объему и качеству получаемой и обрабатываемой информации, не уступающей государственным структурам. В решающей степени это связано не только с распространением и развитием интернета, но и с качественным скачком в ААС и робототехники. Если еще четыре года назад БПЛА, оснащенный универсальным разведывательным комплексом, включающем системы видеоразведки, наблюдения в инфракрасном диапазоне, средства перехвата телекоммуникационных сигналов стоил 300-350 тыс. долларов и изготавливался исключительно компаниями – подрядчиками Пентагона, то уже сегодня, а тем более завтра ситуация иная. В настоящее время такой комплекс может быть приобретен на легальном и нелегальном рынках любым платежеспособным клиентом, включая преступные и экстремистские структуры, менее чем за 50 тыс. долларов. При этом, изготовителями таких дронов-разведчиков-наблюдателей уже сегодня являются более 700 легальных компаний по всему миру, включая страны Азии, Африки и трудноподсчитываемое число нелегальных производителей.

Также сегодня доступны для деструктивных структур передвижные наземные разведывательные комплексы, монтируемые на автомобили и маскируемые под внедорожники, минивэны, фургоны и т. п. Данные комплексы, которые без цены автомобиля можно приобрести в различных странах мира легально и на черном глобальном рынке, стоят от 15 до 30 тыс. долларов. Они позволяют не только прослушивать информацию из закрытых помещений, используя акустические эффекты, но и снимать информацию с расположенных в зоне действия комплекса компьютеров, планшетов и т. п. В 2014 г. в Великобритании преступной группировкой был заказан и использован разведывательный комплекс, который, будучи поставлен недалеко от банка-хранилища, позволял получать коды электронных банковских ячеек, снимая информацию при их открытии законопослушными клиентами.

Можно сделать прогноз, что в интервале ближайших 3-5 лет основная часть разведывательных комплексов, находящихся в руках деструктивных организаций, будет принадлежать к средствам воздушного и наземного базирования соответственно к дронам и разведывательным автомобилям. В более отдаленной перспективе следует ожидать освоение деструктивными группировками морских глубин и космического пространства.

Транспорт. Было бы удивительно, если бы преступные группировки не воспользовались наиболее быстроразвивающимся сегментом военной и гражданской робототехники, а именно роботизированными транспортными средствами. Не говоря уже о военном использовании автоматизированного транспорта для экспедиционных, эвакуационных и логистических нужд, по оценкам специалистов и бизнес-аналитиков в автомобильной промышленности, до 2020 г. не менее 30 % производимых автомобилей в развитых странах будут иметь опцию автоводителя. Вспоминая известное высказывание бывшего министра обороны США Ч. Хейгела: «Любая высокая технология имеет тройное применение – военное, гражданские и криминальное», есть все основания полагать, что наиболее активно будут применять транспортных роботов террористы и преступные синдикаты.

Применительно к террористам данный тезис не нуждается в дополнительной аргументации. Террористические структуры, в том числе, сетевого и роевого типа, уже сегодня имеют ресурсные технологические возможности, превосходящие потенциал многих государственных армий. В этой связи террористы быстро и эффективно используют все виды вооружений и техники, которые применяются в армиях Соединенных Штатов, их союзников и партнеров.

Что касается преступных транснациональных организаций, то использование транспортной робототехники позволяет решить им две важных задачи. С одной стороны, оно позволяет разнообразить каналы доставки тех или иных грузов и свести к минимуму человеческий фактор в этом процессе. Последнее крайне важно. Например, по данным американских правоохранительных структур, не менее 70 % раскрытий преступлений и срыва поставок наркотиков в Соединенные Штаты связано с успешной агентурной работой или деятельностью агентов под прикрытием. Иными словами, чем больше роботов и меньше людей участвует в преступных акциях, тем сложнее силам правопорядка внедрить в преступные организации своих людей или завербовать там агентов.

С другой стороны, использование транспортной робототехники позволяет строить принципиально новые логистические системы. Согласно правительственным и неправительственным источникам, в период 2000-2010 гг. всего 8 % наркотрафика из Мексики и других латиноамериканских стран приходилось на воздушные перевозки. В 2011-2014 гг. эта доля возросла более чем в два раза. По оценкам специалистов к 2020 г. не менее трети наркотиков будет доставляться по воздуху, прежде всего используя микродроны, летящие на небольшой высоте до 100-150 м, либо наоборот, сверхвысоких дронов большей вместительности. В обоих случаях обнаружение таких дронов будет крайне затруднительным, особенно в условиях массового использования дронов в Соединенных Штатах, как частными лицами, так и корпорациями. Если до недавнего времени более 80 % зафиксированных дронов, пересекших американо-мексиканскую границу не были идентифицированы как дроны, принадлежащих легальным организациям и частным лицам, то в ближайшем будущем ситуация коренным образом изменится. Воздух будет барражировать множество дронов, принадлежащих законопослушным субъектам.

Кроме того, появление и быстрый прогресс транспортных дронов резко расширит географию преступности, особенно в части наркотрафика, контрабанды и возможно рынка торговли человеческими органами. В настоящее время в условиях крайне затруднительной логистики из многих районов традиционного выращивания наркокультур, типа Бирмы, районов Афганистана, вовлеченных в военные действия, регионов Центральной Азии, принадлежащих постсоветскому пространству и т. п. крайне затратно доставлять наркотики. Преступным синдикатам приходится нести высокие логистические издержки, связанные со сложностью и рисками доставки.

Уже имеющиеся в настоящее время транспортные роботизированные средства воздушного, наземного и подводного базирования позволяют недорого доставить любой относительно компактный груз из любой точки мира в любую точку мира. Известно, что в 2014 г. возобновлены крупномасштабные поставки высококачественных наркотиков из районов Золотого треугольника. В логистике используются беспилотные летательные аппараты и шагающие наземные транспортные средства.

В настоящее время для транспортных средств наиболее широко используются дроны. Все чаще преступные группировки заказывают шагающие транспортные средства. Известно также о разработке недорогих, доступных для любого коммерческого пользователя подводных беспилотных роботизированных транспортных устройств.

Роботы-коммандос. Роботы-коммандос являются гибридом разведывательных и транспортных робототехнических систем, оснащенных средствами выполнения и других целевых функций. Например, такие роботы способны взбираться по вертикальным поверхностям, бесшумно проникать в закрытые помещения и т. п. До настоящего времени считалось, что такими роботами обладают специальные подразделения армий США, Великобритании и Израиля. Известно также, что близится к завершению производство аналогичных систем для вооруженных сил России, Китая и Южной Кореи.

Однако в конце 2014 г. британским тележурналистом в ходе боев между курдскими формированиями (Пешерга) с одной стороны и боевиками ИГ в окрестностях города Кабани на сирийско-турецкой границе удалось заснять двух роботов-коммандос, используемых Исламским Государ-ством. Нет сомнения, что террористические организации различной локации в ближайшие годы получат в свое распоряжение роботов-коммандос.

Также можно прогнозировать по мере снижения их стоимости использование подобных робо-тотехнических систем и преступными группами. В ближайшие годы это вряд ли произойдет, поскольку такого типа системы интересны, прежде всего, не для транснациональной, а локальной, городской, уличной преступности. Она может использовать подобных роботов для проведения грабежей, нападений на квартиры и т. п. В настоящее время каждый робот-коммандос стоит до полумиллиона долларов. Снижение цены в 10 раз, когда они станут выгодными для уличной преступности, произойдет на рубеже, либо за границей 2020 г.

Боевые роботы. Не только в электронных и печатных СМИ, но и в правительственных документах их называют «роботами-убийцами». Роботами-убийцами являются воздушные, наземные, водные и подводные системы, оснащенные боевым компонентом. До последнего времени, как правило, использование термина «робот» для этих устройств носило в подавляющем большинстве случаев некорректный характер. Вплоть до 2013 г. практически все системы, оснащенные боевым компонентом, предполагали участие человека в качестве оператора. Именно персонал в вооруженных силах США принимает решения о выборе цели и нанесении летального или нелетального удара. С 2014 г., согласно имеющимся данным, на вооружении ЦХАКАЛ (Армия обороны Израиля) поступили не боевые ААС, а боевые роботы в том терминологическом смысле, который используется в данном докладе.

Исходя из логики и истории развития вооружений, можно практически со стопроцентной вероятностью предсказать, что появление того или иного вида и типа оружия у любого внешнеполитического актора, мгновенно переводит потенциальные возможности других акторов в состояние актуализации. Т. е. после того, как одна страна ставит на вооружение новый тип боевой техники, другие страны, располагающие соответствующим технологическим потенциалом, тут же мобилизуют его для производства аналогичных типов вооружений.

В этой связи уже в ближайшие год-два следует ожидать появление полноценных боевых роботов в вооруженных силах США, некоторых стран Западной Европы, Южной Кореи. В интервале 3-5 лет – России, Китая, Бразилии, Индии и т. п.

Что касается использования боевых роботов деструктивными организованными структурами, то есть основания ожидать, что это уже произошло, либо произойдет в интервале 2-5 лет. Данная проблема имеет несколько аспектов. С одной стороны боевой робот представляет собой комбинацию обычного многофункционального робота с добавкой боевого и управляющего компонентов. Они производятся и продаются раздельно, как на легальных, так и в особенности на нелегальных рынках. Нет никаких препятствий для того, чтобы террористические, преступные и экстремистские группы наняли конструкторов, программистов, которые бы приобрели нужную универсальную роботизированную платформу и смонтировали на ней те или иные боевые компоненты. Вероятно, что в ближней перспективе подобные кустарные боевые роботы будут уступать по своим характеристикам боевым роботам, находящимся в распоряжении вооруженных сил и сил правопорядка государств. Однако в перспективе трех-семи лет можно ожидать выравнивания потенциала, возможностей и доступности боевых роботов для государственных сил и деструктивных акторов.

Боевые роботы различного базирования различаются по типам оснащения вооружением. Наиболее широкое распространение получили боевые дроны, т. е. беспилотники, вооруженные ракетами для поражения, как правило, наземных целей. В 2014 г. на вооружение пограничной службы и береговой охраны США, а также полиции нескольких штатов поступили боевые дроны, оснащенные нелетальным оружием, включая биобезопасные клеи, сети, слезоточивый газ, парализующие вещества и т. п. Поскольку также как в случае боевых дронов подобные системы могут быть созданы небольшими группами специалистов, своего рода нелегальными стартапами, то есть основания полагать, что они либо уже имеются, либо в ближайшее время окажутся в распоряжении деструкторов.

В отличие от роботов-убийц, наиболее востребованных террористами и экстремистами, подобные нелетальные боевые роботы будут взяты на вооружение в первую очередь преступными группами. Они позволяют осуществлять различного рода акции без убийства людей. В случае пресечения или раскрытия подобных акций, это без сомнения снизит сроки наказания для их организаторов и участников. Данное обстоятельство в большинстве случаев принимается во внимание организаторами преступных акций.

Подлинным кошмаром для разведывательных и правоохранительных структур всех стран мира являются боевые роботы, оснащенные биологическим и химическим оружием. Самой большой загадкой является то, что до настоящего времени такие роботы еще не были применены террористами или экстремистами на территории США, Великобритании, стран Западной Европы и Японии.

Чтобы создать боевого робота, использующего биологическое оружие, достаточно использовать производимые в настоящее время дроны сельскохозяйственного назначения, заполнив соответствующие их емкости не удобрениями, а бактериями, вирусами или химическими соединениями. Стоимость сельскохозяйственного дрона с дальностью полета до 150 км и емкостью загрузки до 50 л составляет всего 6 тыс. долларов США, а емкостью до 200 л – менее 9 тыс. Покупка такого дрона доступна не только террористической сети, но и отдельной группе фанатиков и экстремистов.

Что касается производства биологического и химического оружия, то сегодня нет никаких возможностей своевременно распознать и идентифицировать подобные процессы, организованные на распределенной основе в лабораториях американских, западноевропейских и восточноазиатских университетов и т. п. По мнению авторов доклада, это является самой большой и самой недооцененной опасностью при использовании робототехники террористами и экстремистами. В отличие от террористов и экстремистов, преступники могут использовать подобные средства для шантажа территориальных органов власти, правительств и т. п. с целью получения крупных финансовых средств.

Еще более опасным в перспективе является создание боевых роботов, вооруженных специальными техническими устройствами бесконтактного заражения программно-аппаратных блоков различного типа, установленных на военных, гражданских, транспортных и иных объектах. В 2014 г. американские и немецкие программисты и технологи сообщили о том, что им удалось создать системы заражения программных систем, даже не подключенных к интернету и другим компьютерным сетям, через оптическую и акустическую среды. Представляется, что в ближней перспективе, до 5 лет, в силу экспериментального характера подобных работ и их мгновенного засекречивания, вряд ли следует считать заслуживающей внимания вероятность оснащения подобным физико-программным оружием боевых дронов, находящихся в распоряжении деструктивных ор-ганизованностей.

Гораздо более серьезным является начавшееся с 2013 г. оснащение боевых роботов, находящихся в распоряжении преступных и террористических группировок, средствами подавления систем обнаружения и контроля технических устройств, а также биологических объектов в приграничных зонах, территориях особой охраны и т. п. Такие системы были в 2013-2014 гг. неоднократно применены против правоохранительных подразделений США на американо-мексиканской границе, структур береговой охраны в районе Флориды и Мексиканского залива, береговой охраны Италии и т. п.

Гражданские роботы. Гражданские ААС и роботы можно разделить на три типа. Во-первых, это производственные роботы, осуществляющие те или иные операции в различных секторах экономики. Во-вторых, бытовые или потребительские роботы и ААС. Они представляют собой любые технические устройства с электронными компонентами управления, как правило, подсоединенные к сети интернет. В-третьих, программно-аппаратные комплексы управления и регулирования технически сложными производственными инфраструктурными и телекоммуникационными комплексами. Они объединены термином «критические государственные, коммунальные и бизнес системы».

С первых дней человеческой истории любое орудие труда могло использоваться и использовалось для нанесения увечий или ущерба и даже убийств. В этом плане современный термин «двойные технологии» по строгим критериям носит антинаучный характер. Любая, даже простейшая технология или инструмент, могут быть использованы как по прямому назначению, так и как орудие или инструмент, задействованный в военной или криминальной деятельности. Тем более данный тезис является верным для любых технически сложных устройств, которые начали появляться в ходе Первой, и особенно Второй производственных революций. В эпоху электричества любое технически сложное устройство потенциально стало возможным использовать для противоправной деятельности в широком смысле, включая не только бытовую преступность, но и терроризм.

За последние 15 лет накоплено множество примеров использования ААС в преступной деятельности. Наиболее подробный обзор этой темы на сегодняшний день содержится в уже упомянутой фундаментальной книге бывшего высокопоставленного сотрудника правоохранительных органов М. Гудмана «Будущее преступности».

 

Тренды технологических компонентов ААС и роботов – фактор расширения возможностей их использования деструктивными группами

Как известно, любые ААС и роботы состоят из аппаратного и программного компонента. Для каждого из этих компонентов свойственны собственные тренды и тенденции изменений. К сожалению, практически все они ведут к расширению возможностей использования ААС и роботов террористами, преступниками и экстремистами. Реальность XXI века такова, что деструктивным силам с каждым годом будет все легче пользоваться плодами технологического прогресса, обращать его в свою пользу и создавать на этой основе предпосылки для превосходства над структурами созидания и силами правопорядка.

Рассмотрим основные факторы и тенденции, которые в последние 25 лет проявились в развитии аппаратных компонентов робототехники и будут действовать в течение как минимум ближайших 10-20 лет.

Закон Г. Мура. Этот фундаментальный закон, открытый ведущим разработчиком корпорации IBM Г. Муром, гласит: в течение 18 месяцев удваивается процессорная мощность компьютеров. Закон точно описывает динамику компьютерной индустрии и в настоящее время, спустя почти 20 лет после того, как он был впервые сформулирован. Более того, выяснилось, что с той или иной коррекцией по срокам он описывает динамику всех других технологических новаций, в которые в качестве компоненты входят информационные технологии. Применительно к теме настоящего доклада, закон означает, что мощность и производительность высокотехнологичных изделий, включая ААС и роботов, растет по экспоненте. Тем самым то, что было уникальным и доступным только для богатых государств еще 10 лет назад, становится доступным сегодня на бытовом уровне отдельным потребителям. Нет оснований полагать, что в ближайшем будущем, по крайней мере, на горизонте 10-15 лет этот закон перестанет действовать. Это означает, что с каждым годом у негосударственных акторов, в том числе у деструктивных групп, постоянно возрастают возможности располагать самыми совершенными технологиями, устройствами и инструментами.

Закон Безоса. В середине нулевых годов Д. Без-ос, основатель и главный владелец платформы Amazon.com, анализируя бюджет компании, установил, что цена единицы процессорных мощностей серверов падает в 2 раза в течение трех лет. После первой публикации наблюдений они были проверены на самых различных технических устройствах множеством исследователей и практиков. Было установлено, что по мере развития технологий скорость снижения цены не является постоянной, а увеличивается, хотя и неравномерно в различные периоды времени. Например, для процессорной мощности серверного обеспечения сегодня срок снижения цены в 2 раза составляет уже не 3, а 2,3 года.

В качестве другого примера можно привести снижение цены на видеокамеры, монтируемые на летательных аппаратах, исчисляемые по критерию точности распознавания. В настоящее время видеооптическое устройство, способное с высоты три километра распознать мелкое животное на земле, стоит столько же, сколько в 2007 г. видеокамера, способная распознавать с той же высоты людей или крупных животных.

Благодаря комбинированному действию законов Мура и Безоса, сегодня не только транснациональные преступные группировки, террористические сети типа Аль-Каиды, либо экстремистское разветвленное подполье могут получить в свое распоряжение самые совершенные технические средства. Ими сегодня, а тем более, завтра, могут обладать мелкие группы и даже единичные преступники, экстремисты и террористы.

Модульность. Сложившаяся в отдельных странах и международной практике система контроля над производством и оборотом высокотехнологического оружия, различного рода веществ, включая наркотики и т. п., базируется на достаточно сложном и уникальном характере оборудования, технологий, логистических и иных средств, необходимых в этих процессах. Как правило, они имели уникальный характер, используемый только в своей узкой сфере. В частности, это относится не только к производству атомного, химического и бактериологического оружия, но и даже к таким областям, как выпуск и транспортировка наркотиков, производство небольших ракетных установок, орудий и т. п.

Подлинной бедой современной технологии, которая возможно наиболее полно реализована именно в робототехнике, стал ее модульный характер. Раньше, как правило, те или иные детали и узлы для конкретного изделия изготавливались на специализированных предприятиях, входящих в систему производственной кооперации, а сборка осуществлялась на специальных заводах. Сегодня ситуация изменилась. Подавляющая часть ныне производимых ААС и роботов изготавливаются не как уникальные образцы, а собираются как своего рода композиции из различных модулей. Каждый подобный модуль применяется в ААС и роботах различного, в том числе военного, делового и потребительского назначения.

Для сборки таких высокотехнологических систем типа роботов, уже не требуются сборочные заводы и цеха индустриальной эпохи. Сборка или компоновка может быть произведена на минимальных производственных площадях при помощи достаточно простого оборудования. Некоторые роботы из стандартных модулей могут быть скомпонованы одним-двумя специалистами. В ближайшем будущем, которое измеряется не десятилетиями и пятилетками, а годами, сложится еще более парадоксальная ситуация, когда сами модули также могут изготавливаться на универсальном оборудовании при помощи загрузки в него специальных программ, содержащих исходную модель и режим обработки тех или иных материалов. Такие универсальные заводы, которые могут размещаться в несколько сотнях квадратных метров, а то и меньше, получили название «фаблабов».

Модульный характер в условиях действия законов Мура и Безоса делает робототехнику самого высокого уровня не просто доступной и недорогой для деструктивных организаций, но и крайне затрудняет, а в отдельных случаях, вероятно, делает невозможным эффективный контроль за нераспространением высокотехнологичных вооружений. Иными словами, в ближайшие 2-3 года мы окажемся в мире, в котором государственные структуры не будут обладать возможностью контролировать распространение робототехники и других высоких технологий Третьей производственной революции, которые неизбежно попадут в руки криминальных элементов, экстремистов всех мастей, в глобальные и локальные террористические группировки.

Универсальность. В предыдущем изложении указывалось, что любая высокая технология имеет тройное применение: военное, гражданское и противоправное. В этом смысле любой, самый мирный робот или высокотехнологичная потребительская ААС могут быть использованы террористами, преступниками и экстремистами.

Помимо очевидных и понятных аспектов технологических трендов, у них есть и неочевидные стороны. В рамках данного доклада хотелось бы обратить внимание на главные из них. Как бы там ни было, использование высокотехнологичных ААС и роботов, особенно боевого применения, требует от деструктивных организованностей определенных ресурсов, технологических навыков и квалификации. Предполагается, что всего этого должно быть достаточно для самостоятельного создания подобного устройства. В условиях универсального, т. е. разностороннего (как минимум трехстороннего) использования любой ААС и робототехники, от преступников, террористов и экстремистов не требуется ни ресурсов, ни технологической культуры. Им ничего не нужно производить. Достаточно завербовать в свои ряды или нанять «в слепую» за деньги специалиста, который может перехватить управление ААС или роботом и использовать его для насильственных деструктивных действий.

На сегодняшний день уже зафиксированы отнюдь не единичные случаи перехвата управления автомобилями, либо внесение нарушений в работу высокотехнологичных бытовых средств. В 2014 г. в Соединенных Штатах зарегистрирован первый судебный приговор виновному в убийстве, который в качестве орудия использовал домашнюю электронную кухонную систему.

Универсальный характер ААС и робототехники превращает любое потребительское и производственное устройство, включающее в качестве компонента электронный блок, либо являющееся ААС или роботом – в потенциальные орудия, которыми могут воспользоваться преступники, террористы и экстремисты.

Распределенный характер разработки и производства. Существенно расширяют возможности деструктивных организаций обладать потенциально опасными ААС и роботами развивающиеся тенденции в организации производства и разработки. На место устойчивых иерархически организованных корпораций прошлого все больше приходят временные, подвижные, распределенные организационные структуры настоящего. Любое технически сложное изделие можно разработать и произвести сегодня, используя кооперацию никогда ранее не взаимодействующих обособленных структурных единиц. Любой заказчик, у которого есть идея продукта и ресурсы на найм проектировщиков, конструкторов, инженеров, разработчиков и иного персонала, может произвести сегодня все, что угодно. Более того, сегодня возможна ситуация, когда одна совокупность разработает и произведет опытные изделия, а партии этого изделия, либо штучные образцы будут производить совершено другие организационные паттерны.

В прошлом это было затруднительно, а в большинстве случаев невозможно, поскольку у опытно-конструкторских, разработческих и производственных структур не было опыта постоянной смены кооперационных партнеров. Ранее все они работали в рамках жестких и стабильных кооперационных связей. С начала десятых годов текущего столетия ситуация начала стремительно меняться и сегодня подавляющее большинство коллективов способно точно в срок способны выполнять возложенные на них работы в строгом соответствии с выделенным бюджетом при соблюдении качественных и иных параметров.

К тому же в большинстве видов производства и разработки сегодня имеются специальные платформы, где заказчик может не только заказать те или иные работы или изготовление фрагментов, а также их сборку в единое целое. При этом заказчик может предварительно получить исчерпывающую информацию о дисциплине и качестве выполнения заказов теми или иными коллективами в прошлом. Не будет преувеличением сказать, что сегодня для информационно продвинутых инвесторов-заказчиков нет никаких препятствий для разработки чего угодно, где угодно и когда угодно.

К тому же в настоящее время существует несколько глобальных платформ, где заказчик может разместить заявку не только на производство, конструкторские или проектные работы, но и на проведение исследований, экспериментов и т. п. в лабораториях и опытных полигонах лучших американских, европейских и азиатских университетов, располагающих лучшим в мире оборудованием и наиболее квалифицированными кадрами исследователей и экспериментаторов.

Если заказчик чего-либо пожелает быть анонимным, то он вполне способен получить не только уникальный образец изделия, включая ААС и робота, но и партию сколь угодного размера, не потеряв при этом своей анонимности. Более того, если он опасается, что отдельные разработчики или производители поймут, что конкретно является конечным изделием, он вполне может нанять специальных, так называемых, композиционных инженеров-технологов. Они таким образом фраг-ментируют и разместят задание, что каждый отдельный разработчик и производитель не будет знать конечное назначение целостного изделия.

В этих условиях деструктивные организации, которые располагают, как правило, значительными, а в отдельных случаях огромными ресурсами, могут сегодня заказать и получить практически любые высокотехнологические изделия, включая ААС и роботов, как в единичных образцах, так и в партиях.

Анонимные рынки. Для целого класса ААС и роботов, в которых нуждаются террористы, экстремисты и преступники, нет необходимости заказывать разработку, а затем и изготовление уникальных образцов и серий ААС и роботов. В подавляющем большинстве случаев самые сложные задачи и наиболее смертоносные акции, вплоть до умерщвления сотен и даже миллионов людей, могут быть сегодня осуществлены, используя типовые, имеющиеся на рынках производственные и потребительские ААС и роботы. В лучшем случае они могут нуждаться в дополнении их одним или двумя модулями. Во многих случаях, как например, с применением биологического или химического оружия, они могут быть использованы в своем исходном виде.

В настоящее время сложились глобальные не только оффлайн, но и онлайн рынки продажи разнообразных ААС и роботов. Они представляют собой своего рода специализированный eBay. Большая часть из них расположены в интернете, а некоторые в сети Tor или аналогичных сетях.

Нельзя не отметить, что в силу того, что значительная часть высокотехнологичной робототехники разрабатывается и выпускается небольшими стартапами, эти рынки, как правило, стараются максимально уйти от государственного регулирования. Это связано не с какой-то преступной ориентацией стартаперов, а с тем, что, как показывают обследования, они крайне критично относятся к традиционным государствам. Многие из них являются убежденными сторонниками либертарианства.

В этой связи они стараются вывести не только и не столько свое производство, сколько систему продаж, а также финансы и экономику из-под государственного контроля, учета и регулирования. В силу этого, основные торговые технологические площадки, включая площадки по продаже дронов, производственных и потребительских роботов, транспортных ААС предусматривают возможность анонимности покупателей, приобретение изделий не только за валюты различных стран, но и за биткойны и другие криптовалюты. Плюс, большая часть этих площадок размещена в доменных зонах Каймановых островов, Науру, Исландии и т. п., которые не предусматривают какой-либо отчетности по товарным сделкам.

Тем самым открываются крайне благоприятные возможности приобретать стандартные и уникальные ААС и роботы анонимно, без фиксации сделки. Понятно, что это предельно привлекательно для террористических организаций, преступных группировок и экстремистских сообществ. С учетом эволюции коммуникационных сетей, которые в перспективе будут предусматривать появление вместо одного интернета множество различных, в том числе скрытых сетей, с каждым годом будет ослабевать международный и государственный контроль за высокотехнологичными рынками и регистрацией сделок купли-продажи роботов и ААС.

 

Тренды программных компонентов ААС и роботов – фактор расширения возможностей их использования деструктивными организациями

Основные тенденции развития программных решений и разработок, а также алгоритмических вычислений расширяют возможности использования террористами, экстремистами и преступниками достижений программной инженерии и вычислительных разработок.

Открытый код. С каждым годом доля программного обеспечения, написанного открытым кодом, постоянно и неуклонно увеличивается. После успеха линуксоподобных решений, во многих сферах превзошедших лицензированное программное обеспечение Microsoft, Oracle и других ведущих компьютерных компаний, открытый программный код стал повсеместным стандартом. Не случайно, что наиболее продвинутые решения в сфере обработки Больших Данных написаны открытым программным кодом. Если еще несколько лет назад открытый программный код, как правило, использовался для создания деловых и потребительских программ и сервисов, то в десятые годы ситуация изменилась.

На основе открытого программного кода разрабатывается подавляющая часть программных решений для «интернета всего». В контексте доклада особенно важно использование открытого кода для ААС и роботов как в части софта, обеспечивающего функционирование аппаратной части этих систем, так и для функциональных программ. Кроме того, в последние годы открытый программный код из деловой и потребительской сфер стал проникать в государственные программно-архитектурные решения и более того, в софт для военных, разведки и правоохранительных органов. Например, весь полицейский софт в таких странах, как Франция, Италия, Испания написан на основе открытого программного кода.

В Соединенных Штатах в последние годы открытый программный код положен в основу программных решений для полиции 23 штатов. Более того, открытые решения в качестве базиса все шире используются национальным разведывательным сообществом и вооруженными силами США. Частично это связано с требованиями экономии бюджета и сокращением ассигнований в Америке и Европе на оборону и полицейские силы. С другой стороны, решения на основе открытого программного кода позволяют привлечь к работе над программами и сервисами гораздо более широкий круг программистов и разработчиков, чем прежде.

Однако при всех функциональных и ресурсных преимуществах использования открытого кода, он создает дополнительные возможности для деструктивных сил. Они могут использовать открытый код точно таким же образом, как его используют вооруженные силы, разведка, полиция и т. п.

Это особенно важно в таких продвинутых сферах, как софт для ААС и роботов. Однако этим не исчерпываются возможности сил зла. Еще большая угроза связана с тем, что знания и понимание тонкостей открытого кода, используемого при создании различных решений в сфере интернета вещей, ААС и роботов облегчает для террористов, преступников и экстремистов перехват управления ими и использование потребительских, деловых и военных систем в собственных целях.

Ошибки и уязвимости. Как свидетельствуют многочисленные независимые исследования, происходит экспоненциальное нарастание длины программного кода, используемого практически во всех современных решениях. Чем длиннее код, тем больше ошибок. Нарастание числа ошибок и уязвимостей связано с падением качества программистского труда вследствие превышения спроса над его предложением. Наконец, нарастающее число ошибок в программном коде является следствием практически повсеместной ориентации на более простое, экономичное, но при этом менее эффективное объектно-ориентированное программирование в ущерб функциональному.

В результате, практически во всех программах и сервисах содержится все возрастающее число ошибок, порождающих уязвимости, наличие дыр, незащищенность фрагментов программы и т. п. Особенно это характерно для интернета вещей и программных решений, ориентированных на ААС и робототехнику. Взрывной рост потребности в такого рода программах удовлетворяется все менее квалифицированными программистами и все большим числом фирм и компаний, в которых отсутствуют отлаженные системы управления разработками и контроля за безопасностью и сраба-тываемостью программ и решений.

Все умножающееся число ошибок и порождаемых ими уязвимостей в программах для ААС и роботов, а также разнообразных устройств, подключенных к интернету, усугубляется благодаря незащищенности систем коммуникаций вещей, автономных систем, роботов с различного рода сетями, прежде всего, интернетом. Согласно опубликованным в 2014 г. правительством США данным, более 85 % бытовых (потребительских) и почти 70 % производственных (деловых) устройств, приборов, оборудования, ААС не имеют какой-либо защиты от перехвата и модификации электронных сигналов.

Еще более опасные цифры всплыли на слушаниях в Конгрессе США в 2014 г. при обсуждении вопросов национальной безопасности. Ряд независимых экспертов и компаний, привлеченных Конгрессом к изучению проблемы защищенности каналов связи робототехники, находящейся в распоряжении вооруженных сил США, выяснили, что как минимум половина, а скорее всего чуть менее двух третей сложнейших технологических ААС и продвинутых роботов, включая смертоносные дро-ны и т. п. обладают защитой, которая была преодолена специалистами привлеченных компаний по проникновению (белыми хакерами). Фактически это означает, что значительная часть военного, а тем более полицейского потенциала США в сфере роботов и ААС может быть мобилизована деструктивными организациями, и прежде всего террористическими сетями и экстремистскими группами.

Данные цифры звучат особенно угрожающе в связи с тем, что к 2020 г. предполагается довести число роботов до 2,8 на одного действующего в полевых условиях американского военнослужащего. Иными словами, на наших глазах происходит роботизация армии, а вслед за ней и полиции Соединенных Штатов. При сохранении сегодняшнего положения с уязвимостями, эти роботизированные армия и полиция могут быть использованы не во благо национальной безопасности, а против нее.

Тотальная оцифровка. В течение последних 15 лет происходила и происходит тотальная оцифровка всей бумажной информации, включая различного рода персональные данные, онлайн сведения и т. п. В настоящее время помимо федеральных органов в Соединенных Штатах существует несколько крупнейших дата-брокеров, хранящих огромные массивы данных на индивидуумов и компании.

Может возникнуть вопрос: какое отношение имеют большие или персональные данные к теме ААС и робототехники. До последних лет прямой связи не было. Все изменилось, начиная с 2013 г., когда целый ряд крупных компаний начали производить ААС и роботов, ориентированных на пер-сонализацию, для которой используются цифровые данные. Пока это дорогое удовольствие. Его могут себе позволить немногие американцы, а также компании, заинтересованные в безлюдных технологиях. Но в ближайшем будущем положение будет меняться, и соответственно круг клиентов таких персонифицированных решений будет непрерывно расширяться.

В условиях, когда любой платежеспособный покупатель может приобрести базу данных у дата-брокеров, это открывает дополнительные возможности для перехвата управления такого рода персонифицированными роботами и ААС. Поскольку подобные устройства в ближайшие 2-4 года будут находиться в распоряжении американской и европейской элиты, то они могут стать для преступников и террористов инструментом для проведения самых различных операций, начиная от шпионажа и шантажа до убийств.

Распределенная память. Если в первые 25 лет развития робототехники каждое устройство обладало собственным аппаратно-программным блоком, позволяющим выполнять соответствующие назначению функциональные действия и операции, то в настоящее время картина стремительно меняется. Причиной перемен стали три информационных технологий, которые взрывным образом развиваются в XXI веке. Прежде всего, речь идет о так называемом машинном обучении. В рамках этого обучения программа оснащается модулем обратной связи, который фиксирует несовершенство действий в результате недостатков в программном коде и автоматически совершенствует этот программный код.

Вторым фактором стали облачные вычисления. Причем, специалисты в области информационных технологий единодушно высказывают мнение, что этот процесс будет продолжаться и в будущем. Он предполагает, что программно-аппаратный комплекс все большую часть вычислений будет проводить на удаленных облачных серверах, выполняющих наиболее сложные, ресурсоемкие операции. Это означает превращение не только обычных потребительских компьютеров, но и ААС и роботов в терминалы, программный код которых поддерживает только элементарные операции и функционирование самого устройства. Собственно вычисления будут происходить удаленно на мощных серверах, которые называют облаками.

Наконец, третий фактор появления распределенной памяти связан с превращением роботов, даже наиболее сложных, из одиночных образцов в серийные изделия.

Начиная с 2011 г. в исследовательско-экспериментальном порядке, а с 2014 г. – на уровне массового изготовления для робототехнических систем стала использоваться распределенная память. Это означает, что программно-аппаратным модулем робота является сегодня не полноценный микрокомпьютер, а система датчиков и устройств, с программным ядром, обеспечивающим передачу данных с датчиков, а также контроль за выполнением функций роботов. Все же вычислительное ядро, включая память, переносится на единый для группы роботов или даже серии роботов, сервер. На нем расположено также и коллективная распределенная память, фиксирующая работу всех устройств и качество выполняемых функций. Перенос в облако вычислительного ядра и памяти позволяет наилучшим образом осуществлять машинное обучение, аккумулируя опыт, ошибки и достижения всех периферийных устройств, в качестве которых выступают ААС и роботы.

Чтобы объяснить это для непрофессионалов в сфере информационных технологий, приведем пример компании Google. Она первой преступила к созданию системы распределенной памяти массовых ААС, а по сути роботов, чья численность насчитывает более полутора тысяч. Речь идет о Google-мобилях, представляющих собой симбиоз автомобиля и робота-водителя. Компания создала систему, по которой информация от каждого автомобиля относительно выполняемых им маневров, успешности, либо напротив неудач в избегании аварийных ситуаций и даже столкновений, относительно регулирования расхода топлива, поступает в единый для всех Google-мобилей облачный вычислительно-мемориальный (от слова «память») центр – линейку серверов. Этот облачный центр на примере ошибок, либо напротив, удачных решений каждого автомобиля, организует машинное обучение всей серии, повышая тем самым эффективность и экономичность работы каждого из Google-мобилей, являющихся по существу роботом на колесах.

Как любое технологическое решение, распределенная память имеет не только светлую, но и темную сторону. Она состоит в том, что в условиях облачных вычислений обязательным является подключение ААС или робота к сети интернет, либо иным альтернативным сетям. Как многократно доказано в последние годы, подавляющее большинство всех подобных соединений либо являются вообще незащищенными, либо слабозащищенными. Соответственно они могут быть вскрыты хакерами высокой, но не высочайшей квалификации.

С учетом того, что на глобальном рынке труда нет дефицита предложений от хакеров, которые готовы выполнить любую, в том числе противоправную работу, для любого, в том числе анонимного заказчика, развитие распределенной памяти скачкообразно расширяет возможности использования роботов и ААС преступными, террористическими и экстремистскими группами. Они могут не только заниматься точечными преступлениями, либо экстремистскими актами воздействия, но и массовым террором, подменяя одни данные с датчиков роботов, передаваемые в облачные вычислительно-мемориальные центры на иные, ошибочные. Последствием такой ситуации могут стать массовые неправильные решения роботов.

Программный контрафакт. Последние 25 лет в США с такой же неумолимостью, как закон Мура, действует закон Августина. Этот закон гласит, что стоимость единицы мощности вооружений, произведенных традиционными подрядчиками Пентагона, растет не линейно, а экспоненциально. В условиях необходимости соблюдения режима жесткой экономии, министерство обороны США реализует Третью инициативу инвестиций и инноваций. Помимо прочего, эта инициатива предусматривает широкое привлечение к выполнению оборонных заказов небольших компаний, стартапов и даже отдельных неформальных групп. Такие же процессы происходят применительно к производству техники и программного обеспечения для ФБР, полиции штатов и т. п.

Новый подход без сомнения экономичен и способствует привлечению наиболее талантливых разработчиков, программистов, конструкторов и инженеров к укреплению национальной безопасности Америки. Сходные процессы имеют место, возможно не в столь выраженной степени, и в большинстве стран – союзников США по НАТО. Однако демократизации разработки программного обеспечения, в том числе для ААС и робототехники военного и правоохранительного назначения имеет и оборотную сторону.

По признанию отставных представителей разведывательного сообщества США, сегодня нет никаких гарантий, более того, есть высокая вероятность, что в число разработчиков программных решений для структур, связанных с национальной безопасностью, могут войти компании, так или иначе возможно через несколько прокладок, зависящие от преступников, экстремистов, террористов и стоящих за ними в отдельных случаях неответственных государств. Более того, есть некоторые основания полагать, что уже имеет место процесс инфильтрации в IT-компании программистов и разработчиков, являющихся членами или сочувствующими экстремистским группам, террористическим организациям и входящим в преступные группировки. При наличии таких агентов даже добропорядочные компании могут быть использованы деструктивными организациями втемную. Конечным итогом этого может стать ситуация, когда деструктивные организации будут знать не только уязвимые места, бэкдоры и ошибки в программном обеспечении ААС и роботов, используемых в системе национальной безопасности Америки и ее партнеров, но и потенциально смогут либо дистанционно выводить их из строя, либо даже перехватывать контроль над ними.

Данные перспективы становятся особо угрожающими в ситуации, когда многие электронные компоненты ААС и роботов использованных в системе национальной безопасности и сил правопорядка на всех уровнях, изготавливаются не в США и странах – союзниках и партнерах, а на Тайване, чьи граждане и компании имеют особые отношения с Китаем, а также в странах Юго-Восточной Азии, а в последние годы – в Мексике и Бразилии. Такое положение открывает перспективы для встраивания программных закладок, бэкдоров и т. п. даже не на уровне функциональных программ, а на уровне софта, обеспечивающего работу электронных и других аппаратных компонентов ААС и роботов. Учитывая слабую защищенность каналов связи и отсутствие повседневного и массового контроля над встроенными в электронные компоненты программными решениями, данное обстоятельство является серьезным усугубляющим фактором, значительно увеличивающим и без того широкие возможности использования ААС и робототехники деструкторами.

Нейронные сетки. На наших глазах происходит подлинная программистская революция. На место традиционных программ, написанных в линейной парадигме, приходят нейронные сетки или ней-ропрограммирование. Оно зародилось еще в прошлом веке. Суть этого направления состоит в попытке вычислительными средствами эмулировать принципы работы человеческого мозга, состоящего из нейронов, синапсов и связей между ними.

Если вплоть до десятых годов программисты смогли разработать элементарные, как правило, двух-трехслойные сетки с ограниченными возможностями обучения, то в последние годы произошел прорыв. Он связан со скачкообразным наращиванием мощности и удешевлением процессоров, появлением принципиально новых алгоритмов машинного обучения и использованием для создания алгоритмов не традиционной математики, базирующейся на теории множеств, а иных, альтернативных разделов математики, включая теорию категорий, теорию абстрактных оснований математики и т. п. Это позволило практически создавать многослойные сетки, способные не только к самообучению в рамках машинного обучения, но и к самомодификации, т. е. к автосовершенствованию по критерию выбранной функции, ради которой создана программа. (Например, распознавание фотографий по фрагментам или нечетким изображениям, выделение паттернов движения курсов валют, акций, фьючерсов и т. п. – пояснение переводчика).

В настоящее время глубокие нейронные сетки являются достаточно дорогим удовольствием и наиболее широко используются в разведывательном, военном и сложном аналитическом софте различного прикладного назначения.

Возникает вопрос: каким же образом революция в области нейрокомпьютинга расширяет возможности деструкторов? Чтобы ответить на этот вопрос, надо принять во внимание, по меньшей мере, три обстоятельства.

Во-первых, сегодня данная тема находится на стыке науки и практики. Соответственно, все основные работы, обеспечивающие прогресс глубоких нейронных сеток, публикуются в открытой печати. Как любые научные работы они доступны не только для добропорядочных исследователей, но и тех, кто связан с деструкторами.

Во-вторых, во времена дисквалификации и деградации среднего уровня программистов, которые стремятся к овладению все более простыми языками, требующимися для написания различного рода мобильных приложений, создания сайтов и т. п., лишь люди, обладающие очень хорошим математическим образованием и серьезными программистскими навыками способны к алгоритмизации математических идей и расчетов и созданию на этой основе прикладных нейрокомпьютерных программ. Положение дел таково, что, несмотря на то, что подавляющая часть учебных заведений, способных дать необходимый уровень математической подготовки для нейрокомпьютинга, расположены в США, Канаде, Великобритании, Австралии, Японии, Южной Корее и России, студенты, которые учатся в соответствующих учебных заведениях упомянутых выше стран, за исключением Японии и России, в значительной степени являются не гражданами страны по рождению, а иммигрантами, либо лицами, приехавшими на учебу. Они, во все возрастающем числе, являются уроженцами регионов, где сильно влияние террористов, экстремистов, преступных синдикатов, а также из стран, правительства которых квалифицируются как злонамеренные или недостаточно ответственные. Не будет преувеличением сказать, что эти молодые люди находятся в поле зрения деструктивных организаций и разведок враждебных государств, и соответственно могут быть использованы ими не только для получения информации, но и в других, более зловещих целях.

В-третьих, в мире наблюдается острый дефицит разработчиков и программистов глубоких нейронных сеток. Поэтому даже компьютерные гиганты, не говоря уже о стартапах и иных компаниях-разработчиках, не могут позволить себе роскошь вести отбор персонала по множеству критериев, включая обращение в различного рода федеральные правоохранительные базы и т. п. Сегодня на этом рынке труда не компании выбирают разработчиков, а разработчики выбирают компании. Поэтому государственные, корпоративные службы безопасности и кадров не выполняют свою функцию жесткого фильтра против проникновения в компанию агентов-деструкторов. Более того, анализируя тенденцию последних 3-4 лет между потребностью федеральных и корпоративных заказчиков в решениях на основе глубоких нейронных сетей и динамику разработчиков, способных участвовать в разработке архитектуры и программных решений все более расходятся. Соответственно отбор будет все менее жестким.

Принимая во внимание, что, по оценкам математиков ведущих американских университетов, глубокие нейронные сетки в процессе своего развития уже на рубеже десятых-двадцатых годов превратятся в саморазвивающиеся программные комплексы, есть основания полагать, что именно сюда будет направлено главное внимание деструкторов в сфере программного обеспечения. Практически все эксперты в области ААС и робототехники уверены, что прогресс в программном обеспечении роботов связан именно с глубокими нейронными сетками и нейрокомпьютингом.

Экспертные системы и слабый искусственный интеллект. В последние год-два взрывными темпами растут инвестиции в стартапы и компании, занимающиеся разработками «искусственного интеллекта». Однако, представляется, что данный термин на сегодняшний день используется скорее как своеобразный бренд, лейбл, если не сказать – рекламный слоган. Поведенческие науки, когнитивные исследования, науки о сознании накопили недостаточно данных, чтобы с уверенностью на подлинно научном уровне определить, чем является человеческий интеллект. Соответственно вряд ли можно в строгом научном плане говорить об искусственном интеллекте.

Более предпочтительным, по крайней мере, на ближайшие 2-3 года, представляется использование термина «сложные многофункциональные экспертные системы». Наиболее яркий и известный всем пример подобной системы – это программно-аппаратный комплекс компании IBM Watson. Если в первой своей реинкарнации, продемонстрированной по национальному телевидению, он носил специализированный характер и представлял собой игровую экспертную систему, то затем были созданы специализированные экспертные системы по онкологическим и сердечнососудистым заболеваниям и решению задач помощи линейной полиции в крупных американских городах.

В настоящее время компания IBM, частично приоткрыв Watson через систему API, и представляя разработчикам возможность создавать разно-функциональные и разнопредметные приложения, ведет дело к созданию универсальной экспертной системы. Известно, что такие же работы ведутся в Google, Oracle, Microsoft и др.

Нельзя не отметить, что создание специализированных, а тем более универсальных сложных экспертных систем – это дорогое удовольствие. Известно, что на проект Watson IBM затратило более 2 млрд. долларов. Поэтому IBM уже объявило о том, что начиная с 2017 г. она будет продавать программно-аппаратные комплексы Watson следующих поколений, так же как сегодня продаются мощные сервера и серверные линейки. Законы рынка диктуют, что если одна из компаний приступила к коммерциализации своих разработок, то и другие компании в этой сфере будут стремиться как можно скорее предоставить свои аналогичные изделия платежеспособным потребителям. По прогнозам в ближайшие 3-4 года любое платежеспособное лицо сможет приобрести универсальную, либо сложноспециализированную экспертную систему, как самодостаточный программно-аппаратный комплекс.

Не вызывает сомнений, что располагающие поистине неограниченными финансовыми ресурсами транснациональные преступные группировки, экономически мощные террористические организации, типа Исламского Государства, и экстремистские группы, за спиной которых зачастую стоят неответственные государства, сразу же после выхода высокоинтеллектуальных экспертных систем на рынок, заполучат их. Этому дополнительно будет способствовать хорошо отлаженная ныне практика создания различного рода подставных компаний, анонимных трастов, венчурных фондов, специализированных фирм по поглощению разоряющихся компаний и т. п. «Слабый искусственный интеллект» неминуемо до конца десятых годов попадет в руки деструктивных органи-зованностей, что намного увеличит их могущество и возможности.

 

Угроза использования ААС, робототехники и информационных технологий деструктивными организациями

Расширяющиеся возможности использования деструктивными организациями достижений информационных технологий, плодов Третьей производственной революции, в том числе ААС и робототехники в условиях системного кризиса глобального хозяйства, социума и политикума создают новые неотвратимые угрозы со стороны террористов, преступников и экстремистов.

Детальный анализ с использованием как количественных, так и когнитивных методов позволил выделить наиболее опасные и труднопарируемые угрозы. При этом не ставилась задача их ранжирования. Ранжирование угроз зависит от конкретной ситуации в тот или иной период времени как в глобальных масштабах, так и в разрезе стран и отдельных регионов.

Ослабление карающей силы закона. Развитие высоких технологий, и в частности ААС и робототехники, базирующихся на информационных решениях, с каждым годом все сильнее подрывает действенность закона, его карающую силу, особенно в развитых государствах.

Действенность закона прямо зависит не только от справедливости суда и соразмерности преступления и наказания, но и от неотвратимости карающих мер за те или иные правонарушения. Однако цифры показывают, что уже сегодня, а тем более завтра, у высокотехнологичных, прежде всего компьютерных и робототехнических преступников все больше шансов оставаться безнаказанными.

В первую очередь это связано с недостатками в работе различного рода правоохранительных органов – полиции, контрразведки, антитеррористических подразделений. Согласно независимо подтвержденным цифрам из официальных и неофициальных источников, средний процент раскрываемости преступлений в 2014 г. в медианных по уровню правонарушений районах крупных городов США составлял более 70 %. В то же время процент раскрываемости высокотехнологичных, в своей массе компьютерных, преступлений в этих же городах – около 11 %. Т. е. компьютерный преступник имеет в 7 раз меньше шансов понести наказание за свое правонарушение, чем преступник, если можно так выразиться, традиционный.

Дополнительно есть данные о том, что полиция старается не открывать дела по заявлениям, связанным с компьютерными преступлениями, уговаривая заявителей отказаться от них. В качестве аргумента приводятся соображения, что слишком мало шансов, что преступление будет раскрыто, а преступники наказаны. Согласно экспертным оценкам некоторых действующих и бывших работников полиции крупных американских городов, число непринятых или отозванных заявлений в 2-3 раза превышает число дел, принятых к рассмотрению. С учетом этой цифры оказывается, что у преступников, использующих высокие технологии, включая ААС и робототехнику, почти в 20 раз больше шансов быть непойманным, чем пойманным. Естественно это порождает у преступников уверенность в собственной безопасности и одновременно деморализует правоохранительные органы и общество.

Причин такой ситуации достаточно много. Главными из них являются гораздо худшая оснащенность правоохранительных органов программно-аппаратными средствами, более низкий уровень квалификации в сфере информационных технологий, объективные затруднения, связанные со сбором доказательств, а также юрисдикционный характер деятельности правоохранительных органов в ситуации межрегиональной и трансграничной высокотехнологической преступности.

Вторая причина, ведущая к ослаблению закона, связана с принципиально различной ситуацией в сфере обеспечения безопасности в реальном мире и киберсреде. Как известно, ААС и роботы в подавляющей своей части связаны между собой и с центральными серверами через сеть, в основном – интернет. Также известно, что коммуникационные решения для интернета вещей, в который включаются роботы, отличаются незащищенностью. Они, как правило, базируются на открытых протоколах и слабо защищенной шифрованной связи, которая без труда подвержена взлому. Иными словами, если традиционные бытовые устройства, станки, производственные линии находятся под защитой, будучи отделенными от внешнего пространства физическими препятствиями, то вполне физические объекты, к которым относятся роботы и ААС, могут выполнять свои функции только благодаря наличию у них программного обеспечения и в подавляющем большинстве случаев, внешнего телекоммуникационного канала. А здесь, по сути, никаких препятствий и ограничений не существует. Нельзя требовать соблюдения и исполнения закона в среде, которую нельзя защитить. Это нонсенс.

Любые принимаемые законодателями меры и новые правовые акты, чем дальше, тем больше будут повисать в воздухе, и представлять собой не руководство к действию, а ненужные тексты. Это происходит вследствие того, что в цифровой среде, в отличие от реального мира, не существует технологической инфраструктуры соблюдения закона и обеспечения его действия.

Дело зашло сегодня столь далеко, что даже не подключенные к интернету, а замкнутые на хорошо защищенные корпоративные сети роботы могут стать орудием, а в каком-то смысле и субъектом преступления. В 2014 г. в США было впервые раскрыто преступление, которое с известной долей преувеличения осуществил не человек, а робот. Причем в сфере не физического воздействия, а кражи интеллектуальной собственности. В одной из крупнейших автомобильных корпораций был разработан и испытан принципиально новый вид аккумуляторов, позволяющий преодолеть известное ограничение подзарядки для электромобилей. Вскоре после этого выяснилось, что все патентные документы и конструкторская документация этого ключевого изобретения, которое по оценкам компании могло принести ей несколько миллиардов долларов, оказалась в распоряжении одного из азиатских автопроизводителей. Спустя несколько месяцев в результате цепи случайностей, а не целенаправленного расследования, выяснилось, что преступная группа вступила в сговор с одним из работников компании, производящей элемент управляющего блока роботов, используемых на сборочных линиях автомобильной компании. В аппаратную часть было заложено шпионское программное обеспечение, которое согласно программе было активировано, когда робот был собран из модулей, поставлен в американскую компанию-производитель и приступил к работе. После этого, благодаря роботу, заключенное в нем шпионское программное обеспечение проникло в корпоративную сеть, с которой был соединен робот. В корпоративной сети программное обеспечение распознало файл с нужной документацией. После чего, используя опять же робота, оно активировало второго трояна, который создал уязвимость корпоративной сети изнутри, использованную для отправки нужных файлов преступной группе. Преступная группа передала нужные файлы заказчику – азиатскому автопроизводителю.

Дополнительной сложностью в соблюдении законов в части раскрытия преступлений самого различного типа – от убийств до кражи интеллектуальной собственности – создает то, что любые высокотехнологичные преступления на порядки легче, чем преступления в обычном мире, замаскировать под техногенные катастрофы, технологические отказы, неисправности и т. п.

Известно, что еще с XVII века яды использовались преступниками как орудие убийства, маскирующие насильственную смерть под различного рода желудочные и сердечные заболевания. В XX веке в качестве орудия убийства применялись автомобили, самолеты с целенаправленно поврежденными узлами и т. п. В этом смысле использование интернета вещей, ААС, роботов и т. п. в криминальных целях не представляет собой ничего принципиально нового.

Однако кардинальное различие с прошлым заключается в том, что раньше подобные виды преступлений требовали уникальных навыков, значительных расходов ресурсов и осуществлялись спецслужбами государств, либо крупнейшими преступными синдикатами. Сегодня для технологических преступлений, вплоть до убийств, не требуется никаких навыков. Достаточно заказать у программистов средней квалификации перепрограммирование того или иного управляющего модуля, либо взлом программы. Известно, что когда что-то происходит массово и не носит уникального характера, оно не только подавляющим большинством обычных людей, но и правоохранителей, воспринимается как естественный процесс.

Реализация закона С. Лема. В 60-е гг. прошлого века всемирно известный фантаст и мыслитель С. Лем сформулировал и подкрепил эмпирическим материалом тезис, который получил название закона С. Лема. Закон имеет различные формулировки, но общий его смысл состоит в том, что разрушительная мощь, включая возможности нанесения увечий и даже убийства, малой группы и даже отдельного человека постоянно нарастает. С конца XIX века она увеличивается по экспоненте. И до Лема было понятно, что воин с мечом может поразить меньше людей, чем солдат с винтовкой, а тем более, человек, имеющий пулемет. В течение последних 50 лет тенденция, замеченная С. Лемом, проявила себя в полной мере. На сегодняшний день экспоненциальный характер закона Лема приближается к своей предельной форме.

Уже сегодня небольшая группа, используя доступные на коммерческой основе ресурсы, общей стоимостью менее 250 тыс. долларов США, может, комбинируя робота в виде дрона и бактериологическое оружие, погубить население города с населением несколько миллионов человек.

По оценкам экспертов в ближайшие 3-5 лет на основе достижений синтетической биологии, удастся получить биологически активные структуры, способные избирательно уничтожать всех людей на земле, имеющих тот или иной генетический или иной маркер. Если раньше крупные операции требовали значительных ресурсов и существования мощных организационных структур, то в буквальном смысле завтра глобальные преступные и террористические акты сможет провести если не один человек, то группа из 3-5 единомышленников. Ни разведывательные сообщества, ни правоохранительные органы практически всех стран мира не умеют и не знают, как бороться с такими микровысокотехнологичными деструктивными группами. Вся их техника, технологии работы, организационные процедуры, кадровые структуры заточены под другие виды терроризма, преступности и экстремизма. Между тем, именно такие малые и сверхмалые группы, действуя либо самостоятельно, либо как периферийные части деструктивных стай, станут уже в ближайшие годы главной угрозой не только для отдельных городов и стран, но и глобальной цивилизации в целом.

Интеллектуализация «роботов-убийц». Первые военные роботы появились в 70-х гг. прошлого века в Соединенных Штатах и СССР. Они выполняли преимущественно разведывательные функции. Таким образом, в военное дело роботы проникли раньше, чем в промышленность и другие гражданские отрасли. Следующий решающий прорыв был сделан уже в нашем столетии в Соединенных Штатах и Израиле. Он связан с появлением специализированных и универсальных воздушных роботов или дронов. За последние 10-12 лет дроны, а вслед за ними наземные, а в последние годы водные и подводные роботы преимущественно военного применения, проделали заметную эволюцию. В настоящее время они используются как непосредственно в военных действиях, будучи оснащенными средствами огневого поражения, так и для вспомогательных операций и разведки. По имеющимся данным роботы используются армиями более чем 30 стран мира. Из армии патрульные и транспортные роботы проникли в полицию. Полиция более чем 15 государств сегодня оснащена дронами и надводными патрулирующими роботами.

Стремительная роботизация вооруженных сил и полиции уже в середине нулевых годов привела к напряженным дискуссиям не только среди специалистов и общественности, но и в военных и политических кругах относительно допустимых границ интеллектуализации боевых роботов. До настоящего времени боевые роботы в Соединенных Штатах, Великобритании, других западноевропейских странах в обязательном порядке на стадии нанесения огневого удара находятся под управлением удаленных операторов. Окончательное решение о применении ракет, других средств огневого поражения принимают не программно-аппаратные комплексы, а удаленные операторы.

Существует все расширяющаяся коалиция стран, которая выступает за заключение международных соглашений относительно применения робототехники в военных действиях. В соответствующих инициативах, которые обсуждаются на уровне ООН, предусматривается не допускать производства, а тем более применения роботов, где окончательное решение по применению огневых и иных средств летального поражения принимает не человек, а программно-аппаратные комплексы.

К сожалению, беспристрастный анализ показывает, что в случае подобной законодательной инициативы даже при ее принятии и подписании соответствующего договора основными державами, располагающими наиболее мощными армиями, фактически соглашение выполняться не будет. Террористы, преступники и экстремисты действуют вне правового поля, нарушая любые законы и международные нормы. Это не значит, что не нужны законы и нормы. Но законы и нормы будут действовать лишь в том случае, если обладают механизмом реализации и контроля за исполнением. В случае высокоинтеллектуальных боевых роботов, или, как их именуют в СМИ, «роботов-убийц» такие механизмы не только отсутствуют, но и невозможны в принципе.

Причина невозможности лежит не в плоскости права, а связана с логикой развития технологий. Господствующими тенденциями развития робототехники являются повышение автономности этих систем, их универсализация и главное, модульный способ производства. На практике это означает, что уже сегодня, любой сложный универсальный робот предполагает наличие блока полностью автономного управления. Т. е. роботы содержат аппаратную часть и программные средства, позволяющие им в неблагоприятных средах осуществлять любые операции и действия без контакта с удаленным человеком-оператором. Не существует каких-либо сложностей для того, чтобы дополнить универсального сложного робота огневым модулем и дополнительным программным компонентом, управляющим этим модулем.

В ближайшие годы преступникам, террористам и экстремистам даже не потребуется производить собственных боевых роботов. Достаточно будет приобрести предлагаемый коммерческим пользователям высокавтономный универсальный робот и внести в него определенные конструкционные и программные доработки.

Кроме того, в настоящее время сложные универсальные робототехнические системы, находящиеся на вооружении армии США без труда могут быть доведены до уровня полностью автоматизированных робототехнических систем, включая принятие решений и применение оружия. В условиях, когда даже традиционные террористические организации, не отличающиеся высоким техническим уровнем, такие как Талибан, имеют на своем счету несколько перехваченных и посаженных дронов, угроза захвата сложных систем становится весьма реальной. Более того, первые два подобных случая уже произошли. Иранским хакерам, представляющим КСИР, удалось перехватить управление и посадить на территории Ирана два самых совершенных универсальных боевых американских дрона, проводивших испытательные полеты вблизи иранской границы.

Приведенные примеры наглядно свидетельствуют, что даже не сверхпродвинутые преступные синдикаты, а традиционные террористы могут завладеть сложными робототехническими системами и, заплатив относительно небольшие деньги специалистам из развитых стран, превратить захваченные аппараты в полноценных роботов-убийц.

В 2013-2014 гг. в различных странах мира, прежде всего, в Соединенных Штатах и Израиле, были проведены исследования на основе информации датчиков дронов, которые участвовали в испытательных боях. Для этих боев дроны, управляемые человеком, были предоставлены вооруженными силами США, а ЦХАКАЛ предоставил впервые в мире поступившие на вооружение в армию полноценные дроны-убийцы. В 2014 г. израильская армия первой из всех армий мира начала получать воздушные и наземные дроны, которые применяют боевые поражающие, в том числе летальные, средства не по решению человека, а в соответствии с показаниями программно-аппаратного блока. В результате учебных боев израильские роботы-убийцы в 19 из 20 схваток сбили американские дроны. В одной схватке робот ЦХАКАЛ упал вследствие собственных технических нарушений.

Исходя из результатов испытаний, а также экспериментов по сравнению быстроты реакции человека с роботизированными устройствами на фиксированные раздражители было неопровержимо установлено, что роботы-убийцы имеют значительную фору по времени по сравнению с роботами, управляемыми удаленным наблюдателем.

Отсюда с неизбежностью следует вывод о том, что, если вооруженные силы и структуры правопорядка государств будут соблюдать законы о роботах-убийцах, а деструктивные организации будут игнорировать их, то победа в противоборстве боевых робототехнических систем останется за террористами, преступниками и экстремистами. Это повлечет за собой труднопредсказуемые последствия.

В условиях наличия у террористов, экстремистов и преступников значительных ресурсов и все расширяющихся возможностей, интеллектуализация роботов-убийц становится неизбежной. При этом очевидно, что сам по себе процесс использования армией и полицией высокоинтеллектуальных роботов-убийц будет создавать дополнительные риски для их захвата деструкторами. Однако, к сожалению, и в этой области, также как во многих других выхода нет и вне зависимости от чьих-то желаний, добрых намерений и т. п. гонка интеллектуальных роботов будет продолжаться.

Технологизация уличной и неорганизованной преступности. Традиционно использование сложных технических устройств и приспособлений являлось прерогативой организованной преступности. В последние годы ситуация коренным образом изменилась. С появлением интернета вещей, по сути, весь окружающий мир превратился из мира вещей в мир ААС. Это в полной мере относится не только к сегодняшним сложным системам управления домом, но и к телевизорам, холодильникам, пылесосам, автомобилям и т. п. В ближайшие 5-7 лет ожидается появление массового рынка бытовой робототехники. Из дорогостоящих игрушек и статусных устройств для богатых, бытовые роботы станут обязательной принадлежностью дома и квартиры средней американской семьи.

В последние 5-7 лет по экспоненте растет число преступлений – от грабежей до убийств – с использованием ААС. Значительная часть подобных преступлений, зафиксированных в полицейских отчетах, остается нераскрытой. Это связано с тем, что подобные высокотехнологичные преступления, совершаемые отдельными лицами или небольшими криминальными группами, в корне отличаются от традиционных правонарушений. Правонарушения, с которыми привыкла иметь дело полиция, полностью происходит в реальном мире. Соответственно, преступник оставляет улики, или более того, он фиксируется в прошлом свидетелями, либо в последние годы различного рода системами видеонаблюдения.

Преступность с использованием ААС и роботов предполагает, безусловно, физические действия. Но сигнал, который приводит в действие те или иные аппаратные средства, передается в электромагнитной среде и носит виртуальный характер. Сегодня для того, чтобы совершить преступление не надо присутствовать на его месте. Можно находиться не за десятки, а даже за сотни и тысячи километров. Правоохранительные органы не привыкли работать в таких условиях, и соответственно их деятельность не слишком эффективна.

Не говоря уже о преступных синдикатах, даже отдельные, как принято говорить, уличные преступники отдают себе отчет в неспособности полиции противостоять высокотехнологическим преступлениям. Именно поэтому они берут на вооружение ААС и роботов, как орудия преступлений. В немалой степени по этой причине преступность постоянно молодеет. Сегодня, согласно данным полиции Денвера, средний возраст преступников, достигших совершеннолетия, почти на 10 лет ниже среднего возраста полицейских. Работники полиции считают, что эти цифры с небольшими поправками могут быть экстраполированы и на всю Америку.

На практике это означает, что идет не только война между законом и беззаконием, но и между поколениями. Одно – с детства выросло с интернетом и освоило все его закоулки и премудрости. Второе же – познакомилось с информационными технологиями в молодом или зрелом возрасте, и он для них не является комфортной средой действий. Конечно, в будущем демографический разрыв относительно информационных технологий уменьшится. В полицию будут приходить люди, которые знакомы с интернетом не хуже, чем преступники. Однако к этому времени как раз придет пора массового внедрения роботов, как особых систем цифровой реальности. И относительно роботов возникнет та же коллизия, которая сегодня проявилась в отношении интернета.

Повышение вероятности крупномасштабных террористических актов. Длительное время крупномасштабные террористические акты требовали долгой подготовки, вовлечения множества участников, затрат значительных и разнообразных ресурсов, и наконец, физического присутствия террористов в зоне актов устрашения и насилия. Наиболее яркими примерами таких актов стали 11.09.2001, взрывы в метро в Лондоне и на вокзале в Мадриде. Все они имели отмеченные выше черты. Силам национальной безопасности не удалось предотвратить эти акты, но указанные выше характеристики позволили им выйти на планировщиков и исполнителей варварских актов и наказать их. Эти же черты позволили силам национальной безопасности различных стран предотвратить в последние 15 лет несколько десятков крупномасштабных террористических актов, которые по своим последствиям могли не уступать, и даже превзойти случившиеся события.

Однако с повсеместным внедрением ААС, а в последующем робототехнических комплексов ситуация резко и неблагоприятно изменилась. В последние годы происходит активная автоматизация и роботизация производства и сферы обеспечения жизнедеятельности. Наряду с повышением технической надежности и экономией затрат, этот процесс имеет и крайне негативные последствия. Сегодня в развитых странах мира, и особенно в Соединенных Штатах, жизнь миллионов людей, фактически всего населения страны, решающим образом зависит от объектов и сетей критической инфраструктуры. В их число входят не только федеральные объекты государственного управления и т. п., но и практически все системы жизнеобеспечения, включая энергетику, тепло– и водоснабжение, связь и т. п.

Энергетические сети вне зависимости от того, в чьей собственности и юрисдикции они находятся, управляются ААС, соединенными с интернетом. Это же верно для систем городских водопроводов, канализации, теплоснабжения. Самое опасное состоит в том, что за последние 5-7 лет с появлением эффективных роботизированных систем, ими оснащены все АЭС, крупнейшие гидрорекреационные комплексы (плотины) и т. п.

В этой связи даже не тревогу, а ужас у специалистов вызвали известия о том, что за последние три года неопознанные хакеры неоднократно вторгались в систему энергоснабжения, комплексы автоматизированного управления и хранилища данных гидросооружений и даже атомных станций США. В результате у неизвестных лиц или организаций имеется федеральная информация об уязвимостях и недостатках систем управления и обеспечения безопасности всеми плотинами и гидротехническими комплексами на территории США, системами водоснабжения многих крупных и крупнейших городов страны, региональных энергосистем. Нам остается только молиться, чтобы эти хакеры были китайскими или российскими кибершпионами. В этом случае есть основания ожидать, что данные не появятся на черном информационном рынке и не попадут в руки террористов, преступников и экстремистов. Однако такой уверенности у специалистов нет. Как правило, китайских и российских государственных хакеров интересует несколько иная информация.

В случае же, если информация об уязвимостях в критических инфраструктурах и системах управления ими уже попала или попадет в распоряжение террористических организаций, экстремистских сообществ и с несколько меньшим риском преступных синдикатов, могут произойти непредсказуемые по своим последствиям акты. Причем, надо признаться, что на сегодняшний день у структур национальной безопасности нет способа предотвратить их. Более того, затруднена будет идентификация нападающего. Это является смертельной угрозой для Америки, которую должным образом не осознает ни федеральная власть, ни бизнес, ни тем более общественность.

Новые измерения финансового терроризма и преступности. Если на потребительском рынке продаются первые мелкосерийные полноценные роботы, а в военной сфере на вооружение поступают первые единичные образцы, то в сфере финансов полностью роботизированные системы – торговые роботы, за последние пять лет стали главными действующими лицами на большинстве финансовых рынков Америки, Великобритании и Японии.

Торговые роботы представляют собой интеллектуальные программно-аппаратные комплексы, которые оснащены не только модулями сбора, обработки, анализа информации, но и самостоятельного, без человека, принятия решений, сообразно алгоритмам. На последнее хотелось бы обратить особое внимание. Не только среди политиков, военных и бизнесменов, но даже среди части специалистов по информационным технологиям бытует заблуждение, что торговые роботы представляют собой предтечу искусственного интеллекта и вплотную приблизились к нему. Внешне дело выглядит именно таким образом, поскольку все решения о купле-продаже акций, индексов, валют, деривативов и т. п. принимают непосредственно программно-аппаратные комплексы – торговые роботы. Но, если обратиться к сути дела, то выяснится, что решения они принимают не по собственным правилам, которые создали сами, а по алгоритмам, которые заложены в них людьми – программистами, разработчиками, математиками, аналитиками и т. п. Поэтому об искусственном интеллекте говорить пока преждевременно, хотя решения на финансовых рынках принимаются роботами, без непосредственного участия человека.

Если в 2010 г. не более трети операций на американских финансовых рынках осуществлялось торговыми роботами, то в настоящее время более 70 % сделок на биржевых и внебиржевых финансовых рынках торгующих биржевыми финансовыми продуктами, осуществляются не людьми, а торговыми роботами.

Экспансия торговых роботов, некоторые из которых стоят 10 млн. долларов и более, связана с двумя обстоятельствами. С одной стороны, торговля на финансовых рынках требует регулярной обработкой огромных массивов информации. При краткосрочном трейдинге, а на него приходится основная часть операций, люди просто не успевают обработать и проанализировать разнородные и разноформатные массивы информации. Более эффективно это делают торговые роботы, которые принимают решения на основе некоторых правил. В этом смысле торговые роботы являются наследниками и более универсальными вариантами компьютеров, в прошлом обыгрывающих чемпионов мира по шахматам. В обоих случаях в основе программ лежат определенные алгоритмические правила, построенные на основе иерархии принятия решений.

С другой стороны, с середины нулевых годов было открыто, что источником доходов на финансовых рынках является сверхкраткосрочный временной арбитраж. Если кто-то успевает среагировать на рыночные известия быстрее других, то он снимает выгоду от более раннего знания той или иной новости. Если со времен Ротшильдов до середины XXI века шла гонка за скорость получения информации, то с середины прошлого века до нашего времени началась гонка за скорость реагирования на информацию. Как было показано на примере боевых роботов, автоматизированные системы способны быстрее людей реагировать на любую внешнюю информацию. Соответственно с середины десятых годов стали создаваться не только все более совершенные алгоритмически, но и все более быстродействующие торговые роботы. В настоящее время торговые роботы крупнейших американских банков, которые стоят уже не десятки, а сотни миллионов долларов, окупаются чуть более чем за четыре месяца за счет того, что способны опережать других роботов на сотые миллисекунды.

Господство торговых роботов на финансовых рынках создало новые угрозы для финансовой системы и национальной безопасности США и Запада. В 2014 г. федеральная Комиссия по Ценным Бумагам (SEC) выпустила доклад, в котором обратила внимание не только финансистов, но политиков и структур, занимающихся национальной безопасностью на настораживающий факт. Если в течение нулевых годов в среднем за год фиксировалось чуть менее 9 необъяснимых колебаний курса акций, в разы превышающих их нормальную волатильность, то в 2011-2012 гг. подобных колебании фиксировалось уже в среднем за год 36, в 2013 – 41, и в 2014 – 74. Доскональный анализ, проведенный SEC, показал, что эти колебания не были связаны с какими-либо событиями или новостными поводами, связанными с соответствующими компаниями. Эти колебания были результатами действий торговых роботов, принимавших решения о купле-продаже в соответствии с некоторыми алгоритмами.

После публикации доклада целый ряд крупнейших финансовых институтов и независимых трейдеров, чьи торговые роботы активно участвовали в операциях по купле-продаже, приведших к подозрительной сверхволатильности в 2013-2014 гг. с привлечением специалистов Комиссии, работников АНБ и независимых фирм по компьютерной безопасности, осуществили программно-технологический аудит своих роботов. В результате выяснилось, что в большинстве случаев (точное количество по соображениям коммерческой тайны и национальной безопасности озвучено не было) торговые роботы принимали ошибочные решения в том смысле, что действовали не по алгоритмам, а в результате заражения специальными зловредными программами, срок существования которых измерялся секундами.

После обнародования данной информации ФБР и независимые эксперты сделали вывод о том, что во всех отмеченных случаях имело место не просто хакерство, а тщательно спланированные и виртуозно осуществленные финансовые преступления с использованием программно-аппаратных комплексов. Доступная исследователям и общественности фактура говорит о том, что с каждым годом количество и масштабы такого рода преступности, связанной с заражением, а в будущем возможно и перехватом управления торговыми роботами, будет только нарастать.

Пока достоверно известно лишь о фактах финансовой преступности с использованием торговых роботов. Однако учитывая кластеризацию деструкции, есть основания полагать, что с каждым годом будет увеличиваться опасность крупномасштабных, а возможно и глобальных актов финансового терроризма. Имитационные модели, разработанные в Массачусетском технологическом институте и Финансовой Лаборатории в Швейцарии, в Цюрихе свидетельствуют, что уже сегодня целенаправленный перехват управления торговыми роботами может вызвать глобальное крушение финансовых рынков, за которым последует согласно эффекту домино коллапс мировой финансовой системы.

Ряд специалистов, в том числе в федеральном правительстве, считает эту угрозу, по крайней мере, в ближайшее время, надуманной. По их мнению, роботизированные торговые комплексы крупнейших финансовых институтов защищены лучше, чем какие-либо иные компьютерные сети и аппаратно-программные комплексы. Однако случай Эдварда Сноудена показал, что одного рядового системного администратора – специалиста по проникновению – достаточно, чтобы обрушить всю, без сомнения лучшую в мире, систему безопасности Агентства, ведающего наряду с прочим информационной безопасностью. Известно, что уже после Сноудена хакерам удалось неоднократно проникать в компьютерные сети не только крупных финансовых институтов, но и целого ряда центральных банков. Об этом было сообщено на Давосском форуме 2014 года.

Приведенные факты свидетельствуют, что крупномасштабная роботизированная финансовая преступность стала уже реальностью, а угроза финансового терроризма с каждым не годом, а месяцем становится все более серьезной и необратимой.

Робототехника как фактор социальной напряженности. Преступность, терроризм, экстремизм, будучи связанными с определенными системами ценностей и взглядов, жизненными установками и т. п., развиваются не только под воздействием духовных, но, прежде всего, материальных условий жизни. Бедность, вопиющее неравенство, отключение социальных лифтов, препятствие развитию предпринимательской инициативы, низкий уровень образования или, напротив, невозможность реализовать свой профессиональный потенциал являются питательной почвой для терроризма, экстремизма и преступности.

Многочисленные исследования, проведенные в самых различных странах мира – и в зонах процветания, и в районах бедствия, и в демократических государствах, и в странах, где у власти находятся авторитарные режимы, – показывают, что люди, на чью жизнь оказывают влияние отмеченные выше явления и факторы, в первую очередь рекрутируются деструктивными организованностями. Многочисленными исследованиями подтверждена прямая количественная связь между уровнем безработицы и масштабами развития деструктивных процессов и структур, их вызывающих.

В этой связи массовое внедрение в различные отрасли экономики – от промышленности до транспорта, от финансовой сферы и управления до сферы услуг – роботов создает все возрастающую угрозу социальной стабильности общества. Эта угроза прямо и непосредственно связана с неизбежным, начиная со второй половины десятых годов, увеличением безработицы в силу технологических факторов.

Уже сегодня очевидно, что от 30 до 60 % обслуживающего и младшего персонала в таких отраслях, как юриспруденция, медицина, офисная деятельность различного типа в период до 2025 г. будут заменены роботами. Ряд транспортных профессий, например, водители большегрузных автомобилей, лишатся своих рабочих мест вследствие перехода на полностью роботизированные средства. Если водители такси, которых в США насчитывается более миллиона, сегодня протестуют против новых платформ, типа Uber, отнимающих у них работу, то в интервале до 2020 г. они неизбежно будут вынуждены уступить свои рабочие места полностью роботизированным автомобилям – такси.

Если в промышленности, особенно на сборочных и вредных предприятиях, а также в сельскохозяйственной сфере роботы заменят в основном не граждан США и стран Западной Европы, а легальных и нелегальных эмигрантов, то на транспорте, в сфере услуг, финансах, юриспруденции и т. п. картина сложится совершенно иначе.

Если относительно отмеченных выше сфер у политиков, бизнеса и общества есть понимание, то относительно программистов и системных администраторов такое понимание отсутствует. Между тем, повсеместное внедрение облачных технологий уже в ближайшие годы приведет к резкому сокращению рабочих мест системных администраторов и универсальных IT-специалистов, которых насчитывается сегодня несколько миллионов в малых и средних предприятиях Америки. С максимальным внедрением облачных технологий и созданием интеллектуальных агентов – экспертных систем, типа Watson, увязанных с облачными порталами, подобные специалисты в малом и среднем бизнесе окажутся просто не нужны.

Параллельно в последнее время ряд крупнейших компаний, включая Google, IBM и Oracle, а также стартапы, действующие на базе американских университетов, заявили о том, что вплотную подошли к практической реализации открытых еще в прошлом веке алгоритмов самосовершенствующихся программ. В ближайшие десятилетия такого рода программы будут представлять собой логическое развитие известных всем сред программирования. Они будут способны к автоматизированному, а затем и автоматическому написанию новых, относительно простых программ, используемых для создания интернет-ресурсов, мобильных приложений, программ, управляющих ААС и относительно простыми роботами. Удастся ли создать мощные самореплицирующиеся развивающиеся программы или нет, сегодня доподлинно неизвестно. Фактически создание таких программ и будет означать, по мнению большинства специалистов, появление настоящего искусственного интеллекта.

Однако, даже появление программистов-роботов, способных к созданию сайтов и приложений, несет в себе значительную угрозу. Появление роботов – системных администраторов и программистов для интернета и приложений, отнимет рабочие места у подавляющего большинства сегодняшних программистов средней и относительно низкой квалификации. А это по Америке миллионы, а по миру – десятки миллионов человек. Угроза состоит не только и не столько в том, что эти профессионалы станут безработными, сколько в том, что, будучи лишенными привычного уровня жизни, они вольются в ряды преступников, экстремистов и террористов. Соответственно они обеспечат деструктивным организованностям армию массового квалифицированного IT-персонала, без которой невозможно длительная и успешная борьба, а точнее война, с государственными и бизнес-структурами всех уровней.

 

Выводы

1. В настоящее время и в ближайшей перспективе возможности преступных экстремистских и террористических организаций использовать достижения высоких технологий, и в том числе ААС и роботов, в деструктивных целях неуклонно увеличиваются. Соответственно возрастает весь спектр связанных с этим угроз не только для развития, но и существования Америки как великой державы, доминирующей силы на глобальной арене и лидера свободного мира.

2. Наращивание мощи деструктивных сил особо опасно в условиях укрепления их взаимодействия, взаимопроникновения и даже сращивания. Происходит процесс кластеризации разнообразных фрагментов и контуров деструктивных организаций в единую глобальную распределенную систему. Эта система носит уже не иерархический, и даже не сетевой характер, а приобретает черты стайного или роевого типа организации.

3. Негативные тенденции и тренды в полити-куме, социуме и экономике происходят на фоне формирования перенасыщенной техногенной и информационной среды. Динамика технологий по всему их спектру, включая критические технологии и технологии Третьей производственной революции, никем не управляются и не контролируются. Это ведет ко все возрастающей турбулентности, хрупкости и ненадежности не только технических и информационных систем, но и американского и глобального социума. Постоянно возрастают риски каскада отказов, который может вызвать глобальный информационно-технологический, политико-экономический и социально-общественный коллапсы. Опыт показывает, что экстремальными и кризисными ситуациями в современном обществе наилучшим образом пользуются деструктивные организованности, для которых эти ситуации и обстановка являются привычными.

4. Представленный доклад и целый ряд публикаций известных американских исследователей, работы коллективов ведущих университетов, фабрик мысли и т. п. убедительно свидетельствуют о том, что ранее использующийся в национальной безопасности подход, согласно которому главная задача состоит в устранении или предупреждении угроз, больше не работает. В ближайшие десятилетия мы обречены жить в условиях все нарастающих угроз. Уже поздно пытаться превентивно предупредить их. Их также невозможно и устранить без разрушения глобального социума и цивилизации в целом.

5. Единственный выход состоит в том, чтобы научиться жить в условиях множащихся угроз. Нужно коренным образом перестроить на государственном, деловом и общественном уровнях привычные нам методы работы, способы управления и регулирования, средства и инструменты обеспечения национальной безопасности. Необходимо согласиться с тем, что, по крайней мере, в ближайшие десятилетия главным критерием для всех решений на всех уровнях и во всех сферах должна стать не эффективность, а выживаемость. Главным должно стать умение по возможности ослабить удар со стороны деструктивных организаций и их вольных и невольных союзников, преодолеть последствия таких ударов и в ответ без разрушения ткани цивилизации максимально и ежедневно ослаблять деструктивные организации.