У полі на околиці Києва засновники української компанії “Вирій”, яка займається розробкою безпілотників, нещодавно працювали над зброєю майбутнього.
Щоб продемонструвати її, 25-річний Олексій Бабенко, генеральний директор “Вирію”, сів на мотоцикл і поїхав ґрунтовою дорогою. Позаду нього летів дрон, а його колега відстежував пересування за допомогою комп’ютера розміром з портфель.
Донедавна квадрокоптером керувала людина. Але тепер це не так. Після того, як дрон зафіксував свою ціль – пана Бабенка – він полетів самостійно, будучи керованим програмним забезпеченням, яке використовувало камеру на дроні, щоб відстежувати об’єкт.
Ревучий двигун мотоцикла не міг зрівнятися з безшумним дроном, який переслідував пана Бабенка. “Тисни, тисни більше. Тисни на педалі до упору, друже”, – кричали його колеги по рації, коли безпілотник наближався до нього. “Тобі кінець, кінець!”
Якби дрон був начинений вибухівкою, і якби його колеги не вимкнули автономне стеження, пан Бабенко був би мертвий.
“Вирій” – лише одна з багатьох українських компаній, що працюють над здійсненням значного прориву в озброєнні побутових технологій, який був спричинений війною проти Росієї. Тиск, що змушує перевершувати ворога, а також величезні потоки інвестицій, благодійних внесків і державних контрактів перетворили Україну на Силіконову долину для автономних дронів та інших видів озброєнь.
Компанії створюють технологію, яка робить участь людини у виборі цілі і веденні вогню все більш умовною. Широкий доступ до готових пристроїв, простого в розробці програмного забезпечення, потужних алгоритмів автоматизації та спеціалізованих мікросхем на базі штучного інтелекту прискорили смертоносну інноваційну гонку на незвіданій території, наближаючи потенційну нову еру роботів-вбивць.
Найсучасніші версії технології, яка дозволяє дронам та іншим пристроям діяти автономно, стали в пригоді завдяки поглибленому навчанню форми штучного інтелекту, яка використовує великі обсяги даних для виявлення закономірностей і прийняття рішень. Глибинне навчання допомогло створити великі популярні мовні моделі, такі як GPT-4 від OpenAI, але воно також допомагає моделям інтерпретувати і реагувати в реальному часі на відео та фотоматеріали. Це означає, що програмне забезпечення, яке колись допомагало дрону слідувати за сноубордистом, що спускається з гори, тепер може стати смертельно небезпечним інструментом.
В десятках інтерв’ю з українськими підприємцями, інженерами та військовими вималювалася картина осяжного майбутнього, коли рої самокерованих дронів зможуть координувати атаки, а кулемети з комп’ютерним зором автоматично стрілятимуть по солдатах. Розробляються і більш дивовижні творіння, такі як безпілотний коптер, що може зависати і має кулемети.
Ця зброя примітивніша, ніж витончені технології з науково-фантастичних блокбастерів, таких як “Термінатор” і його рідкометалевий вбивця Т-1000, але вона є кроком назустріч такому майбутньому. Хоча ця зброя не настільки досконала, як дорогі системи військового призначення, виготовлені США, Китаєм і Росією. Але їхня низька вартість, робить ці розробки значущими: лише тисячі доларів або менше – і пристрої готовність до використання.
За винятком боєприпасів, велика кількість такої зброї створена із використанням коду, знайденого в Інтернеті, і компонентів, таких як любительські комп’ютери, типу Raspberry Pi, які можна купити в Best Buy і магазинах техніки. Деякі американські чиновники заявили, що вони стурбовані тим, що ці технології незабаром можуть бути використані для здійснення терористичних атак.
Україні ці технології можуть дати перевагу над Росією, яка також розробляє автономні пристрої для вбивств, або просто допомогти їй не відставати від неї. Ці системи підвищують ставки в міжнародній дискусії про етичні та правові наслідки застосування штучного інтелекту на полі бою. Правозахисні групи та представники ООН прагнуть обмежити використання автономної зброї, побоюючись, що вона може спровокувати нову глобальну гонку озброєнь, яка може вийти з-під контролю.
В Україні такі побоювання є вторинними по відношенню до боротьби з окупантом.
“Нам потрібна максимальна автоматизація”, – сказав Михайло Федоров, міністр цифрової трансформації України, який очолює роботу країни з використання технологічних стартапів для збільшення провідних бойових можливостей. “Ці технології мають фундаментальне значення для нашої перемоги”.
Автономні безпілотники, такі як виробляє “Вирій”, вже використовувалися в боях для ураження російських цілей, за словами українських посадовців і відео, достовірність яких підтверджена The New York Times. Пан Федоров сказав, що уряд працює над фінансуванням компаній, що займаються розробкою безпілотників, щоб допомогти їм швидко наростити виробництво.
Основне питання полягає в тому, який рівень автоматизації є прийнятним. Наразі, щоб зафіксувати ціль, безпілотники потребують пілота і тримають “людину в курсі того, що відбувається”. Це той фактор, на який часто посилаються політики і фахівці з етики штучного інтелекту. Українські солдати висловлюють занепокоєння з приводу того, що несправні автономні дрони можуть завдати удару по їхніх власних підрозділах. У майбутньому обмежень на використання такої зброї може не існувати.
Україна “чітко продемонструвала свої аргументи щодо переваг автономної зброї”, – сказав Стюарт Рассел, дослідник ШІ і професор Каліфорнійського університету в Берклі, який попередив про небезпеку озброєного ШІ: “З’явиться зброя масового знищення, яка буде дешевою, універсальною і легкодоступною на ринках озброєнь по всьому світу”.
Силіконова долина безпілотників
У напівзруйнованій майстерні в багатоквартирному будинку на сході України 28-річний солдат 92-ї штурмової бригади Дев допомагає впроваджувати інновації, які перетворюють дешеві дрони на зброю. Спочатку він прив’язав бомби до гоночних дронів, потім поставив більші акумулятори, щоб вони могли літати на більші відстані, а нещодавно вмонтував систему нічного бачення, щоб машини могли полювати в темряві.
У травні він був одним з перших, хто використав автономні дрони, в тому числі й у “Вирії”. За словами Дева, хоча деякі з них потребують вдосконалення, він вірить, що вони стануть наступним великим технологічним проривом на передовій.
За його словами, автономні дрони “вже користуються великим попитом”. Ці апарати були особливо ефективними в боротьбі з перешкодами, які можуть перервати зв’язок між безпілотником і пілотом. Коли безпілотник летить сам, пілот може просто захопити ціль і дозволити апарату зробити все інше.
По всій Україні з’явилися імпровізовані заводи і лабораторії, які будують дистанційно керовані машини всіх розмірів, від суден дальньої авіації і бойових катерів до дешевих дронів-камікадзе – скорочено F.P.V. (від англ. First Person View – вид від першої особи). Останні з них саме так називаються через те, що ними керує пілот в окулярах віртуальної реальності, які передають зображення з борту дрона. Багато з них є попередниками машин, які з часом будуть діяти самостійно.
Перші спроби автоматизації польотів БПЛА розпочалися минулого року, але були сповільнені через невдачі у створенні програмного забезпечення для управління польотами, за словами пана Федорова, який заявив, що ці проблеми були вирішені. Наступним кроком буде масштабування технології за рахунок збільшення державних витрат, сказав він, додавши, що близько 10 компаній вже виробляють автономні дрони.
“У нас вже є системи, які можна виробляти серійно, і вони зараз активно випробовуються на передовій, а це означає, що вони вже активно використовуються”, – сказав пан Федоров.
Деякі компанії, такі як “Вирій”, використовують базові алгоритми комп’ютерного бачення, які аналізують та інтерпретують зображення і допомагають комп’ютеру приймати рішення. Інші компанії підходять до цього більш ґрунтовно, використовуючи поглиблене навчання для створення програмного забезпечення, яке може ідентифікувати та атакувати цілі. Багато компаній заявили, що беруть дані і відео з авіаційних симуляторів і польотів безпілотників на передовій.
Один з українських виробників безпілотників, компанія Saker, створила автономну систему наведення з використанням штучного інтелекту, яка була спершу призначена для сортування і групування фруктів. Взимку компанія почала відправляти свої розробки на передову, випробовуючи різні моделі з пілотами дронів. Попит стрімко зріс.
До травня Saker масово виробляла одноплатні комп’ютери з програмним забезпеченням, які можна було легко підключити до безпілотників F.P.V., щоб пристрої могли автоматично наводитися на ціль, розповів виконавчий директор компанії, який попросив називати його тільки на ім’я Віктор, побоюючись помсти з боку Росії.
За його словами, безпілотник врізається в ціль “і все зроблено”. “Він протистоїть вітру. Він стійкий до перешкод. Ви просто повинні точно визначити, що ви збираєтеся вразити”.
Зараз Сакер виготовляє 1000 плат на місяць і планує збільшити виробництво до 9000 плат на місяць до кінця літа. Згідно з даними компанії та відеозаписами, підтвердженими The Times, кільком українським військовим підрозділам вже вдалося вразили російські цілі на лінії фронту за допомогою технології Saker.
В одному з відеороликів, що були поширені у соціальних мережах, безпілотник пролітає над полем, яке понівечене обстрілами. Раптом у центрі об’єктиву пілота з’являється вікно, яке збільшує танк, вказуючи на захоплення цілі. Дрон атакує самостійно, влучаючи у бічну частину броні.
За останні тижні Saker пішов далі, успішно використовуючи розвідувальний безпілотник, який ідентифікував цілі за допомогою штучного інтелекту, а потім відправляв автономні дрони-камікадзе для їх знищення, сказав Віктор. В одному з випадків машина вразила ціль на відстані 25 миль.
“Коли ми зіткнемося з тим, що нам не вистачатиме людей, єдиним рішенням буде замінити їх роботами”, – сказав Ростислав, співзасновник Saker, який також попросив називати його тільки на ім’я.
Війна в мініатюрі
Спекотного дня минулого місяця на сході України, відомому під назвою Донбас, 23-річний резервіст Юрій Клонцак навчав чотирьох солдатів користуватися новітньою зброєю майбутнього: стрілецькою туреллю з автономним наведенням на ціль, яка працює за допомогою контролера PlayStation і планшета.
Говорячи на фоні звуків вибухів обстрілів, пан Клонцак пояснив, як гармата, названа Wolly через схожість з піксарівським роботом WALL-E, може автоматично наводитися на ціль на відстані до 1000 метрів і перемикатися між запрограмованими позиціями, щоб швидко охопити велику територію. Компанія DevDroid, яка виробляє зброю, також розробляла систему автоматичного прицілювання для відстеження та ураження рухомих цілей.
“Коли я вперше побачив зброю, я був у захваті, – сказав пан Клонцак. “Я зрозумів, що це єдиний спосіб якщо не виграти цю війну, то принаймні утримати наші позиції”.
Ця гармата – одна з небагатьох, що з’явилися на передовій і використовують програмне забезпечення зі штучним інтелектом для автоматичного відстеження цілей та стрільби по них. Подібно до розпізнавання об’єктів на камерах спостереження, програмне забезпечення бере в цифрову рамку людей та інші потенційні цілі, що з’являються на екрані. Все, що залишається зробити стрільцю – це дистанційно натиснути на спусковий гачок на контролері для відеоігор.
Поки що виробники зброї кажуть, що не дозволяють кулемету стріляти без натискання кнопки людиною. Але вони також кажуть, що буде легко зробити такий, який зможе зробити це самостійно.
Багато українських інновацій розробляються для того, щоб протистояти російському озброєнню, що прогресує. Українські кулеметники є головною мішенню для російських безпілотників. Якщо використовувати робототехнічну зброю жодна людина не загине від того, що в такий пристрій стрілятимуть з кулемета. Але нові технології, які все ще розробляються, з часом можуть допомогти збивати російські безпілотникиі в небі з допомогою кулеметів.
Такі технології, а також можливість швидко створювати і випробовувати їх на передовій, привертають увагу та сприяють залученню іноземних інвестицій. Минулого року Ерік Шмідт, колишній виконавчий директор Google, та інші інвестори створили фірму під назвою D3 для інвестування в нові технології, що використовуються на полі бою в Україні. Інші оборонні компанії, такі як Helsing, також об’єднуються з українськими фірмами.
За словами Евеліни Бучацької, керуючого партнера D3, українські компанії розвиваються швидше, ніж їхні закордонні конкуренти, і фірма запрошує компанії, в які вона інвестує за межами України, відвідати країну, щоб прискорити їхній розвиток.
“Тут просто інший набір стимулів”, – сказала вона.
Часто потреби на полі бою об’єднують інженерів і солдатів. Олександр Ябчанка, командир батальйону “Вовки Да Вінчі”, відомого своїми інноваціями в озброєнні, згадує, як необхідність захистити “дорогу життя” – маршрут постачання військ, що воюють з росіянами вздовж східної лінії фронту на Бахмутському напрямку – підштовхнула його до винахідництва. Уявивши собі готове рішення, він розмістив у Facebook відкритий запит на створення комп’ютеризованого кулемета з дистанційним управлінням.
За кілька місяців пан Ябчанка отримав робочий прототип від фірми під назвою Roboneers. Кулемет майже миттєво почав використовуватися в його підрозділі.
“Ми могли сидіти в окопі, пити каву, курити цигарки і стріляти по росіянах”, – каже він.
Пізніше пропозиція пана Ябчанки допомогла Roboneers розробити новий вид зброї. Компанія встановила кулеметну турель на наземний безпілотник, щоб допомогти військам проводити штурми або швидко змінювати позиції. За словами виконавчого директора Roboneers Антона Скрипника, це нововведення спричинило зростання потреби в автоматичному прицілюванні на основі штучного інтелекту.
Подібні партнерства сприяли іншим досягненням. У травні на полігоні з випробування безпілотників інша місцева компанія Swarmer провела відеоконференцію для військової частини, щоб ознайомити солдатів з оновленнями свого програмного забезпечення, яке дозволяє дронам здійснювати масовані атаки без залучення пілотів.
Програмне забезпечення компанії Swarmer, яку минулого року заснував колишній інженер Amazon Сергій Купрієнко, створене на основі моделі штучного інтелекту, яка навчалася на великих об’ємах даних, що пов’язані з місіями безпілотників на передовій. Воно дозволяє одному оператору керувати сімома дронами під час атак та розвідувальних операцій.
Нещодавно Swarmer розширив функціонал, який тепер дозволяює керувати ударними дронами-камікадзе на відстані до 35 миль. Очікується, що програмне забезпечення, яке тестується з січня, дозволить скоротити кількість людей, необхідних для управління крихітними військово-повітряними силами, які домінують на лінії фронту.
Під час демонстрації інженер компанії Swarmer сидів за комп’ютером і спостерігав за картою, в той час як шість автономних дронів дзижчали над ним. Один за одним великі дрони-бомбардувальники пролітали над потенційною ціллю і скидали пляшки з водою замість бомб.
За словами пана Купрієнка, деякі оператори дронів бояться, що їх повністю замінять технології.
“Вони кажуть: “О, він і без нас літає. У нас заберуть пульти і дадуть в руки зброю”, – сказав він, маючи на увазі переконання про те, що керувати безпілотником безпечніше, ніж сидіти в окопі на передовій.
“Але я кажу: ні, тепер ви зможете літати з п’ятьма чи десятьма безпілотниками одночасно”, – сказав він. “Програмне забезпечення допоможе їм ефективніше воювати”.
Дрони-вбивці
У 2017 році пан Рассел, дослідник ШІ з Берклі, випустив фільм “Дрони-вбивці”, який попереджає про небезпеку, яку може становити автономна зброя. У фільмі показано, як блукаючі зграї недорогих озброєних дронів зі штучним інтелектом використовують технологію розпізнавання облич для полювання на цілі та їх знищення.
Те, що відбувається в Україні, наближає нас до цього похмурого майбутнього, сказав пан Рассел. За його словами, його вже переслідують українські відеозаписи, на яких солдатів переслідують озброєні безпілотники, пілотовані людьми. Часто настає момент, коли солдати перестають тікати або ховатися, бо розуміють, що не можуть втекти від безпілотника.
“Вони не можуть сховатися, тому просто чекають смерті”, – каже пан Рассел.
Він не один побоюється, що Україна є відправною точкою. У Відні члени групи експертів ООН також заявили, що вони стурбовані через можливі наслідки нових технологій, які розробляються в Україні.
Чиновники витратили більше десяти років на обговорення правил використання автономної зброї, але мало хто очікує, що будь-яка міжнародна угода запровадить нові правила, особливо в той час, коли США, Китай, Ізраїль, Росія та інші країни змагаються в розробках ще більш досконалої зброї. В одній з американських програм, про яку було оголошено в серпні, що відома як ініціатива Replicator, Пентагон заявив, що планує серійне виробництво тисяч автономних дронів.
“Геополітика робить це неможливим, – сказав Александр Кментт, головний австрійський перемовник з питань автономних озброєнь в ООН. – Ця зброя буде використовуватися, і вона буде використовуватися у військовому арсеналі практично всіх країн”.
Ніхто не очікує, що країни приймуть повну заборону такої зброї, сказав він, “але вона повинна регулюватися таким чином, щоб ми не зіткнулися з абсолютно кошмарним сценарієм”.
Організації, в тому числі Міжнародний комітет Червоного Хреста, наполягають на юридично закріплених правилах, які забороняють використання певних видів автономної зброї та обмежують використання інших і вимагають певного рівня людського контролю над рішеннями із застосування сили.
Більшість людей в Україні вважають ці дискусії теоретичними. Їм невистачає зброї та людей.
“Спочатку нам потрібно перемогти, – сказав пан Федоров, міністр цифрової трансформації. “Для цього ми зробимо все можливе, щоб максимально впровадити автоматизацію, для збереження життів наших солдатів”.
