Ateina „robotai žudikai“. Ar JAV pasiruošusios pasekmėms?

Ateities mūšio laukuose dominuos tie, kurie gali geriausiai panaudoti intelektą greitai ir tiksliai manevruoti prieš priešininkus. Dabartinis karas Ukrainoje yra ryškus pavyzdys: gindami savo tautą nuo Rusijos invazijos, didesni ir aplenkti ukrainiečiai panaudojo mūšio lauko žvalgybą ir tikslią ugnies jėgą, kad paneigtų skaitinius ir kokybinius įsiveržusių pajėgų pranašumus. Pavyzdžiui, per neseniai įvykusį pražūtingą Rusijos upės kirtimą Donbaso regione Kijevo pajėgos sugebėjo panaudoti žvalgybos šaltinius, kad nustatytų, gaudytų ir sunaikintų visą batalioną.

Karas vystosi ir daugėja įrodymų, kad protingesnė, judresnė jėga gali ryžtingai nugalėti stipresnį priešą tiksliai taikydama naujas technologijas. Šioje sparčiai besivystančioje srityje svarbiausia yra autonominės kovos sistemos, oficialiai žinomos kaip mirtinos autonominės ginkluotės sistemos (LAWS) arba, šnekamojoje kalboje, „robotai žudikai“. Šiose be įgulos sistemose naudojami dirbtinio intelekto (AI) ir mašininio mokymosi (ML) algoritmai, kad būtų galima savarankiškai nustatyti ir sunaikinti taikinį.

Jungtinės Valstijos ir jų sąjungininkai bei partneriai, be savo strateginių konkurentų ir priešų, tiria ir kuria nepilotuojamas oro sistemas ir dronus, taip pat antžemines ir povandenines transporto priemones. Nors dauguma jų vis dar testuojami, kai kurie jau veikia (pavyzdžiui, Libijoje 2020 m.). Robotų žudikų amžius jau galėjo išaušti vos sulaukęs visuomenės pripažinimo, o dabar Jungtinės Valstijos turi priimti sunkius sprendimus: dėl savo noro taikyti ĮSTATYMUS, taip pat dėl ​​aplinkybių, kuriomis šios sistemos įgalins naudoti mirtinus. jėga.

Mirtina, bet subtili technologija

Įstatymų žavesys yra aiškus: jie sumažina pavojų jėgoms ir yra lengviau palaikomi logistiniu požiūriu, nes operatoriaus saugumo reikalavimai gali būti sudėtingi ir brangūs. Jie taip pat gali užtikrinti veiksmų greitį, kuris, kaip buvo įrodyta, labai svarbus Ukrainoje, nustatyti taikinį ir beveik akimirksniu priimti sprendimą dėl vykdymo, nesiunčiant informacijos vadui ir laukti patvirtinimo. Šis greitis gali būti skirtumas tarp didelės vertės taikinio sunaikinimo ir stebėjimo, kaip jis saugiai bėga laukiant ugnies nurodymo.

Galiausiai, ĮSTATYMAI yra ramūs, skaičiuojantys, neemocionalūs ir nešališki priimant sprendimus. Pavyzdžiui, įsivaizduokite autonominį droną, identifikuojantį Rusijos daugkartinio paleidimo raketų sistemą (MLRS), kuri ruošiasi paleisti dešimtis raketų į gyvenamąjį rajoną. Atlikus paiešką jos vidinėje duomenų bazėje, transporto priemonė galėtų būti pažymėta kaip Rusijos MLRS sistema, perimetro paieška galėtų atmesti papildomos žalos riziką, o iš anksto užprogramuotas įsitraukimo algoritmas galėtų patvirtinti, kad taikinys yra tinkamas. Iš anksto patvirtintas šūvis (jei taikinys atitiko tam tikrus parametrus) gali būti atliktas nedelsiant, o aptikimo iki sunaikinimo laiko juosta gali būti sekundės, o ne dešimtys minučių, kurių gali prireikti, kol tie diskretiški veiksmai bus atlikti. lenta.

Tačiau nepaisant daugybės Įstatymų privalumų, yra ir svarbus moralinis komponentas, į kurį reikia atsižvelgti. Ar nacionaliniai sprendimų priėmėjai ir operatyviniai vadai nori leisti autonominei transporto priemonei nusinešti gyvybę – galbūt daug gyvybių? Ar mums, kaip visuomenei, patinka įgalinti robotus žudikus vykdyti mūsų kariuomenės reikalus? Kokią klaidų riziką nori priimti atskiras vadas? Karas juk yra netvarkingas reikalas. ĮSTATYMAI padarys klaidų; Robotai žudikai neišvengiamai atims nekaltų civilių gyvybes, sukels papildomos žalos ir skerdynių, ir tikėtina, kad jie netyčia sukels draugiškų pajėgų mirtį.

Visa tai nebėra mokslinė fantastika ir turi būti greitai sprendžiama. Laikas teisiškai įgalinti ĮSTATYMUS panaudoti mirtiną jėgą yra prieš konfliktą, o ne mūšio įkarštyje. Instituciniu lygmeniu Gynybos departamentas (ir jo kolegos su JAV sąjunginėse šalyse) turi sukurti TEISĖS operacinę sistemą, taip pat pasiūlyti strategines gaires, kad ateityje būtų užtikrintas jų etiškas taikymas. Autonominės sistemos turi būti nuodugniai išbandytos sudėtingiausiuose scenarijuose, rezultatai turi būti įvertinti granuliuotu lygiu ir apskaičiuotas numatomas klaidų lygis. Iš pradžių Įstatymai turėtų kelti mažesnę klaidų riziką nei dirbantis žmogus.

Prieš pradedant susidorojimą, taktinį sprendimą dėl mirtinos jėgos panaudojimo turi priimti teatro vadas arba jo įgaliotas atstovas. Tas vadas turi įvertinti nacionalinių sprendimų priėmėjų teikiamas gaires, operatyvinę aplinką ir kritinį atskirų taikinių pobūdį taktiniame mūšio lauke. Vadovas privalo pateikti aiškias gaires, kurios gali būti įrašytos į algoritmą, naudojamą konkretaus konflikto metu, kuris galiausiai priims sprendimą atimti žmogaus gyvybę savarankiškai (arba nurodys ĮSTATYMUS prašyti tolesnių nurodymų ar leidimo, jei scenarijus neaiškus).

Privalomojo vadas taip pat turi būti pasirengęs pagrįsti savo sprendimą, jei ir kada ĮSTATYMAI yra neteisingi. Kaip ir naudojant jėgą pilotuojamose platformose, vadas prisiima riziką savo pavaldinių vardu. Šiuo atveju siauras, plačiai išbandytas algoritmas, turintis itin aukštą neabejotiną lygį (pavyzdžiui, 99 proc. ar daugiau), turėtų atitikti pagrįsto streiko slenkstį ir atleisti vadą nuo baudžiamosios atsakomybės.

Galiausiai, ĮSTATYMAI taip pat turi būti nuodugniai išbandomi pagal įmanomiausius mokymo ir pratybų scenarijus. Metodai, kuriuos jie naudoja priimdami mirtinus sprendimus – nuo ​​taikinio identifikavimo ir jo tapatybės patvirtinimo iki papildomos žalos rizikos mažinimo – turi būti viešai paskelbti (kartu su statistika, patvirtinančia jų tikslumą). Skaidrumas yra labai svarbus siekiant sukurti visuomenės pasitikėjimą ĮSTATYMAis, o pasitikėjimą jų galimybėmis galima sukurti tik užtikrinus jų patikimumą atliekant griežtus ir išsamius bandymus ir analizę.

Sprendimo įdarbinti robotus žudikus nereikėtų bijoti, tačiau jis turi būti gerai apgalvotas ir kruopščiai išdiskutuotas. Nors ateitis suteikia galimybių, ji taip pat turi iššūkių, kuriems Jungtinės Valstijos ir jų sąjungininkai bei partneriai turi pasiruošti.


Tysonas Wetzelis yra 2021–2022 m. vyresnysis JAV oro pajėgų bendradarbis Atlanto tarybos Skvkrofto strategijos ir saugumo centre. Išsakytos pozicijos neatspindi oficialios Jungtinių Valstijų oro pajėgų ar Gynybos departamento pozicijos.

Papildoma literatūra

Vaizdas: JAV kariuomenė 2021 m. gegužę Dugway bandymų poligone Jutoje paleido droną ALTIUS-600 iš itin lengvos taktinės transporto priemonės Dagor. FVLCFT/Cover-Images.com/REUTERS nuotr

Leave a Comment