Piše: Akademik Igor Đurović
Crnogorska akademija nauka i umjetnosti
Elektrotehnički fakultet, Univerzitet Crne Gore
Vještačka inteligencija i budućnost ratovanja[1]
Eksponecijalni razvoj vještačke inteligencije, a posebno dubokog učenja, utiče na sve aspekte ljudskog društva. Jedna od nesrećnih posljedica ovog razvoja je primjena u, onome što se eufemistički naziva, odbrambenom industrijom. Drugim riječima razvoj vještačke inteligencije će doprinijeti (ne)sigurnosti i ratovima. Stoga je cilj ovoga teksta da napravimo kratak pregled aktuelnih dešavanja kao i potencijalnog budućeg razvoja. Aktuelna dešavanja idu narušavanja Čapek-Asimovljevih zakona robotike (da roboti i druge inteligentne mašine neće nauditi ljudima). Drugo pitanje na koje ćemo posebno pomenuti je mogućnost da iz ovog procesa nedržavni entiteti izađu kao relativni pobjednici.
Što je to vještačka inteligencija?
Nalazimo se, zavisnosti kako se broji, u trećoj ili četvrtoj tehničko-industrijskoj revoluciji koja se naziva informatičkom. Možemo reći da smo trenutno u početnim fazama velikog ubrzavanja ovoga razvoja zahvaljujući progresu u vještačkoj inteligenciji. Vještačku inteligenciju čine brojni naučni alati – kompjuterski algoritmi i metodi, neki od njih primjenjeni na hardverskim sistemima. Međutim, nije jednostavno dati prostu i konzistentnu definiciju ovoga pojma. Da bi opisali krucijalne karakteristike vještačke inteligencije dajemo jednostavni eksperiment sa sistemom za koji se smatra da ne pripada skupu metoda vještačke inteligencije.
Posmatrajmo autonomno vozilo koje posjeduje kameru i kontrolnu jedinicu. Vozilo se kreće po jednostavnoj putanji bez drugih objekata na istoj. Autonomni sistem treba da vozi automobil između dvije jasno naznačene paralelne linije na putu. Kada se putem vizuelnog sistem uoči da je vozilo preblizu liniji, kontrolna jedinica naređuje pomjeranje auta od linije. Ipak, stvari nisu baš toliko jednostavne. Nagle promjene i zaokreti su neželjeni jer mogu da ugroze automobil i osobe u njemu. Na primjer, ako se vozilo nalazi stabilno na 30cm od linije ono se može polako odmaknuti od iste dok ako su prethodna mjerenja bila 15cm, 20cm, zaključak može da bude da se vozilo odmiče od linije te da ne treba preduzimati korektivne akcije. Međutim, ako su prethodna mjerenja bila 60cm pa 40cm zaključak može biti da se vozilo primiče liniji te da treba naglo promijeniti pravac kretanja u cilju izbjegavanja udara u margine puta. Jasno je da sistem treba da pamti neka prethodna, istorijska, mjerenja (nazivaju se odbircima ili čvorovima). Ova mjerenja nisu jednako bitna, odnosno, najbitnije je tekuće mjerenje dok su prethodna nešto manje važna. Stoga se u proračun uključuju „težine“ sa kojima određujemo važnost pojedinih mjerenja.
Optimalne težine zavise od mnogih faktora kao što su brzina, vidljivost, vremenske prilike, stanje puta, pa je neko prilagođavanje predmetnih težina neophodno. Ovakav problem je u klasi za čije rješavanje su tokom 60-tak godina razvijena rješenja sa hiljadama varijanti. Najbitniji u ovoj klasi postupaka razvio je Rudolf Kalman pa se neki od metoda nazivaju Kalmanovim filtrima[2]. U srcu ovih tehnika nalazi se gradijentno podešavanje težina koje u skladu sa pogodnim kriterijumom omogućava da se vrijednosti težina postepeno prilagođavaju dok ne dobijemo zadovoljavajuće rezultate – optimalne ili adaptivne težine. Sistem se ponekad naziva linearni adaptivni težinskim sabiračem. Algoritam optimizacije težina naziva se metodom najbržeg spuštanja ili spuska. I pored ogromne važnosti i bliskosti sa nekim od algoritama vještačke inteligencije, ovakvi algoritmi ne smatraju se dijelom alata vještačke inteligencije.
Pokušajmo sada da opišemo jedan od postupaka za koji se smatra da pripada vještačkoj inteligenciji. Neka je to prepoznavanje pojedinačnog karaktera teksta. Svaki karakter ima neke karakteristike. Na primjer, kod slova „o“ imamo jednu „rupu“, nema pravih linija, slovo je simetrično, slovo „a“ ima jednu rupu, ima dio prave linije, nije potpuno simetrično, slovo „b“ ima pravu liniju, jednu rupu nema simetriju, itd. Prvi korak je da odredimo određene karakteristike karaktera (tipove linija, simetričnost, cetralnu tačku, itd.). Na osnovu ovih karakteristika treba da donesemo odluku koji je karakter u pitanju. Na početku svakoj karakteristici damo određenu „težinu“. Međutim, te karakteristike su povezane pa treba napraviti međuproračun njihovog uticaja. Taj međuproračun naziva se skrivenim slojem. Zatim se napravi još jedan napor kojim se kombinuju međuproračuni da bi se donijela konačna odluka. U prethodnom problemu sa vozilom, odluka je bila da se pravac vozila pomjeri za nekoliko stepeni uz eventualnu promjenu brzine. Kod prepoznavanja karaktera odluka o tome koje je slovo iz skupa mogućih. Dakle, u slučaju prepoznavanja odluka je „nelinearna“ – ako je rezultat preko neke vrijednosti (naziva se pragom) konstatujemo da je u pitanju karakter „a“ a ako nije „a“ na osnovu težinske sume određujemo koji bi to mogao biti drugi karakter. U ovom slučaju imamo više težina na ulazu, dodatne težine u međusloju i treću grupu težina za donošenje konačne odluke. Međutim, podešavanje težina se ne obavlja u „vožnji“ već se obavlja tokom čitanja nekoga teksta. Stoga je pogodno uzeti neki veliki poznati tekst na osnovu njega podesiti težine tako da se postigne visoka preciznost u prepoznavanju karaktera. Ova faza naziva se treningom ili mašinskim učenjem. Zatim se naučeno primjenjuje na nepoznati tekst a povremeno se može vršiti i dodatni trening. Algoritam koga smo upravo pojednostavljeno opisali naziva se neuralnom mrežom. I kod njega postoje težine (sada znatno veći broj) koje se podešavaju (sada se kaže treniraju ili se još kaže da mreža „uči“) putem algoritama najbržeg spuštanja. Za neuralne mreže, za razliku od adaptivnog linearnog sabirača, smatra se da pripadaju tehnikama vještačke inteligencije.
Sada možemo da pokušamo da odgovorimo po čemu se softver, metod ili algoritam smiještaju u skup alata vještačke inteligencije. Prvo, problem koji se posmatra je komplikovaniji nego onaj koga smo opisivali za kontrolu vožnje, a ujedno je i nelinearan. Kod opisane neuralne mreže za prepozvanje karaktera teksta, nelinearnost se ogleda u skrivenom sloju i postupku odlučivanja. Takve nelinearnosti nema u prvom sistemu. Sistemi vještačke inteligencije su dizajnirani da rade sa većom količinom podataka, više ulaza i više izlaza.
Optimizacioni kriterijumi kod sistema vještačke inteligencije ne mogu se uvijek dobro definisati, često su neodređeni i neprecizni ili kako se kaže fuzzy. Konačno, obično se pretpostavlja da algoritmi vještačke inteligencije liče na biološke sisteme (ljude ili životinje). Ovo je razlog da su naučnici često tražili inspiraciju za svoje metode u biološkim sistemima što je rezultovali nazivima tih algoritama i metoda: neuralne mreže, genetički algoritmi, evoluciona izračunavanja, optimizacija kolonije mrava, itd. Sadašnje sagledavanje inteligencije bioloških sistema pokazuje slabu korelaciju između načina kako ovi sistemi rade i naučne analogije u implementaciji postupaka u oblasti vještačke inteligenijce.
Vještačka inteligencija – istorijske perspektive i tekući razvoja?
Termin vještačka inteligencija je uveden prije 150 godina. Gudfelou je, sa saradnicima, vjerovatno napisao najpotpuniji istorijski pregled razvoja vještačke inteligencije[3]. Trenutni trend u vještačkoj inteligenciji predstavlja tzv. duboko učenje. Kod dubokog učenja postoje dvije razlike u odnosu na prethodno opisano. Prva razlika je broju (dubini) skrivenih slojeva kojih je kod ovoga tipa mašinskog učenja više (tipično desetak). Druga razlika je u tome da obično kod dubokog učenja radimo sa sirovim podacima (npr. slikom slova) na ulazu u sistem a ne sa karakteristikama koje sami osmišljavamo. Obije ove osobine dubokog učenja drastično uvećavaju broj težinskih koeficijenata koje gradijentnim algoritmom treba da odredimo. U pitanju su često desetine miliona težinskih koeficijenata a može biti i mnogo više. Da bi se koeficijenti podesili (mreža naučila) bio je potreban poseban razvoj na polju algoritmike. U pitanju su stohastički (slučajni) gradijentni pristup. Kada se podešava ogroman broj težinskih koeficijenata ovaj postupak je nekoliko redova veličine brži od standardnih postupaka.
Da bih ilustrovao koliko su rezultati dubokog učenja uznapredovali u odnosu na klasične („plitke“) neuralne mreže opisaću što se dogodilo kolegi koji predaje kurs mašinskog učenja na univerzitetu u Persijskom zalivu. Duži niz godina je sastavni dio kursa bio projekat sljedeće sadržine: na velikom skupu raspoloživih satelitskih snimaka treba izvršiti prepoznavanje nekretnina. Uobičajeno vrijeme potrebno da se kompletira projekat bilo je oko 2 mjeseca od čega je treniranje mreže trajalo oko polovinu toga vremena. Školske 2017/18 tokom uvodnog termina od tri časa, dok je moj kolega objašnjavao studentima što se od njih očekuje, jedan od studenata je instalirao alat za mašinsko učenje koji je podržavao duboko učenje, preuzeo satelitske snimke, izvršio treniranje mreže i dobio veću tačnost nego što je ikada na navedeni projektima dobijena. Ovo je naravno natjeralo nastavnika da promijeni i studentima da složeniji projektni zadatak.
Slični izvještaji se mogu pronaći praktično svugdje. Pojedinci (čak i bez posebne ekspertize) korišćenjem slobodno dostupnih alata za duboko učenje postižu rezultate koji prevazilaze ono što je nauka radila sa velikim naporima desetine godina. Neki istraživači čak tvrde da su njihovi poslovi u opasnost. Čak i laureati Nobelove nagrade i drugi uvaženi naučnici, vlasnici vodećih kompanija u oblasti informacionih tehnologija, tehnološki gurii, bivše vodeće diplomate i političari itd. pozivaju na ograničavanje razvoja u oblasti vještačke inteligencije kako bi društvo moglo preživjeti promjene koje razvoj ove tehnologije donosi.
Međutim, dolazimo do pitanja koje je to tijelo koje bi trebalo da uspostavi i kontroliše granice razvoja vještačke inteligencije. Vjerovatno, Ujedinjene nacije kroz neki sporazum/ugovor potpisan od svih članica. Međutim, iluzicija je da je ovo ozbiljna opcija. Istraživanja vještačke inteligencije su i dalje relativno jeftina bez ogromnih ulaganja, industrijskih kompleksa i energetskih resursa, bez neke posebno napredne i nedostupne neophodne tehnologije, bez velikog broja angažovanih itd. Jedina komparativna prednost može biti u sposobnosti da se prikupi i procesira ogromna količina podataka a ne u samim algoritmima vještačke inteligencije. Premda se očekuje da ovakva istraživanja dominantno finansiraju država njih mogu da podrže kompanije, neprofitne organizacije ali i organizovani kriminal i terorističke grupe. Dakle, po mom mišljenju, ne postoji ni najmanja šansa da se istraživanja u oblasti vještačke inteligencije mogu zaustaviti ili kontrolisati. Zajedno sa mogućnošću prikupljanja i obrade ogromne količine podataka vještačka inteligencija nosi ogroman potencijal za progres ali predstavlja i pravu fabriku strahova.
Efektivnost i koristi koje se mogu ostvariti ovim istraživanja mogu se ilustrovati healtex projektom koji je provođen u Velikoj Britaniji[4]. Vještačka inteligencija je upotrijebljena za raščlanjivanje teksta oko 15.000 naučnih radova iz oblasti medicine (polovina u punom obliku dok su drugi u obliku apstrakta) vezanih za proučovanje dva tipa bolova kod pacijenata. Razmatrana je uloga proteina u reakcijama koje se nazivaju pathways (putanjama) u relevantnim scenarijima kod dva tipa bola. Suština istraživanja je bila da se na osnovu mnoštva radova determinišu ključni proteini u ovim putanjama. Razvijeni sistem mašinskog učenja je identifikovao 11 proteina koji učestvuju u predmetnim reakcijama dok su do tada farmaceutske kompanije kreirale medikamente koji su tretirali ukupno četiri proteina. Dakle, ovim istraživanjem je otkriveno 7 proteina koji učestvuju u reakcijama koje utiču na osjećaj bola kod pacijenata što je znatno popravilo mogućnost razvoja medikamenata. Prilikom realizacije ovog projekta korišćeno je deset slobodno dostupnih softverskih alata sa najzahtjevnijim dijelom projekta vezanim za prilagođavanje ulaznih podaci iz naučnih radova postojećim softverskim interfejsima. Ova faza je uključivala samo dva čovjeka koji su radili ukupno pola godine.
Sve ovo je dovelo do ekstremne popularnosti izučavanja mašinskog/dubokog učenja. Na vodećim inženjerskim školama univerzitetima u SAD nije rijetka situacija da kurseve mašinskog učenja pohađa 500 ili više studenata različitih specijalnosti. Sa druge stane mnogi drugi krucijalni kursevi se ne organizuju zbog maloga interesa. Prije par godina kurs Digitalnih komunikacija na doktorskim studijama MIT-a po prvi put za više od 30 godina nije organizovan jer nije bilo interesovanja. Moje kolege koje se bave obradom signala su pod pritiskom rukovodstava fakulteta da u okviru svojih kurseva izučavaju mašinsko učenje ili da ih reorganizuju tako da predstavljaju podršku sistemima mašinskog učenja. Broj naučnih radova u ovoj oblasti je više desetina hiljada godišnje. U 2018. godini postignut je rekord od 50.000 publikaca samo na temu dubokog učenja dok ih je prethodne 2022. godine to je bilo oko 33.000. Vodeći sponzori naučnih istraživanja investiraju ogromna sredstva u ovu oblast.
Vještačka inteligencija i ratovi
Nažalost, ljudi su kroz istoriju ispoljavali veliku kreativnost u ratovima ili onome što se eufemistički naziva odbrambenom industrijom. Tokom čitave ljudske istorije ratovi su bili jedna od glavnih motivacionih oblasti razvoja različitih tehničkih sredstava. Nije se to promjenilo ni do današnjih dana. Vojna industrija je i dalje jedno od glavnih polja za razvoj ili testiranje novih tehnologija. Nema dileme da isto važi i za vještačku inteligenciju. Vještačka inteligencija ima potencijal da se primjeni na različitim nivoima ratne industrije, od prikupljanja podataka, planiranja, komande, kontrole, analize ratišta, do operativnog nivoa i izvršavanja. Riječ je o širokoj problematici da bi se ovdje analizirala u detalje. Stoga ću nešto reći samo o onim tehnološkim aspektima koji se mogu primjeniti direktno na bojnom polju. Na primjer, jedno od tehnoloških rješenja koje se već intenzivno koristi na bojištima su bespilotne letilice koje često nazivamo dronovima (dron je ipak širi pojam i odnosi se i na druga sredstva bez posade, robotizovana kopnena i vodena vozila). Danas postoje tehnički načini da se dronovi na tečno gorivo dopunjuju u letu a autonomija onih sa baterijama može da bude desetine sati. Svjedoci smo da se sve više koriste “samoubilački – kamikaze” dronovi koji su u stanju da nadgledaju bojište i po potrebi napadnu neprijatelje pod neočekivanih uglovima za postojeća sredstva protivvazdušne odbrane samouništavajući se prilikom napada. Veoma su popularni zbog povljnog odnosa cijena/efektivnost.
Odnos cijena/efektivnost koji je postignut kod vazdušnih dronova nije za sada postignut kod autonomnih kopnenih vozila, robotskih tenkova i sličnih, namijenjenih za podršku pješadiji i operacijama na kopnu. Interesantno je reći da su prvi robotski ili, kako su se tad zvali, tele-tankovi razvijeni od Sovjetskog saveza tokom Drugog svjetskog rata. Razlozi zbog kojih kopneni dronovi, u ovom trenutku, nisu toliko uspješni kao vazdušni su sljedeći. Prvo oni su manji od tenkova što je ako ih posmatramo kao mete prednost, ali ako se posmatraju za napadačke aktivnosti manja visina znači manju vidljivost u odnosu na standardne tenkove (i druga oklopna vozila) sa ljudskom posadom.
Svjetski stručnjaci na UCG: Vještačka inteligencija – između mita i realnosti
Takođe, oni imaju inferiornije topove, mitraljeze i lansere raketa u odnosu na standardne tenkove. Dodatno, u slučaju nekoga problema tenkovska posada može da razriješi kvarove, pomogne susjednoj posadi ili zatraži pomoć od specijalizovane jedinice za ovu namjenu. Trenutno, ovo nije moguće kod robotizovanih sredstava. Za razliku od vazdušnih dronova čiji su operateri, osim kod najprimitivnijih varijanti, na sigurnom rastojanju od linije fronta, operateri kopnenih dronova nalaze se svega nekoliko stotina metara ili u najboljem slučaju par kilometara iza ove linije. Dakle, operateri nisu na sigurnom što nije slučaj kod vazdušnih dronova. U urbanom okruženju postoji problem sa komunikacijama zbog zgrada i drugih prepreka kao i ometanja. Neke supersile u svojim dokumentima navode da korišćenje robotskih tenkova na realnom bojištu zahtjeva veći broj ljudi nego je potreban kod standardnih tenkovskih jedinica. Naravno za očekivati je da će se situacija promjeniti u nastupajućim godinama. Primjena kopnenih (polu)autonomnih vozila u aktivnostima deminiranja pokazala se izvanrednom.
Bespilotne letilice u uslovima intenzivnih elektronskih kontramjera mogu, takođe, da imaju problema u primjeni. Ovi dronove se mogu lansirati sa predefinisanim programom ali su često rukovani od strane operatera. U operacija protiv tehnološki nerazvijenih protivnika nema problema u komunikaciji ali u slučaju protivnika koji mogu da ometaju komunikaciju korišćenje daljinskog upravljanja dronovima može biti otežano ili onemogućeno. Sve više i više se u otvorenoj literaturi, bilo u popularnim ili i u poznatim naučnim časopisima, nalaze izvještaji o jatima dronova koji napadaju neprijatelja sa limitiranom ili bez komunikacija sa operaterom. U pitanju su uređaji, odnosno grupe uređaja, koji sami biraju mete na osnovu nekog prethodnog znanja ili informacija koje su prikupile u fazi izviđanja. Ovo je posljednji udarac onome što je pretpostavljeno kao podrazumijevano ograničenje robotike/automatizacije. Mašine/roboti mogu da ubijaju ljude na osnovu sopstvene odluke (na osnovu softvera koji je instaliran u procesirajućoj jedinici mašine). Podsjedimo se čuvenih Čapek-Asimovljevih Zakona robotike:[5]
- Roboti ne smiju povrijediti ljudsko biće ili neaktivnošću prouzrokovati štetu ljudima;
- Roboti moraju pratiti naredbe ljudi osim onih čije bi praćenje prouzrokovalo narušavanje prvog Zakona.
Slobodno se može zaključiti da smo dostigli potpunu suprotnost, ideolozi robotike su potpuno promašili pravac u kome će ići budućnost ove oblasti. Što ovdje može da pođe po zlu? Mašina iz bilo koga razloga može da počne da ubija druge osobe od onih koje su cilj njenoga djelovanja pa čak i sopstvenu stranu. Riječ je o jednoj potencijalno najzastrušujućih primjena tehnologije, odnosno da mašine direktno povrijeđuju ljude čak i kada to nije u skladu sa namjerama njihovih vlasnika. Da li je ovakav ishod moguć? Ne smije se zanemariti ova mogućnost posebno imajući na umu da strana u sukobu može primijeniti nedovoljno testiranu tehnologiju pod pretpostavkom da neprijatelj na nju nema adekvatan odgovor ili u uslovima težnje da se preokrene nepovoljna situacija na bojištu.
Svjedoci smo da se u aktuelnim vojnim sukobina primjenjuju i dronovi u vodi ili pod vodom. Komunikacioni problemi kod ovih sredstava mogu biti mnogo složeniji. Elektromagnetna komunikacija kod ovih sredstava može biti nemoguća pa je vještačka inteligencija kod ovih sredstava još značajnija nego kod bespilotnih letilica.
Od skora ubrzao se i razvoj humanoiodnih i animoidnih robota. Na tržištu se mogu kupiti roboti, kao što su oni kompanije Boston dynamics. Između ostaloga ovakvi roboti mogu se koristiti za prenos tereta ili ranjenika na bojištu. Razvijeni su i drugi inteligentni uređaju kao i egzoskeleti koji mogu da povećaju sposobnosti vojnika. Danas se smatra da dodatna sredstva koja u tehničkom smislu mogu da povećaju sposobnosti vojnika treba da budu dostupna ne samo specijalnim jedinicama već mnogo većem broju vojnika i jedinica. Razvijaju se brojne senzorske platforme koje mogu pomoći u donošenju odluka u vanrednim situacijama i ratovima. Slična sredstva su razvijena tokom Hladnog rata ali današnji senzorski čvorovi, pored ogromne procesorske snage, mogu biti izuzetno jeftini. Postoje senzorski čvorovi veličine koferčića koji mogu da mjere sve osnovne parametre okruženja važne u vanrednim situacijama a koji su istovremeno i bazne stanice za nekoliko mobilnih komunikacionih sistema. Cijene ovih kofera mogu biti u granicama 1000-2000 evra. Egzoskeleti, napredne senzorske i komunikacione platforme postaje integrisani dio vojne opreme (za sada uglavnom za jedinice za specijalne namjene) ali takođe robotizovana oružja opremljena sa daljinskim upravljanjem i sposobnošću da same donose odluku su već ili na putu ka bojištima. Napredni, inteligentni sistemi za vojnu avijaciju, mornaricu i protivvazdušnu odbranu su u stalnom razvoju. Sve više i više informacija će biti prikupljano na jednom mjestu dozvoljavajući analizu ratišta i donošenje odluka na nivou i brzinom koja je bez presedana čak i bez uključivanja ljudi. Tokom Hladnog rada ovakva sposobnost je bila rezervisana samo za one uređaje, odnosno raketne sisteme, koje su bili namijenjene za automatsko aktiviranje u slučaju napada neprijatelja oružjem za masovno uništenje. Danas se ovakve ratne mašine za automatsko donošenje odluka sve šire koriste na modernom bojištu.
Sa pozitivne tačke gledišta vještačka inteligencija može da popravi bezbjednost civilnog i vojnog personala kroz inteligentne alate za pronalaženje eksploziva, mina, štetnih supstanci pa i kroz povećanje informacione bezbjednosti kroz rano otkrivanje potencijalnih napada na kritičnu informatičku infrastrukturu, itd.
Trka u naoružanju u vještakoj inteligenciji
Nedavno je skovan termin “artificial intelligence arms race” – trka u naoružanju u vještačkoj inteligenciji: “borba između dvije ili više država da imaju vojne snage snadbjevene najboljim sredstvima vještačke inteligencije”.[6]
Neke on tehnički najrazvijenijih zemalja i lidera u vještačkoj inteligenciji (SAD, Velika Britanija, Novi Zeland, Australija i Kanada) sarađuju na ovom polju kroz kroz program “Pet očiju” (Five eyes) The Technical Cooperation Program (TTCP). Počevši od septembra 2018. provode vježbe borbi u urbanom okruženju (Contested Urban Environment) sa primjenom moderne tehnologije i vještačke inteligencije. Na vježbama učestvuje stotine naučnika (više nego vojnika).
Odbrambena naučna i tehnološka laboratorija vlade Ujedinjenog kraljevstva demonstrirala je, sa industrijskim partnerima, dostignuća u razvoja integrisanog sistema autonomnih senzora koji vrše nadzor niskog nivoa sa sistemom vještačke inteligencije za donošenje odluka. Uspjeli su automatski monitoring većeg broja aktivnosti, identifikaciju rizika, potencijalnih protivnika, smanjivanje vremena za odlučivanje i reakciju, kao i adekvatnu alokaciju resursa. Tadašnji minister za vojne nabavke Ujedinjenog kraljevstva Endrju Stujart izjavio je “Ovaj, britanski, sistem može služiti kao autonomne oči u urbanom bojištu. Ova tehnologija može skenirati ulice radi detekcije neprijatelja tako da trupe mogu biti u stanju da se pripremi za borbu brže, možete imati pouzdaniji informacije o napadačima koji se nalaze iza ugla.“[7] Tehnologija može da identifikuje napadače na osnovu njihovih pokreta, ponašanja i objekata. Ideja je da senzori u složenoj mreži budu raspoređeni i integrisani sa klasičnim sredstvima koja uključuju satelite, nadzor iz vazduha i druga sredstva za upravljenje kretanja vojnika i jedinica.
Međutim, ova tehnologija ima i drugu stranu štapa jer može poslužiti za premoštavanje tehnološkog procjepa koji postoji između razvijenih zemalja i drugih država učesnica u ratnom/bezbjedonosnom teatru zbog niske cijene razvoja i postojanja jeftinih senzorskih i procesnih platformi. Može se pretpostaviti da se oko 70% funkcionalnosti sistema koji košta milijardu evra može postići sistemima koji su jeftiniji nekoliko stotina ili hiljadu puta.
Predsjednik Ruske federacije Vladimir Putin je u govoru učenicima na prvi dan školske 2017 godine rekao: “Vještačka inteligencija je budućnost, ne samo u Rusiji, već u čitavom svijetu. Ona donosi kolosalne mogućnosti ali i opasnosti koje se teško mogu predvidjeti. Ko postane lider u ovoj sferi vladaće svijetom.”[8] Mnogi analitičari ne vjeruju da je Ruska federacija u stanju da se bori sa zapadnim zemljama zbog nemogućnosti da finansira istraživanja i zbog konstantnog odliva mozgova. Ovakve pretpostavke se mogu pokazati i pogrešnim zbog činjenice da razvoj u oblasti vještačke inteligencije ne zahtjeva ogromne resurse te da cijena razvoja u SAD i Evropskoj uniji može biti mnogo veća nego u ostatku svijeta. Mnoge manje razvijene zemlje svijeta su pokazale sposobnost da savremene tehnologije upotrijebe za vojni razvoj. Kompanije iz manje razvijenih djelova svijeta prednjače u nekim veoma inovativnim rješenjima u oblasti informaciono komunikacionih tehnologija, uključujući ono što može imati primjenu i u vojnoj industriji. Neki od današnjih tehnoloških trendova nisu nastali u Silikonskoj dolini ili na velikim univerzitetima zapadnog svijeta već u sasvim drugim krajevima planete. U mnogim tehnološko-tržišnim “nišama” dominiraju kompanije iz manje razvijenih zemalja. Sa druge strane broj studenata u STEM oblastima (nauka, tehnologija, inženjerstvo i matematika) je na zapadu u padu. Poznato je da od broja STEM specijalista zavisi dinamika razvoja vojnih tehnologija. Prednost zapada i dalje ostaje sposobnost za prikupljanje i baratanje ogromnim količinama podataka ali ne i u samoj vještačkoj inteligenciji.
Narodna republika Kina razvija veoma dinamično gotovo sve tehnološke oblasti. U gotovo nijednoj nije više tehnološki inferiorna. U brojnim oblastima tehnologije po inovacijama, patentima, broju naučnih radova itd. Kina prednjači u odnosu na konkurenciju. Broj STEM profesionalaca i studenata veći je nego gotovo u svim zapadnim zemljama zajedno. Često se tvrdi da Kinezi kopiraju zapadne proizvode i tehnologiju, pa i u oblasti vještačke inteligencije. Međutim, postoji mnoštvo originalnih pravaca razvoja, tehnika i algoritama koje su razvili kineski naučnici i koji predstavljaju vrhunac ove oblasti. Kineske kompanije investiraju velika sredstva u mašinsko učenje i vještačku inteligenciju sa primjenama od poljoprivrede do kompleksnih vojnih sistema.
Država Izrael je razvila više tipova kamikaze “lansiraj i zaboravi” dronova. Mnogi od njih se koristi za nadzor ali sa sposobnošću da se neprijateljske pozicije napadnu putem “samoubilačke” akcije. Vjerovatno su razvili i mnoštvo drugih oružja i sistema koje koriste u svakodnevnim bezbjednosnim operacijama.
Razvoj i primjena autonomnih uređaja i vještačke inteligencije nije prošao nezapaženo. Desetine hiljada građana uključujući mnoge poznate naučnike, biznismene, tehnološke gurue uključujući pokojnog Stivena Houkinga. Ilona Maska, Stiva Voznijaka traže zabranu automatskih robotskih oružja. Nažalost, ne postoji ni najmanja šansa da se ovi apeli pretvore u zabranu a i ako bi došlo do zabrane nema šanse da bi se ona poštovala. Trenutno se vode neki pregovori u Ujedinjenim nacijama ali za sada se države nisu složile ni oko toga kako da se predmetna oružja i sistemi definišu. Više desetina država je podržalo potpunu zabranu ofanzivnog automatskog/robotizovanog oružja ali je to samo mrtvo slovo na papiru koje niko ne poštuje. Postoje pozivi da se zabrana donese kroz neoficijelne kanale ili kroz ugovor kojim bi se zabranila proliferacija dronova i drugih naprednih tehnologija (uključujući vještačku inteligenciju). O ovome postoji i komunikacija među svetskim silama putem diplomatskih kanala.
Nažalost, po mom mišljenju sve su ovo utopističke ideje. Razvoj vještačke inteligencije je jeftin i u velikom dijelu mnogi odlični alati su dostupni čak i besplatno. Osnovna i praktično jedina prednost koju strana u sukobu može imati, odnosi se na količinu i kvalitet prikupljenih podataka i sposobnost njihovog procesiranja ali ne u samim postupcima vještačke inteligencije. Stoga se može pretpostaviti da će ove tehnike biti korišćene od strane organizovanog kriminala i terorista što bi im moglo omogućiti da se po sposobnostima primaknu regularnim vojnim i bezbjedonosnim službama.
Noel Šarki sa Univerziteta u Šefildu dijeli ovo mišljenje. On tvrdi da tehnologija može da u značajnom mjeri pomogne terorističkim organizacijama kakva je na primjer Islamska država. Pored toga on je upozorava protiv “tekuće trke u naoružavanju među visokotehnološkim nacijama u razvoju autonomnih podmornica, borbenih aviona, vojnih brodova i tenkova koji mogu sami da nalaze mete i primjenjuju nasilne akcije protiv njih bez uključenja ljudi”.[9] Sjuart Raset sa Berklija vrijeruj da će pobjednici u trci u naoružavanju u vještačkoj inteligenciji biti tehnološki podređene država, teroristi i mafija.[10]
Neka od ovih mračnih predviđanja su već realnost. Tokom rata u Siriji i Iraku, teroristička organizacija Islamska država pokazala je veliku sposobnosti da primijeni napredne tehnike uključujući dronove, socijalne mreže, napredna komunikaciona sredstva, psihološko ratovanje savremenim komunikacionim alatima, jeftine senzore i sredstva za prikupljanje energije itd. Danas smo svjesni da su neke od njihovih inovacija inspirisale razvoj u državnom / oficijalnom vojnoindustrijskom sektoru više država.
Iz svega iznesenog ,jasno je da bi neka konvencija o ograničavanju upotrebe i razvoja vještačke inteligencije mogla biti od koristi na kratak rok, međutim, već više puta je istaknuto činjenica da teroristi i organizovani kriminal ovdje mogu da budu ispred država čini provođenje ove konvencije nemogućim. U bliskoj budućnosti vidjećemo još veći nivo integracije hardvera, softvera sa tehnikama vještačke inteligencije, manje uključenje ljudi (generala) u donošenju odluka i smanjivanje tehnološke razlike između država (uključujući visokotehnološke) i nedržavnih entiteta.
Zaključak
Napravili smo kratak pregled vezan za aktuelni razvoja vještačke inteligencije sa fokusom na primjene u ratovima budućnosti. Vojske velikih sila biće ojačane sa robotskim oružjem ali će sličnu transformaciju doživjeti i vojske manjih zemalja koje pravilno alociraju resurse u tehnologiju, kao i nedržavni agenti (plaćeničke organizacije, teroristi, organizovani kriminal itd.). Tvrdimo da zbog, prije svega, niske cijene razvoj ove tehnologije ne može biti obustavljen. Ono što treba da vještačka inteligencija je skoro idealan alat za dalju eskalaciju sukoba i urušavanja međunarodne bezbjedonosne infrastrukture. Ovo je upozorenje velikim i moćnim državama. Pobjednik u trci u naoružavanju u vještačkoj inteligenciji može biti potpuno neočekivani entitet. Stoga pravi način da se spriječi katastrofa nije u ograničavanju razvoja vještačke inteligencije već isključivo u razrješavanju postojećih konflikata mirnim putem i smanjivanjem tenzija i daljem izbjegavanju sukoba. U “mirnom” svijetu alati vještačke inteligencije mogu da donesu veliki prosperitet čovječanstvu koga bi valjalo iskoristiti. U svijetu sukoba potencijalna snaga ove tehnologije je na nivou najopasnijih oružja za masovno uništenje.
[1] Esej je zasnovan na radu I. Đurović, „Artificial intelligence and future of wars,“ Montenegrin Academy of Sciences and Arts, May 2019, Conference Approaching 20??, 16-18.05.2019. Stoga su mnogi izloženi podaci ažurni zaključno sa 2018. godine.
[2] M. S. Grewal, A. P. Andrews, “Applications of Kalman Filtering in Aerospace 1960 to the Present [Historical Perspectives],” IEEE Control Systems Magazine, Vol. 30, No. 3, pp. 69-78, May 2010.
[3] I. Goodfellow, Y. Bengio, A. Courville, Deep learning, MIT Press, 2016. http://www.deeplearningbook.org
[4] UK healthcare text analytics network, available on-line http://healtex.org/
[5] https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
[6] „Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter”, Otvoreno pismo o vještačkoj inteligenciji, detalji dostupni na: https://en.wikipedia.org/wiki/Open_Letter_on_Artificial_Intelligence
[7] UK government report, Streets ahead: British AI eyes scan future frontline in multinational urban experiment
Available on-line; https://www.gov.uk/government/news/streets-ahead-british-ai-eyes-scan-future-frontline-in-multinational-urban-experiment
[8] J. Vincent, “Putin says the nation that leads in AI ‘will be the ruler of the world”, The Verge, 04.09.2017. Available online: https://www.theverge.com/2017/9/4/16251226/russia-ai-putin-rule-the-world
[9] N. Sharky, “Robot wars are reality,” The Guardian, 18.08.2007, available on-line https://www.theguardian.com/commentisfree/2007/aug/18/comment.military
[10] F. L. Ruta, “Do the benefits of artificial intelligence outweigh the risk,” The Economist, 10.09.2018. Available on-line: https://www.economist.com/open-future/2018/09/10/do-the-benefits-of-artificial-intelligence-outweigh-the-risks
