Пише: Академик Игор Ђуровић
Црногорска академија наука и умјетности
Електротехнички факултет, Универзитет Црне Горе
Вјештачка интелигенција и будућност ратовања[1]
Експонецијални развој вјештачке интелигенције, а посебно дубоког учења, утиче на све аспекте људског друштва. Једна од несрећних посљедица овог развоја је примјена у, ономе што се еуфемистички назива, одбрамбеном индустријом. Другим ријечима развој вјештачке интелигенције ће допринијети (не)сигурности и ратовима. Стога је циљ овога текста да направимо кратак преглед актуелних дешавања као и потенцијалног будућег развоја. Актуелна дешавања иду нарушавања Чапек-Асимовљевих закона роботике (да роботи и друге интелигентне машине неће наудити људима). Друго питање на које ћемо посебно поменути је могућност да из овог процеса недржавни ентитети изађу као релативни побједници.
Што је то вјештачка интелигенција?
Налазимо се, зависности како се броји, у трећој или четвртој техничко-индустријској револуцији која се назива информатичком. Можемо рећи да смо тренутно у почетним фазама великог убрзавања овога развоја захваљујући прогресу у вјештачкој интелигенцији. Вјештачку интелигенцију чине бројни научни алати – компјутерски алгоритми и методи, неки од њих примјењени на хардверским системима. Међутим, није једноставно дати просту и конзистентну дефиницију овога појма. Да би описали круцијалне карактеристике вјештачке интелигенције дајемо једноставни експеримент са системом за који се сматра да не припада скупу метода вјештачке интелигенције.
Посматрајмо аутономно возило које посједује камеру и контролну јединицу. Возило се креће по једноставној путањи без других објеката на истој. Аутономни систем треба да вози аутомобил између двије јасно назначене паралелне линије на путу. Када се путем визуелног систем уочи да је возило преблизу линији, контролна јединица наређује помјерање аута од линије. Ипак, ствари нису баш толико једноставне. Нагле промјене и заокрети су нежељени јер могу да угрозе аутомобил и особе у њему. На примјер, ако се возило налази стабилно на 30цм од линије оно се може полако одмакнути од исте док ако су претходна мјерења била 15цм, 20цм, закључак може да буде да се возило одмиче од линије те да не треба предузимати корективне акције. Међутим, ако су претходна мјерења била 60цм па 40цм закључак може бити да се возило примиче линији те да треба нагло промијенити правац кретања у циљу избјегавања удара у маргине пута. Јасно је да систем треба да памти нека претходна, историјска, мјерења (називају се одбирцима или чворовима). Ова мјерења нису једнако битна, односно, најбитније је текуће мјерење док су претходна нешто мање важна. Стога се у прорачун укључују „тежине“ са којима одређујемо важност појединих мјерења.
Оптималне тежине зависе од многих фактора као што су брзина, видљивост, временске прилике, стање пута, па је неко прилагођавање предметних тежина неопходно. Овакав проблем је у класи за чије рјешавање су током 60-так година развијена рјешења са хиљадама варијанти. Најбитнији у овој класи поступака развио је Рудолф Калман па се неки од метода називају Калмановим филтрима[2]. У срцу ових техника налази се градијентно подешавање тежина које у складу са погодним критеријумом омогућава да се вриједности тежина постепено прилагођавају док не добијемо задовољавајуће резултате – оптималне или адаптивне тежине. Систем се понекад назива линеарни адаптивни тежинским сабирачем. Алгоритам оптимизације тежина назива се методом најбржег спуштања или спуска. И поред огромне важности и блискости са неким од алгоритама вјештачке интелигенције, овакви алгоритми не сматрају се дијелом алата вјештачке интелигенције.
Покушајмо сада да опишемо један од поступака за који се сматра да припада вјештачкој интелигенцији. Нека је то препознавање појединачног карактера текста. Сваки карактер има неке карактеристике. На примјер, код слова „о“ имамо једну „рупу“, нема правих линија, слово је симетрично, слово „а“ има једну рупу, има дио праве линије, није потпуно симетрично, слово „б“ има праву линију, једну рупу нема симетрију, итд. Први корак је да одредимо одређене карактеристике карактера (типове линија, симетричност, цетралну тачку, итд.). На основу ових карактеристика треба да донесемо одлуку који је карактер у питању. На почетку свакој карактеристици дамо одређену „тежину“. Међутим, те карактеристике су повезане па треба направити међупрорачун њиховог утицаја. Тај међупрорачун назива се скривеним слојем. Затим се направи још један напор којим се комбинују међупрорачуни да би се донијела коначна одлука. У претходном проблему са возилом, одлука је била да се правац возила помјери за неколико степени уз евентуалну промјену брзине. Код препознавања карактера одлука о томе које је слово из скупа могућих. Дакле, у случају препознавања одлука је „нелинеарна“ – ако је резултат преко неке вриједности (назива се прагом) констатујемо да је у питању карактер „а“ а ако није „а“ на основу тежинске суме одређујемо који би то могао бити други карактер. У овом случају имамо више тежина на улазу, додатне тежине у међуслоју и трећу групу тежина за доношење коначне одлуке. Међутим, подешавање тежина се не обавља у „вожњи“ већ се обавља током читања некога текста. Стога је погодно узети неки велики познати текст на основу њега подесити тежине тако да се постигне висока прецизност у препознавању карактера. Ова фаза назива се тренингом или машинским учењем. Затим се научено примјењује на непознати текст а повремено се може вршити и додатни тренинг. Алгоритам кога смо управо поједностављено описали назива се неуралном мрежом. И код њега постоје тежине (сада знатно већи број) које се подешавају (сада се каже тренирају или се још каже да мрежа „учи“) путем алгоритама најбржег спуштања. За неуралне мреже, за разлику од адаптивног линеарног сабирача, сматра се да припадају техникама вјештачке интелигенције.
Сада можемо да покушамо да одговоримо по чему се софтвер, метод или алгоритам смијештају у скуп алата вјештачке интелигенције. Прво, проблем који се посматра је компликованији него онај кога смо описивали за контролу вожње, а уједно је и нелинеаран. Код описане неуралне мреже за препозвање карактера текста, нелинеарност се огледа у скривеном слоју и поступку одлучивања. Такве нелинеарности нема у првом систему. Системи вјештачке интелигенције су дизајнирани да раде са већом количином података, више улаза и више излаза.
Оптимизациони критеријуми код система вјештачке интелигенције не могу се увијек добро дефинисати, често су неодређени и непрецизни или како се каже фуззy. Коначно, обично се претпоставља да алгоритми вјештачке интелигенције личе на биолошке системе (људе или животиње). Ово је разлог да су научници често тражили инспирацију за своје методе у биолошким системима што је резултовали називима тих алгоритама и метода: неуралне мреже, генетички алгоритми, еволуциона израчунавања, оптимизација колоније мрава, итд. Садашње сагледавање интелигенције биолошких система показује слабу корелацију између начина како ови системи раде и научне аналогије у имплементацији поступака у области вјештачке интелигенијце.
Вјештачка интелигенција – историјске перспективе и текући развоја?
Термин вјештачка интелигенција је уведен прије 150 година. Гудфелоу је, са сарадницима, вјероватно написао најпотпунији историјски преглед развоја вјештачке интелигенције[3]. Тренутни тренд у вјештачкој интелигенцији представља тзв. дубоко учење. Код дубоког учења постоје двије разлике у односу на претходно описано. Прва разлика је броју (дубини) скривених слојева којих је код овога типа машинског учења више (типично десетак). Друга разлика је у томе да обично код дубоког учења радимо са сировим подацима (нпр. сликом слова) на улазу у систем а не са карактеристикама које сами осмишљавамо. Обије ове особине дубоког учења драстично увећавају број тежинских коефицијената које градијентним алгоритмом треба да одредимо. У питању су често десетине милиона тежинских коефицијената а може бити и много више. Да би се коефицијенти подесили (мрежа научила) био је потребан посебан развој на пољу алгоритмике. У питању су стохастички (случајни) градијентни приступ. Када се подешава огроман број тежинских коефицијената овај поступак је неколико редова величине бржи од стандардних поступака.
Да бих илустровао колико су резултати дубоког учења узнапредовали у односу на класичне („плитке“) неуралне мреже описаћу што се догодило колеги који предаје курс машинског учења на универзитету у Персијском заливу. Дужи низ година је саставни дио курса био пројекат сљедеће садржине: на великом скупу расположивих сателитских снимака треба извршити препознавање некретнина. Уобичајено вријеме потребно да се комплетира пројекат било је око 2 мјесеца од чега је тренирање мреже трајало око половину тога времена. Школске 2017/18 током уводног термина од три часа, док је мој колега објашњавао студентима што се од њих очекује, један од студената је инсталирао алат за машинско учење који је подржавао дубоко учење, преузео сателитске снимке, извршио тренирање мреже и добио већу тачност него што је икада на наведени пројектима добијена. Ово је наравно натјерало наставника да промијени и студентима да сложенији пројектни задатак.
Слични извјештаји се могу пронаћи практично свугдје. Појединци (чак и без посебне експертизе) коришћењем слободно доступних алата за дубоко учење постижу резултате који превазилазе оно што је наука радила са великим напорима десетине година. Неки истраживачи чак тврде да су њихови послови у опасност. Чак и лауреати Нобелове награде и други уважени научници, власници водећих компанија у области информационих технологија, технолошки гурии, бивше водеће дипломате и политичари итд. позивају на ограничавање развоја у области вјештачке интелигенције како би друштво могло преживјети промјене које развој ове технологије доноси.
Међутим, долазимо до питања које је то тијело које би требало да успостави и контролише границе развоја вјештачке интелигенције. Вјероватно, Уједињене нације кроз неки споразум/уговор потписан од свих чланица. Међутим, илузиција је да је ово озбиљна опција. Истраживања вјештачке интелигенције су и даље релативно јефтина без огромних улагања, индустријских комплекса и енергетских ресурса, без неке посебно напредне и недоступне неопходне технологије, без великог броја ангажованих итд. Једина компаративна предност може бити у способности да се прикупи и процесира огромна количина података а не у самим алгоритмима вјештачке интелигенције. Премда се очекује да оваква истраживања доминантно финансирају држава њих могу да подрже компаније, непрофитне организације али и организовани криминал и терористичке групе. Дакле, по мом мишљењу, не постоји ни најмања шанса да се истраживања у области вјештачке интелигенције могу зауставити или контролисати. Заједно са могућношћу прикупљања и обраде огромне количине података вјештачка интелигенција носи огроман потенцијал за прогрес али представља и праву фабрику страхова.
Ефективност и користи које се могу остварити овим истраживања могу се илустровати хеалтеx пројектом који је провођен у Великој Британији[4]. Вјештачка интелигенција је употријебљена за рашчлањивање текста око 15.000 научних радова из области медицине (половина у пуном облику док су други у облику апстракта) везаних за проучовање два типа болова код пацијената. Разматрана је улога протеина у реакцијама које се називају патхwаyс (путањама) у релевантним сценаријима код два типа бола. Суштина истраживања је била да се на основу мноштва радова детерминишу кључни протеини у овим путањама. Развијени систем машинског учења је идентификовао 11 протеина који учествују у предметним реакцијама док су до тада фармацеутске компаније креирале медикаменте који су третирали укупно четири протеина. Дакле, овим истраживањем је откривено 7 протеина који учествују у реакцијама које утичу на осјећај бола код пацијената што је знатно поправило могућност развоја медикамената. Приликом реализације овог пројекта коришћено је десет слободно доступних софтверских алата са најзахтјевнијим дијелом пројекта везаним за прилагођавање улазних подаци из научних радова постојећим софтверским интерфејсима. Ова фаза је укључивала само два човјека који су радили укупно пола године.
Све ово је довело до екстремне популарности изучавања машинског/дубоког учења. На водећим инжењерским школама универзитетима у САД није ријетка ситуација да курсеве машинског учења похађа 500 или више студената различитих специјалности. Са друге стане многи други круцијални курсеви се не организују због малога интереса. Прије пар година курс Дигиталних комуникација на докторским студијама МИТ-а по први пут за више од 30 година није организован јер није било интересовања. Моје колеге које се баве обрадом сигнала су под притиском руководстава факултета да у оквиру својих курсева изучавају машинско учење или да их реорганизују тако да представљају подршку системима машинског учења. Број научних радова у овој области је више десетина хиљада годишње. У 2018. години постигнут је рекорд од 50.000 публикаца само на тему дубоког учења док их је претходне 2022. године то је било око 33.000. Водећи спонзори научних истраживања инвестирају огромна средства у ову област.
Вјештачка интелигенција и ратови
Нажалост, људи су кроз историју испољавали велику креативност у ратовима или ономе што се еуфемистички назива одбрамбеном индустријом. Током читаве људске историје ратови су били једна од главних мотивационих области развоја различитих техничких средстава. Није се то промјенило ни до данашњих дана. Војна индустрија је и даље једно од главних поља за развој или тестирање нових технологија. Нема дилеме да исто важи и за вјештачку интелигенцију. Вјештачка интелигенција има потенцијал да се примјени на различитим нивоима ратне индустрије, од прикупљања података, планирања, команде, контроле, анализе ратишта, до оперативног нивоа и извршавања. Ријеч је о широкој проблематици да би се овдје анализирала у детаље. Стога ћу нешто рећи само о оним технолошким аспектима који се могу примјенити директно на бојном пољу. На примјер, једно од технолошких рјешења које се већ интензивно користи на бојиштима су беспилотне летилице које често називамо дроновима (дрон је ипак шири појам и односи се и на друга средства без посаде, роботизована копнена и водена возила). Данас постоје технички начини да се дронови на течно гориво допуњују у лету а аутономија оних са батеријама може да буде десетине сати. Свједоци смо да се све више користе “самоубилачки – камиказе” дронови који су у стању да надгледају бојиште и по потреби нападну непријатеље под неочекиваних угловима за постојећа средства противваздушне одбране самоуништавајући се приликом напада. Веома су популарни због повљног односа цијена/ефективност.
Однос цијена/ефективност који је постигнут код ваздушних дронова није за сада постигнут код аутономних копнених возила, роботских тенкова и сличних, намијењених за подршку пјешадији и операцијама на копну. Интересантно је рећи да су први роботски или, како су се тад звали, теле-танкови развијени од Совјетског савеза током Другог свјетског рата. Разлози због којих копнени дронови, у овом тренутку, нису толико успјешни као ваздушни су сљедећи. Прво они су мањи од тенкова што је ако их посматрамо као мете предност, али ако се посматрају за нападачке активности мања висина значи мању видљивост у односу на стандардне тенкове (и друга оклопна возила) са људском посадом.
Свјетски стручњаци на УЦГ: Вјештачка интелигенција – између мита и реалности
Такође, они имају инфериорније топове, митраљезе и лансере ракета у односу на стандардне тенкове. Додатно, у случају некога проблема тенковска посада може да разријеши кварове, помогне сусједној посади или затражи помоћ од специјализоване јединице за ову намјену. Тренутно, ово није могуће код роботизованих средстава. За разлику од ваздушних дронова чији су оператери, осим код најпримитивнијих варијанти, на сигурном растојању од линије фронта, оператери копнених дронова налазе се свега неколико стотина метара или у најбољем случају пар километара иза ове линије. Дакле, оператери нису на сигурном што није случај код ваздушних дронова. У урбаном окружењу постоји проблем са комуникацијама због зграда и других препрека као и ометања. Неке суперсиле у својим документима наводе да коришћење роботских тенкова на реалном бојишту захтјева већи број људи него је потребан код стандардних тенковских јединица. Наравно за очекивати је да ће се ситуација промјенити у наступајућим годинама. Примјена копнених (полу)аутономних возила у активностима деминирања показала се изванредном.
Беспилотне летилице у условима интензивних електронских контрамјера могу, такође, да имају проблема у примјени. Ови дронове се могу лансирати са предефинисаним програмом али су често руковани од стране оператера. У операција против технолошки неразвијених противника нема проблема у комуникацији али у случају противника који могу да ометају комуникацију коришћење даљинског управљања дроновима може бити отежано или онемогућено. Све више и више се у отвореној литератури, било у популарним или и у познатим научним часописима, налазе извјештаји о јатима дронова који нападају непријатеља са лимитираном или без комуникација са оператером. У питању су уређаји, односно групе уређаја, који сами бирају мете на основу неког претходног знања или информација које су прикупиле у фази извиђања. Ово је посљедњи ударац ономе што је претпостављено као подразумијевано ограничење роботике/аутоматизације. Машине/роботи могу да убијају људе на основу сопствене одлуке (на основу софтвера који је инсталиран у процесирајућој јединици машине). Подсједимо се чувених Чапек-Асимовљевих Закона роботике:[5]
- Роботи не смију повриједити људско биће или неактивношћу проузроковати штету људима;
- Роботи морају пратити наредбе људи осим оних чије би праћење проузроковало нарушавање првог Закона.
Слободно се може закључити да смо достигли потпуну супротност, идеолози роботике су потпуно промашили правац у коме ће ићи будућност ове области. Што овдје може да пође по злу? Машина из било кога разлога може да почне да убија друге особе од оних које су циљ њенога дјеловања па чак и сопствену страну. Ријеч је о једној потенцијално најзаструшујућих примјена технологије, односно да машине директно повријеђују људе чак и када то није у складу са намјерама њихових власника. Да ли је овакав исход могућ? Не смије се занемарити ова могућност посебно имајући на уму да страна у сукобу може примијенити недовољно тестирану технологију под претпоставком да непријатељ на њу нема адекватан одговор или у условима тежње да се преокрене неповољна ситуација на бојишту.
Свједоци смо да се у актуелним војним сукобина примјењују и дронови у води или под водом. Комуникациони проблеми код ових средстава могу бити много сложенији. Електромагнетна комуникација код ових средстава може бити немогућа па је вјештачка интелигенција код ових средстава још значајнија него код беспилотних летилица.
Од скора убрзао се и развој хуманоиодних и анимоидних робота. На тржишту се могу купити роботи, као што су они компаније Бостон дyнамицс. Између осталога овакви роботи могу се користити за пренос терета или рањеника на бојишту. Развијени су и други интелигентни уређају као и егзоскелети који могу да повећају способности војника. Данас се сматра да додатна средства која у техничком смислу могу да повећају способности војника треба да буду доступна не само специјалним јединицама већ много већем броју војника и јединица. Развијају се бројне сензорске платформе које могу помоћи у доношењу одлука у ванредним ситуацијама и ратовима. Слична средства су развијена током Хладног рата али данашњи сензорски чворови, поред огромне процесорске снаге, могу бити изузетно јефтини. Постоје сензорски чворови величине коферчића који могу да мјере све основне параметре окружења важне у ванредним ситуацијама а који су истовремено и базне станице за неколико мобилних комуникационих система. Цијене ових кофера могу бити у границама 1000-2000 евра. Егзоскелети, напредне сензорске и комуникационе платформе постаје интегрисани дио војне опреме (за сада углавном за јединице за специјалне намјене) али такође роботизована оружја опремљена са даљинским управљањем и способношћу да саме доносе одлуку су већ или на путу ка бојиштима. Напредни, интелигентни системи за војну авијацију, морнарицу и противваздушну одбрану су у сталном развоју. Све више и више информација ће бити прикупљано на једном мјесту дозвољавајући анализу ратишта и доношење одлука на нивоу и брзином која је без преседана чак и без укључивања људи. Током Хладног рада оваква способност је била резервисана само за оне уређаје, односно ракетне системе, које су били намијењене за аутоматско активирање у случају напада непријатеља оружјем за масовно уништење. Данас се овакве ратне машине за аутоматско доношење одлука све шире користе на модерном бојишту.
Са позитивне тачке гледишта вјештачка интелигенција може да поправи безбједност цивилног и војног персонала кроз интелигентне алате за проналажење експлозива, мина, штетних супстанци па и кроз повећање информационе безбједности кроз рано откривање потенцијалних напада на критичну информатичку инфраструктуру, итд.
Трка у наоружању у вјештакој интелигенцији
Недавно је скован термин “артифициал интеллигенце армс раце” – трка у наоружању у вјештачкој интелигенцији: “борба између двије или више држава да имају војне снаге снадбјевене најбољим средствима вјештачке интелигенције”.[6]
Неке он технички најразвијенијих земаља и лидера у вјештачкој интелигенцији (САД, Велика Британија, Нови Зеланд, Аустралија и Канада) сарађују на овом пољу кроз кроз програм “Пет очију” (Five eyes) The Technical Cooperation Program (TTCP). Почевши од септембра 2018. проводе вјежбе борби у урбаном окружењу (Contested Urban Environment) са примјеном модерне технологије и вјештачке интелигенције. На вјежбама учествује стотине научника (више него војника).
Одбрамбена научна и технолошка лабораторија владе Уједињеног краљевства демонстрирала је, са индустријским партнерима, достигнућа у развоја интегрисаног система аутономних сензора који врше надзор ниског нивоа са системом вјештачке интелигенције за доношење одлука. Успјели су аутоматски мониторинг већег броја активности, идентификацију ризика, потенцијалних противника, смањивање времена за одлучивање и реакцију, као и адекватну алокацију ресурса. Тадашњи министер за војне набавке Уједињеног краљевства Ендрју Стујарт изјавио је “Овај, британски, систем може служити као аутономне очи у урбаном бојишту. Ова технологија може скенирати улице ради детекције непријатеља тако да трупе могу бити у стању да се припреми за борбу брже, можете имати поузданији информације о нападачима који се налазе иза угла.“[7] Технологија може да идентификује нападаче на основу њихових покрета, понашања и објеката. Идеја је да сензори у сложеној мрежи буду распоређени и интегрисани са класичним средствима која укључују сателите, надзор из ваздуха и друга средства за управљење кретања војника и јединица.
Међутим, ова технологија има и другу страну штапа јер може послужити за премоштавање технолошког процјепа који постоји између развијених земаља и других држава учесница у ратном/безбједоносном театру због ниске цијене развоја и постојања јефтиних сензорских и процесних платформи. Може се претпоставити да се око 70% функционалности система који кошта милијарду евра може постићи системима који су јефтинији неколико стотина или хиљаду пута.
Предсједник Руске федерације Владимир Путин је у говору ученицима на први дан школске 2017 године рекао: “Вјештачка интелигенција је будућност, не само у Русији, већ у читавом свијету. Она доноси колосалне могућности али и опасности које се тешко могу предвидјети. Ко постане лидер у овој сфери владаће свијетом.”[8] Многи аналитичари не вјерују да је Руска федерација у стању да се бори са западним земљама због немогућности да финансира истраживања и због константног одлива мозгова. Овакве претпоставке се могу показати и погрешним због чињенице да развој у области вјештачке интелигенције не захтјева огромне ресурсе те да цијена развоја у САД и Европској унији може бити много већа него у остатку свијета. Многе мање развијене земље свијета су показале способност да савремене технологије употријебе за војни развој. Компаније из мање развијених дјелова свијета предњаче у неким веома иновативним рјешењима у области информационо комуникационих технологија, укључујући оно што може имати примјену и у војној индустрији. Неки од данашњих технолошких трендова нису настали у Силиконској долини или на великим универзитетима западног свијета већ у сасвим другим крајевима планете. У многим технолошко-тржишним “нишама” доминирају компаније из мање развијених земаља. Са друге стране број студената у СТЕМ областима (наука, технологија, инжењерство и математика) је на западу у паду. Познато је да од броја СТЕМ специјалиста зависи динамика развоја војних технологија. Предност запада и даље остаје способност за прикупљање и баратање огромним количинама података али не и у самој вјештачкој интелигенцији.
Народна република Кина развија веома динамично готово све технолошке области. У готово ниједној није више технолошки инфериорна. У бројним областима технологије по иновацијама, патентима, броју научних радова итд. Кина предњачи у односу на конкуренцију. Број СТЕМ професионалаца и студената већи је него готово у свим западним земљама заједно. Често се тврди да Кинези копирају западне производе и технологију, па и у области вјештачке интелигенције. Међутим, постоји мноштво оригиналних праваца развоја, техника и алгоритама које су развили кинески научници и који представљају врхунац ове области. Кинеске компаније инвестирају велика средства у машинско учење и вјештачку интелигенцију са примјенама од пољопривреде до комплексних војних система.
Држава Израел је развила више типова камиказе “лансирај и заборави” дронова. Многи од њих се користи за надзор али са способношћу да се непријатељске позиције нападну путем “самоубилачке” акције. Вјероватно су развили и мноштво других оружја и система које користе у свакодневним безбједносним операцијама.
Развој и примјена аутономних уређаја и вјештачке интелигенције није прошао незапажено. Десетине хиљада грађана укључујући многе познате научнике, бизнисмене, технолошке гуруе укључујући покојног Стивена Хоукинга. Илона Маска, Стива Вознијака траже забрану аутоматских роботских оружја. Нажалост, не постоји ни најмања шанса да се ови апели претворе у забрану а и ако би дошло до забране нема шансе да би се она поштовала. Тренутно се воде неки преговори у Уједињеним нацијама али за сада се државе нису сложиле ни око тога како да се предметна оружја и системи дефинишу. Више десетина држава је подржало потпуну забрану офанзивног аутоматског/роботизованог оружја али је то само мртво слово на папиру које нико не поштује. Постоје позиви да се забрана донесе кроз неофицијелне канале или кроз уговор којим би се забранила пролиферација дронова и других напредних технологија (укључујући вјештачку интелигенцију). О овоме постоји и комуникација међу светским силама путем дипломатских канала.
Нажалост, по мом мишљењу све су ово утопистичке идеје. Развој вјештачке интелигенције је јефтин и у великом дијелу многи одлични алати су доступни чак и бесплатно. Основна и практично једина предност коју страна у сукобу може имати, односи се на количину и квалитет прикупљених података и способност њиховог процесирања али не у самим поступцима вјештачке интелигенције. Стога се може претпоставити да ће ове технике бити коришћене од стране организованог криминала и терориста што би им могло омогућити да се по способностима примакну регуларним војним и безбједоносним службама.
Ноел Шарки са Универзитета у Шефилду дијели ово мишљење. Он тврди да технологија може да у значајном мјери помогне терористичким организацијама каква је на примјер Исламска држава. Поред тога он је упозорава против “текуће трке у наоружавању међу високотехнолошким нацијама у развоју аутономних подморница, борбених авиона, војних бродова и тенкова који могу сами да налазе мете и примјењују насилне акције против њих без укључења људи”.[9] Сјуарт Расет са Берклија вријеруј да ће побједници у трци у наоружавању у вјештачкој интелигенцији бити технолошки подређене држава, терористи и мафија.[10]
Нека од ових мрачних предвиђања су већ реалност. Током рата у Сирији и Ираку, терористичка организација Исламска држава показала је велику способности да примијени напредне технике укључујући дронове, социјалне мреже, напредна комуникациона средства, психолошко ратовање савременим комуникационим алатима, јефтине сензоре и средства за прикупљање енергије итд. Данас смо свјесни да су неке од њихових иновација инспирисале развој у државном / официјалном војноиндустријском сектору више држава.
Из свега изнесеног ,јасно је да би нека конвенција о ограничавању употребе и развоја вјештачке интелигенције могла бити од користи на кратак рок, међутим, већ више пута је истакнуто чињеница да терористи и организовани криминал овдје могу да буду испред држава чини провођење ове конвенције немогућим. У блиској будућности видјећемо још већи ниво интеграције хардвера, софтвера са техникама вјештачке интелигенције, мање укључење људи (генерала) у доношењу одлука и смањивање технолошке разлике између држава (укључујући високотехнолошке) и недржавних ентитета.
Закључак
Направили смо кратак преглед везан за актуелни развоја вјештачке интелигенције са фокусом на примјене у ратовима будућности. Војске великих сила биће ојачане са роботским оружјем али ће сличну трансформацију доживјети и војске мањих земаља које правилно алоцирају ресурсе у технологију, као и недржавни агенти (плаћеничке организације, терористи, организовани криминал итд.). Тврдимо да због, прије свега, ниске цијене развој ове технологије не може бити обустављен. Оно што треба да вјештачка интелигенција је скоро идеалан алат за даљу ескалацију сукоба и урушавања међународне безбједоносне инфраструктуре. Ово је упозорење великим и моћним државама. Побједник у трци у наоружавању у вјештачкој интелигенцији може бити потпуно неочекивани ентитет. Стога прави начин да се спријечи катастрофа није у ограничавању развоја вјештачке интелигенције већ искључиво у разрјешавању постојећих конфликата мирним путем и смањивањем тензија и даљем избјегавању сукоба. У “мирном” свијету алати вјештачке интелигенције могу да донесу велики просперитет човјечанству кога би ваљало искористити. У свијету сукоба потенцијална снага ове технологије је на нивоу најопаснијих оружја за масовно уништење.
[1] Есеј је заснован на раду И. Ђуровић, „Artificial intelligence and future of wars,“ Montenegrin Academy of Sciences and Arts, May 2019, Conference Approaching 20??, 16-18.05.2019. Stoga su mnogi izloženi podaci ažurni zaključno sa 2018. godine.
[2] M. S. Grewal, A. P. Andrews, “Applications of Kalman Filtering in Aerospace 1960 to the Present [Historical Perspectives],” IEEE Control Systems Magazine, Vol. 30, No. 3, pp. 69-78, May 2010.
[3] I. Goodfellow, Y. Bengio, A. Courville, Deep learning, MIT Press, 2016. http://www.deeplearningbook.org
[4] UK healthcare text analytics network, available on-line http://healtex.org/
[5] https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
[6] „Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter”, Otvoreno pismo o vještačkoj inteligenciji, detalji dostupni na: https://en.wikipedia.org/wiki/Open_Letter_on_Artificial_Intelligence
[7] UK government report, Streets ahead: British AI eyes scan future frontline in multinational urban experiment
Available on-line; https://www.gov.uk/government/news/streets-ahead-british-ai-eyes-scan-future-frontline-in-multinational-urban-experiment
[8] J. Vincent, “Putin says the nation that leads in AI ‘will be the ruler of the world”, The Verge, 04.09.2017. Available online: https://www.theverge.com/2017/9/4/16251226/russia-ai-putin-rule-the-world
[9] N. Sharky, “Robot wars are reality,” The Guardian, 18.08.2007, available on-line https://www.theguardian.com/commentisfree/2007/aug/18/comment.military
[10] F. L. Ruta, “Do the benefits of artificial intelligence outweigh the risk,” The Economist, 10.09.2018. Available on-line: https://www.economist.com/open-future/2018/09/10/do-the-benefits-of-artificial-intelligence-outweigh-the-risks
