Израелска војска је обележила десетине хиљада становника Газе као сумњиве особе на које је потребно извршити нападе, користећи систем машинске интелигенције за одабирање мета који има мало људског надзора и уз пермисивну политику допуштене колатералне штете, откривају магазин +972 и Локал кол
3.април 2024.
Пише: Јувал Абрахам
За Журнал превео: Милош Милојевић
Први дио можете прочитати овдје
„Није постојала политика нулте грешке“
Б, виши официр који је користио Лавендер, назначио је за +972 о Локал кол да у садашњем рату од официра није тражено да независно проверавају процене система заснованог на вештачкој интелигенцији, како би уштедели време и омогућили неометан одабир људских мета.
„Све се заснивало на статистици, све је било врло уредно – потпуно сувопарно“, рекао је Б. Он је приметио да је недостатак надзирања био допуштен упркос интерним проверама које су показале да су Лавендерови прорачуни сматрани тачним у само 90 одсто случајева; другим речима, било је унапред познато да десет одсто „људских мета“ одабраних за ликвидацију уопште нису чланови милитантног крила Хамаса.
На пример, извори објашњавају да је Лавендерова машина понекад погрешно означавала појединце који су имали обрасце комуникације сличне познатим оперативцима Хамаса или Палестинског муслиманског џихада – укључујући полицајце и раднице цивилне заштите, рођаке милитаната, становнике којима се задесило да имају имена или надимке идентичне онима које имају оперативне, и становници Газе који су користили уређаје у некадашњем власништву оперативаца Хамаса.
„Колико близу би требало да особа буде близу Хамасу да [би је алатка заснована на вештачкој интелигенцији] повезала са организацијом?“, упитао се један извор критичан због непрецизности Лавендера. „То је нејасна граница. Да ли је особа која не прима плату од Хамаса, али им помаже у разним активностима, Хамасов оперативац? Да ли би некога ко је био припадник Хамаса у прошлости, али више то није данас, и даље требало сматрати оперативцем Хамаса? Свака од ових особености – које би машина означила као сумњиве – није тачан показатељ“.
Слични проблеми постоје и са способношћу машине за одабир мета да процени телефон који користи појединац означен за ликвидацију. „У рату, Палестинци стално размењују телефоне“, рекао је један извор. „Људи губе контакте са члановима својих породица, дају телефоне пријатељима или супружницима, можда их изгубе. Не постоји начин да се у потпуности ослони на аутоматизовани механизам који одређује који телефонски број припада коме“.
Према наводима извора, армија је знала да минимални надзор који су спроводили људи није довољан да се открију ове грешке. „Није постојала политика ‘нулте грешке’. Грешке су третиране статистички“, рекао је извор који је користио Лавендер. „Због опсега и обухватности, протокол је био такав да чак и уколико не знате да ли је машина у праву, статистички знате да би требало да је у реду. Онда наставите“.
„Лавендер“: машинска интелигенција која усмерава израелску бомбардерску кампању у Гази (1. дио)
„Систем се доказао“, рекао је Б, високо позиционирани извор. „Има нечега у статистичком приступу што намеће одређене норме и стандарде понашања. Било је нелогично много (бомбардовања) у овој операцији. То је било без преседана, колико ја могу да се сетим. И имам много више поверења у статистички механизам него у војника који је изгубио пријатеља пре два дана. Сви који су били тамо, укључујући и мене, изгубили су некога 7. октобра. Машина је то радила хладно. И то је олакшало ствар“.
Други обавештајни извор, који је бранио ослањање на списак за ликвидацију инкриминисаних Палестинаца који је генерисао Лавендер образлаже да је било вредно трошити време обавештајних официра само уколико је мета била виши заповедник Хамаса. „Али када је реч о нижим милитантима, не желите да опредељујете расположиво људство и време за њих“, каже. „У рату, нема времена да се подробно испитује свака мета. Стога сте вољни да прихватите маргину грешке коришћењем вештачке интелигенције, ризикујући колатералну штету и погибију цивила, и да ризикујете извођење напада грешком, и да живите са тиме“.
Б. каже да је разлог за ову аутоматизовану процедуру било стално подстрекивање да се генерише што више мета за ливкидирање. „У дану без мета (чије су особености тако рангиране да нису довољне за одобравање напада) нападали смо на основу нижих критеријума. Стално смо били притискани: ‘Дајте нам још мета’. Стварно су викали на нас. Завршили смо (убијање) наших мета веома брзо“.
Објаснио је да када се снизи критеријум за рангирање у систему Лавендер, он означава више људи као мете за нападање. „На свом врхунцу систем је успевао да генерише 37.000 потенцијалних људских мета“, рекао је Б. „Али ови бројеви су се стално мењали, зато што зависе од тога како поставите критеријуме онога што се сматра Хамсовим оперативцем. Било је тренутака када су Хамасови оперативци шире дефинисани, и онда је машина почињала да нам предочава разно цивилно особље, полицијске службенике, на које би било штета трошити бомбе. Они су помагали Хамасову владу али они нису заиста угрожавали војнике“.
Један извор који је радио са војним тимом за науку о подацима (data science) који је увежбавао Лавендер рекао је да су подаци прикупљени о запосленима Министарства унутрашње безбедности које је под контролом Хамаса, које он не сматра милитантима, било увршћено у податке које је користила рачунарска машина. „Био сам узнемирен чињеницом да када је Лавендер трениран, они су користили појам ‘Хамасов оперативац’ олако, и укључили су људе који су били радници цивилне заштите у базе података“, наводи.
Извор је додао да чак и уколико неко верује да ови људи заслужују да буду убијени, тренирање система на основу њихових комуникационих профила чини да Лавендер има већу шансу да грешком означи цивиле када се алгоритам примењује на општу популацију. „Пошто је реч о аутоматизованом систему којим непосредно не управљају људи, значење донетих одлука је драматично: значи да укључујете многе људе са цивилним комуникационом обрасцем понашања као потенцијалне мете“.
„Само смо проверавали да ли је мета мушкарац“
Израелска војска је у потпуности одбацивала ове тврдње. У изјави за +972 и Локал кол, портпарол Израелских одбрамбених снага негирао је коришћење вештачке интелигенције за одабирање мета, наводећи да су то тек „помоћне алатке које помажу официрима у процедури одабира“. У изјави стоји: „У сваком случају, независно испитивање обавештајне анализе је нужну, што поврђује да је идентификована мета легитиман циљ напада, у складу са условима које постављају наређења израелске војске и међународно право“.
Међутим, извори наводе да је једини људски надзорни протокол који је постојао пре бомбардовања кућа осумњиченог „нижег“ милитанта означеног Лавендером било спровођење једне провере; осигуравања да је мета коју би одабрала вештачка интелигенција мушкарац а не жена. Претпоставка у војсци је била да уколико је мета жена, машинска интелигенција је по свој прилици погрешила, зато што нема жена међу борцима милитантног крила Хамаса или Палестинског муслиманског џихада.
„Људском бићу на располагању стоји (за верификовање мете) свега неколико секунди“, каже Б, објашњавајући да је ово постало протокол након што су схватили да систем Лавендер „добро погађа“ током највећег дела времена. „Прво, проверавали смо да бисмо се осигурали да се алатка није збунила. Али у једном тренутку почели смо да се ослањамо на аутоматизовани систем, и само смо проверавали да (је мета) мушкарац – то је било довољно. Није потребно много времена да се одреди да ли је неки глас мушки или женски“.
Фајненшел тајмс: Екстремисти предводе Нетанјахуов приступ рату са Хамасом
Како би се извршила провера да ли је у питању мушка или женска особа, Б. тврди да је у садашњем рату „одвајано двадесет секунди за сваку мету у овој фази, и да се обавља више десетина таквих провера свакога дана. Нисам правио никакву разлику као човек осим да сам означавао да је мета допуштена. То је сачувало много времена. Уколико (оперативци) буду означени аутоматизованом процедуром, и провером утврдим да је у питању мушкарац, онда ће бити дата дозвола да се та мета бомбардује, под условом да се испита допуштени степен колатералне штете“.
У пракси, извори наводе да је ово значило да мушкарца цивила Лавендер грешком означи, те да нема надзорног механизма којим би се утврдила грешка. Према наводима Б, честа грешка се дешавала „уколико је мета (припадник Хамаса) давала (свој телефон) сину, свом старијем брату, или насумичној мушкој особи. Та особа би била бомбардована у својој кући са својом породицом. То се често дешавало. То су биле најчешће грешке које би правио Лавендер“, каже Б.
Други корак: Повезивање мета са породичним кућама – „Већина људи који су убијени били су жене и деца“
Следећа фаза у процедури извођења ликвидација у израелској војсци јесте идентификовање где напасти мету коју је одабрао систем Лавендер.
У изјави за +972 и Локал кол, портпарол Израелских одбрамбених снага тврдио је одговарајући на овај чланак да „Хамас смешта своје оперативне и борбена средства у средиште цивилних насеобина, систематски користећи цивилно становништво као људски штити, и изводи борбена дејства из цивилних објеката, укључујући осетљива места као што су болнице, џамије, школе и објекти Уједињених нација. ИДФ је обавезан и делује у складу са међународним правом, усмеравајући нападе само на војне мете и војне оперативце“.
Шест извора са којима смо разговарали донекле одражавају слично мишљење, наводећи да разгранат систем Хамасових тунела намерно пролази испод болница и школа; да Хамасови милитанти користе болничка кола да би се кретали наоколо; и да је небројано много војних средстава смештено недалеко од цивилних зграда. Извори са којима смо развоварали тврде да у многим израелским нападима страдају цивили због ове Хамасове тактике – што је карактеризација, како упозоравају групе које се баве људским правима уз помоћ које се избегава одговорност Израела за наношење жртава.
Међутим, насупрот званичним изјавама израелске војске, извори објашњавају да је главни разлог великог броја страдалих у израелском бомбардовању који је без преседана у досадашњим сукобима, јесте то што је војска систематски нападала мете у њиховим приватним кућама, заједно са њиховом породицама – делимично због тога што је лакше са обавештајне тачке гледишта да се обележи породична кућа коришћењем аутоматизованих система.
Заиста, неколико извора нагласило је да, насупрот бројним случајевима када су Хамасови оперативци били укључени у војне активности из цивилних подручја, у случају систематских напада за ликвидације, војска је рутински намерно одабирала да бомбардује осумњичене милитанте када су се налазили унутар цивилних домаћинстава из којих се није обављала никаква војна активност. Овај избор, говорили су, био је одраз тога како је осмишљен израелски систем масовног надзора у Гази.
Извори су изјавили за +972 и Локал Кол да пошто сви у Гази имају приватну кућу или стан са којим могу бити повезани, војни надзорни систем могао је лако и аутоматски да „повеже“ особу са породичним кућама. Како би се одредио тренутак када оперативац улазу у своју кућу у реалном времену, развијени су додатни аутоматски софтвери. Ови програми пратили су хиљаде појединаца истовремено, идентификујући када су код куће, и слали су аутоматски аларм официру за одабирање мета, који су потом означавали кућу за бомбардовање. Један од неколико ових суфтвера за праћење, који смо открили по први пут у овом чланку назван је Где је татица?
Семјуел Черап/Сергеј Радченко: Разговори који су могли да окончају рат у Украјини (Трећи дио)
„Сместите стотине (мета) у систем и чекате да видите кога можете да убијете“, рекао је један извор упознат са овим системом. „То се зове лов широком претрагом: ископирате са списка које је систем за генерисање мета произвео“.
Докази овакве политике су такође очевидни на основу доступних података: током првог месеца рата, више од половине жртава – 6.120 људи – припадало је 1.340 породица, од којих су многе биле у потпуности збрисане док су се налазиле унутар својих кућа, према подацима Уједињених нација. Удео читавих породица које су биле жртве бомбардовања док су се налазиле у својим кућама у садашњем рату је много виши него током израелских операција у Гази 2014. године (који је био до сада најсмртоностнији рат који је Израел водио у овој области), што даље сугерише да је ова политика била нашироко прихваћена.
Други извор каже да су сваки пут када је темпо ликвидација опадао додатне мете биле додаване у систем Где је татица како би били лоцирани појединци који улазе у своје куће и који могу стога бити бомбардовани. Он наводи да је одлуку кога укључити у сустем праћења могао да донесе релативно нижерангирани официр у војној хијерархији.
„Током једног дана, потпуно по мом нахођењу, додао сам неких отприлике 1200 нових мета у систем (за праћење), зато што је број напада (које смо изводили) опадао“, наводи извор. „То је за мене имало смисла. У ретроспективи, то ми делује као озбиљна одлука коју сам донео. И те одлуке нису доношене на високом нивоу“.
Извор наводи да је током прве две недеља рата, „неколико хиљада“ мета било на почетку унето у програме за лоцирање. Ове мете обухватиле су све чланове Хамасове елитне специјалне јединице Нукба (Nukhba), све Хамасове анти-тенковске оперативце, и све који су ступили у Израел током 7. октобра. Али недуго потом, листа за ликвидације је драстично проширена.
„На крају сви су били [означени Лавендером]“, објашњавао је један извор „Десетине хиљада. Ово се десило неколико недеља касније, када су израелске бригаде ступиле у Газу, и већ је било мање неукључених људи [људи] у северним подручјима“. Према овом извору, Лавендер је чак обележио и неке малолетнике као мете бомбардовања. „Уобичајено, оперативци су старији од седамнаест година, али то није био услов“.
Лавендер и системи као Где је татица? били су стога комбиновани са смртоносним ефектом, убијајући читаве породице, наводе извори. Додавањем имена са списка који је генерисао Лавендер систему за праћење кућа Где је татица?, објашњава А, означена особа би била смештена у систем текућег надзора, и могла би бити нападнута чим ступи у своју кућу, чиме би се кућа обрушила на све оне који се у њој налазе.
„Рецимо да је израчунато (да је ту један) Хамасов (оперативац) уз 10 (цивила у кући“, рекао је А. „Обично, међу ових десет цивила биће и жена и деце. Стога, апсурдно, испоставило би се да је већина људи које сте убили заправо жене и деца“.
Превод чланка је објављен уз допуштење аутора
Извор: 972 Magazine
Наставиће се…
