Израелска војска је обележила десетине хиљада становника Газе као сумњиве особе на које је потребно извршити нападе, користећи систем машинске интелигенције за одабирање мета који има мало људског надзора и уз пермисивну политику допуштене колатералне штете, откривају магазин +972 и Локал кол
3.април 2024.
Пише: Јувал Абрахам
За Журнал превео: Милош Милојевић
Књигу под насловом Људско-машинско удруживање: како створити синергију између људске и вештачке интелигенције која ће преобликовати наш свет 2021. године је на енглеском објавио аутор који пише под псеудонимом „бригадни генерал Y.S.“ У овој књизи аутор –особа за коју је потврђено да је тренутни заповедник елитне израелске обавештајне Јединице 8200 – заговара стварање специјализованих машина које могу да обраде огромне количине података како би генерисале хиљаде потенцијалних „мета“ за војне ударе усред ратног метежа. Таква технологија, пише, би разрешила оно што он описује као „људско уско грло у одабирању нових мета и процесу доношења одлука којим се одобравају мете“.
Таква машина, испоставило се, заправо постоји. Нова истрага коју су спровели магазин +972 и Локал Кол открива да је израелска војска развијала програм заснован на машинској интелигенцији познат као „Лавендер“. Овај систем је по први пут откривен јавности у овом чланку. Према наводима шест израелских обавештајних официра, који су сви служили у војсци током овог рата у Појасу Газе и из прве руке били укључени у употребу машинске интелигенције за одабирање мета за ликвидацију, Лавендер је играо средишњу улогу у бомбардовању Палестинаца које је без преседана, посебно током почетне фазе вођења рата. У ствари, према наводима извора, утицај овог система на војне операције био је толики да су резултати рада машинске интелигенције третирани у суштини „као да су људске одлуке“.
Формално, систем Лавендер је осмишљен да означи све сумњиве оперативце војног крила Хамаса и Палестинског муслиманског џихада (ПМЏ), укључујући и оне нижерангиране, као потенцијалне мете бомбардовања. Извори су рекли за +972 и Локал Кол да сe током прве недеље рата, армија готово у потпуности ослањала на Лавендер, који је означио и фиксирао и до 37.000 Палестинаца као сумњиве милитанте и – заједно са њиховим кућама – као мете потенцијалних ваздухопловних напада.
Током почетне фазе рата, војска је дала широка овлашћења официрима да прихватају Лавендерове листе за одстрел, без захтева да се подробно провери због чега је машинска интелигенција направила управо те изборе или да испитају сирове обавештајне податке на основу којих су били засновани ти одабири. Један извор наводи да је људско особље често служило само „за ударање печата“ на одлуке које су машински донете, додајући да су, у нормалним околностима, они лично опредељивали свега око „двадесет секунди“ за сваку појединачну мету пре него што су допуштали бомбардовање – само да би били сигурни да је мета коју је рачунарски програм одабрао мушког пола. Ово је учињено упркос знању да је систем чинио оно што се сматра „грешкама“ у отприлике десет одсто случајева, и да је познат да повремено означава појединце који једва да су танко повезани са милитантним групама, или да са њима немају никакве везе.
Поврх тога, израелска армија је систематски нападала означене појединце док су се налазили у својим домовима – обично ноћу, када су целе породице биле присутне – уместо током војних активности. Према изворима, то је било зато што је са обавештајне тачке гледишта било лакше да се особе лоцирају у својим приватним кућама. Други аутоматизовани системи, укључујући један назван „Где је татица?“ (Where’s Daddy?) које такође овде по први пут откривамо, били су специфично коришћени да прате таргетиране појединце, и изводе бомбардовања када улазе у своје породичне домове.
Исходиште, како извори сведоче, су хиљаде Палестинаца – већина њих жене и деца или људи који нису били умешани у борбе – које су збрисане израелским ваздухопловним нападима, посебно током првих недеља рата, због одлука програма заснованог на машинској интелигенцији.
„Нисмо били заинтересовани да убијамо [Хамасове] оперативне само када су били у војним објектима или када су укључени у војне активности“, наводи обавештајни официр А, за +372 и Локал Кол. „Напротив, Израелске одбрамбене снаге [енглеска скраћеница ИДФ] бомбардовала их је у кућама без и најмање оклевања, као прву одабрану међу расположивим опцијама. Систем је направљен да их тражи у таквим околностима“.
Машина Лавендер придружила се другом систему заснованом на вештачкој интелигенцији, „Јеванђељу“, о којем су информације откривене и објављене у претходном истраживању +972 и Локал Кола у новембру 2023. године, као и у самим публикацијама које је објавила израелска војска.
Војислав Дурмановић: Кад задњи антисемита буде покопан…
Поврх тога, према наводима извора, када је посреди било деловање против наводно нижерангираних милитаната које је означавао Лавендер, војска је радије користила искључиво ненавођене пројектиле, уобичајено познате као „глупе“ бомбе (насупрот „паметним“, прецизним бомбама), које могу да униште читаве зграде поред оних који се у њима налазе те да доведу до великих жртава. „Не желите да трошите скупе бомбе на неважне људе – то је веома скупо за земљу и постоји несташица (ових бомби)“, каже Ц, један од обавештајних официра. Други извор каже да су лично одобрили бомбардовање „стотина“ приватних кућа наводно нижерангираних оперативаца које је означио Лавендер. У многим од тих напада страдали су цивили и читаве породице као „колатерална штета“.
У потезу без преседана, према наводима два извора, војска је такође одлучила да током првих недеља рата, за сваког нижег Хамасовог оперативна којег Лавендер означи, буде допуштено убијање и до 15 до 20 цивила; у прошлости, војска није одобравала било какву „колатералну штету“ приликом ликвидација нижерангираних милитаната. Извори додају да, у случају да је мета била виши Хамасов званичник који има чин заповедника батаљона или бригаде, армија је у неколико случајева одобравала да буде убијено и до сто цивила приликом ликвидације једног таквог команданта.
Овај истраживачки чланак је организован према шест хронолошких фаза високоаутоматизованог одабира мета израелске војске у почетним недељама рата у Гази. Прво, објашњен је начин функционисања машине[i] Лавендер, која је обележила десетине хиљада Палестинаца користећи машинску интелигенцију. Друго, откривамо деловање система „Где је татица?“ који прати ове мете и усмерава војску када се оне упућују у своје породичне куће. Треће, описујемо како су „глупе“ бомбе одабиране за дејство по овим кућама.
Четврто, објашњавамо како је војска олабавила критеријуме за дозвољени број цивила који могу да страдају током бомбардовања мете. Пето, забележило смо како аутоматски софтвер неуспешно прорачунава број неборачких становника сваког домаћинства. И шесто, показали смо како је у неколико прилика, када је кућа била погођена, често ноћу, одабрана мета уопште није била унутра, зато што војни официри нису у реалном времену потврдили веродостојност расположивих информација.
Први корак: Одабирање мете – „Једном када пређете на аутоматски деловање, одабирање мета постаје лудачки брзо“
У израелској војсци, термин „људска мета“ означавао је у прошлости вишег војног оперативна који, према правилима војног Одсека за међународно право (International Law Department) може да буде убијен у својој приватној кући чак и уколико се у близини налазе цивили. Обавештајни извори саопштили су +972 и Локал Колу да током претходних израелских ратова, пошто је ово „посебно бруталан“ начин да неко буде убијен – често уз убијање читаве породице поред означене мете – такве „људске мете“ су означаване веома пажљиво и само виши војни заповедници су нападани у својим кућама, како би се владало у складу са принципом сразмере према међународном праву.
Али након седмог октобра – када су милитанти које је предводио Хамас извели најсмртоноснији напад на јужноизраелске заједнице, убијајући око 1200 и отимајући око 240 људи – војска, извори наводе, заузела је потпуно другачији приступ. У „Операцији Гвоздени мачеви“ војска је одлучила да означава све војне оперативце Хамаса као „људске мете“, без обзира на њихов чин или војни значај. То је све променило.
Новоприхваћена политика такође је представљала технички проблем за израелску обавештајну службу. У претходним ратовима, како би се одобрила ликвидација појединачне „људске мете“ официр је требало да прође кроз сложену и дугу процедуру „инкриминације“: унакрсно проверавање доказа који потврђују да је особа заиста виши члан Хамасовог војног крила, откривање где је живео, информације о његовим контактима и на крају подаци у реалном времену да се налази у својој кући. Онда када је списак мета бројао свега неколико десетина виших оперативаца, обавештајно особље је могло појединачно да се позабави са комплетним радом који је био потребан да се означи и лоцира свака од ових мета.
Међутим, једном када је списак почео да се шири и да укључује десетине хиљада нижерангираних оперативаца, израелска војска је схватила да је нужно да се ослони на аутоматизовани софтвер и вештачку интелигенцију. Исходиште, сведоче извори, био је да је улога људског особља у означавању Палестинаца као војних оперативаца скрајнута, и вештачка интелигенција је уместо тога обављала већину посла. Према четири извора који су разговарали са +972 и Локал Колом, Лавендер – који је развијен да одабира људске мете у текућем рату –означио је неких тридесет седам хиљада Палестинаца као сумњиве „Хамасове милитанте“, већину њих као ниже, за ликвидацију [портпарол Израелских одбрамбених снага негирао је постојање оваквог списка за ликвидацију у изјави за +972 и Локал Кол].
„Нисмо значи ко су били нижи оперативци, зато што их Израел није рутински пратио [пре почетка рата]“, објаснио је виши официр Б. за +972 и Локал Кол, разјашњавајући разлоге који су стајали иза развоја ове машинске алатке за одабирање мета у садашњем рату. „Они су желели да дозволе аутоматско нападање [нижих оперативаца]. То је Свети грал. Једном када се ствари аутоматизују, брзина одабирања мета постаје лудачка“.
Извори наводе да је одобрење да се аутоматски прихвата Лавендеров списак за одстрел, који је раније коришћен само као помоћна алатка, пристигло око две недеље од почетка рата, након што је обавештајно особље „ручно“ проверило тачност насумичног узорка од неколико стотина мета које је одабрао систем заснован на машинској интелигенцији. Када је узорак Лавендерових резултата досегао тачност од деведесет одсто у одређивању веза појединаца са Хамасом, војска је одобрила брзопотезно коришћење система. Од тог тренутка, извори наводе да уколико Лавендер одлучи да је појединац био милитант Хамаса од њих је тражено да то третирају као наређење, без захтева да независно проверавају због чега је машина извршила такав одабир или да испитају сирове обавештајне податке на основу којих се заснивао такав одабир.
„У пет изјутра [ваздухопловне снаге] би наишле и бомбардовале све куће које смо обележили“, рекао је Б. „Ликвидирали смо хиљаде људи. Нисмо их испитивали једног по једног – све смо сместили у аутоматизовани сустем, и чиm би један од [обележених појединаца] био код куће, сместа је постајао мета. Бомбардовали смо њега и његову кућу“.
„Било ми је изненађујуће да је од нас тражено да бомбардујемо куће како бисмо убили једноG пешадинца, чији је значај у борби изузетно низак“, рекао је један извор о коришћењу вештачке интелигенције да се обележе наводно ниско рангирани милитанти. „Оваквим метама дао сам надимак „смећарске мете“. Ипак, сматрао сам да су ове мете етичније од мета које смо бомбардовали само због одвраћања – вишеспратнице које су евакуисане и порушене само да би се изазвало разарање.
Смртоносно исходиште попуштања ограничења у раним фазама рата било је запрепашћујуће. Према подацима палестинског Министарства здравља у Гази, на које се израелска војска готово искључиво ослања од почетка рата, Израел је убио више од 15.000 Палестинаца –скоро половину укупног броја до сада страдалих у рату – у првих шест недеља рата, до првог једнонедељног примирја које је договорено 24. новембра.
„Што више података и разноврсности, тим боље“
Лавендеров софтвер анализира информације прикупљене о већини од 2,3 милиона становника Појаса Газе кроз систем масовног надзора, онда процењује и рангира вероватноћу да је нека од појединачних особа активна у војном крилу Хамаса или Палестинског џихада. Према изворима, машина даје скоро свакој особи у Гази ранг од 1 до 100, што изражава колика је вероватноћа да је у питању милитант.
Лавендер је научио да идентификује карактеристике познатих оперативаца Хамаса и Палестинског муслиманског џихада, о којима су информације учитаване у машину као подаци за извођење тренинга, и онда је то коришћено да се пронађу исте карактеристике – које су називане „особеностима“ – у општој популацији, објашњава извор. Појединцу за којег се утврди да поседује неколико различитих инкриминишућих особености приписује се високи рејтинг, и онда аутоматски постаје потенцијална мета за ликвидацију.
Повратни удар: историјат америчке и израелске злоупотребе међународног кривичног суда довеле до оптужнице против Нетањахуа
У Удруживању људи и машина, књизи на коју смо указали на почетку овог чланка, тренутни командант Јединице 8200 заговара такав систем без поименичног указивања на Лавендер. [Ни сам командант није именован, али пет извора из јединице 8200 потврђују да је командант аутор, као што је такође извештавао Харец]. Описујући људско особље као „уско грло“ које ограничава капацитет војске током војних операција, командант се жали“. „Ми (људи) не можемо да обрадимо толико информација. Није важно колико људи је опредељено за извршење задатка одабира мета током рата – и даље не можете да произведете довољно мета током дана“.
Решење за овај проблем, каже, јесте вештачка интелигенција. Књига нуди кратак водич како направити „машину за одабирање мета“, која је по свом опису слична Лавендеру, заснованом на вештачкој интелигенцији и алгоритмима машинског учења. Овај водич обухвата неколико примера „стотина и хиљада“ особености које могу да повећају рејтинг појединца, као што је чланство у Вотсап групи са познатим милитантима, промена броја мобилног телефона сваких неколико месеци, и честа промена адресе боравишта.
„Што је више информација којима расположиво и што су оне разноврсније, тим боље“, пише командант. „Визуалне информације, информације са мреже мобилне телефоније, везе са друштвених мрежа, информације са бојног поља, телефонски контакти, фотографије. Док у почетку људи одабирају ове особености, наставља командант, током времена машина сама почиње да их одабира. Ово, каже, може да омогући војсци да направи попис „десетина хиљада мета“ док ће одлука да ли да се нека од њих нападне или не остаје на људима.
Књига није једини пут када је један виши израелски командант упутио на постојање машине за одабирање људских мета као што је Лавендер. +972 и Локал Кол прибавили су фотографије приватног предавања које је одржао командант Центра за науку о подацима и вештачку интелигенцију Јединице 8200, „пуковник Јоав“, на недељи вештачке интелигенције Универзитета у Тел Авиву 2023. године. О овом предавању извештавали су и израелски медији у то време.
У предавању, командант говори о новој, софистицираној машини за одабир мета коју користи израелска војска да пронађе „опасне људе“. Рад машине заснива се на њиховом наликовању на личности са постојећих спискова милитаната на основу којих се машина тренира. „Користећи систем, успели смо да идентификујемо заповеднике Хамасових ракетних одреда“, рекао је пуковник Јоав на предавању, указујући на израелске операције у Гази маја 2021. године, када је машинска алатка била по први пут коришћена.
Слајдови презентације, које су такође прибавили +972 и Локал Кол садрже илустрације о томе како машина ради: она се похрањује подацима о постојећим Хамасовим оперативцима, учи како да примети њихове особености и онда оцењује друге Палестинце на основу тога колико су слични овим милитантима.
„Рангирали смо резултате и одређивали смо праг који је потребно прећи [да би се напала мета]“, рекао је пуковник Јоав у предавању наглашавајући да су „на крају, људи од крви и меса доносили одлуке. У сфери одбране, етички говорећи, нагласили смо овај аспект. Ове алатке користе се да помогну [обавештајне оперативце] да превазиђу своја ограничења“.
У пракси, међутим, извори који су користили Лавендер у последњим месецима кажу да су људска делатност и прецизност замењени масовним одабиром мета и смртоносношћу.
Превод чланка је објављен уз допуштење аутора
Извор: 972 Magazine
Наставиће се…
