Пише: Милан Николић
Буран развој AI (ARTIFICIAL INTELIGENCE – Вештачка Интелигенција) у двадесетим годинама овог века донео је велики број предвиђања виђених креатора АИ да ће до 2027. да се појави AGI (ARTIFICIAL GENERAL INTELIGENCE – Универзална вештачка интелигенција) на нивоу најинтелигентнијих људи па и изнад тога. Ова АГИ, у стотина хиљада или милиона својих индивидуалних јединица, ће онда прискочити у помоћ АИ истраживачима и инжињерима (претпоставља се да их тренутно има у свету око 10.000) да би се даље још брже развијала.
Тај бум у повећању истраживачке радне снаге на овом пољу Реј Курцвајл – још најпоузданији када је реч о предвиђању развоја АИ – назива „експлозијом интелигенције“ која ће, након кратког времена – како он верује, довести до појаве АСИ (ARTIFICIAL SUPER INTELIGENCE – Вештачке супер интелигенције).
ПАМЕТНИЈИ ОД НАЈПАМЕТНИЈИХ
Интелигенција АСИ ће на почетку бити већа од интелигенције најпаметнијих људи или чак, како мисле неки АИ стручњаци, већа и од интелигенције свих људи на свету заједно. Друга важна особина АСИ биће да њој, за њен даљи развој, неће бити потребни људи већ ће саму себе развијати (програмирати) из генерације у генерацију, вероватно, у муњевитом ритму. До којих ће висина ићи АСИ данас је тешко предвидети, а неки АИ истраживачи на графиконима историјског развоја АИ исписују вертикалну (90 степени) црту у вис негде половином овог века, а неки и пре тога.
Нема сумње да ће развој АИ донети много доброг човечанству у науци, технологији, економији, медицини па и уређењу друштва. Научници сасвим основано очекују од АИ решавање проблема канцера, епидемија, болести, старења, глади и недостатка воде у свету, сиромаштва, недостатка и скупоће енергије, неуравнотеженог развоја и експлоатације, недостатка ретких минерала и много тога још. Када АСИ преузме науку, технолошки развој и економију човечанство би заиста могло да уђе у своје златно доба. Но, оно што нас узнемирава јесте чињеница да од тренутка осамостаљивања АСИ (Singularity – по Реју Курцвајлу) ми људи нећемо ни разумети а још мање контролисати њен развој па се не може одбацити могућност да ће се АСИ, из неког разлога, окренути против својих твораца и наше цивилизације.
Једноставно, може јој се учинити да трошимо превише планетарних ресурса за наш опстанак а АСИ би хтела да их „рационалније“ искористи за свој развој. Нема зла и ништа лично, него само рационални егоизам – исто оно што и ми људи радимо свим другим живим бићима хиљадама година, – пре свега зато што је интелигентнија од њих. Због свега овога већина научника у АИ домену мисли да је крајње време да се нешто предузме како АСИ учинити, у будућности, пријатељском према људима и нашој цивилизацији.
Најутицајнија технологија
Суперинтелигенција ће бити најутицајнија технологија коју је човечанство икада измислило и могла би нам помоћи да решимо многе од најважнијих светских проблема. Али огромна моћ суперинтелигенције такође може бити веома опасна и може довести до обесправљивања човечанства или чак до његовог истребљења, пише Open AI.
И још: „Наш циљ је да изградимо аутоматизованог истраживача усклађивања на приближно људском нивоу интелигенције. Затим, можемо користити огромне количине рачунарске снаге да скалирамо наше напоре и много пута понављајући усклађујемо суперинтелигенцију.“
Опен АИ у свом тексту додаје: „Тренутно немамо решење за усмеравање или контролу потенцијално суперинтелигентног АИ и спречавање да постане непредвидив.“
УСАГЛАШАВАЊЕ
Метод у који се највише верује је усаглашавање (alignment) АИ са људским вредностима, тј. уграђивања, разним методама, људских вредности у АИ моделе. Метод којим се то најчешће чинило до сада јесте Појачано учење уз корекцију од стране људи (Enforced Learning With Human Feedback) – што је слично дресирању паса: ово ти је добро (Good dog), а ово ти је пак лоше (bad dog) каже се у току обуке АИ. Проблем је само то да овај метод, колико толико, добро ради само са нижим облицима АИ чији развој људи у потпуности контролишу. Са појавом АГИ постаће све теже користити појачано учење. Са појавом АСИ биће то немогуће и зато је недавно Open AI (ChattGPT, GPT-4, DALL-e2, Codex, 01 Strawbery а нестрпљиво се очекује и GPT-5), једна од водећих компанија за производњу АИ изашла у јавност са текстом „ПРЕДСТАВЉАМО СУПЕРУСАГЛАШАВАЊЕ“ („Introducing Superalingment“) о својим идејама како решити проблем усаглашавања у доба АСИ.
Свјетски стручњаци на УЦГ: Вјештачка интелигенција – између мита и реалности
Опен АИ на челу са председником Семом Алтманом је одлучио да направи нови тим и одвоји 20 одсто компјутерског капацитета за рад на проблему суперусаглашавања. На челу тима биће познати АИ истраживач Иља Сутскевер (један од оснивача Опен АИ и главни научник) који је недавно, на челу групе АИ стручњака водио, у Опен АИ, побуну против Сема Алтмана због тога што се АИ развија превише брзо и превише ризично под јаким притиском инвестиционог капитала и потражње на тржишту. Постављањем Сутскевера на чело тима (уз Јана Леикеа) који ће се бавити безбедношћу АИ постигнут је обећавајући компромис. Када се томе дода и обећање од 20% компјутерских капацитета посвећених овом задатку јасно је да Опен АИ озбиљно прилази овом послу баш како је Алтман недавно сведочио у конгресу САД.
У тексту из Опен АИ говори се, генерално, и о томе како ће се радити на суперусаглашавању. Изгледа да се план заснива на ономе што је Сутскевер радио у својој компанији Сафе Superinteligence Inc. коју је направио после побуне и напуштања Опен АИ. Опен АИ тим намерава да користи постојеће АИ (специјализованог типа или полу-АГИ како се најављује нови GPT-5) да би направила аутоматски систем на нивоу интелигенције човека који ће се онда умножити (хиљаду, сто хиљада или милион јединица) користећи велике компјутерске капацитете да би у заиста великом броју понављања усклађивали супер интелигенцију, тј. да би јој уграђивали људске етичке принципе или, једноставно, поштовање за људске интересе. Но да би се све ово учинило потребно је да се развије скалабилан (на хиљаду, сто хиљада или милион јединица АИ) метод обуке, тј. дубоког машинског учења. Онда је потребно (опет уз помоћ постојећих АИ) ваљано проценити добијени модел. На крају је потребно савесно тестирати (користећи постојеће специјализоване АИ) цео процес усклађивања.
Академик Игор Ђуровић: Вјештачка интелигенција и будућност ратовања
За задатке које људи тешко процењују Опен АИ ће користити постојеће АИ за процену других АИ система, тзв. скалабилни надзор. Ми желимо да разумемо и контролишемо како добијени модели посредују наш надзор над задатком који не можемо непосредно надзирати. Да бисмо проценили постигнуту усклађеност наших система направићемо аутоматску (постојеће АИ) претрагу и откривање проблематичног понашања као и интерних програмских процеса који су довели до њих. На крају ћемо тестирати цео процес намерним стварањем (обучавањем) неусаглашених модела, што ће нам рећи да ли наше методе откривају најгоре врсте неусаглашености.
Током овог рада очекујемо да ће се наши истраживачки приоритети и методи мењати са повећањем нашег знања тако да је за предвидети да ћемо додати и неке потпуно нове домене. Опен АИ каже да је њихова предност квалитетан тим и могућност да одвоје за следеће четири године 20% компјутерских капацитета, али да очекују и од других тимова значајне доприносе с обзиром на важност проблема.
Подвлаче да је концепт и метод решења проблема најважнији за успех суперусаглашавања. Е сад, неки ће се читаоци питати од каквог је значаја све ово кад се воде ратови у Украјини, Палестини и кад се не зна ко ће бити нови председник САД. Укратко, може бити много значајније од свега овога ако успемо да неумитно долазећу СУПЕР АИ (најдаље за десетак година) учинимо пријатељском према људском роду и нашој цивилизацији. Јер, ако не успемо, биће то, према речима Илона Маска, „много горе од нуклеарног армагедона“! На крају, морам рећи да немам довољно знања да проценим да ли ће предложени начин бити успешан али сам сигуран да је то корак у добром правцу и то у задњи час!
Извор: Нови Магазин
