Piše: Milan Nikolić
Buran razvoj AI (ARTIFICIAL INTELIGENCE – Veštačka Inteligencija) u dvadesetim godinama ovog veka doneo je veliki broj predviđanja viđenih kreatora AI da će do 2027. da se pojavi AGI (ARTIFICIAL GENERAL INTELIGENCE – Univerzalna veštačka inteligencija) na nivou najinteligentnijih ljudi pa i iznad toga. Ova AGI, u stotina hiljada ili miliona svojih individualnih jedinica, će onda priskočiti u pomoć AI istraživačima i inžinjerima (pretpostavlja se da ih trenutno ima u svetu oko 10.000) da bi se dalje još brže razvijala.
Taj bum u povećanju istraživačke radne snage na ovom polju Rej Kurcvajl – još najpouzdaniji kada je reč o predviđanju razvoja AI – naziva „eksplozijom inteligencije“ koja će, nakon kratkog vremena – kako on veruje, dovesti do pojave ASI (ARTIFICIAL SUPER INTELIGENCE – Veštačke super inteligencije).
PAMETNIJI OD NAJPAMETNIJIH
Inteligencija ASI će na početku biti veća od inteligencije najpametnijih ljudi ili čak, kako misle neki AI stručnjaci, veća i od inteligencije svih ljudi na svetu zajedno. Druga važna osobina ASI biće da njoj, za njen dalji razvoj, neće biti potrebni ljudi već će samu sebe razvijati (programirati) iz generacije u generaciju, verovatno, u munjevitom ritmu. Do kojih će visina ići ASI danas je teško predvideti, a neki AI istraživači na grafikonima istorijskog razvoja AI ispisuju vertikalnu (90 stepeni) crtu u vis negde polovinom ovog veka, a neki i pre toga.
Nema sumnje da će razvoj AI doneti mnogo dobrog čovečanstvu u nauci, tehnologiji, ekonomiji, medicini pa i uređenju društva. Naučnici sasvim osnovano očekuju od AI rešavanje problema kancera, epidemija, bolesti, starenja, gladi i nedostatka vode u svetu, siromaštva, nedostatka i skupoće energije, neuravnoteženog razvoja i eksploatacije, nedostatka retkih minerala i mnogo toga još. Kada ASI preuzme nauku, tehnološki razvoj i ekonomiju čovečanstvo bi zaista moglo da uđe u svoje zlatno doba. No, ono što nas uznemirava jeste činjenica da od trenutka osamostaljivanja ASI (Singularity – po Reju Kurcvajlu) mi ljudi nećemo ni razumeti a još manje kontrolisati njen razvoj pa se ne može odbaciti mogućnost da će se ASI, iz nekog razloga, okrenuti protiv svojih tvoraca i naše civilizacije.
Jednostavno, može joj se učiniti da trošimo previše planetarnih resursa za naš opstanak a ASI bi htela da ih „racionalnije“ iskoristi za svoj razvoj. Nema zla i ništa lično, nego samo racionalni egoizam – isto ono što i mi ljudi radimo svim drugim živim bićima hiljadama godina, – pre svega zato što je inteligentnija od njih. Zbog svega ovoga većina naučnika u AI domenu misli da je krajnje vreme da se nešto preduzme kako ASI učiniti, u budućnosti, prijateljskom prema ljudima i našoj civilizaciji.
Najuticajnija tehnologija
Superinteligencija će biti najuticajnija tehnologija koju je čovečanstvo ikada izmislilo i mogla bi nam pomoći da rešimo mnoge od najvažnijih svetskih problema. Ali ogromna moć superinteligencije takođe može biti veoma opasna i može dovesti do obespravljivanja čovečanstva ili čak do njegovog istrebljenja, piše Open AI.
I još: „Naš cilj je da izgradimo automatizovanog istraživača usklađivanja na približno ljudskom nivou inteligencije. Zatim, možemo koristiti ogromne količine računarske snage da skaliramo naše napore i mnogo puta ponavljajući usklađujemo superinteligenciju.“
Open AI u svom tekstu dodaje: „Trenutno nemamo rešenje za usmeravanje ili kontrolu potencijalno superinteligentnog AI i sprečavanje da postane nepredvidiv.“
USAGLAŠAVANJE
Metod u koji se najviše veruje je usaglašavanje (alignment) AI sa ljudskim vrednostima, tj. ugrađivanja, raznim metodama, ljudskih vrednosti u AI modele. Metod kojim se to najčešće činilo do sada jeste Pojačano učenje uz korekciju od strane ljudi (Enforced Learning With Human Feedback) – što je slično dresiranju pasa: ovo ti je dobro (Good dog), a ovo ti je pak loše (bad dog) kaže se u toku obuke AI. Problem je samo to da ovaj metod, koliko toliko, dobro radi samo sa nižim oblicima AI čiji razvoj ljudi u potpunosti kontrolišu. Sa pojavom AGI postaće sve teže koristiti pojačano učenje. Sa pojavom ASI biće to nemoguće i zato je nedavno Open AI (ChattGPT, GPT-4, DALL-e2, Codex, 01 Strawbery a nestrpljivo se očekuje i GPT-5), jedna od vodećih kompanija za proizvodnju AI izašla u javnost sa tekstom „PREDSTAVLJAMO SUPERUSAGLAŠAVANJE“ („Introducing Superalingment“) o svojim idejama kako rešiti problem usaglašavanja u doba ASI.
Svjetski stručnjaci na UCG: Vještačka inteligencija – između mita i realnosti
Open AI na čelu sa predsednikom Semom Altmanom je odlučio da napravi novi tim i odvoji 20 odsto kompjuterskog kapaciteta za rad na problemu superusaglašavanja. Na čelu tima biće poznati AI istraživač Ilja Sutskever (jedan od osnivača Open AI i glavni naučnik) koji je nedavno, na čelu grupe AI stručnjaka vodio, u Open AI, pobunu protiv Sema Altmana zbog toga što se AI razvija previše brzo i previše rizično pod jakim pritiskom investicionog kapitala i potražnje na tržištu. Postavljanjem Sutskevera na čelo tima (uz Jana Leikea) koji će se baviti bezbednošću AI postignut je obećavajući kompromis. Kada se tome doda i obećanje od 20% kompjuterskih kapaciteta posvećenih ovom zadatku jasno je da Open AI ozbiljno prilazi ovom poslu baš kako je Altman nedavno svedočio u kongresu SAD.
U tekstu iz Open AI govori se, generalno, i o tome kako će se raditi na superusaglašavanju. Izgleda da se plan zasniva na onome što je Sutskever radio u svojoj kompaniji Safe Superinteligence Inc. koju je napravio posle pobune i napuštanja Open AI. Open AI tim namerava da koristi postojeće AI (specijalizovanog tipa ili polu-AGI kako se najavljuje novi GPT-5) da bi napravila automatski sistem na nivou inteligencije čoveka koji će se onda umnožiti (hiljadu, sto hiljada ili milion jedinica) koristeći velike kompjuterske kapacitete da bi u zaista velikom broju ponavljanja usklađivali super inteligenciju, tj. da bi joj ugrađivali ljudske etičke principe ili, jednostavno, poštovanje za ljudske interese. No da bi se sve ovo učinilo potrebno je da se razvije skalabilan (na hiljadu, sto hiljada ili milion jedinica AI) metod obuke, tj. dubokog mašinskog učenja. Onda je potrebno (opet uz pomoć postojećih AI) valjano proceniti dobijeni model. Na kraju je potrebno savesno testirati (koristeći postojeće specijalizovane AI) ceo proces usklađivanja.
Akademik Igor Đurović: Vještačka inteligencija i budućnost ratovanja
Za zadatke koje ljudi teško procenjuju Open AI će koristiti postojeće AI za procenu drugih AI sistema, tzv. skalabilni nadzor. Mi želimo da razumemo i kontrolišemo kako dobijeni modeli posreduju naš nadzor nad zadatkom koji ne možemo neposredno nadzirati. Da bismo procenili postignutu usklađenost naših sistema napravićemo automatsku (postojeće AI) pretragu i otkrivanje problematičnog ponašanja kao i internih programskih procesa koji su doveli do njih. Na kraju ćemo testirati ceo proces namernim stvaranjem (obučavanjem) neusaglašenih modela, što će nam reći da li naše metode otkrivaju najgore vrste neusaglašenosti.
Tokom ovog rada očekujemo da će se naši istraživački prioriteti i metodi menjati sa povećanjem našeg znanja tako da je za predvideti da ćemo dodati i neke potpuno nove domene. Open AI kaže da je njihova prednost kvalitetan tim i mogućnost da odvoje za sledeće četiri godine 20% kompjuterskih kapaciteta, ali da očekuju i od drugih timova značajne doprinose s obzirom na važnost problema.
Podvlače da je koncept i metod rešenja problema najvažniji za uspeh superusaglašavanja. E sad, neki će se čitaoci pitati od kakvog je značaja sve ovo kad se vode ratovi u Ukrajini, Palestini i kad se ne zna ko će biti novi predsednik SAD. Ukratko, može biti mnogo značajnije od svega ovoga ako uspemo da neumitno dolazeću SUPER AI (najdalje za desetak godina) učinimo prijateljskom prema ljudskom rodu i našoj civilizaciji. Jer, ako ne uspemo, biće to, prema rečima Ilona Maska, „mnogo gore od nuklearnog armagedona“! Na kraju, moram reći da nemam dovoljno znanja da procenim da li će predloženi način biti uspešan ali sam siguran da je to korak u dobrom pravcu i to u zadnji čas!
Izvor: Novi Magazin
