Пише: Марко Батански
Док Доналд Трамп покушава да царинама и на друге начине води хибридни рад против друге светске силе, Кине, на другом спектру „бојног поља“ две земље, оном технолошком, Сједињене Америчке Државе и њихов мехур супериорности у области вештачке интелигенције доживеле су својеврсно пуцање. Иглу на тај мехур прислонио је кинески стартап ДипСик.
Скоро један трилион долара – толики је био губитак тржишне вредности крајем јануара за компаније са седиштем у САД које се баве вештачком интелигенцијом, попут Мете, Енвидије, Мајкрософта и Гугла, након што је Дипсиков АИ чет бот постао бесплатан за преузимање. А иако се стање на берзама у међувремену донекле стабилизовала, то не мења чињеницу да су биле потребне свега три недеље отвореном моделу ДипСик-а Р1 да претекне онај Опен АИ, односно ЧетГПТ, те је бесплатна апликација убрзо постала најпреузиманија и најбоље оцењена на Епловој онлајн продавници.
Две су ствари које су занимљиве у вези са новим играчем на тржишту вештачке интелигенције. Прва је чињеница да је дошао у тренутку када су на снази америчке санкције Кини, односно када јој је ограничено да купује напредне чипове, Енвидијине, непходне за развој вештачке интелигенције. Друга, која пак није у потпуности чињеница, су трошкови, јер према тврдњама које долазе из Дипсика, укупна цена производње и тренирања њиховог модела коштао је кинеску компанију око шест милиона долара. То је, наспрам стотинама милиона долара које су трошиле америчке компаније, „сића“.
Ипак, многи стручњаци су потоњу ставку довели у питање, сматрајући да компанија из Кине није била у потпуности транспарентна у вези коначног рачуна. Поред тога, додатни штетни наводи су дошли с брзо стеченом популарношћу. Тако су многи корисници пријављивали цензуру од стране чет бота, а која је била директно везана за кинеског председника Си Ђинпинга као и делове репресивне историје те земље. Као додатни ударац кинеској компанији, ОпенАИ је изнео тврдње да има доказе је Дипсик користио њихов АИ модел за обуку сопственог четбота, односно да је дошло до крађе интелектуалне својине. Поред тога, згодно је споменути да је током недавног годишњег састанка водећих кинеских привредника и кинеског премијера Ли Ћијанга, једини који је из технолошког сектора био позван Лианг Венфенг – творац компаније ДипСик.
Свјетски стручњаци на УЦГ: Вјештачка интелигенција – између мита и реалности
Ћулибрк: Дипсик је изврнуо процес наглавачке
Дубравко Ћулибрк, професор на Факултету техничких наука у Новом Саду, директор Истраживачко-развојног института за вештачку интелигенцију Србије и амбасадор Енвидијиног института за дубоко учење, у разговору за НИН приближава новине које је Дипсик представио свету. Он објашњава да је ДипСиков модел Р1 тзв. ризонинг модел, односно да расуђује. Како каже, такви модели представљају нови корак у еволуцији великих језичких модела (попут ГПТ-а).
„Расуђујући модели су намењени отклањану ограничења које ови модели имају, на пример у погледу решавања математичких задатака, као и генерисања комплексног кода. У том смислу ДипСик Р1 је смислено поредити са најновијим моделом ОпенАИ о1, али и са Метиним Ллама 3.3. Оно што је новина је да је модел у великој мери трениран применом технике учења подстицајем (reinforcement learning), а не стандардним приступом где модел учи под надзором, односно директно на основу примера људског процеса мишљења (Chain of Thought). То је довело до тога да модел постигне перформансе сличне најнапреднијим моделима, али да је цена његовог развоја, односно тренинга знатно нижа. Ослањане, најпре у потпуности, а после са малим додатком учења под надзором, на учење подстицајем (РЛ) је иновација“, каже Ћулибрк. Он објашњава да се РЛ типично користи за прилагођавање великих језичких модела потребама примена у оквиру чет ботова, али су сами модели за резоновање углавном тренирани на основу људског резоновања, док је ДипСик такорећи изврнуо овај процес наглавачке.
„То није једноставно урадити, па је било потребно иновирати поједине аспекте самог процеса РЛ“, објашњава Ћулибрк. Он додаје да се РЛ приступ користи кад год је потребно научити машину да спроведе низ корака који доводи до решења, а није могуће на основу једног корака проценити колико је добар и где ће одвести.
„Типичне ране примене су биле играње шаха, као што су Атари ‘Бреакоут’, али се данас користи у разним доменима. У последње време је то технологија у основи система који предвиђају 3Д структуру протеина на основу секвенци аминокиселина, попут АлфаФолд, а много се користи и у развоју модела за чет, на основу великих језичких модела. Код типичног РЛ моделу се само да сет правила или му се да могућности да игра игру, а модел сам учи кроз интеракцију са тим системом“, објашњава Ћулибрк.
РЛХФ, учење подстицајем на основу људских повратних информација, типично се користи за усклађивање одговора које генеришу велики језички модели са људским очекивањима, додаје он.
„Процес се заснива на томе да се генерише више варијанти одговора великог језичког модела, које онда људи рангирају или оцењују у погледу квалитета и те информације се користе као повратна информација моделу у смислу колико је успешан у ‘игри’ разговора са људима. У пракси није ефикасно да модел директно интерагује са људима током тренинга, па се у ствари најпре истренира други модел да даје оцене одговора сличне онима које дају људи и онда два модела играју игру у коме први одговара, а други оцењује колико је одговор добар“, рекао је Ћулибрк.
Чипови и убрзање
Што се тиче чипова које је ДипСик користио, из компаније су навели да су уместо најнапреднијих Нвидиа Х100 чипова, користили Х800, али та информација и даља није потврђена. Такође се провукла и информација да су комбиновали Х800 са Нвидијиним А100. Упитан да ли је тако нешто уопште могуће, Ћулибрк сматра да јесте.
„Х100 су неких 50 одсто бржи на упоредних тестовима при тренингу великих модела, али се не ради о толико драстичној разлици. Нисам успео да нађем тачне перформансе Х800 модела, који је у основи А100 са умањеним перформансама, како би био дозвољен извоз у Кину, али верујем да је и даље значајних перформанси“, изјавио је Ћулибрк. Он напомиње да треба узети у обзир и да је Лианг Венфенг 2021, пре ограничења извоза у Кину, купио 10,000 НВИДИА А100 картица.
„То није ни близу улагањима највећих АИ западних компанија, али далеко од тога да је мало. Поређења ради, наша АИ плаформа у Државном дана центру, пуштена у рад те године, има 32 А100 картице, а у њену набавку су уложена значајна средства. Планира се знатно проширење у наредних пар година, али ни близу овим ресурсима који су на располагању Дипсику. Такође, у међувремену је Мета отворила свој велики језички модел (Ллама), па је ДипСик Р1 кренуо са тренингом од већ врло доброг модела, а не од нуле. То не умањује инвентивност наших кинеских колега. Суочени са ограниченим ресурсима у поређењу са западним компанијама, морали су да изнађу многа инжењерска решења да убрзају тренинг својих модела“, каже Ћулибрк.
На питање да ли ће технолошки земљотрес настао због ДипСика „убрзати“ конкуренте, односно да ли ће супарничке компаније покушати да буду отвореније с обзиром да је кинески стартап објавио опен сорсе, Ћулибрк указује да већ пар година постоје отворени велики језички модели, попут Ллама и Фалцона.
„Мета некако предводи тај опен сорс покрет. Њихова Ллама је отворена тачно пре две године, у фебруару 2023. и тешко да би данас имали Р1 да се то није десило. Да ли ће ово навести Гугл и ОпенАИ да буду отворенији, тешко је рећи. Да ће сви покушати да интегришу ефикасније методе учења, то је сасвим сигурно, тако цела заједница функционише. А мислим да ће доћи и до одређеног убрзања. Кад једном инжењер открије да може са мање ресурса да добије нешто, а има на располагању пуно ресурса, прва ствар коју проба је да види је шта се деси кад примени ту методологију и упрегне све што му је на располагању. Једина ствар, која може бити ограничавајући фактор, су подаци за овај надгледани део учења, али РЛ је дефинитивно приступ који захтева мање таквих података од ‘традиционалних’ метода“, сматра Ћулибрк.
Свјетски стручњаци на УЦГ: Вјештачка интелигенција – између мита и реалности
Докле смо стигли са вештачком интелигенцијом
У једном интервјуу пре неколико година саговорник НИН-а је на питање „зашто је спласнуло првобитно узбуђење око вештачке интелигенције“, рекао да је то можда зато што су људи схватили да АИ не може да им решава математичке задатке. Данас нови модели решавају математичке задатке и кодирају, те је НИН упитао докле је свет стигао са вештачком интелигенцијом у том смислу, и куда нас све то као друштво води? Ћулибрк напомиње да се његов тадашњи коментар своди на то да за сваку технологију постоји ниво перформанси који треба достићи да би је корисници перципирали као нешто што желе да употребе.
„У том моменту су коначно језички модели, односно четботови, што није иста ствар, дошли до нивоа у ком су занимљиви широкој популацији. На жалост, наша очекивања од система вештачке интелигенције су безгранична, па често уследи разочарање кад почнемо да откривамо његова ограничења. Кодирање је можда добар пример докле смо стигли. Иако су модели све бољи у томе, још увек примарно служе као асистивна технологија. Помажу програмерима и инжењерима да нађу решење лакше и брже, али је и даље цео процес контролисан од стране човека“, каже Ћулибрк. Он додаје како није стручњак за процењивање куда то води човечанство, али сматра да се приближавамо ситуацији у којој рачунари испуњавају свој пун потенцијал, у смислу отклањања потребе за обављањем репетитивних задатака од стране људи, односно свих оних задатака којима не желимо да се бавимо.
„У том смислу, средњерочно очекујем да ће нам бити доступно више интелигентних агената који ће моћи самостално да нам организују ствари као што је букирање туристичких аранжмана, плаћање рачуна итд. На дуже стазе, биће све мање ствари које морамо сами да радимо, па ће изазов бити сачувати вештине које су нам важне за наше интелектуално васпитање и здравље. Што се тиче самог друштва, ја сам оптимиста и надам се да ће напредак технологије довести до већег разумевања међу људима, помоћи у решавању проблема одрживог развоја и довести до бољег живота, како у нашој земљи, тако и глобално“, закључује Ћулибрк.
Извор: НИН
