Osnove AI i Mašinskog U
0denja: Vodi
0d Za Po
etnike u 2024.

Licenca za ChatGPT Plus košta te preko 400 KM godišnje. Znanje da podigneš sopstveni lokalni model na kućnoj mašini košta te nula maraka. Ti biraš hoćeš li biti pasivni pretplatnik ili vlasnik procesa. Ako misliš da ti treba diploma sa MIT-a da shvatiš kako mašinsko učenje (ML) zapravo funkcioniše, gubiš vrijeme. Ovo nije teorija iz sterilnih udžbenika; ovo je digitalna bravarija. Do kraja ovog teksta znaćeš tačno u koji hardver da uložiš i zašto većina tutorijala na YouTube-u prodaje maglu.

Zašto ti prodaju ‘Oblak’ a kriju lokalne modele

Direktno uputstvo: Lokalni AI modeli su jedini način da zadržiš privatnost svojih podataka i izbjegneš mjesečne harače tech gigantima. Većina ‘stručnjaka’ će ti reći da ti treba server od 10.000 dolara. Lažu. Možeš pokrenuti ozbiljne modele na prosječnoj gaming grafičkoj karti ako znaš kako da ‘stisneš’ parametre kroz kvantizaciju. To je proces smanjivanja preciznosti modela kako bi stao u tvoj VRAM, slično kao što kompresuješ video da stane na USB. Čuješ li zujanje ventilatora dok tvoja karta pokušava da ‘svari’ milijarde parametara? To je zvuk učenja.

Šta je zapravo Mašinsko Učenje (ML)?

Zamisli ML kao sistem poluga. Umjesto da ti pišeš svaki red koda (Ako je X, onda uradi Y), ti daješ sistemu hiljade primjera i puštaš ga da sam ‘naštimuje’ te poluge. As of 2024, najpopularniji su Transformer modeli. Oni rade na bazi statističke vjerovatnoće – predviđaju koja riječ ide sljedeća na osnovu onoga što su ‘pročitali’ tokom treninga. Nema tu nikakve magije, samo brutalna matematika i struja.

UPOZORENJE: Nikada ne ostavljaj treniranje modela bez nadzora ako nemaš podešen ‘thermal throttle’. GPU temperature iznad 85°C tokom 48 sati mogu trajno oštetiti lemove na tvojoj ploči. Ako osjetiš miris vrele elektronike sličan pregorjelom feniranju, gasi sve odmah.

Hardver koji ti zapravo treba (Zaboravi Phillips, treba ti NVidia)

Za ozbiljan rad u 2024. godini, NVidia je zakon zbog CUDA jezgara. AMD se trudi, ali softverska podrška je još uvijek ‘krpavi posao’. Traži kartu sa minimalno 12GB VRAM-a. Zašto? Jer 7B modeli (modeli sa 7 milijardi parametara) traže prostor da ‘dišu’. Ako pokušaš ugurati veliki model u mali RAM, sistem će se srušiti brže nego loša skela. Prilikom instalacije drajvera, budi spreman na frustraciju. Terminal će ti izbacivati greške, verzije se neće poklapati, a tvoj ego će patiti. To je dio zanata. Iskusni majstori znaju da je prvi ‘Build’ uvijek najteži.

Da li moram znati matematiku za ovo?

Kratko: Ne za korišćenje, da za inovaciju. Možeš voziti auto bez poznavanja termodinamike, ali ako želiš da nabudžiš motor, moraš znati kako klip radi. U AI svijetu, linearna algebra je tvoj ključ. Ako ne razumiješ kako se matrice množe, tvoj model će biti ‘crna kutija’.

Anatomija jednog ‘zajeba’: Zašto modeli haluciniraju

Najveća greška početnika je ‘overfitting’. To je situacija gdje tvoj model nauči tvoje podatke napamet, umjesto da prepozna obrazac. Zamisli da učiš dijete da prepozna psa samo mu pokazujući slike zlatnih retrivera. Kad vidi pudlicu, reći će da je to mačka. To je ‘overfitting’. U produkciji, to znači da će tvoj AI raditi savršeno na testu, ali će totalno ‘prolupati’ kad ga pustiš u stvaran svijet. Potrošio sam 15 sati trenirajući model za analizu cijena nekretnina samo da bih shvatio da je zapamtio adrese umjesto kvadrature. Velika greška. Uvijek diverzifikuj podatke.

Zašto ovo radi: Nauka o težinama (Weights)

Zašto IT funkcioniše? Unutar svakog modela nalaze se ‘težine’ (weights). To su numeričke vrijednosti koje određuju koliko je neki ulazni podatak bitan. Tokom treninga, proces koji se zove ‘backpropagation’ šalje informaciju o grešci nazad kroz mrežu i malo pomjera te težine. Zamisli to kao fino brušenje drveta – skidaš mikrone dok površina ne postane savršeno glatka. Ovaj proces troši ogromne količine električne energije jer tvoj procesor mora izvršiti trilione kalkulacija u sekundi. Voda se širi kad se ledi, a tvoj račun za struju raste kad treniraš AI. To je fizika digitalnog doba.

Plan za tvoj prvi vikend projekat

Nemoj samo čitati. Instaliraj ‘LM Studio’ ili ‘Ollama’. To su alati koji ti dozvoljavaju da pokreneš AI lokalno u tri klika. To je tvoj ‘ulazni alat’, kao onaj jeftini set odvijača iz marketa. Kad osjetiš moć da tvoja mašina odgovara na pitanja bez interneta, bićeš navučen. Ali pazi, AI je kao droga za radoznale – jednom kad kreneš kopati po parametrima, tvoj socijalni život će trpiti. Tvoja ruka će boljeti od skrolovanja kroz dokumentaciju. Nastavi anyway. Isplatiće se kad shvatiš da tvoj lokalni bot piše izvještaje brže nego deset juniora.

Često postavljana pitanja

Da li AI može zamijeniti programere? Ne, ali programer koji koristi AI će zamijeniti onoga koji ne koristi. AI je alat, baš kao što je pneumatski čekić zamijenio obični, ali i dalje ti treba neko ko zna gdje da udari.

Koji je najbolji model za početnike? Trenutno, Llama 3 ili Mistral. Oni su flush-mounted rješenja koja rade ‘out of the box’. Ne gubi vrijeme na egzotične modele dok ne savladaš osnove. Fokusiraj se na stabilnost, a ne na hajp.