Iznajmljivanje H100 GPU klastera košta 4$ po satu. Mjesečni račun? Preko 2.800$. Vaš laptop koji skuplja prašinu ima silikon koji može raditi isti posao besplatno, pod uslovom da ga ne istopite u procesu. Ako znate kako da operišete terminalom bez panike, ovaj vodič će vam uštedjeti hiljade maraka. Do 150. riječi ovog teksta znat ćete…
Prestanite slijepo vjerovati onima koji vam kažu da je Grid Search ‘mrtav’ alat samo zato što im skripte rade po deset sati. To je čista laž onih koji ne znaju kako upregnuti procesorsku snagu i pametno filtrirati podatkovni gunk. Ako vam se računar grije, a ventilator vrišti kao da će poletjeti dok vi čekate na…
Prestanite ‘bubati’ napamet. To je kognitivno smeće koje vam troši godine života i ostavlja vas sa praznom glavom tri dana nakon ispita ili projekta. Ako i dalje koristite puko ponavljanje, vi ste kao majstor koji pokušava zakucati ekser šrafcigerom. Neefikasno je, frustrirajuće i ostavlja ožiljke na vašoj motivaciji. Vaš mozak nije kanta koju punite podacima,…
Prestanite vjerovati marketinškim bajkama da vještačka inteligencija ‘razmišlja’. Ako vam ChatGPT ili lokalni LLM zvuči kao pokvarena ploča koja ponavlja iste tri fraze, problem nije u ‘mozgu’ modela, već u načinu na koji on bira riječi. Vi koristite pogrešan alat za navigaciju kroz vjerovatnoću. Većina početnika se oslanja na takozvani Greedy Search, koji je ekvivalent…
Moja ispovijest: Kako sam proveo 12 sati debugirajući ‘beskonačnu petlju’ Kada sam prvi put pokušao napraviti jednostavnu skriptu za generisanje teksta koristeći GPT-2 modele, napravio sam klasičnu grešku početnika. Koristio sam takozvani Greedy Search. Moj bot je počeo rečenicu sasvim solidno, ali je završio u beskonačnom krugu ponavljanja: ‘Ja volim programirati jer volim programirati jer…
Moja ispovijest: Kako sam uništio svoj prvi model (i šta vi možete naučiti iz toga) Prvi put kada sam pokušao implementirati neuronske mreže za prepoznavanje rukopisa, zaboravio sam na normalizaciju podataka. Proveo sam 48 sati pokušavajući shvatiti zašto moj model predviđa ‘5’ za svaku sliku. Rezultat? Potpuni fijasko i 150 dolara računa za cloud computing….
Uvod: Kako sam „skurio“ svoj prvi dataset Kada sam prvi put pokušao napraviti model za predviđanje cijena nekretnina, zaboravio sam normalizirati podatke. Rezultat? Model je predviđao da će garsonjera u Sarajevu koštati milijardu maraka. Proveo sam cijelu noć ispravljajući jednu liniju koda u Pythonu, pitajući se gdje sam pogriješio. Danas, kao Senior Tech Editor, pišem…
Uvod: Priznanje neuspjeha i evolucija fine-tuninga Kada sam prvi put pokušao uraditi fine-tuning Llama-2 modela za specifičnu analizu bh. pravnog sistema 2023. godine, napravio sam katastrofalnu grešku u formatiranju JSONL datoteke. Zaboravio sam očistiti duplikate i pogrešno sam postavio ‘stop tokens’. Rezultat? Model je počeo generisati besmislice koje su zvučale kao pravni tekst, ali su…
Moja ispovijest: Kako me je 99% preciznosti zamalo koštalo posla Prvi put kada sam radio na modelu za detekciju bankarskih prevara, bio sam oduševljen. Moj model je pokazivao nevjerovatnih 99,8% preciznosti (accuracy). Mislio sam da sam genije. Međutim, kada smo model pustili u testno okruženje, propustio je svaku stvarnu prevaru. Zašto? Zato što je 99,8%…
Moje prvo iskustvo sa razvojem modela za detekciju bankovnih prevara bilo je totalni fijasko. Model je ponosno prijavio preciznost od 99,9%, ali u stvarnosti nije uspio identifikovati niti jednu jedinu stvarnu prevaru. Zašto? Jer su podaci bili katastrofalno neuravnoteženi (data imbalance) — u uzorku od 100.000 transakcija, samo 100 je bilo maliciozno. Model je jednostavno…
