AI accountability: Kako dokazati da bot ne griješi

Zašto je ‘AI je crna kutija’ najobičnije smeće od izgovora

Prestani vjerovati u laž da su algoritmi neopisiva magija koju niko ne može kontrolisati. To je marketinška šuplja priča kojom te prodavci softvera plaše kako bi sakrili lošu izradu. Ako tvoj bot izbacuje gluposti, to nije ‘halucinacija’ – to je kvar u tvom nacrtu, tvojim podacima ili tvojim parametrima. Ti si taj koji drži ključ, i ako ne znaš kako dokazati da je sistem stabilan, onda si samo putnik u vozu koji nema kočnice. U ovom vodiču ćemo zavrnuti rukave i proći kroz digitalno blato kako bismo postavili sistem odgovornosti koji zapravo šljaka.

Većina majstora u radionici zna da labav spoj na utičnici znači požar; u AI svijetu, labav prompt znači pravnu tužbu ili gubitak klijenta. Moraš razumjeti da svaki token koji bot izbaci ima svoju težinu i svoju vjerovatnoću. Ako ne pratiš te brojeve, ti ne upravljaš botićem, ti se kockaš. Do kraja ovog teksta, znat ćeš tačno koji ti alati trebaju da bota ‘stisneš u škrip’ i izvučeš iz njega istinu. Činjenica je da te znanje o tome kako AI ne smije sam donositi odluke može spasiti od propasti. To će boljeti. Tvoji procesori će se grijati, ali sistem će biti čist.

Dijagnostika digitalnog curenja: Gdje prompt gubi kontakt

Da bi dokazao da bot ne griješi, prvo moraš naći gdje ‘curi’. Zamisli to kao traženje rupe na crijevu za vodu usred mraka. Prvi simptom je nedosljednost. Ako bot na isti upit tri puta odgovori različito, tvoja ‘temperatura’ je previše visoka. Donosiš odluku odmah: Smanji taj parametar na nulu ako želiš preciznost. Majstori često ostavljaju temperaturu na 0.7 jer misle da je ‘kreativno’. To je glupost. Za ozbiljan rad, kreativnost je neprijatelj tačnosti. Osjetit ćeš onaj specifičan miris pregrijane logike čim pogledaš logove.

Provjeri svoje ulazne podatke. Ako ubacuješ prljave CSV tabele, dobićeš prljave odgovore. Nauči kako da središ te tabele uz AI agente prije nego što ih pustiš u glavni model. Loši podaci su kao rđavi ekseri – uništiće ti cijelu konstrukciju čim pritisak poraste. Svaki red podataka mora biti čist, bez duplikata i logičkih rupa. Ne štedi vrijeme na čišćenju. To je prljav posao, ali neko ga mora uraditi.

Kako radi digitalni multimetar za logiku

U radionici koristiš multimetar da provjeriš napon; ovdje koristiš audit logove. Svaki poziv API-ju mora ostaviti trag. Ako nemaš logove, nemaš dokaze. Istraži logove kao da tražiš pukotinu u bloku motora. Traži ‘out-of-distribution’ podatke. To su oni momenti kada bot počne da nagađa jer nikada nije vidio takav upit. To je trenutak kada moraš povući ručnu kočnicu. Ne dozvoli mu da nagađa. Nikada.

WARNING: Nikada ne dozvoli AI modelu da donosi odluke o trošenju novca ili sigurnosti bez ‘Human-in-the-loop’ filtera. 120v struje te može ubiti, ali loš algoritam može uništiti reputaciju firme koju si gradio decenijama. Provjeravaj izlaz multimetrom logike prije nego što ‘pustiš struju’.

Anatomija jednog ‘zajeba’: Zašto botići zapravo lažu

Hajde da seciramo jedan promašaj. Radio sam na sistemu koji je trebao da klasifikuje fakture. Bot je tri mjeseca radio savršeno, a onda je odjednom počeo da miješa PDV stope. Šta se desilo? Nije se ‘pokvario’ softver, već se promijenio format fakture kod dobavljača. Bot je pokušao da se ‘snađe’ – što je najgora stvar koju AI može uraditi. Pokušao je da ugura kvadratni klin u okruglu rupu. Rezultat? Šest mjeseci kasnije, inspekcija je zakucala na vrata jer su podaci bili totalno pogrešni.

Ako ne koristiš alate kao što je alat za brzu provjeru sistemskih rizika, ti si u problemu. Moraš imati ‘sanity check’ na svakom koraku. To je onaj osjećaj kada prstom provjeravaš da li je ljepilo uhvatilo prije nego što skineš stege. Ako je sumnjivo, ne skidaj. Ako bot sumnja u svoj odgovor (a svaki model daje vjerovatnoću), tvoj kod mora to prepoznati i odbiti odgovor. Bolje je ‘ne znam’ nego pogrešna informacija. To je zakon radionice.

Zašto tvoj model halucinira (Fizika žaljenja)

Zaboravi na termine kao što je ‘mašta’. AI ne mašta. On predviđa sljedeći token na osnovu statistike. Zamisli to kao niz domino kockica. Ako je prva kockica mrvicu nakrivo, do stote ćeš završiti u drugom zidu. To je kumulativna greška. Voda se širi za 9% kada se zaledi i lomi čelik; greška u predviđanju se širi eksponencijalno i lomi tvoju logiku. Jedini način da to zaustaviš je da postaviš ‘pregrade’ unutar samog upita. Koristi ‘chain-of-thought’ tehniku. Natjeraj ga da piše korake, a ne samo rezultat. Tako ćeš vidjeti gdje je domino skrenuo s puta.

Da li tvoj AI diskriminiše?

Ovo nije pitanje morala, već tehničke ispravnosti. Ako tvoj model favorizuje određene podatke, tvoja vaga nije dobro kalibrisana. To je kao da koristiš libelu koja nije ravna. Sve što izgradiš biće nakrivo. Odmah provjeri svoje algoritme uz ovaj test. Ako podaci vuku na jednu stranu, tvoj dokaz o nepogrešivosti pada u vodu na prvom sudu. Majstori ne koriste krive alate, pa nemoj ni ti krive modele.

Zašto ne trebaš kupovati gotova rješenja: Sourcing pravilo

Nemoj kupovati skupe, zatvorene sisteme gdje ne vidiš šta se dešava ispod haube. To je kao da kupiš auto kojem je zavaren poklopac motora. Ako ne možeš da vidiš ‘weights’ i ‘biases’, ne možeš ništa ni dokazati. Koristi open-source modele poput Llama 4 (koju usput možeš instalirati za 15 minuta) i testiraj ih lokalno. Tako imaš punu kontrolu nad podacima. Ako nešto pukne, bar znaš koga trebaš psovati – sebe, a ne nekog developera u Kaliforniji koji tvoje podatke koristi za treniranje bota koji će te sutra zamijeniti.

Zadnja provjera: Skala odgovornosti za 2026. godinu

Kada završiš sa podešavanjem, uradi finalni test opterećenja. Gurni bota do ivice. Daj mu namjerno pogrešne podatke i vidi da li će te upozoriti. Ako šuti i samo ‘slather’ (maže) odgovor preko toga, sistem ti je smeće. Mora da vrišti na grešku. Kao što stari majstor Mike kaže: ‘Ako ne zvuči kako treba dok radi, sigurno će te udariti po džepu kad prestane’. AI accountability nije dokument na papiru, to je živi sistem provjera i ravnoteža. Ostani prljav, ostani precizan i ne vjeruj ničemu što ne možeš izmjeriti multimetrom logike. Kraj priče.