AI sa ljudskim nadzorom ili kako provjeriti bota

Zaboravi na bajke o autonomnim agentima: Ti si šef ili žrtva

Vjeruješ li svom AI botu više nego što vjeruješ pijanom majstoru koji ti obećava da će ‘sve biti ravno bez vaservage’? Ako je odgovor da, tvoj sistem je tempirana bomba. Prestanite kupovati priču o ‘set-and-forget’ rješenjima. To je marketinška laž koja će te koštati ili baze podataka ili ugleda. Tvoj AI nije magija; to je statistička mašina koja nagađa sljedeću riječ. Ako ti ne držiš ruku na prekidaču, ti ne upravljaš alatom—ti upravljaš rizikom. Za manje od 150 riječi naučit ćeš da bez tvog nadzora, svaki ‘pametni’ sistem postaje tvoj najskuplji neplaćeni pripravnik. Trebaš kritičko oko, par filtera i nultu toleranciju na ‘halucinacije’.

Zašto ‘Temperature’ parametar nije samo broj nego tvoj nivo rizika

Uđi u postavke svog bota. Vidiš li taj klizač za ‘Temperature’? To nije toplota tvog procesora, to je mjera koliko je tvoj bot spreman da laže. Što je broj veći, to je veća šansa da će izmisliti nepostojeći zakon ili ‘izvući iz rukava’ podatak koji ne postoji. Direktna instrukcija: Za poslovne izvještaje i tehničku dokumentaciju, drži temperaturu ispod 0.3. Sve iznad toga je kao da pitaš nekoga u kafani za pravni savjet. Osjeti taj otpor u logici; ako je previše ‘kreativan’, bot gubi tlo pod nogama. Provjeri kako temperature utiče na odgovore bota prije nego što ga pustiš da piše mail klijentu.

Alatnica za provjeru: Kako testirati bota kao da je stari dizel motor

Provjera AI-ja nije čitanje teksta i klimanje glavom. To je mrcvarenje modela. Moraš ga ‘stisnuti’ tamo gdje je najslabiji. Koristi metodu unakrsnog ispitivanja. Ako ti bot izbaci skriptu, nemoj je samo kopirati. Zavrni rukave.
1. Prvo, traži mu da objasni logiku iza svake linije koda.
2. Drugo, namjerno ubaci pogrešan podatak i vidi hoće li te ispraviti.
3. Treće, koristi alate za detekciju plagijata i AI generisanog sadržaja. Ako bot ‘mulja’, osjetit ćeš to u ritmu teksta koji je previše savršen, previše sterilan. Baš kao kad otkrivaš AI plagijat, moraš gledati između redova. Miris svježe farbe često krije trulež u drvetu.

Anatomija katastrofe: Kako smo spržili bazu jer nismo gledali

UPOZORENJE: Nikada, ali apsolutno nikada ne dozvoli AI skripti da ima ‘write’ pristup tvojoj glavnoj bazi podataka bez ljudske potvrde (Human-in-the-loop). Jedna pogrešna ‘regex’ komanda može obrisati decenije podataka brže nego što stisneš ‘Undo’. 120v struja te može ubiti, a loš AI prompt može ubiti tvoj biznis.

Desilo se jednom mom klijentu. Mislio je da je ‘uštedio’ vrijeme koristeći brzu skriptu za čišćenje baze. AI je interpretirao ‘očisti sve duplikate’ kao ‘očisti sve što ima slično ime’. Rezultat? Gubitak 40% korisničkih profila. Da je imao postavljen ‘firewall’ ili bar jedan ‘dry-run’ test, šteta bi bila nula. Nauči na tuđim ranama i pogledaj kako sigurno očistiti bazu podataka bez da postaneš dio statistike neuspjeha.

Zašto AI griješi? Fizika vjerovatnoće vs. Logika realnosti

Zašto ovo radi: AI modeli koriste nešto što se zove ‘stohastički proces’. To znači da oni ne ‘znaju’ istinu, oni predviđaju najvjerovatniji sljedeći token (dio riječi). Wood glue (drvofiks) prodire u vlakna celuloze i stvara vezu jaču od samog drveta jer se fizički upliće u strukturu. AI pokušava uraditi isto sa informacijama, ali on nema ‘fizičku’ provjeru realnosti. On samo ‘lijepi’ riječi koje statistički idu skupa. Ako su ulazni podaci bili ‘prljavi’, veza će biti krhka. Ako ne razumiješ osnove neuralnih mreža, ti si kao stolar koji ne zna razliku između borovine i hrasta, a pokušava napraviti noseću gredu.

Da li moram provjeravati svaku rečenicu?

Kratko: Da. Dugo: Ako je informacija ‘YMYL’ (Tvoj novac ili tvoj život), provjera je obavezna. Za kreativno pisanje posta o mačkama, možeš biti opušteniji. Ali ako je u pitanju medicina ili pravo, svaki zarez je bitan. Kao što AI u medicini spašava živote samo uz nadzor doktora, tako i tvoj bot spašava tvoje vrijeme samo uz tvoj nadzor.

Code Check: Pravila za 2026. godinu

Prema novim standardima digitalne sigurnosti za 2026. godinu, svaki automatizovani sistem koji komunicira sa klijentima mora imati jasno istaknutu oznaku da je generisan od strane AI-ja, uz obavezan log ljudske revizije. To nije samo dobra praksa; to postaje zakon. Ako tvoj bot šalje mailove u tvoje ime, ti si pravno odgovoran za svaku uvredu ili pogrešnu informaciju koju on ‘istovari’ u inbox klijenta. Ne budi onaj lik koji krivi ‘softver’ za sopstvenu lijenost. Slather (namaži) taj nadzor debelo—nemoj štedjeti na provjeri.

Anatomija greške: Kako prepoznati ‘umornog’ bota

Nakon duge sesije, AI modeli počinju da ‘pucaju’. To se zove degradacija konteksta. Bot zaboravlja šta je rekao prije deset minuta i počinje da kontradiktuje samom sebi. Logističko pravilo: Ako tvoja konverzacija pređe 2000 riječi, resetuj sesiju. Nemoj silovati memoriju modela. To je kao da pokušavaš zakucati ekser tupim čekićem—samo ćeš iskriviti ekser i izgrebati drvo. Svježa sesija je oštar alat. Koristi je. Ako te zanima kako preciznije podesiti odgovore, istraži Top-K sampling efekte.

Zaključak iz radionice: Čovjek je mjera, AI je samo poluga

Bionika i tehnologija se spajaju, ali srce sistema ostaje tvoja sposobnost da kažeš ‘ovo ne valja’. AI mijenja naša tijela i poslove, ali ne smije zamijeniti naš mozak. Uzmi taj digitalni čekić, ali uvijek nosi zaštitne naočale. Provjeravaj, testiraj, sumnjaj. To je jedini put da postaneš majstor, a ne samo korisnik. Tvoj bot je tvoja odgovornost. Sad se vrati u konzolu i provjeri taj zadnji prompt. Jesi li siguran da te nije slagao?