Ubaci AI u mali biznis: Plan za vikend instalaciju

Zašto plaćaš 2.000 KM za ono što tvoj stari PC može besplatno?

Prosječan konsultant za digitalnu transformaciju će ti uzeti 2.000 KM da ti postavi tri bota i poveže Google Sheets sa ChatGPT-om. To je porez na neznanje. Ti to možeš uraditi sam preko vikenda za nula maraka, pod uslovom da imaš bar osam gigabajta RAM-a i volju da se uprljaš kodom. Ako misliš da je AI samo za Silikonsku dolinu, griješiš. Tvoj biznis krvari novac na dosadnim emailovima i transkripcijama. Ovaj vodič će ti pokazati kako da postaviš vlastiti server u kancelariji, bez da ijedan tvoj privatni podatak napusti zgradu.

Prvo pravilo: zaboravi na pretplate. Pretplata je omča oko vrata malom biznisu. Do nedjelje naveče, tvoj kompjuter će postati tvoj najpametniji radnik koji ne traži platu, topli obrok ni regres. Krenimo.

Šta ti treba u garaži: Hardver koji ne crkava

Nemoj kupovati novi laptop. Iskopaj onaj stari koji skuplja prašinu, ali gledaj da ima NVIDIA grafičku kartu ako želiš brzinu. Ako nemaš NVIDIA-u, radit će, ali sporije. Treba ti bar 16GB RAM-a za iole ozbiljan rad. Ja sam pokušao sa 8GB. Pakao. Sistem se gušio kao stari dizel na minus dvadeset. Nemoj raditi tu grešku.

Zašto ti treba lokalni model umjesto Clouda?

Odgovor je jednostavan: privatnost i cijena. Kada koristiš javne servise, tvoji ugovori i finansije idu u tuđi oblak. Lokalni sistem je tvoj digitalni sef. Ako nemaš struje, nemaš AI, ali bar niko ne njuška po tvojim PDF fajlovima. Plus, lokalni RAG sistemi su budućnost malog biznisa.

Subota ujutro: Instalacija ‘Mozga’ (Ollama i Lokalni LLM)

Prvo instaliramo Ollama-u. To je softver koji omogućava da AI modeli trče na tvom gvožđu. Idi na zvanični sajt, skini verziju za tvoj OS i pokreni je. Ne koristi ‘installer’ ako ne moraš, ja preferiram terminal. Osjećaj je prljaviji, ali imaš kontrolu. Kucaj ollama run llama3. Gledaj kako se vrti. To što čuješ je kuler tvoje grafičke koji se bori za život. To je zvuk napretka.

Kada se model učita, pitaj ga nešto na bosanskom. Ako počne da brlja, smiri ga. On je kao novi šegrt; treba mu precizna instrukcija. Besplatni lokalni modeli su danas jači nego što je GPT-4 bio prije godinu dana. Nemoj da te lažu da ti treba 5.000 KM za opremu. Radi na starudiji.

WARNING: Ako osjetiš miris spaljene plastike iz kućišta, gasi sve. Lokalni AI modeli tjeraju procesore do termalnih granica. Provjeri termalnu pastu prije nego što pustiš model da analizira 500 tvojih faktura odjednom. 120 stepeni na procesoru znači smrt tvoje matične ploče.

Subota popodne: Povezivanje ‘Nerava’ uz N8N

Sada kada imaš mozak, trebaju ti nervi. Nervi su automatizacija. Koristit ćemo n8n. To je kao digitalni vodoinstalater. On povezuje tvoj email, tvoj kalendar i tvoj novi AI mozak. Instaliraj ga preko Docker-a. Ako ne znaš šta je Docker, zamisli ga kao kutiju u kojoj živi softver da ne bi zarazio ostatak kompjutera. Automatizuj prodaju odmah. Postavi workflow: kada stigne email od klijenta, n8n ga šalje Ollami, Ollama piše nacrt odgovora, a tebi stiže notifikacija na telefon. Ti samo klikneš ‘Pošalji’.

Don't skip this. Bez automatizacije, tvoj AI je samo skupi chatbot s kojim pričaš kad ti je dosadno. Sa n8n-om, on je tvoj sekretar koji nikad ne spava.

Anatomija promašaja: Kako sam spržio 30 sati na pogrešan drajver

Evo kako ćeš zajebati stvar. Instalirat ćeš pogrešnu verziju CUDA drajvera. To je softver koji omogućava tvojoj grafičkoj da priča sa AI-em. Pola subote ćeš provesti buljeći u terminal koji izbacuje ‘Error code 43’. Ja sam to uradio. Htio sam da razbijem tastaturu o zid. Rješenje? Uvijek, ali uvijek prvo uradi sudo apt update ili provjeri Windows Update. AI nije magija; to je samo gomila matrica koje se množe. Ako drajver ne radi, matrice stoje. Sve stoji. Ti gubiš vrijeme. Mirsad iz IT-a mi je jednom rekao: ‘Mali, ne popravljaj softver dok ne provjeriš kablove’. Bio je u pravu.

Nedjelja: Fino podešavanje i ‘Science’ digresija

Zašto tvoj AI ponekad laže? To se zove halucinacija. Ali zašto se dešava? Fizika iza modela: AI ne razumije riječi, on razumije vjerovatnoću. On pogađa sljedeći token. Ako mu ne daš dovoljno konteksta, on će izmisliti odgovor jer je programiran da bude koristan, a ne da šuti. Koristi RAG (Retrieval-Augmented Generation). To znači da mu ‘podmetneš’ svoje dokumente pod nos prije nego što ga išta pitaš.

U nedjelju naveče, tvoj sistem treba da radi ovo: asistent za sastanke automatski vadi bilješke iz tvojih Zoom snimaka. Koristi ‘Whisper’ model za to. Besplatan je. Instaliraš ga za 15 minuta. Ne plaćaj transkripciju po minuti. To je pljačka.

Fizika žaljenja: Šta ako ostaviš server upaljen?

Voda se širi kad se smrzne, a tvoj račun za struju raste kad AI server radi 24/7. Ako ostaviš lokalni model da ‘vrti’ bez potrebe, tvoja grafička karta troši 300W na sat. To je kao da si ostavio peglu upaljenu cijeli dan. Ugasi skripte kad ne rade. Smanji račun za struju tako što ćeš podesiti da se server gasi u 10 naveče. AI-u ne treba odmor, ali tvom novčaniku treba.

Često postavljana pitanja (PAA)

Da li mi treba programer za ovo?

Ne. Treba ti strpljenje i sposobnost da kopiraš komande u terminal. Ako znaš instalirati krekiranu igricu, znaš instalirati i lokalni AI. Sve ostalo je marketing prodavača magle.

Koliko novca ću stvarno uštedjeti?

Oko 150 KM mjesečno na pretplatama (ChatGPT Plus, Midjourney, Otter.ai) i bar 10 sati rada sedmično. Izračunaj svoju satnicu. To je hiljade maraka godišnje koje ostaju tebi, a ne Sam Altmanu.

Zadnji trzaji: Testiranje i provjera koda

Prije nego što legneš u nedjelju, provjeri da li tvoj sistem ‘curi’. Uradi sam test curenja podataka. Isključi internet na ruteru. Ako AI i dalje odgovara na tvoja pitanja o prometu firme, uspio si. Nezavisan si. Imaš moć u svojim rukama. Sutra u ponedjeljak, tvoja konkurencija će i dalje kucati emailove ručno. Ti ćeš piti kafu dok tvoj ‘Maker’ sistem završava 80% posla prije 9 ujutro. Slather on some success, don't be shy.