Zaradi uz AI agente: Kako pokrenuti mali biznis od kuće [DIY]

Konsultantska agencija će ti naplatiti 5.000 KM za ‘digitalnu transformaciju’ koju tvoj stari laptop može odraditi dok ti spavaš. Ako misliš da ti treba superkompjuter ili skupa pretplata na OpenAI da bi pokrenuo biznis, lažu te. Prava istina je u tvojoj garaži ili na tavanu, u onom Dell-u iz 2018. godine koji skuplja prašinu. Ovaj vodič će ti pokazati kako da iskoristiš to staro gvožđe, naguraš u njega lokalni mozak i počneš prodavati automatizaciju lokalnim firmama koje još uvijek koriste Excel tabele iz prošlog vijeka. Sve što ti treba je par sati, gajba piva i spremnost da zaprljaš ruke kodom koji zapravo radi.

Iskopaj stari Dell: Hardverska priprema bez trošenja centa

Prvi korak nije kupovina. Prvi korak je kopanje. Da bi pokrenuo lokalni LLM (Large Language Model), treba ti RAM memorija i bilo kakav GPU, ali čak i običan procesor može poslužiti ako znaš šta radiš. Pokretanje lokalnog LLM-a na starom laptopu je osnova tvog novog biznisa jer klijenti plaćaju za privatnost podataka. Kada osjetiš miris stare prašine koja izlazi iz ventilatora dok se sistem podiže, znaš da si na pravom putu. Očisti te otvore za vazduh kompresovanim zrakom; ako se procesor pregrije na 90 stepeni, tvoj biznis će se ugasiti prije prvog klijenta. Don't skip the cleaning. Jedan zrno prašine na pogrešnom mjestu i tvoja matična ploča je gotova.

Čuješ li taj visoki ton ventilatora? To je zvuk profita. Instaliraj Linux (Ubuntu je najsigurnija opcija za početnike) jer Windows jede previše resursa koje tvoj agent treba za razmišljanje. Treba ti bar 16GB RAM-a za pristojan rad, ali ako imaš samo 8GB, koristićemo ‘quantized’ modele. To su modeli koji su ‘stisnut’ da stanu u manju memoriju, slično kao kad pokušaš ugurati prevelik motor u malog Fiću. Radi, ali moraš znati granice.

Lokalni LLM: Tvoj privatni mozak u kutiji

Zašto lokalno? Zato što firme ne žele da njihovi podaci o platama ili ugovori cure na internet. Zatvori pristup podacima i ponudi im rješenje koje radi bez interneta. To je tvoj glavni prodajni adut. Koristićemo Ollama ili LM Studio. To su alati koji ti omogućavaju da ‘uvučeš’ model poput Llama 3 ili Mistral-a direktno na svoj disk. Kada prvi put ukucaš komandu i vidiš kako slova izlaze na ekranu bez konekcije, osjetit ćeš onaj tupi, zadovoljavajući osjećaj moći. To nije magija, to je čista matematika koja se vrti na tvom hardveru.

Da li mi stvarno ne treba internet?

Da. Jednom kada skineš težinu modela (par gigabajta), tvoj agent je autonoman. To znači da tvoj klijent može biti u podrumu bez signala, a tvoj AI agent će i dalje pisati izvještaje ili analizirati troškove. Smanji troškove marketinga tako što ćeš klijentima pokazati da ne moraju plaćati 20 dolara mjesečno po korisniku. Ti im naplatiš postavljanje sistema jednom, i održavanje svakih par mjeseci. Čista zarada.

WARNING: Nikada ne ostavljaj lokalni server otvoren prema internetu bez enkripcije. Ako neko provali u tvoj LLM, ima pristup svim dokumentima koje si ‘nahranio’ agentu. Koristi SSH ključeve ili VPN. 120v struje u serveru te neće ubiti, ali tužba zbog curenja podataka hoće.

Anatomija kiksa: Kada agent poludi i krene slati gluposti

Pisanje promptova nije poezija, to je inženjering. Najveća greška koju ćeš napraviti je što ćeš biti previše ljubazan prema mašini. AI ne treba ‘molim te’. AI treba jasne, brutalne instrukcije. Spriječi halucinacije tako što ćeš ograničiti agenta na ‘RAG’ (Retrieval-Augmented Generation). To znači: ‘Gledaj samo u ovaj PDF i ne izmišljaj ništa van njega’. Vidio sam ljude kako gube klijente jer je njihov chatbot počeo da nudi popuste od 90% jer ga niko nije ograničio. Big mistake. Uvijek testiraj agenta sa ‘glupim’ pitanjima prije nego što ga pustiš u rad.

Zašto ovo radi: Nauka iza tokena

Razmisli o AI modelu kao o masi mokrog cementa. Dok ga treniraš, on je savitljiv. Kada se osuši, to je to. Lokalni modeli koriste ‘težine’ (weights) koje su zapravo numeričke vrijednosti veza između neurona. Kada mu daš tekst, on ga sjecka na tokene. Tokeni su kao cigle. Ako nemaš dovoljno cigli, ne možeš sagraditi kuću. Ali ako imaš previše, srušit će se pod sopstvenom težinom. Fine-tuning na laptopu je proces dodavanja tvojih specifičnih cigli u tu mješavinu. To je ono što tvoju uslugu čini unikatnom.

Kako naplatiti prvi dolar: Strategija za Balkan

Ne prodaj ‘AI’. Niko ne zna šta je to. Prodaj ‘Uštedu vremena na mailove’ ili ‘Automatsko sortiranje faktura’. Napravi prodajnog agenta koji odgovara na upite na sajtu dok vlasnik spava. To je opipljivo. Možeš koristiti alate kao što je Monday.com za organizaciju tvojih agenata i zadataka. Tvoja prva instalacija bi trebala biti besplatna ili po niskoj cijeni kod lokalnog automehaničara ili pekara. Kada oni vide da im telefon više ne zvoni za glupa pitanja ‘do koliko radite’, jer AI to rješava, tvoj marketing je završen. Preporuka je ovdje jača od bilo kojeg Google oglasa. Kreni odmah. Tvoj stari laptop te čeka.