Instaliraj AI na Linux: Koristi komandnu liniju kao stručnjak

Prestanite vjerovati marketinškim lažima da vam za pokretanje ozbiljne vještačke inteligencije treba Windows i NVIDIA kartica od 2.000 eura. Istina je surova: Windows troši dragocjene resurse vašeg sistema na telemetriju i nepotrebne pozadinske procese dok vi pokušavate natjerati model da razmišlja. Ako želite maksimalnu brzinu i potpunu kontrolu nad svojim podacima, Linux terminal je vaše jedino pravo radno mjesto. U narednih 15 minuta naučićete kako da podesite sistem tako da vaša mašina ne bude samo igračka, već ozbiljan AI server.

Zašto tvoj Windows guši AI modele (I zašto je Linux rješenje)

Vjerovatno ste čuli da je postavljanje AI-a na Linuxu teško. Teško je onima koji se boje komandne linije. Na Linuxu, vi ste vlasnik hardvera. Dok Windows ‘rezerviše’ gigabajte RAM-a za Edge i ažuriranja u pozadini, Linux dozvoljava modelu da direktno komunicira sa procesorom i memorijom. Često ćete osjetiti miris vrele elektronike i čuti vrištanje ventilatora—to je zvuk performansi, a ne sistemskog smeća. Iskusni korisnici znaju da je instalacija lokalnog AI-a na svoj PC najbolji način da sačuvate privatnost.

Fizika kajanja: RAM, VRAM i tvoja očekivanja

Prije nego što gurnete bilo koju komandu u terminal, shvatite hemiju memorije. Ako imate 8GB RAM-a, zaboravite na velike modele. Voda se širi kad se smrzne, a AI model se širi kad se učita. Ako pokušate učitati Llama-3 70B model na staru kantu, sistem će se zalediti brže nego cijev na -20. Treba vam bar 16GB, a idealno je da koristite swap prostor na brzom NVMe disku kako bi sistem ‘disao’.

Kada pritisnete tastere, zvuk vaše mehaničke tastature treba da bude jedino što čujete dok terminal ne ispljune prve rezultate. Osjećaj glatkog koda pod prstima je neprocjenjiv. Ali, pazi. Jedna pogrešna sudo rm -rf komanda i tvoj operativni sistem će nestati brže nego plata u kladionici. Kratko i jasno: Ne kopiraj šta ne razumiješ.

Sudo apt-get ili smrt: Priprema okruženja

Zaboravi na instalacione čarobnjake. Ovdje koristimo sirovu snagu repozitorija. Prva stvar koju radiš je čišćenje gnoja sa sistema i ažuriranje svega. Unesi: sudo apt update && sudo apt upgrade -y. Ovo nije samo rutina, ovo je higijena. Ako preskočiš ovaj korak, zavisnosti (dependencies) će se potući kao pijanci ispred prodavnice. Trebaće ti Python. Ne onaj stari 2.7, već moderni 3.10 ili noviji. Ako ne znaš osnove, pogledaj kako naučiti Python za jedan vikend.

WARNING: Nikada ne instaliraj Python pakete globalno koristeći sudo. 120v strujni udar će ti samo prodrmati srce, ali uništavanje sistemskog Pythona će ti uništiti cijelu instalaciju Linuxa. Uvijek koristi virtuelno okruženje (venv).

Anatomija katastrofe: Kada verzije zarate

Zamislite ovo: Instalirate PyTorch, ali vaša verzija CUDA drajvera je stara. Rezultat? Model se pokreće na procesoru (CPU) umjesto na grafičkoj kartici. To je kao da vučete teretnjak sa biciklom. Vidjećete 0.1 token po sekundi. To je mučenje, a ne rad. Iskusni programer Mirza mi je jednom rekao: ‘Ako ti terminal ne javi grešku odmah, vjerovatno si nešto opasno zeznuo.’ Uvijek provjeri drajvere sa nvidia-smi prije nego što kreneš dalje.

Instalacija Ollama: Najbrži put do inteligencije

Ollama je postala standard za DIY entuzijaste jer pakuje sve komplikovane biblioteke u jedan binarni fajl. To je kao da kupujete gotovu smjesu za beton umjesto da sami miješate pijesak i cement. Samo jedna komanda: curl -fsSL https://ollama.com/install.sh | sh. Nemoj se plašiti curla. To je kao da otvaraš vrata svog doma provjerenom majstoru. Nakon toga, tvoj Linux postaje mozak. Ako želiš maksimalnu brzinu, nauči koji je hardver stvarno potreban u 2026. godini.

Zašto tvoj model laže?

Čak i kad sve podesiš, AI može halucinirati. To se dešava jer su kvantizovani modeli (oni koje možemo pokrenuti kod kuće) malo ‘gluplji’ od onih u oblaku. Ako primijetiš da ti bot priča gluposti, provjeri temperaturu (ne procesora, već parametar modela). Smanji je na 0.2 za preciznost ili je podigni za kreativnost. Provjeri kvalitet odgovora redovno kako ne bi postao žrtva digitalnih izmišljotina.

Povezivanje sa vanjskim svijetom (Bez izdaje privatnosti)

Sada kada model radi u tvom terminalu, možeš ga povezati sa web interfejsom poput Open WebUI. To je kao da stavljaš lijepu fasadu na grubu betonsku gradnju. Ali, budi oprezan sa portovima. Ako otvoriš port 11434 cijelom internetu bez lozinke, tvoj AI će postati alat za hakere. Koristi SSH tuneliranje. To je kao da imaš tajni prolaz do radionice koji niko ne vidi.

Šta ako sve prestane raditi?

U DIY svijetu, stvari pucaju. Možda nestane struje dok se model učitava, ili se disk prepuni logovima. Ne paniči. Prvo pravilo: Pročitaj logove. journalctl -u ollama je tvoj najbolji prijatelj. Tamo piše istina, bez uljepšavanja. Većina problema se rješava brisanjem keša ili ponovnim pokretanjem servisa. Nemoj odustajati. Tvoj arm će boljeti od kucanja, oči od ekrana, ali onaj trenutak kada ti tvoj lokalni, necenzurisani model odgovori u milisekundi—to je čista moć.

Zaključak za majstore terminala

Linux nije samo operativni sistem, to je alat. Instalacija AI-a na ovaj način daje vam uvid u to kako mašine zapravo razmišljaju. Nema pretplate, nema cenzure i nema ‘Big Tech’ nadzora. Sada kada imaš bazu, možeš istražiti kako postati AI operater u 2026. godini i unovčiti svoje nove vještine. Drži sistem čistim, drajvere ažurnim i nikada ne vjeruj Windowsu kad je u pitanju ozbiljan posao.