Ko je stvorio Claude-a? Anthropic poreklo i AI sigurnost

Zaboravite priče o ‘prijateljskom robotu’: Claude nije nastao u garaži, nego u bjekstvu

Prestanite vjerovati u mit da su svi veliki jezički modeli (LLM) isti nusproizvod Silikonske doline gladne profita. Ako mislite da je Claude samo ‘OpenAI-jeva kopija s drugim imenom’, griješite na način koji vas može koštati sigurnosti vaših podataka. Claude je rezultat ideološkog raskola, skoro pa vjerskog rata unutar zidova OpenAI-ja, gdje je grupa inženjera odlučila da profit nije vrijedan rizika od digitalnog sloma. Vi, kao korisnik ili vlasnik biznisa, morate razumjeti da Claude nije dizajniran da bude samo ‘pametan’ – on je dizajniran da bude ukroćen. Dok drugi modeli jure za performansama, Anthropic je gradio digitalni kavez. Prije nego što uložite jedan euro u integraciju AI-ja, morate znati ko su ‘Amodei odmetnici’ i zašto je njihova opsesija sigurnošću jedina stvar koja stoji između vašeg poslovanja i totalne halucinacije algoritma. Iskusni inženjeri znaju: nije bitno koliko je motor jak ako kočnice ne rade pri 200 km/h.

Amodei egzodus: Zašto su najbolji inženjeri napustili OpenAI

Dario i Daniela Amodei nisu otišli jer su željeli više novca; otišli su jer su vidjeli kako se ‘armatura’ sigurnosti u OpenAI-ju raspada pod pritiskom komercijalizacije. To nije bio miran razlaz. Zamislite to kao napuštanje gradilišta jer vidite da su temelji od pijeska, a krov se već postavlja. Anthropic je osnovan 2021. godine sa jasnom namjerom: stvoriti AI koji ima ‘ustav’. Ako želite da vaše poslovanje preživi, morate razumjeti razliku između pukog treniranja modela i onoga što Anthropic radi. Oni ne koriste samo ljudsku povratnu informaciju (RLHF) koja je često subjektivna i manjkava. Oni koriste RLAIF – AI koji nadgleda drugi AI prema strogo definisanom skupu pravila. To je kao da imate digitalnog inspektora koji nikada ne spava i ne prima mito. Ako vas zanima kako se ovakvi modeli testiraju na greške, pročitajte naš vodic o tome zašto vaš bot griješi i kako popraviti trening.

Ustavni AI: Fizika digitalnog morala

Anthropic nije samo ‘napisao upute’ za Claude-a. Oni su ugradili ‘Ustavni AI’. To zvuči kao filozofija, ali u praksi je to čista matematika i logika. Umjesto da hiljade ljudi ručno označavaju šta je ‘dobro’ a šta ‘loše’ – što je spor i prljav posao – Claude ima listu principa inspirisanu Deklaracijom o ljudskim pravima i Apple-ovim pravilima o privatnosti. Tokom faze treniranja, Claude generiše odgovore, a zatim ih sam revidira na osnovu svog unutrašnjeg ustava. To je proces koji miriše na ozon u serverskim sobama i zahtijeva brutalnu procesorsku snagu. Ako preskočite ovaj korak, dobićete model koji ‘izmišlja’ činjenice. Za one koji se bore sa sličnim problemima kod drugih alata, pogledajte kako smanjiti AI halucinacije u tri konkretna koraka.

WARNING: Nikada ne povjeravajte osjetljive korporativne podatke AI modelu koji nema jasno definisan ‘Constitutional AI’ okvir ili lokalnu instancu. 120v struje u serveru je ništa spram štete koju može nanijeti curenje podataka zbog loših sigurnosnih protokola.

Claude vs. GPT: Alat za hirurga naspram švicarskog noža

Kao stari majstor koji zna razliku između preciznog dlijeta i obične sjekire, morate prepoznati gdje Claude dominira. Claude 3.5 Sonnet nije tu da vam piše pjesme (iako to može); on je tu da analizira 200.000 riječi koda bez da se ‘pregrije’. Njegov prozor konteksta je masivan, ali to donosi i rizik. Što je veći materijal koji obrađujete, veća je šansa da se ‘izgubi’ nit ako algoritam nije pravilno postavljen. Anthropic je Claude-a napravio da bude ‘manje sklon hvalisanju’. On će češće reći ‘ne znam’ nego ChatGPT, a u svijetu profesionalnog inženjeringa, to je osobina koja vrijedi zlata. Ako planirate koristiti AI za analizu tržišta bez programiranja, Claude je često sigurniji izbor, o čemu više možete saznati na ovom linku.

Anatomija neuspjeha: Šta se desi kada AI nema ‘kočnice’

Opisaću vam scenario koji viđam stalno: Firma implementira chatbot bez provjere porijekla modela. Šest mjeseci kasnije, bot počinje davati popuste od 90% jer ga je neko ‘izmanipulisao’ (prompt injection). To se dešava jer model nema unutrašnji integritet – on samo predviđa sljedeću riječ. Claude je dizajniran da prepozna ove pokušaje manipulacije. To nije savršeno, ali je razlika između postavljanja obične brave i ugradnje biometrijskog skenera. Ako želite testirati koliko je vaš sistem zapravo ‘fer’ i otporan, obavezno uradite testiranje pristrasnosti AI modela prije nego što ga pustite u produkciju.

Da li je Claude zaista sigurniji za privatne podatke?

Kratak odgovor: Da, ali samo ako ga koristite ispravno. Anthropic tvrdi da ne trenira svoje modele na podacima korisnika koji dolaze preko API-ja. To je ključna razlika za firme koje brinu o intelektualnom vlasništvu.

Ko kontroliše Anthropic u 2026. godini?

Iako su Google i Amazon uložili milijarde, Anthropic i dalje funkcioniše kao ‘Public Benefit Corporation’. To znači da zakonski moraju balansirati profit sa društvenom dobrobiti. To je rijedak ‘osigurač’ u industriji koja često ignoriše rizike.

Zašto će vas ‘štednja’ na sigurnosti koštati bogatstvo

Kupovina najjeftinijeg AI rješenja je kao kupovina najjeftinije dizalice – možda će raditi danas, ali kad teret postane ozbiljan, neko će nastradati. Anthropic-ova struktura troškova je viša jer je njihov ‘QA’ (kontrola kvaliteta) proces rigorozan. Oni ne ‘ispaljuju’ modele svakih mjesec dana radi marketinga. Svako ažuriranje prolazi kroz pakao testiranja na ‘crveno timovanje’ (simulirane napade). U svijetu gdje lažni video snimci i AI prevare postaju svakodnevica, imati model koji je ‘vaspitan’ da bude oprezan nije luksuz, nego polica osiguranja. Razmislite o tome sljedeći put kad budete birali između brzine i stabilnosti. Pravi majstori uvijek biraju alat koji im neće eksplodirati u rukama.