Zašto je Beam Search ključan za kvalitetne odgovore velikih jezičkih modela
Prestanite vjerovati marketinškim bajkama da vještačka inteligencija ‘razmišlja’. Ako vam ChatGPT ili lokalni LLM zvuči kao pokvarena ploča koja ponavlja iste tri fraze, problem nije u ‘mozgu’ modela, već u načinu na koji on bira riječi. Vi koristite pogrešan alat za navigaciju kroz vjerovatnoću. Većina početnika se oslanja na takozvani Greedy Search, koji je ekvivalent…


