Qeexid
Daaqadda macnaha waa inta token ee moodelku isla mar aragto — system prompt-kaaga, taariikhda wada-hadalka, dukumentiyada la soo saaray, iyo jawaabta uu soo saarayo.
Marka xadka la dhaafo, wax-soo-galka waa la gooyaa ama diid. Daaqadaha waaweyn (128K, 1M token) waxay u ogolaadaan dukumenti dherer ah, laakiin waxay khusaysaa qiimo dheeri ah oo maalgelin ah.
Si fudud
Daaqadda macnaha waa xajmiga miiska moodelka. Wuxuu kaliya wax ku qaybin karaa bog aan la gaadhin xadka; wax kastoo aan ku filnayn ayaa laga tuuraa geeska.
Halka aad ka aragto
- Dood-yada ChatGPT waxay gaadhaan xadka macnaha marka wada-hadalku aad u dheer yahay.
- Nidaamyada RAG waa inay dukumentiyada u kala jarjaraan si ay raadinta + jawaabta hal daaqad ugu filnaadaan.
- Horumariyayaashu waxay tirinayaan token-yada ka hor inta aan prompt-ka loo diri API-ga.
Sida ay u shaqeyso
1.Tiri token-yada
Tokenizer-ku wuxuu cabbiraa xajmiga prompt-ka + wixii la filayo in la soo saaro.
2.Ku habboonow ama gooye
Ku sii jir hoosta xadka moodelka; tuur fariimaha ugu duugsan ama kooban haddii loo baahdo.
3.Soo saar
Moodelku wuxuu fiirsadaa dhammaan token-yada daaqadda ku jira marka uu soo saarayo token kasta oo cusub.
Maxay muhiim u tahay
- Xadka macnaha ayaa qaabeeya sida aad u naqshadeyso app-yada wada-hadalka, RAG, iyo falanqaynta dukumentiyada.
Inta badan la khaldo
Daaqad macno oo weyn macnaheedu waa in moodelku wax walba si fiican xasuusto.
Moodellada waxay lumin karaan diirad-saarka bartamaha wax-soo-galka aad u dheer — "lost in the middle" waa dhibaato caan ah.