Dhammaan ereyada

Qaybinta Ereyada (Tokenization)

Qaybinta qoraalka kelmadaha hoose ee la yiraahdo token-yo, kuwaas oo moodellada luqadda ay akhriyaan, habeeyaan, oo ay ka soo saaraan wax cusub.

Moodellada Luqadda Waaweyn2 daqiiqo akhris

Qeexid

Tokenization waxay qoraalka aslaga u beddeshaa isku xigxig token — ereyo dhan, qeybo ereyo, ama xarfo — mid kastaaba wuxuu leeyahay ID ku jira erey-bixinta moodelka.

LLM-yadu si toos ah ma arkaan xarfaha; waxay arkaan ID-yada token-yada. Sida qoraalka loo kala qaybiyo waxay saameysaa qiimaha (lacag-bixinta API), xadka macnaha (context), iyo tayada luqadaha naxwahoodu adag yahay sida Af-Soomaaliga.

Si fudud

Tokenization waa sida qodobka la googooyay xajmiyada puzzle ee moodelku horeba u yaqaan. Erayada caadiga ah waxay noqon karaan hal gogo'; ereyada dhifka ah waxaa loo kala qaybiyaa qaybo yaryar oo moodelku yaqaan.

Halka aad ka aragto

  • API-yada OpenAI iyo Anthropic waxay ku lacag-bixiyaan token, mana aha kelmad.
  • Tokenizer-yada gaarka u ah Af-Soomaaliga waxay yareeyaan dhererka isku xigxiga qoraalka Soomaaliga.
  • Nidaamyada raadinta iyo RAG waxay tokenize-gareeyaan su'aallaha ka hor inta aan la sameyn embedding-ka.

Sida ay u shaqeyso

  1. 1.Sifee qoraalka

    Nadiifi meelaha bannaan, unicode, iyo xarfaha weyn/yar sida loo baahdo.

  2. 2.Ku dabaq xeerarka tokenizer-ka

    BPE, WordPiece, ama SentencePiece waxay qoraalka u kala qaybiyaan qaybo ereyo.

  3. 3.U beddel ID

    Token kastaa wuxuu u dhigmaa nambar (integer) ay la fahamto lakabka embedding-ka moodelka.

  4. 4.Furfur wixii laga soo saaray

    ID-yada token-yada la abuuray waxaa dib loogu beddelaa qoraal la akhriyi karo.

Maxay muhiim u tahay

  • Tirada token-yadu waxay go'aamisaa qiimaha API-ga iyo in prompt-kaagu ku filnaanayo xadka macnaha.
  • Tokenization-ka xun ayaa si aad ah u dhaawaca luqadaha kheyraadka hooseeya.

Inta badan la khaldo

  • Hal token wuxuu la mid yahay hal kelmad.

    Ingiriisiga celceliskiisu waa ~0.75 kelmad token kastaba; Af-Soomaaliga inta badan wuxuu u baahan yahay token-yo badan kelmad kastaba marka la isticmaalo tokenizer-yo luqado badan.