Multi-Token Prediction 7B

Multi-Token Prediction 7B ni modeli ya lugha iliyoundwa na Facebook AI Research (Marekani, Ufaransa), iliyotolewa 30 Aprili 2024.

Uzito wake uko wazi kwa utafiti na matumizi binafsi, lakini si kwa biashara.

Ina vigezo (parameters) bilioni 6.7.

Naweza kuiendesha mwenyewe?

Ndiyo, kwenye kompyuta mpakato au kifaa chenye uwezo mkubwa zaidi.

  1. SimuRAM ya GB 6–8
  2. Kompyuta mpakatoRAM ya GB 16
  3. Kompyuta yenye uwezo mkubwaGB 24 hadi 64 (kadi ya michoro au Mac yenye uwezo mkubwa)
  4. Sevazaidi ya GB 64

Inahitaji takriban GB 5 za kumbukumbu (RAM) ikibanwa hadi biti 4.

Programu kama Ollama au LM Studio zinapakua na kuendesha modeli kwenye kompyuta yako, bila intaneti.

Kumbuka: leseni yake hairuhusu matumizi ya biashara.

Modeli nyingine za Facebook AI Research

  1. V-JEPA 2Facebook AI ResearchJun 2025Utambuzi wa picha, Video
    Wazi1BSimu
  2. Chameleon-34BFacebook AI ResearchMei 2024Data mseto, Kutengeneza picha
    Wazi, si kwa biashara34BKompyuta yenye uwezo mkubwa
  3. FragLlama: Next-fragment prediction for molecular designFacebook AI ResearchMei 2024Data mseto, Kutengeneza picha
    Wazi, si kwa biashara7BKompyuta mpakato
  4. DINOv2Facebook AI Research na INRIAApr 2023Utambuzi wa picha
    Wazi1.1BSimu
  5. Incoder-6.7BCarnegie Mellon University (CMU), Facebook AI Research, Toyota Technological Institute at Chicago, University of California (UC) Berkeley na University of WashingtonApr 2023Lugha
    Wazi, si kwa biashara6.7BKompyuta mpakato
  6. XGLM-7.5BFacebook AI Research na Meta AIDes 2021Lugha
    Wazi, si kwa biashara7.5BKompyuta mpakato