Llama 2-7B
Llama 2-7B ni modeli ya lugha iliyoundwa na Meta AI (Marekani), iliyotolewa 18 Julai 2023.
Uzito wake uko wazi na unaweza kuipakua, lakini leseni yake ina masharti (kwa mfano kwa makampuni makubwa sana).
Ina vigezo (parameters) bilioni 7.
Ina nafasi muhimu katika historia ya akili mnemba.
Inatumiwa na watu au makampuni mengi.
Ni moja ya modeli zinazonukuliwa sana na watafiti.
Naweza kuiendesha mwenyewe?
Ndiyo, kwenye kompyuta mpakato au kifaa chenye uwezo mkubwa zaidi.
- SimuRAM ya GB 6–8
- Kompyuta mpakatoRAM ya GB 16
- Kompyuta yenye uwezo mkubwaGB 24 hadi 64 (kadi ya michoro au Mac yenye uwezo mkubwa)
- Sevazaidi ya GB 64
Inahitaji takriban GB 5.2 za kumbukumbu (RAM) ikibanwa hadi biti 4.
Programu kama Ollama au LM Studio zinapakua na kuendesha modeli kwenye kompyuta yako, bila intaneti.
Matokeo ya majaribio
83ECI
Nafasi ya 239 kati ya modeli 258 zilizopimwa.
Kipimo cha Uwezo cha Epoch (ECI) kinajumlisha matokeo ya majaribio mengi kuwa alama moja, kama alama ya mtihani mkuu. Alama ya juu zaidi ndiyo bora.
- Maarifa ya jumla (MMLU)Maswali ya kuchagua jibu katika masomo 57, kutoka historia hadi sheria. Kipimo maarufu cha modeli za zamani.
- 45.8%