Mathstral
Mathstral ni modeli ya hisabati na lugha iliyoundwa na Mistral AI (Ufaransa), iliyotolewa 16 Julai 2024.
Uzito wake (weights) uko wazi: mtu yeyote anaweza kuipakua, kuiendesha na kuitumia hata kibiashara.
Ina vigezo (parameters) bilioni 7.
Ilipotoka, ilivunja rekodi katika kazi yake.
Naweza kuiendesha mwenyewe?
Ndiyo, kwenye kompyuta mpakato au kifaa chenye uwezo mkubwa zaidi.
- SimuRAM ya GB 6–8
- Kompyuta mpakatoRAM ya GB 16
- Kompyuta yenye uwezo mkubwaGB 24 hadi 64 (kadi ya michoro au Mac yenye uwezo mkubwa)
- Sevazaidi ya GB 64
Inahitaji takriban GB 5.2 za kumbukumbu (RAM) ikibanwa hadi biti 4.
Programu kama Ollama au LM Studio zinapakua na kuendesha modeli kwenye kompyuta yako, bila intaneti.