MiniGPT4 (Vicuna finetune)
MiniGPT4 (Vicuna finetune) ni modeli ya lugha, kutambua picha na uchakataji wa data mseto iliyoundwa na King Abdullah University of Science and Technology (KAUST) (Saudi Arabia), iliyotolewa 20 Aprili 2023.
Uzito wake (weights) uko wazi: mtu yeyote anaweza kuipakua, kuiendesha na kuitumia hata kibiashara.
Ina vigezo (parameters) bilioni 13.
Naweza kuiendesha mwenyewe?
Ndiyo, kwenye kompyuta mpakato au kifaa chenye uwezo mkubwa zaidi.
- SimuRAM ya GB 6–8
- Kompyuta mpakatoRAM ya GB 16
- Kompyuta yenye uwezo mkubwaGB 24 hadi 64 (kadi ya michoro au Mac yenye uwezo mkubwa)
- Sevazaidi ya GB 64
Inahitaji takriban GB 8.8 za kumbukumbu (RAM) ikibanwa hadi biti 4.
Programu kama Ollama au LM Studio zinapakua na kuendesha modeli kwenye kompyuta yako, bila intaneti.