Pashavo/Stori

Inkling 2 Mini: modeli mpya ya bure inayofanya kazi kwenye kompyuta mpakato yako

Modeli ya Thinking Machines ina vigezo bilioni 26.4, lakini inatoshea kwenye kompyuta ya kawaida na inafanya kazi bila intaneti.

Msururu wa miraba midogo upande wa kushoto unaounganishwa na mshale wa mzunguko unaorudi nyuma, juu ya mandharinyuma ya buluu iliyokolea.

Picha: imetengenezwa na AI

Thinking Machines Lab imetoa modeli mpya ya bure inayoitwa Inkling 2 Mini. Modeli hiyo ilitolewa Novemba 20, na mtu yeyote anaweza kuipakua na kuiendesha mwenyewe.

Inkling 2 Mini ina vigezo bilioni 26.4 kwa jumla, lakini ni vigezo bilioni 3.4 tu vinavyofanya kazi kwa kila neno. Siri yake iko kwenye muundo wake: tabaka 12 za katikati hufanya kazi mara tatu kwa kila neno, kwa kutumia uzito uleule. Kwa hiyo modeli ndogo inafanya kazi ya modeli kubwa zaidi.

Kwa mujibu wa kampuni hiyo, modeli hii inazishinda modeli nyingine zote wazi zenye chini ya vigezo bilioni 100 kwenye vipimo viwili muhimu vya programu: DeepSWE v1.1, ambapo ilipata asilimia 48.2, na Vals Index v2.2, ambapo ilipata asilimia 46.5. Haya ni matokeo ya kampuni yenyewe, ambayo hayajathibitishwa na upande mwingine.

Faida kubwa ya modeli hii ni udogo wake. Inachukua kumbukumbu ya takribani GB 20, na kampuni inasema inatoshea kwenye kompyuta mpakato. Watafiti wake waliendesha modeli hii bila intaneti kwenye MacBook Pro yenye kumbukumbu ya GB 48, na ikatengeneza mchezo wa kuendesha ndege unaoweza kuchezwa ndani ya dakika chache. Hata hivyo, kumbuka: kompyuta inahitaji kumbukumbu ya GB 32 au zaidi ili kuiendesha vizuri.

Modeli hii ina dirisha la muktadha la tokeni milioni 1, na inaweza kupokea maandishi na picha kisha kutoa maandishi. Inafaa kwa kuandika programu, mifumo ya mawakala, mazungumzo na utafutaji wa taarifa. Inapatikana bure kwenye Hugging Face chini ya leseni ya Apache 2.0, na pia kwenye jukwaa la Tinker la kampuni hiyo.

Kampuni yenyewe inakiri upungufu wake: modeli hii si bora kwa mazungumzo marefu yanayohitaji kufuata maelekezo magumu, na wakati mwingine inaweza kurudia hoja zilezile wakati wa kutatua matatizo ya programu.

Ina maana gani kwako?

Ikiwa una kompyuta yenye kumbukumbu ya kutosha, unaweza kuwa na msaidizi wa akili mnemba kwenye kompyuta yako mwenyewe, bila kulipa kila mwezi na bila kutuma data zako kwenye seva za kampuni nyingine. Hili ni muhimu hasa kwa watu wanaofanya kazi na taarifa nyeti, au wanaoishi sehemu ambapo intaneti ni ghali au haina uhakika.

Chanzo: https://thinkingmachines.ai/news/inkling-2-mini/

Stori hii imeandikwa na mfumo wa AI. Jinsi tunavyotumia AI

Stori zaidi