Thinking Machines Lab, kompania e inteligjencës artificiale e themeluar nga ish-drejtoresha teknologjike e OpenAI, Mira Murati, ka prezantuar modelin e saj të parë të madh, të quajtur Inkling.
Ndryshe nga modelet kryesore të kompanive si OpenAI, Anthropic dhe Google, Inkling ofrohet me “pesha të hapura”, duke u dhënë mundësi zhvilluesve dhe kompanive ta shkarkojnë, përshtatin dhe trajnojnë më tej sipas nevojave të tyre.
Modeli përmban në total 975 miliardë parametra, por aktivizon rreth 41 miliardë për çdo kërkesë. Kjo arkitekturë, e njohur si “mixture-of-experts”, synon të ulë kostot dhe të përshpejtojë përpunimin, pa qenë e nevojshme të përdoret i gjithë kapaciteti i modelit për çdo detyrë.
Sipas Thinking Machines Lab, Inkling është trajnuar me rreth 45 trilionë njësi të dhënash nga tekste, imazhe, audio dhe video. Modeli mund të analizojë tekst, fotografi dhe materiale zanore, ndërsa përgjigjet e tij aktualisht kufizohen në format tekstual, duke përfshirë kode, të dhëna të strukturuara dhe materiale të formatuara.
Inkling mbështet gjithashtu një kontekst deri në 1 milion tokenë, çka i mundëson të përpunojë dokumente dhe materiale shumë të gjata brenda një ndërveprimi të vetëm.
“Inkling është krijuar për të qenë i gjerë. E kemi trajnuar në arsyetim, programim, ndjekje udhëzimesh, saktësi faktike, vizion, audio dhe kryerje detyrash autonome, në vend që ta optimizonim vetëm për një fushë”, deklaroi kompania.
Thinking Machines pranon se modeli nuk është më i fuqishmi në treg, qoftë mes modeleve të hapura apo atyre të mbyllura. Megjithatë, kompania synon ta pozicionojë Inkling si një bazë që bizneset mund ta përshtatin me njohuritë dhe të dhënat e tyre të brendshme.
Zhvilluesit mund ta modifikojnë modelin përmes platformës Tinker, shërbimi i kompanisë për trajnimin dhe personalizimin e modeleve të inteligjencës artificiale. Inkling përfshin edhe kontrolle për nivelin e “përpjekjes së të menduarit”, duke u mundësuar përdoruesve të zgjedhin mes përgjigjeve më të shpejta ose analizave më të thelluara.
Një tjetër veçori është aftësia për të sinjalizuar pasigurinë, në vend që modeli të japë një përgjigje të prerë kur nuk ka informacion të mjaftueshëm.
Sipas testeve të publikuara nga vetë kompania, Inkling ka arritur rezultate të krahasueshme në programim me modelin Nemotron 3 Ultra të Nvidia-s, duke përdorur rreth dy të tretat më pak tokenë. Megjithatë, rezultatet nuk janë verifikuar në mënyrë të pavarur.
Inkling është trajnuar në sistemet Nvidia GB300 NVL72, pas marrëveshjes shumëvjeçare mes Thinking Machines Lab dhe Nvidia-s. Krahas modelit kryesor, kompania ka prezantuar në fazë prove edhe Inkling-Small, një version më të lehtë me 12 miliardë parametra aktivë, i projektuar për kosto dhe kohë përgjigjeje më të ulët.
Lançimi përfaqëson prezantimin e parë të madh teknologjik të kompanisë së Mira Muratit, pas më shumë se një viti pune larg vëmendjes publike. Thinking Machines Lab synon të sfidojë idenë se një model i vetëm dhe i përgjithshëm mund t’u përshtatet të gjitha kompanive, duke argumentuar se e ardhmja e inteligjencës artificiale do të mbështetet te sisteme që organizatat mund t’i formësojnë sipas ekspertizës së tyre.
Inkling është publikuar për shkarkim në platformën Hugging Face, ndërsa të ardhurat e Thinking Machines pritet të mbështeten kryesisht te Tinker dhe shërbimet e trajnimit, personalizimit dhe hostimit të modeleve.
