Thinking Machines z Inklingom agresivno stavi na odprto, prilagodljivo podjetniško AI namesto univerzalnih zaprtih modelov.
BISTVO
Thinking Machines Lab je predstavil svoj prvi interni model Inkling kot odprto-težnostni (open-weight) alternativni pristop k velikim zaprtim modelom OpenAI, Anthropic in Google.
Inkling je zasnovan kot mešanica ekspertov z zelo velikim številom parametrov, a optimizirano porabo za posamezno nalogo, kar cilja na kombinacijo zmogljivosti in stroškovne učinkovitosti.
Strategija podjetja je, da model služi kot prilagodljiva osnova za podjetja, ki ga preko platforme Tinker fino prilagodijo svojim podatkom in procesom, namesto da kupijo generičen chatbot kot storitev.
Thinking Machines zagovarja tezo, da organizacijsko-specifično znanje in prilagoditev AI presežeta centralno trenirane, “zacementirane” modele in da odprti modeli bolje ščitijo poslovno znanje pred “dvojnim plačevanjem”.
Podjetje je v kratkem času zgradilo infrastrukturo, sklenilo velik partnerski dogovor z Nvidio in izvedlo odmeven projekt z Bridgewater Associates, vendar ostaja odprto vprašanje dolgoročne ekonomike in financiranja takšnega pristopa.
DEJSTVA
Inkling ima skupno 975 milijard parametrov v arhitekturi mixture-of-experts, pri čemer za posamezno nalogo aktivira približno 41 milijard parametrov.
Model je bil treniran na približno 45 bilijonih tokenov besedila, slike, zvoka in videa ter nativno sklepa preko vseh štirih modalitet, trenutno pa generira le besedilne izhode (vključno s kodo in strukturiranimi podatki).
Na enem izmed kodirnih benchmarkov naj bi Inkling dosegel enako zmogljivost kot Nvidia Nemotron 3 Ultra, pri čemer porabi približno tretjino števila tokenov.
V skupnem projektu z Bridgewater Associates naj bi dodatno treniran odprtokodni model dosegel 84,7% uspešnost na testih finančnega sklepanja ob približno štirinajstkrat nižjih stroških poganjanja v primerjavi s top zaprtimi modeli.
Thinking Machines zaposluje približno 200 ljudi in je Inkling treniral na Nvidiinih GB300 NVL72 sistemih v okviru partnerstva za do enega gigavata Vera Rubin računske kapacitete.
CITATI
Podjetje poudarja, da Inkling “ni najmočnejši model na voljo danes, odprt ali zaprt”, temveč stremi k uravnoteženi zmogljivosti in prilagodljivosti.
V prejšnji objavi je zapisalo, da centralno trenirani, nato “zacementirani” modeli podcenjujejo ekspertno znanje, ki je “specifično za ljudi, ki ga imajo”, zato jih AI, ki ga oblikujejo organizacije same, lahko preseže.
Microsoftov izvršni direktor Satya Nadella opozarja, da podjetja pri zaprtih modelih “v bistvu plačajo dvakrat”: v naročnini in z oddajo poslovnega znanja, ki ga modeli ponovno uporabijo v prihodnjih verzijah.
Direktor Hugging Face Clem Delangue napoveduje, da bodo “frontier” modeli vse bolj rezervirani za eksperimentiranje in visoko vrednostne naloge, medtem ko bo večina produkcijskega AI dela prešla na zasebne ali odprtokodne alternative.
Thinking Machines pri po-treniranju priznava delno uporabo izhodov drugih odprtih modelov, vključno z Moonshot AI Kimi K2.5, vendar za naslednji model napoveduje “popolnoma samozadosten” post-trening brez takšne distilacije.