Eski OpenAI CTO'su Mira Murati tarafından kurulan Thinking Machines Lab, Inkling 2 Mini adlı yeni açık ağırlıklı yapay zeka modelini tanıttı. 26 milyar parametreye sahip olan model, kişisel bilgisayarlarda lokal olarak çalıştırılmak üzere tasarlandı. Geliştirilen özel döngülü mimari, modelin kodlama ve akıl yürütme görevlerinde daha yüksek performans göstermesini sağlıyor.

Thinking Machines Lab tarafından geliştirilen Inkling 2 Mini, 32 GB RAM kapasitesine sahip dizüstü bilgisayarlarda sorunsuz bir şekilde çalışabiliyor. Toplam 26,4 milyar parametre içeren model, Mixture-of-Experts mimarisinden yararlanarak verimli bir çalışma prensibi sunuyor. Küçük boyutuna rağmen özellikle kodlama süreçlerinde yüksek başarı vadeden model, kullanıcıların kendi donanımları üzerinde yapay zeka çözümleri geliştirmesine olanak tanıyor.
Modelin temel farkını oluşturan döngülü transformer yapısı, her token için orta katmanların üç kez çalıştırılmasını sağlıyor. Bu yöntem, yapay zekanın cevaba ulaşmadan önce daha derinlemesine akıl yürütmesine ve daha az token kullanarak doğru sonuca varmasına yardımcı oluyor. Şirket, bu sistemin özellikle ajan tabanlı kodlama gibi karmaşık görevlerde önemli bir avantaj sağladığını belirtiyor.
Döngü mekanizması, modelin düşünce zincirini yazıya dökmeden önce kendi içinde işlemesine imkan tanıyor. Bu durum, kullanıcıların modelin nasıl bir mantık yürüttüğünü denetleyebilmesini ve sürecin şeffaflığını artırmasını kolaylaştırıyor. Thinking Machines Lab, daha önce farklı boyutlarda Inkling modellerini de duyurarak açık ağırlıklı yapay zeka ekosistemindeki çalışmalarını genişletmeye devam ediyor.