Google, yapay zekâ modellerinin donanım gereksinimlerini kökten değiştirebilecek TurboQuant isimli yeni bir sıkıştırma yöntemi geliştirdiğini duyurdu. Yapılan açıklamada geliştirilen bu teknoloji, özellikle büyük dil modellerinin çalışması sırasında ortaya çıkan yüksek bellek (RAM) ihtiyacını 6 kata kadar azaltma potansiyeli taşıyor. Yapay zekâ sistemlerindeki bellek darboğazını çözmeyi hedefleyen bu inovasyon, operasyonel maliyetleri düşürürken işlem hızını da önemli ölçüde artırıyor. Yazılım tabanlı bu çözümün, donanım odaklı yapay zekâ yarışında stratejik bir dönüşüm yaratması bekleniyor.

Çalışma belleğini doğrudan hedef alıyor

Google tarafından paylaşılan teknik verilere göre TurboQuant, büyük dil modellerinin (LLM) "anahtar-değer" (KV) önbelleği olarak adlandırılan çalışma belleğini doğrudan hedef alıyor. Modellerin daha önce işlediği bilgileri tekrar hesaplamamak için sakladığı bu alan, genellikle sistem kaynaklarının en yoğun tüketildiği bölüm olarak biliniyor. TurboQuant algoritması, bu verileri herhangi bir doğruluk kaybı yaşatmadan sıkıştırarak sistem üzerindeki yükü hafifletiyor.Görsel

Bellek kullanımında 6 kat azalma ve performans artışı

Söz konusu teknoloji sadece kapasite tasarrufu sağlamakla kalmıyor, aynı zamanda işlem performansını da 8 kata kadar yükseltebiliyor. Bellek kullanımının 6 kat azalması, mevcut donanımlar üzerinde çok daha büyük ve karmaşık modellerin çalıştırılmasına imkân tanıyor. Bu durum, veri merkezlerindeki enerji tüketimini ve altyapı maliyetlerini optimize ederek yapay zekânın erişilebilirliğini artırıyor.Görsel

Piyasa tepkileri ve bellek çipi üreticilerinin durumu

Haberin duyulmasıyla birlikte, bellek çipi üreten teknoloji şirketlerinin hisselerinde kısa süreli düşüşler gözlemlendi. Yatırımcılar, bellek ihtiyacının azalmasının donanım talebini baltalayabileceği endişesiyle temkinli bir duruş sergiledi. Ancak piyasa analistleri, bu düşüşün temel nedeninin sektördeki kâr realizasyonu olduğunu ve teknolojinin uzun vadeli etkilerinin henüz fiyatlanmadığını vurguluyor.

Yapay zekâ dünyasında verimlilik odaklı yeni dönem

Teknoloji dünyasında "Silicon Valley" dizisindeki kurgusal sıkıştırma algoritması "Pied Piper"a benzetilen bu gelişme, sektörde stratejik bir dönüm noktası olarak görülüyor. Google'ın bu hamlesi, yapay zekâ rekabetinde sadece daha güçlü çiplerin değil, aynı zamanda matematiksel ve algoritmik zekânın da belirleyici olacağını kanıtlıyor. TurboQuant, yazılımın donanım sınırlarını nasıl zorlayabileceğine dair somut bir örnek teşkil ediyor.

Sektör analistlerinin uzun vadeli öngörüleri

Uzmanlar, TurboQuant teknolojisinin bellek çiplerine olan talebi azaltmak yerine, daha verimli sistemler sayesinde yapay zekâ kullanım alanlarını genişleteceğini öngörüyor. Daha verimli çalışan modeller, yeni uygulama alanlarının doğmasına ve dolayısıyla toplamda daha fazla donanım kapasitesine ihtiyaç duyulmasına yol açabilir. Bu senaryoda, matematiksel optimizasyonun donanım satışlarını tetikleyen bir unsura dönüşeceği tahmin ediliyor.

Kaynak: haberim.com.tr