Tencent Cloud, operasyonel maliyetleri düşürmeyi ve daha sofistike yapay zeka geliştirmenin önündeki temel bir darboğazı aşmayı amaçlayan bir hamleyle yapay zeka ajanı teknolojisinin temel bir parçasını açık kaynak haline getiriyor.
Geri
Tencent, Yapay Zeka Maliyetlerini %61 Oranında Düşürmek İçin Agent Memory'yi Açık Kaynak Haline Getiriyor
Tencent Cloud'un token tüketimini yüzde 61'e kadar azaltmayı vaat eden açık kaynaklı Agent Memory teknolojisini yayınlaması, karmaşık yapay zeka ajanlarını ekonomik olarak uygulanabilir ve daha yetenekli hale getirme yarışında önemli bir adımı işaret ediyor. 14 Mayıs'ta duyurulan hamle, uzun ve karmaşık görevler boyunca bağlamı koruyabilen ve bilgileri geri çağırabilen yapay zeka sistemlerine yönelik artan ihtiyacı hedefliyor.
Şirketin duyurusuna göre çözüm, hem kısa süreli bellek sıkıştırması hem de uzun süreli kişiselleştirilmiş bellek yetenekleri sunarak uzun görev senaryolarını hedefliyor. Uzun süreli bellek işlevi Nisan ayında ücretsiz kullanım için başlatılmış olsa da, yeni açık kaynak sürümü kısa süreli bellek sıkıştırma bileşenine odaklanıyor.
Çoklu görevli sürekli oturum deneylerinde Tencent, çözümünün görev başarı oranlarını artırırken token tüketimini yüzde 61'e kadar azalttığını bildirdi. Büyük dil modelleri işlenen token sayısına göre ücret aldığından ve uzun konuşma geçmişlerine sahip karmaşık görevler engelleyici derecede pahalı hale gelebildiğinden, bu durum geliştiriciler için önemli bir operasyonel maliyeti ele alıyor.
Bu hamle sadece maliyet tasarrufuyla ilgili değil; karmaşık, çok adımlı görevleri yerine getirebilen yeni nesil yapay zekayı etkinleştirmekle ilgili. Bu, bellek ve depolamanın kritik darboğazlar ve ana büyüme alanları haline geldiği bir pazarda geliştiricilerin zihninde yer edinmek için rekabet eden Tencent'i yapay zeka alanında kilit bir kolaylaştırıcı olarak konumlandırıyor ve Micron Technology (NASDAQ: MU) ve SanDisk (NASDAQ: SNDK) gibi şirketlere fayda sağlıyor.
Yapay Zeka Ajanlarında 'Amnezi' Sorunu
Daha yararlı, otonom yapay zeka yaratmanın önündeki kritik bir engel bellek sorunudur. Mevcut nesil yapay zeka ajanlarının çoğu etkili bir şekilde amneziden muzdariptir; anlık verilere güvenirler ve bir nesne veya bilgi parçası artık doğrudan girdilerinde olmadığında bağlamı kaybederler. Bu durum, önceki etkileşimlerin veya çevresel durumların geri çağrılmasını gerektiren karmaşık akıl yürütme veya uzun süreli görevleri yerine getirmelerini engeller. Pekin İnsansı Robotik İnovasyon Merkezi'nin "Wise KaiWu" ajanının yakın zamandaki çıkışıyla vurgulandığı gibi, endüstri dinamik bellek sistemleriyle bunu çözmek için bastırıyor. Ajanları, robotların pasif uygulayıcılardan kullanıcıları ve tercihlerini hatırlayabilen proaktif asistanlara dönüşmesine yardımcı olmak için mekansal ve kişiselleştirilmiş bellek sunuyor.
Tencent'in Agent Memory teknolojisi, aynı zorluğu yazılım perspektifinden ele alıyor. Hem kısa süreli geri çağırma (az önce ne konuştuk?) hem de uzun süreli kişiselleştirme (bu kullanıcı kim ve neyi tercih ediyor?) için bir çerçeve sunarak geliştiricilerin daha sürekli ve bağlam farkındalığı olan uygulamalar oluşturmasına olanak tanıyor. Bu yetenek, yapay zekayı basit sohbet robotlarından ev, ticari veya endüstriyel ortamlarda gerçek asistanlar olarak işlev görebilen sofistike ajanlara taşımak için çok önemlidir.
Yapay Zeka Silahlanma Yarışında Yeni Bir Cephe
Tencent'in yazılım sürümü, yapay zeka altyapısına odaklanan çok daha büyük bir donanım patlaması içinde stratejik bir hamledir. Yapay zekanın patlayıcı büyümesi, hem modellerin çalıştığı özel bellekler hem de veriler için ihtiyaç duydukları geniş depolama alanları için benzeri görülmemiş bir talep yaratıyor. SanDisk'in son kazançları, yapay zeka çıkarım sistemlerinde, vektör veritabanlarında ve ajan yapay zeka iş yüklerinde kullanılan NAND flash depolama talebinin etkisiyle gelirlerin bir önceki yıla göre yüzde 251 artarak 5,9 milyar dolara fırladığını gösterdi. Şirketin CEO'su, NAND'ın yapay zeka modellerini geniş ölçekte gerçek zamanlı kullanım için erişilebilir tutmak için "ekonomik olarak uygulanabilir tek çözüm" haline geldiğini belirtti.
Bu donanım talebi, Micron Technology gibi oyuncuların Nvidia'nın yapay zeka platformları için temel olan ürünlerine yönelik artan talebi gördüğü yüksek bant genişlikli bellek (HBM) çiplerine kadar uzanıyor. SanDisk, büyük müşterilerin uzun vadeli depolama kapasitesini kilitlediğine işaret eden 42 milyar doların üzerinde çok yıllı tedarik anlaşmaları imzaladı. Yapay zekanın fiziksel yapı taşlarına yönelik bu yoğun talep, donanımı daha verimli kullanmayı amaçlayan Tencent'inki gibi yazılım çözümlerinin öneminin altını çiziyor. Token tüketimini azaltarak Agent Memory, altta yatan altyapı üzerindeki operasyonel yoğunluğu doğrudan düşürüyor.
Tencent'in açık kaynak stratejisi, teknolojisini geliştirici topluluğuna yerleştirmek ve daha geniş Tencent Cloud ekosisteminin benimsenmesini sağlamak için tasarlanmıştır. Agent Memory aracının kendisi ücretsiz olsa da kullanımı, diğer ücretli bulut hizmetlerinin tüketiminin artmasına yol açabilir. Bu hamle, yapay zeka ajanları için verileri verimli bir şekilde yönetme, depolama ve geri çağırma yeteneğinin kilit bir rekabet avantajı olduğu ve bulut hizmet sağlayıcılarından temelini oluşturan yarı iletken ve depolama şirketlerine kadar tüm teknoloji yığını genelindeki şirketlerin performansını artırdığı daha geniş bir endüstri trendini yansıtıyor.
Bu makale sadece bilgilendirme amaçlıdır ve yatırım tavsiyesi teşkil etmez.
[1] Tencent Cloud Agent Memory'yi Açık Kaynak Haline Getirdi, Token Tüketimini %61'e Kadar Azaltıyor[2] Somutlaştırılmış Zekada Yeni Atılım: X-Humanoid Wise KaiWu Ajanı Veriyor...[3] Micron'u Atlayıp Bunun Yerine Bu Yapay Zeka Çip Hisse Senedini mi Almalısınız?[4] SanDisk Dikey Yükselişe Geçti -- Hisse Senedi Şu An Tutulamayacak Kadar Sıcak mı?
