Bugünün ortak ipliği şu soru: aynı kaynakla daha fazlasını nasıl yaparız? Etiketsiz videodan robot becerisi çıkarmak, hava görüntülerinde halüsinasyonu bastırmak, düşük kaynaklı dillerin tokenleştirme yükünü ve uzun bağlamın maliyetini azaltmak, hepsi verimlilikle güvenilirliğin kesiştiği yerde duruyor. Bu başlıkları birlikte okumak, algıdan muhakemeye ve altyapıya uzanan darboğazların birbirini nasıl beslediğini görmenizi sağlıyor.
1.
Araç
Muhakeme modelleri sıfırdan kodlanıyor: 11 saatlik tam video kursu
Sebastian Raschka'dan değerlendirme, çıkarım ölçekleme, RL ve damıtmayı kapsayan 11 saatlik PyTorch kursu.
Sebastian Raschka, muhakeme modellerini sıfırdan inşa etmeyi anlatan sekiz videodan oluşan, toplam 11 saati aşan bir kodlama kursu yayımladı. Kurs, önceden eğitilmiş bir dil modelinden yola çıkıp onu değerlendirmek ve geliştirmek için gereken yöntemleri Python ve PyTorch ile adım adım uyguluyor. Konular arasında değerlendirme, çıkarım zamanı ölçekleme, doğrulanabilir ödüllerle pekiştirmeli öğrenme ve damıtma yer alıyor. Raschka'ya göre muhakeme modeli, geleneksel bir dil modelinin pekiştirmeli öğrenmeyle yapılan ek eğitimle daha zor problemleri çözebilir hale getirilmiş sürümü. Bu modeller klasik olarak matematik ve kod için geliştirilse de yetenekleri diğer alanlara da genelleşebiliyor. Yazar, muhakeme modelini bir ajan altyapısının içindeki motora benzetiyor; ajan katmanı ise bağlam yönetimi ve araç erişimiyle modelin daha büyük görevleri üstlenmesini sağlıyor. Kurs, geçen yılki 'Coding LLMs from the Ground Up' serisinin devamı niteliğinde, ancak onu izlemeden de takip edilebiliyor. Bu işleyişi öğrenmenin en sağlam yolunun kendi elinizle kodlamak olduğunu düşünen uygulayıcılar için bu kurs, somut, uygulamalı ve ücretsiz bir kaynak sunuyor.
Ahead of AI →
Paylaş: X · LinkedIn
2.
Araç
vLLM v0.32.0: yapılandırılmış kararlar ve düşük hassasiyetli KV önbellek
814 commit içeren vLLM v0.32.0, yapılandırılmış karar uç noktası ve NVFP4 KV önbellek desteği getiriyor.
vLLM v0.32.0, 363 katılımcıdan (121'i yeni) gelen 814 commit ile yayımlandı. Sürümün öne çıkan yeniliği, yapılandırılmış bir durum hakkında sorulan seçim (choice), evet/hayır (noul) ve puan (score) sorularını yanıtlayan yeni POST /v1/systemone uç noktası; uç nokta varsayılan olarak etkin geliyor. Genel bir hf araç ve muhakeme ayrıştırıcısı, checkpoint'in response_template alanını okuyarak modele özel ayrıştırıcı yazma ihtiyacını ortadan kaldırıyor. Düşük hassasiyetli KV önbellek tarafında NVFP4 desteği SM8x, SM12x ve SM90'a genişledi; GLM-5.x modelleri SM100'de varsayılan olarak FP8 KV önbellek kullanıyor ve PR'daki ölçümlere göre KV bellek kullanımını yarıya indirirken %2,3–5,5 daha yüksek verim sağlıyor. Model Runner V2 ise GPU tabanlı n-gram spekülatörü ve Elastic EP desteğiyle genişliyor; ROCm'de artık varsayılan. Başlangıç süresini kısaltan araçlar da sürümde yer alıyor. Çoklu API işçisi kullanılan kurulumlarda istekler artık en az yüklü işçiye yönlendiriliyor; bu değişikliğin kısa isteklerde saniyedeki istek sayısını %43–85 artırdığı raporlanıyor. Böylece hem yüksek yük altındaki dağıtımlarda kuyruk gecikmeleri azalıyor hem de kaynaklar daha dengeli kullanılıyor. Açık kaynak çıkarım altyapısı kuran ekipler için bu sürüm, bellek ve gecikme maliyetlerini doğrudan etkileyen ve dağıtım sürecini sadeleştiren önemli bir güncelleme olarak öne çıkıyor.
vLLM Releases →
Paylaş: X · LinkedIn
3.
Araştırma
Aerial-R1: Hava görüntülerinde halüsinasyona karşı pekiştirmeli muhakeme
Aerial-R1, hava görüntülerinde MLLM halüsinasyonunu pekiştirmeli öğrenmeyle azaltıyor.
Çok kipli büyük dil modelleri genel görsel algıda başarılı olsa da, aşırı ölçek farklarının ve görsel belirsizliğin hakim olduğu hava görüntülerinde ciddi halüsinasyon üretiyor. Denetimli ince ayar yaklaşımları belirsizliği modellemeden gerçek etiketi taklit etmeye zorladığı için model, küçük veya tanınmayan nesnelerde körlemesine tahmin yürütüyor. Aerial-R1, DeepSeek-R1'in muhakemeyi teşvik eden mekanizmalarından esinlenen ilk hava MLLM çerçevesi. Çalışmanın temel gözlemi, güvenilir algının görüntüler arası tutarlılıktan doğduğu. Bunu uygulamak için önerilen H-GAWR yöntemi, yüksek ve düşük çözünürlüklü görünümlerden dinamik gruplar kurarak grup-göreli avantaj tahminini avantaj ağırlıklı politika çıkarımıyla birleştiriyor. Net girdilerde uzlaşıyı zorlarken belirsiz girdilerdeki halüsinasyonları cezalandırıyor ve böylece açıkça teşvik edilmiş bir reddetme mekanizması oluşuyor. Yoğun muhakeme ile halüsinasyon dayanıklılığını birlikte ölçen ilk hava MLLM kıyaslaması VSAI-Ref üzerindeki deneylerde Aerial-R1, SFT temel modellerinden belirgin biçimde daha iyi segmentasyon doğruluğu sağlıyor. Düşük bilgili sahnelerde ölümcül halüsinasyonları da önemli ölçüde azaltıyor; bu da insansız hava araçları gibi güvenilirliğin kritik olduğu uygulamalar için anlamlı bir ilerleme.
Arxiv CS.CV →
Paylaş: X · LinkedIn
4.
Araştırma
Whisper ince ayarında akıllı altküme seçimi maliyeti düşürüyor
Gömme tabanlı k-center seçimi, Whisper ince ayarı için küçük ama çeşitli eğitim kümeleri sağlıyor.
OpenAI'ın Whisper'ı gibi otomatik konuşma tanıma modelleri tanıma kalitesini büyük ölçüde artırdı, ancak çok miktarda yazıya dökülmüş ses varken ince ayar yapmak pahalı kalıyor. Bu çalışma, ince ayar için daha küçük eğitim kümeleri seçen gömme tabanlı bir yöntem öneriyor. Her ses örneği Whisper'ın önceden eğitilmiş kodlayıcısıyla sabit boyutlu bir gömme uzayına eşleniyor, ardından açgözlü k-center algoritması verinin çeşitli ve temsil edici bir altkümesini seçiyor. İbranice ve Danca üzerindeki deneylerde k-center seçimi, özellikle küçük altküme boyutlarında rastgele örneklemeden çoğu zaman daha iyi sonuç verdi. Sözcüksel çeşitlilik analizi, k-center altkümelerinin aynı boyuttaki rastgele altkümelere göre daha geniş bir dilsel içerik yelpazesini kapsadığını gösteriyor; bu da yöntemin etkinliğinin olası bir açıklaması. En belirgin tanıma kazanımları küçük örnek bütçelerinde görülüyor. Yeni bir dile veya alana ince ayar yapmak isteyen ancak hesaplama bütçesi sınırlı olan uygulayıcılar için, yalnızca iki dilde test edilmiş olsa da, etiketleme ve eğitim maliyetini düşürebilecek pratik bir veri seçimi stratejisi sunuyor.
Arxiv CS.CL →
Paylaş: X · LinkedIn
5.
Araştırma
Llama-3 ve Qwen3 neden Nepalceyi pahalıya tokenleştiriyor?
Ön-tokenleştirici regex'i Nepalce kelimeleri bölüyor; yeni düzenleme İngilizceyi bozmadan sorunu çözüyor.
Llama-3, Qwen3 ve birçok açık model, metni ön-tokenleştirirken kelime sınıfında yalnızca Unicode harflerini kabul eden bir düzenli ifade kullanıyor. Devanagari ünlü işaretleri birleştirici karakter olduğundan bu ifade Nepalce kelimeleri her ünlü işaretinde bölüyor ve modeller Nepalceye aynı İngilizce metnin 2,6 ila 5,8 katı kadar token harcıyor. Birleştirme tabanlı sözcük dağarcığı genişletmesi bu parçaları yeniden birleştiremiyor: Llama-3 ve Qwen3'te kaç yeni birleştirme eklenirse eklensin oran yaklaşık 2,2'nin altına inmiyor ve yayımlanmış on genişletme de bu tabanın en fazla %4 üzerinde kalıyor. Yazar, kullanımdaki düzenli ifadeye küçük bir düzenleme öneriyor; birleştirici işaret veya Devanagari karakter içermeyen metinlerde her token kimliğini korumayı kanıtlanabilir biçimde garanti ediyor. 32.000 yeni birleştirmeyle Nepalce, İngilizcenin 1,01 katına iniyor ve standart genişletmeye göre yaklaşık %54 daha az token gerekiyor. Ancak Llama-3.2-1B ve Qwen3-0.6B ile küçük bütçeli sürekli ön eğitimde, orijinal tokenleştirici denenen her tarifte en düşük Nepalce bit/bayt değerini verdi. Token tasarrufunun üretimde gecikme ve kalite avantajına dönüşüp dönüşmediği henüz test edilmedi; tokenleştiriciler ve kod açık olarak paylaşıldı.
Arxiv CS.CL →
Paylaş: X · LinkedIn
6.
Araştırma
Boa Compressor: durum uzayı kodlamasıyla doğrusal zamanlı bağlam sıkıştırma
Mamba tabanlı Boa, uzun bağlamı tek geçişte sıkıştırıp dondurulmuş LLM'e veriyor; 16 kata kadar sıkıştırma.
Transformer tabanlı dil modellerinde bağlam uzadıkça hesaplama ve bellek maliyeti artıyor; mevcut yumuşak istem sıkıştırma yöntemleri ise hedef modelle aynı Transformer omurgasını kullandığı için ciddi gecikme ekliyor ve bağlamın bir kez sıkıştırılıp birçok sorguda yeniden kullanıldığı çevrimdışı senaryoyla sınırlı kalıyor. Boa Compressor, keyfi uzunluktaki bağlamı tek bir doğrusal zamanlı geçişte kodlayan, Mamba durum uzayı modeli üzerine kurulu, tak-çalıştır bir çevrimiçi sıkıştırıcı. Üretilen temsil, dondurulmuş hedef LLM'e koşul olarak veriliyor. Sıkıştırıcı damıtmayla eğitiliyor: tam bağlamı okuyan LLM'in (öğretmen) sonraki token logit dağılımı, sıkıştırılmış temsili okuyan aynı LLM'in (öğrenci) dağılımıyla eşleştiriliyor. Eşit sıkıştırma oranlarında Boa, en gelişmiş çevrimdışı yöntemlerin performansına ulaşıyor veya onları aşıyor, üstelik Transformer tabanlı uygulamalardan bir mertebe daha hızlı çalışıyor; yani uçtan uca gecikmeyi düşürüyor. Daha uzun bağlamlara ve 16 kata varan sıkıştırma oranlarına da iyi ölçekleniyor. Her sorguda çalıştırılabilecek kadar ucuz olması, Boa'yı uzun bağlamlı çıkarım için pratik ve genel amaçlı bir araç olma yolunda önemli bir aday haline getiriyor.
Arxiv CS.CL →
Paylaş: X · LinkedIn
7.
Araştırma
RynnVLA-Latent: Etiketsiz videolardan 3B tabanlı örtük eylemlerle robot öğrenimi
30,1 bin saatlik videodan örtük eylem öğrenen RynnVLA-Latent, LIBERO'da %98,8 başarıya ulaştı.
Görsel-dil-eylem modellerinin ölçeklenmesi, eylem etiketli gösterimlerin kıtlığı ve robot gövdeleri arasında uyumsuz kontrol uzaylarıyla kısıtlanıyor. RynnVLA-Latent, farklı kaynaklardaki etkileşim videolarını robot politikası ön eğitimi için ölçeklenebilir denetime dönüştüren bir çerçeve. Çekirdeğindeki RynnLAM, yerel robot kontrolü gerektirmeden görsel geçişlerden sürekli ve 3B tabanlı örtük eylemler öğreniyor; artık gelecek öznitelik tahmini, kamera telafili 3B akış denetimi ve kamera hareketinin ayrıştırılmasını birleştirerek yalnızca görünüm değişimini değil, kontrolle ilgili hareketi yakalamayı hedefliyor. Çerçeve insan, robot ve simülasyon videolarından oluşan 30,1 bin saatlik veriye uygulanarak 745,52 milyon örtük eylem tanımlayıcısı üretti. 4 milyar parametreli politika LIBERO'da %98,8, kıyaslamaya özel uyarlama olmadan LIBERO-Plus'ta %84,7, beş VLABench parkurunda ortalama %51,9 ve RoboTwin 2.0 çift kollu kıyaslamasında %88,6 başarı elde etti. Ayrıca beceri eli ve mobil tutucu platformlarındaki altı gerçek dünya görevinde karşılaştırılan yöntemler arasında en yüksek başarı oranlarını gözlemledi. Sonuçlar, örtük eylem denetiminin robot politikası öğrenimini yerel eylem etiketli verinin ötesine taşıyabileceğini ve veri darboğazını hafifletebileceğini gösteriyor.
Hugging Face Daily Papers →
Paylaş: X · LinkedIn
8.
Araştırma
SATE-Bench: MLLM'ler aktif keşifle mekânsal anlayış kurabilir mi?
SATE-Bench, MLLM'lerin kapalı sahnelerde ek bakış açısı arayıp aramadığını ölçüyor; modeller erken duruyor.
Çok kipli büyük dil modellerinin mekânsal yetenekleri çoğunlukla statik ve pasif gözlemle değerlendiriliyor; oysa karmaşık, insan merkezli sahnelerde örtülme kritik geometrik kanıtı gizliyor ve pasif kıyaslamalar modelleri kendi belirsizliğini fark etmek yerine tahmin yürütmeye zorluyor. Bu boşluğu kapatmak için tanıtılan SATE-Bench, 316 gerçek dünya sahnesi ve 2.525 çok turlu soru-cevap çiftiyle etkileşimli bir kıyaslama. Pasif çok görünümlü bir kontrolü, modelin ağır örtülü bir görünümden başlayıp soruyu yanıtlayacak kadar kanıt toplayana dek komşu bakış açılarını sorguladığı aktif keşif ayarıyla birleştiriyor; puanlama adım cezalı bir verimlilik ödülüyle yapılıyor. Güncel MLLM'ler yüksek güven bildirirken keşfi erken sonlandırıyor ve ince taneli 3B geometri görevlerinde zorlanıyor; eşleştirilmiş görünüm kontrolleri, aktif ile pasif arasındaki farkı büyük ölçüde yetersiz kanıt edinimine bağlıyor. Grup Göreli Politika Optimizasyonu (GRPO) ile ince ayar, bakış açısı aramayı ödüllendirmenin aktif keşfi artırdığını ancak genel doğruluğu düşürdüğünü gösteriyor; modeller aşırı keşfediyor ve genişleyen çok görünümlü bağlamı turlar arasında birleştiremiyor. Bulgular, pasif çok görünümlü algıyı ölçeklemenin tek başına aktif mekânsal akıl yürütmeyi doğurmadığına işaret ediyor.
Hugging Face Daily Papers →
Paylaş: X · LinkedIn