- Yama var
- Son 7 gün
- CWE-770
CVE-2026-115913
vLLM'de Phi-4 multimodal ses kodlayıcısı tam dikkat matrislerini bellekte tutuyor; tek bir uzun ses bellek yetersizliğine yol açıp motoru ç…
- Yayımlandı
- Güncellendi
- 26 Eki 2026
- Açık yaşı
- 2 gün
- Kaydı açan
- GitHub_M
ÖzetTürkçe
vLLM, büyük dil modelleri için bir çıkarım ve sunum motorudur. 0.32.0 sürümünden önce, phi4mm_audio.py ve phi4mm_utils.py dosyalarındaki Phi-4 multimodal ses kodlayıcısı varsayılan olarak eager attention kullanır. Bu durum, uzaktan bir istemcinin geçerli ancak uzun bir ses kaydı göndermesine izin verir; bu kayıt MultiHeadedAttention.forward_attention fonksiyonunun self.attn içinde tam dikkat matrislerini oluşturup tutmasına neden olur. Ölçeklendirilmiş nokta çarpımı dikkat dalı bu matrisleri oluşturmaz. Ortaya çıkan ve karesel olarak büyüyen GPU bellek kullanımı bellek yetersizliği (OOM) durumuna yol açabilir ve tüm kullanıcılar için EngineCore sürecinin sonlanmasına neden olabilir. Bu sorun 0.32.0 sürümünde giderilmiştir.
Kaynaktaki açıklama (İngilizce)
vLLM is an inference and serving engine for large language models. Prior to 0.32.0, the Phi-4 multimodal audio encoder in phi4mm_audio.py and phi4mm_utils.py uses eager attention by default, allowing a remote client to submit one legal long audio clip that causes MultiHeadedAttention.forward_attention to materialize and retain full attention matrices in self.attn. The scaled dot-product attention branch does not materialize these matrices. The resulting quadratic GPU-memory use can cause an out-of-memory condition and terminate EngineCore for all users. This issue is fixed in version 0.32.0.
Bu açığın açıklamasını Türkçeye çevirdik. Adım adım çözüm önerilerini kritik ve yeni açıklar için hazırlıyoruz; düzeltilmiş sürüm aşağıdaki tabloda, ayrıntılar üreticinin duyurusunda.
Etkilenen sürümler1 yazılım
| Yazılım | Etkilenen | Düzeltildiği sürüm |
|---|---|---|
| vllm-project vllm | < 0.32.0 | 0.32.0 |
Kaynaklar6 kaynak
Kayıt geçmişi
- Yayımlandı
İlgili açıklar
Türkçe metin, resmi kayıtlardaki bilgilerle yapay zekâ yardımıyla yazıldı ve yayından önce otomatik kontrollerden geçti. Bir değişikliği uygulamadan önce üreticinin duyurusuna mutlaka bakın.