AMD yaptığı açıklama ile AMD ROCm 5.6 açık yazılım platformunu piyasaya sürdüğünü duyurdu. AMD Yapay Zeka kümesinin Kıdemli Lider Yardımcısı Vamsi Boppana, ROCm 5.6’nın kimi yeni özelliklerini de açıkladı.
Yapay Zeka ve LLM iş yükleri için ROCm 5.6 şu avantajları sağlıyor;
- Hugging Face ünitesi test paketinin ROCm QA’ya entegrasyonu
- PyTorch 2.0 indüktör modunda OpenAI Triton için artımlı destek
- PyTorch, TensorFlow ve JAX için ROCm aracılığıyla OpenXLA dayanağını aktifleştirmek için daha geniş topluluk takviyesi.
HPC uygulamaları için ROCm 5.6, FFT, BLAS üzere çeşitli matematik kitaplıklarında ve HPC uygulamaları için temel oluşturan çözücülerde iyileştirmeler ve heyetim, ROCgdb (CPU-GPU entegre kusur ayıklayıcı), dokümanlar ve ROCm profil oluşturucu dahil olmak üzere ROCm geliştirme ve dağıtım araçlarında geliştirmeler sunuyor.
AMD, önümüzdeki aylarda, OpenAI Triton ve OpenXLA derleyicileri için AMD takviyesiyle gelen MLIR altyapı iyileştirmeleri de dahil olmak üzere çerçeveleri ve art uç derleyicilerini optimum performans için daha da optimize edecek. Müşteriler, Hugging Face’teki AMD merkezinde AMD tahlilleri için optimize edilmiş ek açık kaynaklı yapay zeka modelleri de bekleyebilirler.
Ek olarak AMD, bu yılın sonlarında, AMD ROCm için resmi takviyenin seçili AMD RDNA 3 tabanlı GPU’lar için sunulmaya başlayacağını açıkladı. Linux’ta RDNA 3 tabanlı GPU’lar için resmi takviyenin, 48 GB Radeon PRO W7900 ve 24 GB Radeon RX 7900 XTX‘ten başlayarak, ek kartlar ve genişletilmiş yeteneklerle birlikte bu sonbaharda kullanıma sunulması planlanıyor.