Sinir ağlarının yürütülmesini hızlandırmak için Meta’dan yeni bir AI çipi tasarlandı ve şirketin kendi AI araştırmasını hızlandırmak için yükseltilmiş bir süper bilgisayar tasarlandı.
“Meta Training and Inference Accelerator” (MTIA), sinir ağlarının işlem performansını hızlandırmak ve ucuzlatmak için tasarlanmış, çıkarım adı verilen yeni bir çip ailesidir. Çipin 2025 yılına kadar kullanılması bekleniyor. Meta şimdilik veri merkezlerinde hala Nvidia ekran kartlarına güveniyor.
Google’ın Tensör İşleme Birimleri (TPU’lar) gibi, MTIA da sinir ağlarında bulunan matris çoğaltma ve etkinleştirme işlevleri için optimize edilmiş, uygulamaya özel bir tümleşik devre (ASIC) yongasıdır. Meta’ya göre çip, düşük ve orta karmaşıklıktaki AI modellerini bir GPU’dan daha iyi işleyebilir.
Video: Meta Yapay Zeka
reklam
Amazon, Trainium ve Inferentia ile bulutta eğitim ve yürütme için AI çiplerine erişim de sunar. Microsoft’un AI yongaları üzerinde AMD ile birlikte çalıştığı söyleniyor.
Araştırma Süper Kümesi: Meta’nın RSC yapay zeka süper bilgisayarı ikinci aşamaya ulaştı
Ocak 2022’de Meta, o sırada Metaverse için zemin hazırlayacağını söylediği RSC AI süper bilgisayarını tanıttı. Tamamen geliştirildiğinde, AI hesaplamalarında uzmanlaşmış en hızlı süper bilgisayar olması gerekiyor. Şirket bu altyapıyı 2020’den beri inşa ediyor.
Meta’ya göre RSC, 2.000 Nvidia DGX A100 ve 16.000 Nvidia A100 GPU ile ikinci aşamasına ulaştı. Meta’ya göre en yüksek performans beş exaflop. RSC, üretken AI dahil olmak üzere çeşitli alanlarda AI araştırması için kullanılacaktır.
RSC süper bilgisayarının benzersiz bir özelliği, AI eğitimi için Meta’nın üretim sistemlerinden gelen verileri kullanın. Şimdiye kadar Meta, büyük bir veri hazinesine sahip olmasına rağmen, öncelikle açık kaynaklı ve halka açık veri kümelerine güveniyordu.
Video: Meta
Öneri
RSC çoktan damgasını vurdu: Meta, kısmen sızan, kısmen yayınlanan LLaMA dil modelini üzerinde eğitti ve açık kaynak dil modeli hareketinin motoru haline geldi. Meta’ya göre, en büyük LLaMA modelinin eğitimi 2.048 Nvidia A100 GPU’da 21 gün sürdü.