Tencent Cloud, büyük dil modelleri için “Hizmet Olarak Model”i (MaaS) kullanıma sunuyor. Hizmet, Nvidia’dan yeni bir GPU tarafından desteklenmektedir.
Tencent Cloud MaaS, finans, medya, turizm veya üretim gibi farklı sektörleri kapsayan ve şirketler tarafından kendi amaçlarına göre daha da özelleştirilebilecek çeşitli yerleşik dil modelleri sunar. Alternatif olarak, özel modeller bulut hizmeti aracılığıyla eğitilebilir.
Şirket, veri etiketleme, eğitim, değerlendirme, test etme ve model dağıtım araçları dahil olmak üzere bir dizi araç sağlar.
Tencent, Çin’de yeni Nvidia GPU’ları kullanan ilk kişi
Tencent’in kıdemli başkan yardımcısı ve Bulut ve Akıllı başkanı Tang Daosheng’e göre şirket, bir Çince dil modeli ekosistemi oluşturmak için çok sayıda ortakla çalışıyor ve şimdiden 10’dan fazla sektörde 50’den fazla dil modeli tabanlı endüstri çözümünü devreye aldı. Sanayi Grubu.
reklam
Benzer hizmetler Çin’de Baidu tarafından sunulmaktadır. Ancak Tencent, Nisan ayında Nvidia H800 GPU ile yüksek performanslı bir bilgi işlem kümesi açan ilk Çinli şirket oldu. Tencent, Nvidia GPU’ya ek olarak veri merkezi için kendi StarLake sunucularına da güveniyor.
İhracat kısıtlamaları Çin’in AI endüstrisini vurdu
Çin’de, Nvidia’nın H800’ü şu anda mevcut olan en hızlı AI hızlandırıcıdır. Bununla birlikte, H800, Nvidia’nın CHIPS Yasası tarafından uygulanan ABD ihracat kısıtlamaları nedeniyle Çin’de satılamayan birinci sınıf H100 modelinin küçültülmüş bir versiyonudur. Kısıtlamalar, dünyanın çoğu veri merkezinde yapay zeka eğitimi için kullanılan Nvidia’nın A100 ve H100 GPU’larını etkiliyor.
Şirket, A100’ün çipten çipe veri aktarım hızını 600GBps’den 400GBps’ye düşürdü ve kartı A800 olarak satıyor. Çinli kaynaklara göre, H800 için H100’ün aktarım hızı 600 GB/sn’den 300 GB/sn’ye düşürüldü. AI eğitiminde bu büyük bir fark yaratabilir, bu nedenle H100 kartlarına erişimi olan şirketler Çinli şirketlere göre bir avantaja sahip olabilir.
Çin’de Alibaba Group, Baidu ve Tencent, Nvidia’nın H800 kartlarını seçti.