Huawei telah meluncurkan kluster chip AI CloudMatrix 384, sebuah sistem baru yang bertujuan untuk meningkatkan pembelajaran AI. Pengaturan inovatif ini memanfaatkan kluster prosesor Ascend 910C yang terhubung melalui tautan optik. Arsitektur terdistribusi memungkinkan sistem ini melampaui perangkat keras GPU tradisional dalam hal efisiensi sumber daya dan waktu pemrosesan, meskipun chip Ascend individu kurang kuat dibandingkan dengan pesaingnya.
Pengenalan kerangka kerja baru ini menempatkan Huawei sebagai pesaing signifikan bagi Nvidia, meskipun sanksi yang terus berlanjut yang diberlakukan oleh AS. Perusahaan mengklaim bahwa teknologinya dapat secara efektif menantang posisi pasar terdepan Nvidia.
Untuk memanfaatkan kerangka AI Huawei, insinyur data perlu memodifikasi alur kerja mereka untuk mengakomodasi kerangka yang mendukung prosesor Ascend, seperti MindSpore, yang dikembangkan oleh Huawei dan mitranya. Berbeda dengan ekosistem Nvidia, yang terutama menggunakan PyTorch dan TensorFlow, prosesor Ascend Huawei dioptimalkan untuk digunakan dengan MindSpore.
Insinyur data dengan model yang ada di PyTorch atau TensorFlow kemungkinan perlu mengonversi model ini ke format MindSpore atau melatih ulang menggunakan API MindSpore. Transisi ini memerlukan rekayasa ulang karena perbedaan dalam sintaks, jalur pelatihan, dan panggilan fungsi antara MindSpore dan kerangka lainnya. Misalnya, perilaku operator individu, seperti mode padding dalam lapisan konvolusi dan pooling, dapat berbeda secara signifikan.
MindSpore menggunakan representasi perantara yang disebut MindIR, mirip dengan NIM milik Nvidia. Setelah model dilatih di MindSpore, model tersebut dapat diekspor menggunakan utilitas mindspore.export untuk mengonversinya ke format MindIR. Proses penerapan untuk inferensi melibatkan memuat model MindIR yang diekspor dan menggunakan API inferensi MindSpore yang disesuaikan untuk chip Ascend, yang mengelola de-serialisasi dan eksekusi model. CANN milik Huawei menawarkan alat dan pustaka yang dirancang khusus untuk perangkat lunak Ascend, mirip dengan CUDA milik Nvidia, untuk meningkatkan kinerja model pada perangkat keras Ascend.
ModelArts milik Huawei, sebuah platform pengembangan AI berbasis cloud, terintegrasi erat dengan perangkat keras Ascend dan kerangka MindSpore, menyediakan jalur komprehensif untuk pelabelan data, pra-pemrosesan, pelatihan model, penerapan, dan pemantauan. Meskipun bersaing dengan platform seperti AWS SageMaker dan Google Vertex AI, platform ini secara khusus dioptimalkan untuk prosesor AI Huawei. Beradaptasi dengan MindSpore dan CANN mungkin memerlukan pelatihan dan waktu, terutama bagi tim yang akrab dengan ekosistem Nvidia, tetapi Huawei menawarkan dukungan dan sumber daya yang luas untuk memfasilitasi transisi ini.