tabloidpulsa.id – CEO Advanced Micro Devices Lisa Su pada hari Selasa lalu di San Francisco meluncurkan sebuah chip yang merupakan inti dari strategi perusahaan untuk komputasi kecerdasan buatan, mengandalkan memori yang sangat besar dan throughput data untuk apa yang disebut tugas AI generatif.
Dikutip dari ZDNet, Chip MI300X merupakan lanjutan dari MI300A yang diumumkan sebelumnya. Chip tersebut sebenarnya merupakan kombinasi dari beberapa “chiplet”, chip individu yang disatukan dalam satu paket oleh memori bersama dan tautan jaringan.
Su menyebut komponen itu sebagai “akselerator AI generatif,” dan mengatakan chiplet GPU yang terkandung di dalamnya, sebuah keluarga yang dikenal sebagai CDNA 3, “dirancang khusus untuk beban kerja AI dan HPC.”
MI300X adalah versi “GPU-only” dari bagian tersebut. MI300A adalah kombinasi dari tiga chiplet CPU Zen4 dengan beberapa chiplet GPU. Namun di MI300X, CPU ditukar dengan dua chiplet CDNA 3 tambahan.
MI300X meningkatkan jumlah transistor dari 146 miliar transistor menjadi 153 miliar, dan memori DRAM bersama ditingkatkan dari 128 gigabyte di MI300A menjadi 192 gigabyte. Bandwidth memori ditingkatkan dari 800 gigabyte per detik menjadi 5,2 terabyte per detik.
“Penggunaan chiplet kami dalam produk ini sangat, sangat strategis,” kata Su, karena kemampuannya untuk menggabungkan berbagai jenis komputasi, mengganti CPU atau GPU.
Su mengatakan MI300X akan menawarkan 2,4 kali kepadatan memori GPU “Hopper” H100 Nvidia, dan 1,6 kali bandwidth memori. “AI generatif, model bahasa besar telah mengubah lanskap,” kata Su. “Kebutuhan akan lebih banyak komputasi tumbuh secara eksponensial.”
Untuk mendemonstrasikan perlunya komputasi yang kuat, Sue menunjukkan bagian yang mengerjakan apa yang dia katakan sebagai model bahasa besar yang paling populer saat ini, open source Falcon-40B. Model bahasa membutuhkan lebih banyak komputasi karena dibangun dengan jumlah yang semakin besar dari apa yang disebut “parameter” jaringan saraf. Falcon-40B terdiri dari 40 miliar parameter.
MI300X, katanya, adalah chip pertama yang cukup kuat untuk menjalankan jaringan saraf sebesar itu, seluruhnya di memori, daripada harus memindahkan data, bolak-balik ke dan dari memori eksternal. Su mendemonstrasikan MI300X membuat puisi tentang San Francisco menggunakan Falcon-40B.
“Satu MI300X dapat menjalankan model hingga sekitar 80 miliar parameter” dalam memori, katanya.
“Bila Anda membandingkan MI300X dengan pesaingnya, MI300X menawarkan memori 2,4 kali lebih banyak, dan bandwidth memori 1,6 kali lebih banyak, dan dengan semua kapasitas memori tambahan itu, karena dapat menjalankan model yang lebih besar langsung di memori.”
“Dengan MI300X, Anda dapat mengurangi jumlah GPU, dan karena ukuran model terus bertambah, ini akan menjadi semakin penting.”
“Dengan lebih banyak memori, lebih banyak bandwidth memori, dan lebih sedikit GPU yang dibutuhkan, kami dapat menjalankan lebih banyak tugas inferensi per GPU daripada yang Anda bisa lakukan sebelumnya,” kata Su.
Untuk bersaing dengan sistem DGX Nvidia, Su meluncurkan keluarga komputer AI, “AMD Instinct Platform.” Contoh pertama yang akan menggabungkan delapan MI300X dengan 1,5 terabyte memori HMB3. Server yang sesuai dengan spesifikasi Open Compute Platform standar industri.
“Bagi pelanggan, mereka dapat menggunakan semua kemampuan komputasi AI ini dalam memori dalam platform standar industri yang langsung masuk ke dalam infrastruktur mereka yang ada,” kata Su.
Tidak seperti MI300X, yang hanya berupa GPU, MI300A yang ada akan melawan chip kombo Grace Hopper Nvidia, yang menggunakan CPU Grace Nvidia dan GPU Hopper-nya, yang diumumkan perusahaan bulan lalu.
MI300A sedang dibangun ke dalam superkomputer El Capitan yang sedang dibangun di Laboratorium Nasional Lawrence Livermore Departemen Energi, kata Su.
