Puluhan Ribu GPU Nvidia Jadi Kunci Sukses Kecerdasan ChatGPT

Beritacenter.COM - Terdapat puluhan ribu GPU Nvidia yang bekerja sangat keras, dibalik kecerdasan ChatGPT dalam menjawab berbagai pertanyaan dan permintaan pengguna. Dalam hal ini, OpenAI telah melatih ChatGPT menggunakan komputer super yang dibuat Microsoft dengan menggunakan puluhan ribu GPU Nvidia, sebagaimana dikutip Bloomberg.

Dalam hal ini, tentunya bukan GPU gaming yang digunakan disini, melainkan Nvidia A100 yang memang dikhususkan untuk melakukan komputasi data center, termasuk AI. Diketahui, harga sebuah GPU A100 setidaknya dibandrol USD 10 ribu, atau kurang lebih Rp150 juta. Bukan dana yang sedikit, mengingat teradapat puluan ribu A100 yang dipakai komputer super untuk melatih ChatGPT.

Adapun pembuatan komputer super itu dilakukan Microsoft usai menyuntikkan USD 1 miliar ke OpenAI pada 2019 lalu. Belum lagi, pembuatan kompeter super ini juga tak mudah, lantaran Microsoft juga harus memikirkan soal masalah panas yang dihasilkan.

"Kami membangun arsitektur sistem yang bisa beroperasi dan bisa diandalkan untuk skala yang sangat besar. Hasilnya ChatGPT yang bisa dipakai. Itu adalah salah satu model yang sudah dibuat. Akan banyak (model) yang lainnya," jelas GM Azure AI Infrastructure di Microsoft, Nidhi Chappel.

Disebutkan, bawha dana yang dihabiskan untuk membangun komputer super ini lebih dari ratusan juta dolar. Selain itu, Microsoft juga harus mengembangkan software baru guna meningkatkan efisiensi dari GPU-GPU yang haus daya tersebut. Tak hanya itu, mereka juga harus memastikan peralatan jaringan dapat menangani lalu lintas data yang besar.

Untuk itu, hal yang wajar jika ChatGPT memiliki pertumbuhan pengguna yang sangat besar, meski baru dirilis. Dimana penggunanya telah mencapai sejuta hanya dalam hitungan hari sejak awal kali dirilis ke publik November lalu.

Setelah kesuksesan ChatGPT, kini Microsoft dan beberapa rivalnya tengah menggarap model AI paralel lain untuk mesin pencari dan berbagai kegunaan lainnya, sebut contoh seperti ND H100 v5, sebuah virtual machine yang memakai sekitar 8 hingga ribuan GPU H100 (penurus A100) guna mempercepat gerative AI.

Selain itu, disebutkan jika ND H100 juga akan dipakai Microsoft di mesin pencari Bing yang ditenagai ChatGPT, juga browser Edge dan Microsoft Dynamics 365.