tabloidpulsa.id – Artificial Intelegence (AI) dipercaya menjadi salah satu fokus pengembangan teknologi di masa depan. Dan salah satu pengembangan yang kini tengah populer adalah AI Gen alias AI Generatif. Di mana AI akan membantu menciptakan konten berdasarkan perintah/informasi yang diterima. Tapi tentu saja pengembangan AI Generatif ini memiliki sejumlah tantangan, sebuah informasi kami terima dari Mediatek mengenai hal ini, dan berikut ulasan selengkapnya.
AI generatif memiliki potensi mengubah bagaimana cara kita hidup, bermain, bekerja, dan memikirkan hal-hal baru. Meski begitu, setidaknya masih terdapat tantangan teknis yang harus diatasi sebelum kita dapat membuka semua kemampuan dataset dunia.
Dalam infografis terbaru kami, Anda bisa lihat bagaimana MediaTek dapat membantu memenuhi tantangan AI generatif, termasuk mengurangi sumber daya komputasi dan konsumsi daya yang diperlukan, memperbaiki masalah konektivitas dan latensi, serta memastikan privasi data untuk menjaga keamanan file pribadi dan perusahaan. Target ini bisa dicapai dengan memanfaatkan teknologi pemrosesan tepi (processing at the edge), yaitu NPU MediaTek yang dirancang khusus untuk AI generatif.
1. SUMBER DAYA KOMPUTASI YANG SANGAT BESAR
Demi menghasilkan konten autentik dari bank data yang begitu besar, tentu butuh daya komputasi serius. Misalnya, dalam pengembangan ChatGPT-3, dikabarkan bahwa OpenAI menghabiskan 800 petaflops yang sangat besar. Persyaratan sumber daya yang sangat tinggi ini mengakibatkan hambatan yang signifikan, terutama dalam adopsi secara lebih luas.
SOLUSI: Daripada mengandalkan server LLM yang membutuhkan banyak sumber daya untuk setiap kueri, MediaTek menganjurkan untuk mengoptimalkan LLM untuk ponsel pintar. Dengan menggunakan model lebih kecil dan lebih efisien (7B/8B) untuk menangani permintaan pengguna umum, kita bisa mengurangi kebutuhan komputasi secara signifikan. Pendekatan ini diperkirakan hanya menghabiskan sebagian kecil daya yang dibutuhkan untuk mengoperasikan aplikasi, seperti ChatGPT-3.
2. KONSUMSI
Penting memang mendukung kebutuhan komputasi AI generatif. Hanya saja, biaya energi yang dipakai masih menjadi hambatan yang tidak berkelanjutan bagi pengembangan AI generatif.
SOLUSI: Sebetulnya konsumsi daya jauh lebih hemat, dan berkelanjutan bilamana penggunaan AI generatif diterapkan pada ponsel pintar. Pakai saja cip yang didukung oleh NPU Generasi ke-7 MediaTek untuk penghematan daya yang substansial dan peningkatan kecepatan yang luar biasa. Cip canggih ini menawarkan hemat dayai yang substansial dan peningkatan kecepatan yang mengesankan, dengan efisiensi daya 27 kali lebih besar dari CPU biasa dan 15 kali lebih besar dari GPU biasa.
3. KONETIVITAS DAN LATENSI
Aplikasi AI generatif yang berjalan secara waktu nyata (real-time), seperti asisten virtual atau karakter video game, boleh jadi mengalami hambatan terkait dengan konektivitas dan latensi. Akibatnya, selain terjadi kelambatan, bahkan mengganggu pengalaman pengguna sepenuhnya.
SOLUSI: Di MediaTek, kami tengah membangun masa depan di mana semakin banyak aplikasi AI generatif dapat diproses langsung di perangkat, alih-alih bergantung pada layanan cloud dan konektivitas internet yang tidak terjamin.
4. PRIVASI DATA
Saat model AI generatif di-hosting di cloud, konten Anda dapat dilihat oleh pemilik layanan. Pengguna mungkin tidak menyadari bahwa mereka mengunggah data pribadi sensitif, seperti informasi medis; atau data perusahaan, seperti dataset korporasi.
SOLUSI: Edge AI yang dikembangkan oleh MediaTek didesain untuk melindungi privasi data dan menyimpan informasi sensitif di perangkat. Pendekatan ini tak memerlukan penyimpanan data dengan mengunggahnya ke layanan cloud, sehingga mengurangi risiko akses secara ilegal. Dengan mengatasi tantangan kritis tersebut melalui solusi inovatif seperti NPU MediaTek dan komputasi tepi (edge computing), kami dapat mempercepat pengembangan dan adopsi AI generatif, sehingga membuka potensi luas sekaligus memastikan keberlanjutan, efisiensi, dan keamanan data.
