Dahulu, integrasi grafis high-end NVIDIA dengan perangkat Apple Mac adalah sebuah mimpi yang sulit diwujudkan. Sejak tahun 2018, keputusan Apple untuk secara resmi mencabut dukungan GPU NVIDIA pada macOS menciptakan hambatan besar bagi para developer yang membutuhkan daya komputasi maksimal.
Namun, lanskap ini mulai menunjukkan celah. Sebuah terobosan signifikan muncul dari Tiny Corp, pengembang di balik akselerator AI bernama tinybox. Mereka memperkenalkan TinyGPU, sebuah driver yang ditulis ulang dari awal untuk mendukung GPU NVIDIA di atas arsitektur Apple Silicon.
Driver ini, yang berbentuk ekstensi kernel open-source, bahkan diklaim telah mendapatkan lampu hijau resmi dari pihak Apple. Ini sangat krusial, karena berarti pengguna tidak perlu lagi melalui prosedur rumit seperti virtual machine atau modifikasi keamanan sistem hanya untuk menjalankannya.
Implementasi dan Konektivitas Eksternal
Cara implementasinya jauh lebih sederhana dari yang dibayangkan. Pengguna kini cukup menyambungkan GPU eksternal bertenaga tinggi—melalui koneksi Thunderbolt atau USB4—dan menyetujui pemasangan ekstensi kernel. Perangkat high-end seperti RTX 5090, bahkan yang menggunakan arsitektur Blackwell dengan VRAM besar, berhasil dijalankan dengan lancar berdampingan dengan Mac Mini M4 Pro. 💻
Keberhasilan ini membuktikan potensi kolaborasi cross-platform di dunia komputasi.
Analisis Performa AI: Antara Harapan dan Realita
Meskipun secara visual sangat mengesankan, pengujian performa nyata, khususnya dalam skenario AI inference, memperlihatkan kompleksitas yang lebih dalam.
Dalam uji coba menggunakan model AI Llama 3.1 8B, performa yang dicapai RTX 5090 adalah sekitar 7,48 token per detik. Angka ini belum bisa disebut memukau, menunjukkan bahwa meskipun hardware sudah terpasang, optimasi software masih menjadi tantangan besar.
Sisi positifnya terlihat pada tugas interaksi teks biasa. Waktu tunggu (latency) hingga teks pertama muncul terbukti tiga hingga empat kali lebih cepat dibandingkan menggunakan sistem Metal bawaan Apple, membuat pengalaman pengguna terasa jauh lebih responsif. ✨
Kendala Utama: Efisiensi Kernel dan Bandwidth
Sayangnya, performa maksimal yang diharapkan masih jauh dari jangkauan. Secara keseluruhan, menjalankan program kecerdasan buatan lokal melalui Metal masih bisa sepuluh kali lipat lebih lambat.
Setelah diusut tuntas, kendalanya ternyata bukan pada keterbatasan koneksi kabel Thunderbolt. Akar masalah utamanya terletak pada efisiensi kernel sistem itu sendiri. Meskipun memori pada RTX 5090 mampu melaju hingga 1,8TB per detik, driver TinyGPU ini baru mampu mencapai angka 33GB per detik.
Pada dasarnya, peluncuran driver versi awal ini bersifat fundamental. Fokus utama kini adalah membangun fondasi manajemen memori yang solid. Dengan fondasi ini, para pengembang punya ruang luas untuk melakukan optimalisasi, menjanjikan peningkatan performa yang signifikan di masa depan.
Leave a Reply