Ledakan AI berarti tidak ada FLOPS matematika matriks yang bisa dibuang, dan itu berarti GPU Nvidia lama dengan Tensor Core mendapatkan kesempatan baru. Layanan bermunculan yang akan melengkapi RTX 2080 Ti Anda dengan VRAM 22GB , menggandakan kapasitas memori aslinya dan membuatnya lebih berguna untuk beban kerja LLM dan difusi modern. Namun, jika Anda kekurangan daya komputasi dan tidak memiliki RTX 2080 Ti untuk dimodifikasi, eBay memiliki solusinya. Seorang penjual yang berbasis di Hong Kong akan mengirimkan RTX 2080 Ti yang sudah dimodifikasi dengan VRAM 22GB kepada Anda dengan harga $499 .

Deskripsi produk hanya menjanjikan Anda akan menerima RTX 2080 Ti versi "Turbo," yaitu tipe blower, dengan modifikasi 22GB. Jangan terlalu pilih-pilih soal merek kartu grafis yang mungkin Anda terima, karena penjual mengatakan: "Merek GPU bisa Gigabyte, MSI, ASUS, Leadtek, atau lainnya. Tergantung pada stok yang kami miliki."

Foto-foto dalam daftar eBay menunjukkan kartu grafis Gigabyte bergaya blower beserta sebuah kotak besar berisi kartu grafis yang tampaknya telah dimodifikasi dan siap dikirim, serta tangkapan layar GPU-Z yang mengkonfirmasi ketersediaan memori sebesar 22528 MB dari kartu grafis yang sedang berjalan.

Penjual hanya memiliki umpan balik seumur hidup sebesar 99,6% di eBay, yang relatif rendah, tetapi umpan balik untuk daftar khusus ini menunjukkan bahwa setidaknya 38 pembeli yang puas telah menerima kartu-kartu ini dan bahwa kartu-kartu tersebut berfungsi seperti yang dijelaskan.

Jika Anda termasuk salah satu pembeli yang puas, RTX 2080 Ti 22GB seharga $500 mungkin merupakan kartu grafis dengan VRAM terbaik yang bisa Anda temukan saat ini. Kapasitas memori yang relatif besar tersebut, dikombinasikan dengan bandwidth memori 616 GB/s dan Tensor Core pada RTX 2080 Ti, berarti kartu ini masih berguna untuk tugas LLM lokal, meskipun kapasitas komputasi mentahnya dan dukungan tipe data presisi rendah yang terbatas dibandingkan dengan produk yang lebih modern mungkin membuat beban kerja difusi yang berat menjadi lebih lambat.

Di antara kartu grafis Turing, Titan RTX 24GB masih dihargai sekitar $800 di eBay dengan harga saat ini, dan Quadro RTX 6000 dengan jumlah VRAM yang sama sekitar $900. RTX 3090, favorit para penggemar AI lokal, yang memiliki GDDR6X 24GB yang lebih cepat dengan bandwidth memori 936 GB/s, tampaknya dijual sekitar $1200. Kartu Ampere RTX Pro dengan VRAM yang lebih banyak lagi harganya akan jauh lebih mahal dari itu.

Fakta bahwa semua GPU ini masih dibanderol dengan harga tinggi bertahun-tahun setelah diperkenalkan merupakan bukti keberlanjutan kegunaan dan ketersediaan universal arsitektur Tensor Core Nvidia di seluruh produk konsumen dan pusat data sejak tahun 2018.

AMD telah memiliki akselerator matematika matriks dalam jajaran IP-nya sejak CDNA 1 pada tahun 2020, tetapi ketersediaannya terbatas pada produk pusat data Instinct hingga RDNA 4 hadir awal tahun lalu. Intel menyertakan mesin matriks XMX dalam arsitektur Alchemist sejak awal pada akhir tahun 2022, tetapi produk grafis Arc menghadapi tantangan yang cukup besar di luar ada atau tidaknya kemampuan tersebut. Dan Apple baru saja memperkenalkan Neural Accelerator ke GPU-nya dengan keluarga M5.

Artinya, jika Anda kekurangan kapasitas VRAM dan masih membutuhkan daya komputasi yang memadai, RTX 2080 Ti 22GB bisa menjadi pilihan yang menarik dan relatif terjangkau, dan Anda juga mendapatkan akses ke seluruh ekosistem perangkat lunak CUDA. Lumayan untuk GPU berusia delapan tahun yang mungkin sebelumnya sudah berakhir di tempat sampah elektronik.