Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Asus ExpertBook Ultra. The Flagship of the Industry. Period! Mengapa Begitu?

Asus resmi membawa Asus ExpertBook Ultra ke Indonesia sebagai bagian dari strategi memperkuat lini laptop bisnis premium berbasis AI. Perangkat ini langsung menargetkan profesional dengan mobilitas tinggi melalui desain ultra-ringan dengan bobot mulai dari 0,99 kg, tanpa mengorbankan performa maupun fitur enterprise yang semakin krusial di era kerja hybrid. Asus mengklaim, laptop ini merupakan the Flagship of the Industry. Period. Mengapa? Kinerja Tertinggi di Laptop Tertipis Di sektor performa, Asus mengandalkan prosesor Intel Core Ultra Series 3, termasuk varian Intel Core Ultra X7 358H. Chip ini mengusung arsitektur hybrid dengan kombinasi Performance core, Efficient core, dan Low Power Efficient core, memungkinkan distribusi beban kerja yang lebih adaptif.  Clock boost hingga 4,8GHz memastikan performa single-thread tetap tinggi, sementara integrasi CPU, GPU, dan NPU dalam satu paket menghadirkan pendekatan komputasi modern yang lebih efisien. Meskipun sangat tipis dan ringan,...

Samsung Berhenti Produksi RAM LPDDR4 dan LPDDR4X

Samsung resmi menghentikan produksi memori generasi lama seperti LPDDR4 dan LPDDR4X. Keputusan ini bukan sekadar pembaruan lini produk, melainkan sinyal kuat bahwa industri memori sedang bergeser total ke arah kebutuhan kecerdasan buatan, khususnya segmen Agentic AI yang menyedot kapasitas produksi dalam skala besar. Sebagai gantinya, Samsung kini memusatkan sumber daya ke teknologi memori yang lebih relevan seperti LPDDR5, LPDDR5X, dan HBM. Ketiga jenis memori ini menjadi tulang punggung infrastruktur AI modern, terutama di pusat data yang membutuhkan bandwidth tinggi dan latensi rendah. Permintaan yang melonjak tajam dari sektor ini membuat memori bukan lagi komoditas biasa, tetapi komponen strategis yang menentukan performa sistem AI secara keseluruhan. Namun, peningkatan kapasitas produksi ternyata belum cukup. Dalam laporan kinerja terbarunya, Samsung mengakui bahwa permintaan memori untuk tahun 2027 diperkirakan akan jauh melampaui pasokan. Bahkan, kesenjangan supply dan demand d...

Review Asus ExpertBook P1403CVA. Laptop Bisnis Terjangkau untuk Jangka Panjang

Dalam beberapa bulan terakhir, industri laptop menghadapi tantangan besar akibat kenaikan harga komponen, terutama RAM dan SSD. Permintaan global terhadap memori dan penyimpanan meningkat seiring transformasi digital, cloud computing, serta tren kerja hybrid.  Situasi tersebut diperparah oleh ketidakstabilan rantai pasok, sehingga harga komponen menjadi fluktuatif. Dampaknya, banyak produsen laptop harus melakukan penyesuaian konfigurasi, bahkan di segmen premium sekalipun. Menariknya, kondisi tersebut justru mempercepat pertumbuhan pasar laptop bisnis. Banyak perusahaan dan profesional mulai beralih dari laptop consumer ke perangkat profesional yang dirancang lebih tahan lama.  Fokus tidak lagi pada spesifikasi tinggi di awal, melainkan efisiensi investasi dalam jangka panjang. Laptop bisnis menawarkan daya tahan, keamanan, serta fleksibilitas upgrade yang menjadi semakin penting. Kenaikan harga RAM dan SSD juga membuat konsep modular menjadi nilai utama. Laptop bisnis sepert...

Amazon Coba Delivery Pakai Drone, Barang Banyak yang Rusak

Eksperimen pengiriman drone oleh Amazon kembali menuai sorotan, bukan karena kecepatannya, tetapi karena potensi kerusakan barang. Dalam beberapa bulan terakhir, layanan Prime Air diperluas ke berbagai kota di Amerika Serikat, menjanjikan pengiriman kurang dari dua jam dengan biaya sekitar USD 4,99. Namun, realitas di lapangan menunjukkan bahwa efisiensi ini datang dengan kompromi yang tidak kecil. Salah satu kasus yang viral datang dari seorang kreator konten yang menguji pengiriman barang rapuh. Ia memesan sebotol sirup untuk melihat bagaimana sistem menangani paket sensitif.  Hasilnya cukup problematis. Drone menjatuhkan paket dari ketinggian sekitar tiga meter langsung ke permukaan beton. Botol plastik tersebut pecah, menimbulkan pertanyaan serius tentang bagaimana sistem ini akan menangani barang yang lebih rentan seperti kaca atau elektronik. Fenomena ini bukan kasus tunggal. Video lain dari lokasi uji coba di Nashville menunjukkan pola serupa. Drone berhenti di udara dan men...

Skor Benchmark Intel Core 5 330 Mulai Muncul. Prosesor Terbaik Intel?

Kemunculan prosesor Intel Core 5 330 di basis data benchmark kembali menegaskan arah strategi Intel dalam memperkuat segmen entry-level. Berdasarkan hasil uji di platform PassMark, chip ini mencatat skor 4.215 poin untuk single-thread dan 14.947 poin untuk multi-thread, angka yang secara praktis menempatkannya sejajar dengan varian saudaranya, Core 5 320. Secara arsitektural, Core 5 330 mengusung konfigurasi 6 core dan 6 thread dengan skema hybrid 2 Performance-core dan 4 LP-Efficient core. Pendekatan ini mencerminkan filosofi desain Wildcat Lake yang menitikberatkan efisiensi daya tanpa mengorbankan performa dasar.  Clock speed yang diusung berada di kisaran 1,5 GHz hingga 4,6 GHz untuk P-core dan 1,4 GHz hingga 3,4 GHz untuk LP-E core, menjadikannya cukup fleksibel untuk berbagai skenario penggunaan, mulai dari produktivitas ringan hingga multitasking moderat. Menariknya, meski membawa label “lebih tinggi”, Core 5 330 nyaris identik dengan Core 5 320 dari sisi spesifikasi teknis....