Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

MediaTek Genio Series Dorong Edge AI ke Robotika dan IoT Industri

MediaTek kembali menegaskan ambisinya di ranah edge AI dengan meluncurkan lini terbaru Genio di ajang Embedded World 2026. Alih-alih sekadar ikut tren, langkah ini menunjukkan bagaimana AI kini didorong keluar dari cloud, langsung ke perangkat yang benar-benar bekerja di lapangan. Seri baru ini mencakup Genio Pro, Genio 420, serta Genio 360, dengan Genio Pro diposisikan sebagai “otak” untuk perangkat kelas berat seperti robot otonom, drone komersial, hingga sistem machine vision. Dibangun di atas proses 3nm TSMC, chipset ini mengusung konfigurasi CPU all-big-core berbasis Arm v9.2 dan NPU generasi terbaru dengan klaim performa hingga 50 TOPS.  Secara teknis, ini bukan sekadar upgrade. Ini adalah upaya serius membawa kemampuan generative AI langsung ke edge. Namun di balik angka-angka impresif tersebut, ada pertanyaan yang layak diajukan. Apakah pasar benar-benar siap? MediaTek menjanjikan kemampuan menjalankan model hingga 7 miliar parameter dengan kecepatan hingga 23 token per det...

Review Asus ExpertBook P1403CVA. Laptop Bisnis Terjangkau untuk Jangka Panjang

Dalam beberapa bulan terakhir, industri laptop menghadapi tantangan besar akibat kenaikan harga komponen, terutama RAM dan SSD. Permintaan global terhadap memori dan penyimpanan meningkat seiring transformasi digital, cloud computing, serta tren kerja hybrid.  Situasi tersebut diperparah oleh ketidakstabilan rantai pasok, sehingga harga komponen menjadi fluktuatif. Dampaknya, banyak produsen laptop harus melakukan penyesuaian konfigurasi, bahkan di segmen premium sekalipun. Menariknya, kondisi tersebut justru mempercepat pertumbuhan pasar laptop bisnis. Banyak perusahaan dan profesional mulai beralih dari laptop consumer ke perangkat profesional yang dirancang lebih tahan lama.  Fokus tidak lagi pada spesifikasi tinggi di awal, melainkan efisiensi investasi dalam jangka panjang. Laptop bisnis menawarkan daya tahan, keamanan, serta fleksibilitas upgrade yang menjadi semakin penting. Kenaikan harga RAM dan SSD juga membuat konsep modular menjadi nilai utama. Laptop bisnis sepert...

Qualcomm Siapkan 6G. Tapi Bukan untuk Manusia

Qualcomm mulai memposisikan 6G bukan sekadar evolusi jaringan, melainkan fondasi bagi era baru berbasis AI yang mereka sebut “agent economy”. Dalam ajang Mobile World Congress, CEO Cristiano Amon menyatakan bahwa masa depan perangkat akan bergantung pada komunikasi antar AI. Bukan lagi sekadar interaksi manusia. Menurut Qualcomm, 6G akan memungkinkan berbagai perangkat, mulai dari smartphone hingga kacamata pintar, untuk saling “berbicara” melalui agen AI yang bekerja di latar belakang. CFO sekaligus COO Akash Palkhiwala bahkan menyebut jaringan generasi berikutnya ini sebagai “AI-native wireless network” pertama, di mana trafik utama bukan lagi video atau media sosial, melainkan komunikasi antar agen digital. Perubahan ini diklaim akan menggeser paradigma dari “app economy” ke “agent economy”, di mana satu asisten AI menangani berbagai kebutuhan pengguna. Mulai dari memesan tiket hingga transportasi, tanpa perlu berpindah aplikasi. Namun narasi ini juga menimbulkan pertanyaan kritis. ...

Hp Oppo Murah Ini Cuma 1 Jutaan

Oppo belum lama ini menggelar smartphone terbarunya ke pasaran Indonesia. Spesifikasinya mengagumkan, apalagi fitur kameranya. Ya, Oppo Reno 10x Zoom menawarkan kemampuan fotografi yang mumpuni, sekaligus performa perangkat yang hebat. Meski demikian, ada harga ada rupa. Smartphone tersebut dipasarkan dengan harga yang tidak murah, yakni Rp12,999 juta untuk versi dengan RAM 8GB dan storage 256GB. Mahal? Tentu saja tidak, jika melihat spesifikasi yang disediakan di dalamnya. Sayangnya, tidak semua pengguna mampu membeli smartphone Oppo dengan harga yang tergolong fantastis tersebut. Cukup banyak di antara kita yang ingin membeli hp Oppo murah yang harganya kalau bisa di bawah Rp1 juta. Kalau tidak ada pun, kalau bisa harganya masih Rp1 jutaan. Alias di bawah Rp2 juta. Nah, kalau sudah begitu, apa pilihan yang bisa kita dapatkan? Berikut ini pilihannya: Harga HP Oppo Murah di 2019: Untuk smartphone alias hp Oppo murah di harga 1 jutaan, dipastikan Anda sudah mendapatkan pe...

Harga CPU Intel Terancam Naik 10%, Dampak AI Inference Mulai Tekan Pasar PC

Kenaikan harga CPU tampaknya tinggal menunggu waktu. Intel dilaporkan bersiap menaikkan harga prosesor konsumen hingga sekitar 10 persen, didorong oleh lonjakan permintaan dari sektor AI, khususnya inference, yang mulai “menyedot” kapasitas produksi. Perubahan lanskap ini cukup signifikan. Jika sebelumnya GPU menjadi pusat perhatian dalam boom AI, kini workload inference justru lebih banyak bergantung pada CPU. Akibatnya, produsen x86 seperti Intel mulai kewalahan memenuhi permintaan, terutama dari hyperscaler dan data center yang siap membeli dalam volume besar. Dampaknya? Konsumen PC berpotensi jadi korban berikutnya. Intel sendiri sudah memberi sinyal bahwa untuk menjaga pasokan ke segmen enterprise, sebagian kapasitas harus “diambil” dari lini produk konsumen. Ini bukan sekadar penyesuaian kecil, melainkan realokasi prioritas industri. Masalahnya, timing-nya buruk. Pasar PC saat ini sudah tertekan oleh kenaikan harga komponen lain seperti DRAM dan GPU. Jika CPU ikut naik, maka teka...