Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Review Lenovo V14 G4 IRU. Laptop Bisnis Terjangkau yang Serba Cukup

Segmen laptop bisnis entry-level selalu berada di posisi yang menarik sekaligus sulit. Di satu sisi, perangkat harus cukup andal untuk menunjang produktivitas harian seperti dokumen, spreadsheet, dan meeting online. Di sisi lain, harga yang ditekan membuat kompromi menjadi sesuatu yang tak terhindarkan. Lenovo melalui seri V14 mencoba menjawab kebutuhan tersebut. Dengan prosesor Intel Core i3 generasi ke-13, SSD NVMe, dan desain ringan, Lenovo V14 G4 IRU ini jelas ditujukan untuk pelaku UMKM, pelajar, hingga pekerja kantoran yang membutuhkan perangkat kerja tanpa biaya besar. Namun, pertanyaan pentingnya bukan sekadar “cukup atau tidak”, melainkan seberapa jauh kompromi yang harus diterima untuk mencapai harga tersebut? Ulasan kali ini akan coba sedikit membedahnya produk tersebut dari beberapa aspek. Desain Secara visual, Lenovo V14 tampil sederhana dengan balutan warna Iron Grey dan material PC-ABS. Ini bukan laptop yang mencoba tampil mewah, melainkan lebih ke arah utilitarian. Fin...

Kapal Dagang Diam-diam Musnahkan Populasi Hiu Paus

Whale shark atau hiu paus, ikan terbesar di dunia yang juga berstatus terancam punah, ternyata menghadapi ancaman yang selama ini luput dari perhatian. Ya, apalagi kalau bukan tabrakan dengan kapal besar. Studi internasional yang melibatkan lebih dari 75 peneliti memetakan lokasi berkumpulnya hiu paus di 26 negara, lalu membandingkannya dengan data jalur pelayaran global dari Global Fishing Watch. Hasilnya cukup telak. Banyak habitat penting hiu paus justru berada tepat di jalur kapal komersial, terutama di perairan Ekuador, Meksiko, Malaysia, Filipina, Oman, Seychelles, dan Taiwan. Masalahnya sederhana tapi fatal. Hiu paus menghabiskan hampir setengah waktunya di dekat permukaan laut untuk memakan plankton, persis di ketinggian yang sama dengan kapal-kapal raksasa melintas. Yang membuat situasi ini lebih buruk adalah kematian hiu paus hampir tak terlihat. Berbeda dengan paus yang tubuhnya bisa mengapung di laut atau terdampar ke daratan, hiu paus tenggelam saat mereka mati. Artinya, t...

Review Asus ExpertBook P1403CVA. Laptop Bisnis Terjangkau untuk Jangka Panjang

Dalam beberapa bulan terakhir, industri laptop menghadapi tantangan besar akibat kenaikan harga komponen, terutama RAM dan SSD. Permintaan global terhadap memori dan penyimpanan meningkat seiring transformasi digital, cloud computing, serta tren kerja hybrid.  Situasi tersebut diperparah oleh ketidakstabilan rantai pasok, sehingga harga komponen menjadi fluktuatif. Dampaknya, banyak produsen laptop harus melakukan penyesuaian konfigurasi, bahkan di segmen premium sekalipun. Menariknya, kondisi tersebut justru mempercepat pertumbuhan pasar laptop bisnis. Banyak perusahaan dan profesional mulai beralih dari laptop consumer ke perangkat profesional yang dirancang lebih tahan lama.  Fokus tidak lagi pada spesifikasi tinggi di awal, melainkan efisiensi investasi dalam jangka panjang. Laptop bisnis menawarkan daya tahan, keamanan, serta fleksibilitas upgrade yang menjadi semakin penting. Kenaikan harga RAM dan SSD juga membuat konsep modular menjadi nilai utama. Laptop bisnis sepert...

Smartphone Baterai Terbesar Segera Dirilis? 13.000mAh Cukup?

Rumor terbaru berhembus bahwa Honor tengah menyiapkan smartphone dengan baterai yang hampir terdengar berlebihan. Perangkat yang disebut sebagai Honor X80 GT dikabarkan akan membawa baterai 13.080 mAh. Jika benar, kapasitas ini jauh melampaui standar smartphone modern yang biasanya hanya berada di kisaran 5.000 mAh. Secara teori, ini berarti pengguna bisa melupakan charger selama berhari-hari. Namun secara praktis, pertanyaannya sederhana: seberapa besar dan berat ponsel ini nantinya? Honor sebenarnya sudah bereksperimen dengan baterai besar pada beberapa perangkat sebelumnya yang mendekati 10.000 mAh. X80 GT tampaknya mencoba melangkah lebih jauh, seolah ingin memenangkan lomba angka spesifikasi yang semakin absurd. Bandingkan dengan flagship dari Apple atau Samsung yang masih bermain di kapasitas jauh lebih kecil. Namun pendekatan mereka juga menunjukkan realitas desain: baterai besar selalu datang dengan kompromi pada ketebalan, berat, dan ergonomi. Memang ada perangkat ekstrem sepe...

Pangsa Pasar Sistem Operasi Desktop Dikuasai Windows 11 dengan 72%

Data terbaru dari StatCounter menunjukkan bahwa Windows 11 kini semakin mendominasi pasar sistem operasi desktop. Pangsa pasarnya dilaporkan telah mencapai sekitar 72,78 persen, sementara Windows 10 turun drastis menjadi 26,27 persen. Perubahan ini menandai percepatan adopsi yang cukup signifikan dibandingkan akhir 2025. Saat itu Windows 11 baru saja melampaui 50 persen pangsa pasar, sementara Windows 10 masih mempertahankan basis pengguna yang jauh lebih besar. Kini, jarak keduanya terus melebar. Salah satu faktor utama di balik lonjakan ini adalah keputusan Microsoft untuk mengakhiri dukungan resmi bagi Windows 10. Batasan siklus hidup produk tersebut mendorong banyak pengguna dan organisasi untuk beralih ke platform yang lebih baru. Dalam banyak kasus, keputusan tersebut bukan lagi sekadar pilihan fitur, melainkan kebutuhan untuk menjaga keamanan dan kompatibilitas sistem. Selain itu, proses upgrade juga sering kali terjadi secara tidak langsung melalui pembelian perangkat baru. Kom...