Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Review Asus Vivobook 14 A1405VA. Laptop Kerja Rp9 Jutaan

Dunia kerja yang semakin dinamis menuntut perangkat yang tidak hanya portabel, tetapi juga andal, aman, dan mampu mengakomodasi berbagai kebutuhan multitasking. Tren laptop kerja kini tak lagi sekadar berfokus pada bodi yang tipis dan ringan, tetapi juga memperhatikan aspek performa. Mulai dari prosesor kencang, kapasitas RAM besar dan upgradable, semua kini menjadi faktor esensial. Tak lupa juga dengan kehadiran fitur-fitur penunjang produktivitas seperti layar rasio 16:10, port konektivitas lengkap, dan sistem keamanan biometrik. Selain itu, laptop kerja modern dituntut memiliki daya tahan fisik yang tangguh. Standar militer seperti MIL-STD 810H kini menjadi nilai tambah penting, terutama bagi para profesional muda yang sering berpindah tempat kerja atau bekerja dalam kondisi lingkungan yang tidak selalu ideal. Terakhir, dukungan sistem operasi terkini dan paket software produktivitas seperti Microsoft Office Home & Student juga kini menjadi bagian dari “value” yang dicari oleh p...

Layar OLED untuk Gaming Akan Makin Hebat

LG Display kembali menunjukkan dominasinya sebagai pionir teknologi layar global. Perusahaan asal Korea Selatan ini mengumumkan keberhasilan produksi massal panel monitor OLED tercanggih di dunia dengan mengandalkan teknologi milik sendiri. Ya, lewat teknologi yang disebut sebagai Primary RGB Tandem, LG Display mengemas kombinasi luar biasa. Kecerahan hingga 1.500 nits, refresh rate 280Hz, dan respons waktu secepat 0,03ms. Tiga elemen utama dalam kualitas gambar monitor gaming OLED. Teknologi Primary RGB Tandem merupakan terobosan generasi keempat OLED dari LG. Alih-alih menggunakan satu lapisan RGB, teknologi ini menumpuk empat lapisan warna primer merah, hijau, dan biru secara independen. Hasilnya adalah kecerahan puncak tertinggi untuk OLED ukuran 27 inci, mencapai 1.500 nits (APL 1,5%), sambil mempertahankan akurasi warna hingga 99,5%. Capaian ini sangat ideal, tidak hanya untuk gamer, tapi juga untuk profesional kreatif di bidang produksi film dan color grading. Tidak berhenti di ...

Blue Screen of Death (BSOD) Akan Hilang dari Windows!

Setelah hampir empat dekade menjadi simbol frustrasi pengguna Windows, layar biru legendaris alias Blue Screen of Death (BSOD) akhirnya akan dipensiunkan. Ya, Microsoft mengonfirmasi bahwa penghapusan BSOD akan mulai akhir musim panas 2025. Tapi jangan gembira dulu. BSOD akan tetap muncul. Meski begitu, Windows 11 akan menghadirkan versi baru dari layar error ini. Dengan latar belakang hitam dan tampilan yang lebih sederhana, dan nanti akan dijuluki Black Screen of Death. Perubahan ini bukan sekadar kosmetik. Microsoft menghapus ikon wajah sedih dan kode QR yang biasanya tampil di BSOD, menggantinya dengan satu kode stop yang menjelaskan penyebab crash, seperti driver bermasalah atau komponen spesifik. Desain ramping ini pertama kali diuji di Windows Insider dan meniru tampilan layar progres sistem saat pembaruan berlangsung. Tujuannya jelas: membuat pesan error lebih mudah dipahami, tidak hanya oleh profesional IT, tapi juga oleh pengguna biasa. Menurut David Weston, Wakil Presiden Ke...

Peneliti Temukan Cara Aman Ambil Emas dari Elektronik Bekas

Sebuah terobosan penting dalam dunia pertambangan dan daur ulang limbah elektronik datang dari Australia. Tim peneliti dari Flinders University berhasil mengembangkan metode baru untuk mengekstraksi emas yang jauh lebih aman dan ramah lingkungan dibanding metode konvensional yang selama ini mengandalkan bahan kimia beracun seperti merkuri dan sianida. Emas adalah logam mulia bernilai tinggi yang digunakan luas di berbagai sektor, dari perhiasan dan investasi hingga elektronik, kedokteran, dan industri kedirgantaraan. Namun, metode ekstraksi tradisionalnya sering kali membawa dampak besar terhadap lingkungan dan kesehatan manusia.  Merkuri, misalnya, masih banyak digunakan oleh penambang skala kecil di berbagai belahan dunia, meskipun sudah diketahui menyebabkan keracunan akut dan kerusakan ekosistem. Masalah ini semakin mendesak dengan melonjaknya limbah elektronik global. Pada tahun 2022, dunia menghasilkan sekitar 62 juta ton e-waste, sebagian besar mengandung logam berharga sep...

Review Advan AI Gen. Laptop AI Murah yang Menjanjikan

Pasar laptop di Indonesia saat ini tengah menyaksikan datangnya gelombang besar masuknya perangkat berlabel AI. Kondisi tersebut sejalan dengan tren di pasar global, terkait komputasi yang mulai mengintegrasikan kecerdasan buatan ke dalam sistem operasi maupun aplikasi kreatif.  Mulai dari brand global ternama hingga pemain lokal, semuanya berlomba menghadirkan laptop AI, khususnya yang dilengkapi dengan kemampuan AI terintegrasi. Dan yang paling diincar adalah segmen produktivitas dan kreator konten.  Dalam konteks ini, Advan, salah satu produsen lokal yang selama ini dikenal lewat perangkat terjangkau, mencoba masuk ke kategori baru yang lebih premium. Tentunya juga menyasar segmen laptop AI performa tinggi, melalui produk terbarunya, Advan AI Gen.  Dengan jargon “The Fastest, Strongest, Professional AI Notebook”, laptop AI ini mencoba menggaet kalangan profesional muda, content creator, dan bahkan gamer kasual lewat kombinasi spesifikasi mentereng dan desain ringkas....