Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Review Asus Zenbook 14 OLED UX3405CA. Laptop Tipis Premium dengan Prosesor Kencang

Di tengah meningkatnya adopsi layar OLED pada laptop consumer portable performa tinggi, Asus kembali mengukuhkan posisinya lewat Zenbook 14 OLED UX3405CA. Laptop tipis ini merupakan sebuah laptop 14 inci yang tidak hanya memprioritaskan estetika dan portabilitas, tetapi juga menghadirkan inovasi yang relevan untuk kebutuhan produktivitas modern dan penggunaan hybrid. Asus Zenbook 14 OLED UX3405CA hadir sebagai penyempurnaan dari generasi sebelumnya, dengan membawa layar OLED yang semakin matang, performa chip Intel Core Ultra yang lebih cepat dan efisien, serta peningkatan kualitas desain yang membuatnya lebih ergonomis. Ia juga sudah menggunakan RAM 32GB serta storage SSD 1TB. Aman untuk menghindari lonjakan kenaikan harga di 2026 mendatang. Ya, laptop Asus yang satu ini dirancang untuk pengguna profesional, mahasiswa, kreator kasual, dan pekerja hybrid yang membutuhkan perangkat portabel dengan kualitas layar terbaik dan performa stabil sepanjang hari. Pada review kali ini, kita aka...

Hp Oppo Murah Ini Cuma 1 Jutaan

Oppo belum lama ini menggelar smartphone terbarunya ke pasaran Indonesia. Spesifikasinya mengagumkan, apalagi fitur kameranya. Ya, Oppo Reno 10x Zoom menawarkan kemampuan fotografi yang mumpuni, sekaligus performa perangkat yang hebat. Meski demikian, ada harga ada rupa. Smartphone tersebut dipasarkan dengan harga yang tidak murah, yakni Rp12,999 juta untuk versi dengan RAM 8GB dan storage 256GB. Mahal? Tentu saja tidak, jika melihat spesifikasi yang disediakan di dalamnya. Sayangnya, tidak semua pengguna mampu membeli smartphone Oppo dengan harga yang tergolong fantastis tersebut. Cukup banyak di antara kita yang ingin membeli hp Oppo murah yang harganya kalau bisa di bawah Rp1 juta. Kalau tidak ada pun, kalau bisa harganya masih Rp1 jutaan. Alias di bawah Rp2 juta. Nah, kalau sudah begitu, apa pilihan yang bisa kita dapatkan? Berikut ini pilihannya: Harga HP Oppo Murah di 2019: Untuk smartphone alias hp Oppo murah di harga 1 jutaan, dipastikan Anda sudah mendapatkan pe...

MacBook Murah Berpotensi Dirilis. Tapi Pakai Prosesor iPhone 13?

Di tengah kekhawatiran melonjaknya harga laptop, rumor mengenai kehadiran MacBook murah kembali menguat dan berpotensi mengubah posisi MacBook Air sebagai laptop paling terjangkau dari Apple. Namun, di balik wacana harga yang lebih ramah, muncul pertanyaan krusial. Prosesor apa yang akan digunakan Apple untuk menekan biaya tanpa merusak pengalaman pengguna macOS? Awalnya, rumor menyebutkan bahwa MacBook murah ini akan ditenagai chip A18 Pro, prosesor yang juga digunakan pada lini iPhone 16 Pro. Meski masih berbasis chip kelas smartphone, A18 Pro dinilai cukup masuk akal berkat performa dan efisiensinya yang relatif modern.  Namun, spekulasi tersebut berubah arah setelah bocoran internal kernel debug kit mengindikasikan bahwa Apple sempat menguji perangkat ini menggunakan A15 Bionic. Jika benar, keputusan tersebut akan menimbulkan kontroversi. Pasalnya, A15 Bionic adalah chip yang diperkenalkan bersama iPhone 13 pada 2021. Secara performa, ia sudah tertinggal jauh dibanding standa...

Penipuan di Instagram meningkat, Hati-hati 9 Cara Scam di Instagram Ini!

Pandemi Covid-19 membuat kita menjalani kehidupan yang baru. Kita dituntut untuk lebih menjauhi tempat-tempat keramaian, bahkan untuk sekedar bekerja atau belajar. Kebiasaan lain yang berubah adalah cara kita berbelanja.  Saat ini kita mulai lebih beralih ke belanja online untuk kebutuhan rumah tangga dan makanan. Tentu saja kita jadi lebih sering memantau dan memainkan ponsel kita termasuk sosial media. Kebiasaan baru ini ternyata memicu jumlah penipuan di platform media sosial, seperti Instagram meningkat lebih dari 50%. Angka ini menurut angka dari Action Fraud yang merupakan pusat pelaporan nasional kepolisian Inggris untuk penipuan dan kejahatan dunia maya.  Dengan lebih dari 1 miliar pengguna aktif bulanan, Instagram menawarkan audiens yang besar dan menawan. Sebuah laporan yang dikutip dari BBC merinci sebuah cerita tentang bagaimana seorang pria kehilangan £17.000 karena dirinya ditipu di platform Instagram.  Menurut Jonathan Reuben yang merupakan korban, dia d...

Harga RAM Naik Tajam, Laptop 8GB Akan Jadi Standar Baru

Kenaikan harga RAM kembali menjadi sorotan setelah laporan terbaru TrendForce mengungkap terjadinya kelangkaan DRAM yang kian parah di sepanjang rantai pasok global. Situasi ini tidak hanya mendorong harga komponen memori ke level yang lebih tinggi, tetapi juga memaksa produsen laptop melakukan penyesuaian spesifikasi demi menjaga ketersediaan produk dan margin keuntungan. Menurut TrendForce, kondisi pasokan DRAM kini telah mencapai level yang oleh para produsen disebut “mengkhawatirkan”. Dampaknya terasa langsung pada strategi konfigurasi produk.  Banyak vendor laptop mulai mengunci spesifikasi RAM lebih rendah sebagai standar, sembari menaikkan harga untuk varian dengan kapasitas memori lebih besar. Langkah ini dinilai sebagai kompromi untuk menjaga kelangsungan produksi di tengah pasokan yang semakin ketat. Segmen notebook kelas menengah, yang selama ini menjadi tulang punggung pasar PC, mulai bergeser ke konfigurasi 8GB RAM sebagai default. Perubahan ini bukan didorong oleh keb...