Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Review Lenovo ThinkPad E14 Gen 7. Laptop Bisnis di Era Efisiensi dan Mobilitas

Industri laptop bisnis tengah mengalami pergeseran signifikan. Jika sebelumnya performa dan skalabilitas menjadi tolok ukur utama, kini efisiensi daya, mobilitas, keamanan, dan keberlanjutan justru menjadi faktor penentu. Perusahaan semakin menuntut perangkat yang ringkas, tahan lama, mudah dikelola, namun tetap cukup bertenaga untuk produktivitas. Tren kerja hybrid juga turut mengubah prioritas desain laptop bisnis. Bobot ringan, daya tahan baterai memadai, konektivitas lengkap, serta fitur keamanan berlapis kini menjadi standar baru. Produsen pun berlomba menghadirkan perangkat yang tidak sekadar kuat di atas kertas, tetapi relevan dengan kebutuhan kerja modern. Lenovo melalui lini ThinkPad E-Series mencoba menjawab tantangan tersebut. Buktinya, ThinkPad E14 Gen 7   hadir sebagai opsi entry-level hingga menengah untuk profesional dan pelaku bisnis yang membutuhkan laptop tangguh, fleksibel, dan ekonomis tanpa meninggalkan DNA ThinkPad yang legendaris. Desain Lenovo ThinkPad E14 G...

Laptop Asus ExpertBook P3 G2, Hadir dengan RAM up to 96GB

Asus resmi menghadirkan ExpertBook P3 G2, laptop bisnis terbaru yang ditujukan bagi administrator, profesional, dan pengguna korporat yang membutuhkan perangkat andal, aman, serta efisien dari sisi biaya. Produk ini dirancang untuk menjawab kebutuhan dunia kerja modern yang menuntut mobilitas tinggi, keamanan data, dan produktivitas berbasis teknologi terkini. ExpertBook P3 G2 ditenagai prosesor AMD Ryzen 7 generasi terbaru yang telah dilengkapi NPU (Neural Processing Unit) untuk mendukung pemrosesan berbasis kecerdasan buatan. Dukungan ini memungkinkan kinerja tetap responsif saat menjalankan aplikasi produktivitas, kolaborasi, dan workflow berbasis AI, sekaligus menjaga efisiensi konsumsi daya. Untuk perusahaan yang membutuhkan, Asus bisa menawarkan opsi RAM 64GB yang dapat di-upgrade menjadi 96GB. Ini merupakan langkah yang cukup unik, mengingat tingginya harga RAM di pasaran saat ini. Untuk mendukung pengalaman kerja yang lebih cerdas, Asus menyertakan MyExpert Suite, rangkaian per...

Hp Oppo Murah Ini Cuma 1 Jutaan

Oppo belum lama ini menggelar smartphone terbarunya ke pasaran Indonesia. Spesifikasinya mengagumkan, apalagi fitur kameranya. Ya, Oppo Reno 10x Zoom menawarkan kemampuan fotografi yang mumpuni, sekaligus performa perangkat yang hebat. Meski demikian, ada harga ada rupa. Smartphone tersebut dipasarkan dengan harga yang tidak murah, yakni Rp12,999 juta untuk versi dengan RAM 8GB dan storage 256GB. Mahal? Tentu saja tidak, jika melihat spesifikasi yang disediakan di dalamnya. Sayangnya, tidak semua pengguna mampu membeli smartphone Oppo dengan harga yang tergolong fantastis tersebut. Cukup banyak di antara kita yang ingin membeli hp Oppo murah yang harganya kalau bisa di bawah Rp1 juta. Kalau tidak ada pun, kalau bisa harganya masih Rp1 jutaan. Alias di bawah Rp2 juta. Nah, kalau sudah begitu, apa pilihan yang bisa kita dapatkan? Berikut ini pilihannya: Harga HP Oppo Murah di 2019: Untuk smartphone alias hp Oppo murah di harga 1 jutaan, dipastikan Anda sudah mendapatkan pe...

Harga RAM Naik, Jual Konverter SODIMM to DIMM Laris Manis

Lonjakan harga memori desktop dalam setahun terakhir mendorong sebagian gamer mencari solusi alternatif yang lebih ekonomis. Salah satu pendekatan yang mulai dilirik adalah memanfaatkan memori laptop berjenis SODIMM dengan bantuan adaptor SODIMM-to-DIMM, sehingga modul memori tersebut dapat digunakan pada sistem PC desktop. Menurut analisis 3DCenter.org, adaptor SODIMM-to-DIMM relatif murah dan mudah ditemukan di pasaran. Ketika dikombinasikan dengan memori SODIMM yang kenaikan harganya lebih moderat, pendekatan ini menjadi masuk akal secara finansial. Dalam periode satu tahun terakhir, harga memori SODIMM rata-rata naik sekitar 136 persen, jauh lebih rendah dibandingkan lonjakan harga memori desktop DIMM yang mencapai 245 persen. Kondisi ini membuat pembelian memori laptop terlihat lebih rasional bagi pengguna yang ingin melakukan upgrade atau merakit PC baru dengan anggaran terbatas. Dari sisi harga, selisihnya cukup signifikan. Modul DDR5-4800 SODIMM berkapasitas 16 GB saat ini dib...

Asus All-in-One PC V440. PC Desktop Ringkas di Tengah Tren PC Modern

Pasar PC All-in-One (AIO) kembali mendapatkan perhatian di tengah perubahan pola kerja dan penggunaan perangkat komputasi. Setelah pandemi mempercepat adopsi kerja hybrid dan remote, kebutuhan akan perangkat yang ringkas, rapi, namun tetap bertenaga semakin meningkat. Pengguna kini tidak hanya mencari performa, tetapi juga efisiensi ruang, kemudahan instalasi, dan estetika yang menyatu dengan lingkungan kerja maupun rumah. Di sisi lain, laptop dengan layar besar memang menawarkan portabilitas, tetapi masih memiliki keterbatasan ergonomi dan ruang kerja visual. Desktop tower konvensional pun mulai ditinggalkan oleh sebagian pengguna karena memakan ruang, kabel yang kompleks, serta kurang praktis untuk setup modern. Dalam konteks inilah PC All-in-One kembali relevan sebagai solusi tengah yang menggabungkan layar besar dan performa desktop dalam satu perangkat terintegrasi. Asus melihat peluang tersebut dengan menghadirkan All-in-One PC V400 Series (V440/V470) . Seri ini menyasar pengguna...