Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Hp Oppo Murah Ini Cuma 1 Jutaan

Oppo belum lama ini menggelar smartphone terbarunya ke pasaran Indonesia. Spesifikasinya mengagumkan, apalagi fitur kameranya. Ya, Oppo Reno 10x Zoom menawarkan kemampuan fotografi yang mumpuni, sekaligus performa perangkat yang hebat. Meski demikian, ada harga ada rupa. Smartphone tersebut dipasarkan dengan harga yang tidak murah, yakni Rp12,999 juta untuk versi dengan RAM 8GB dan storage 256GB. Mahal? Tentu saja tidak, jika melihat spesifikasi yang disediakan di dalamnya. Sayangnya, tidak semua pengguna mampu membeli smartphone Oppo dengan harga yang tergolong fantastis tersebut. Cukup banyak di antara kita yang ingin membeli hp Oppo murah yang harganya kalau bisa di bawah Rp1 juta. Kalau tidak ada pun, kalau bisa harganya masih Rp1 jutaan. Alias di bawah Rp2 juta. Nah, kalau sudah begitu, apa pilihan yang bisa kita dapatkan? Berikut ini pilihannya: Harga HP Oppo Murah di 2019: Untuk smartphone alias hp Oppo murah di harga 1 jutaan, dipastikan Anda sudah mendapatkan pe...

Smartphone Baterai Terbesar Segera Dirilis? 13.000mAh Cukup?

Rumor terbaru berhembus bahwa Honor tengah menyiapkan smartphone dengan baterai yang hampir terdengar berlebihan. Perangkat yang disebut sebagai Honor X80 GT dikabarkan akan membawa baterai 13.080 mAh. Jika benar, kapasitas ini jauh melampaui standar smartphone modern yang biasanya hanya berada di kisaran 5.000 mAh. Secara teori, ini berarti pengguna bisa melupakan charger selama berhari-hari. Namun secara praktis, pertanyaannya sederhana: seberapa besar dan berat ponsel ini nantinya? Honor sebenarnya sudah bereksperimen dengan baterai besar pada beberapa perangkat sebelumnya yang mendekati 10.000 mAh. X80 GT tampaknya mencoba melangkah lebih jauh, seolah ingin memenangkan lomba angka spesifikasi yang semakin absurd. Bandingkan dengan flagship dari Apple atau Samsung yang masih bermain di kapasitas jauh lebih kecil. Namun pendekatan mereka juga menunjukkan realitas desain: baterai besar selalu datang dengan kompromi pada ketebalan, berat, dan ergonomi. Memang ada perangkat ekstrem sepe...

Prosesor Server AMD Laku Keras, Kapasitas Produksi Tak Memadai

Demam AI ternyata tidak hanya menguntungkan GPU. Permintaan CPU server juga melonjak tajam, bahkan melampaui perkiraan industri. Hal ini diakui langsung oleh CEO Lisa Su yang menyebut lonjakan permintaan prosesor server sebagai sesuatu yang “di luar ekspektasi”. Dalam konferensi Morgan Stanley, Su mengungkap bahwa pelanggan besar AMD kini menyadari satu hal penting, sistem AI tidak bisa hanya mengandalkan GPU. Infrastruktur AI tetap membutuhkan CPU dalam jumlah besar untuk menangani orkestrasi sistem, manajemen data, dan berbagai proses komputasi pendukung. Akibatnya, permintaan prosesor server seperti AMD EPYC meningkat drastis. Bahkan, menurut Su, banyak pelanggan yang sebelumnya salah menghitung kebutuhan CPU di dalam infrastruktur AI mereka. Situasi ini membuat rantai pasokan AMD mulai terasa ketat. Lonjakan permintaan dalam beberapa kuartal terakhir membuat kapasitas produksi sulit mengejar kebutuhan pasar. AMD kini bekerja sama dengan mitra manufaktur untuk menambah kapasitas dan...

Apple MacBook Murah Diumumkan. Siap Hadapi Chromebook?

Apple baru saja memperkenalkan laptop terbarunya yang menyasar segmen terjangkau, yakni MacBook Neo. Perangkat ini dibanderol mulai 599 dolar AS, atau sekitar 499 dolar AS untuk pelajar, menjadikannya salah satu laptop Mac paling murah yang pernah dirilis perusahaan tersebut. Meski demikian, peluncuran laptop ini langsung memicu perdebatan di kalangan pengguna teknologi. Kritik utama datang dari keputusan Apple yang hanya menyediakan RAM 8GB tanpa opsi upgrade, sesuatu yang dianggap kurang relevan untuk laptop yang dirilis pada 2026. Namun di balik keputusan tersebut terdapat alasan teknis yang cukup spesifik. MacBook Neo menggunakan chip Apple A18 Pro, prosesor yang sebelumnya dipakai pada iPhone 16 Pro. Chip ini diproduksi oleh TSMC dengan desain paket khusus yang sudah menyertakan memori LPDDR5X 8GB secara terintegrasi. Teknologi yang digunakan disebut Integrated Fan-Out Package on Package (InFO-PoP). Dalam metode ini, modul memori ditempatkan langsung di atas chip SoC dalam struktu...

Ubisoft Siapkan Sejumlah Remake Assassin’s Creed

Ubisoft akhirnya mengonfirmasi salah satu rumor terlama di komunitas gamer. Melalui blog resmi berjudul Assassin’s Creed: Into 2026, perusahaan tersebut memastikan bahwa proyek remake Assassin’s Creed IV: Black Flag memang sedang dikembangkan dengan nama Black Flag Resynced. Konfirmasi ini menjadi perubahan besar karena sebelumnya proyek tersebut hanya beredar sebagai bocoran dari berbagai sumber industri. Meski belum mengumumkan tanggal rilis maupun platform yang dituju, Ubisoft kini secara resmi memasukkan remake tersebut ke dalam roadmap pengembangan franchise Assassin’s Creed untuk beberapa tahun ke depan. Jean Guesdon, yang saat ini menjabat sebagai Head of Content untuk franchise tersebut, menjelaskan bahwa Ubisoft mulai mengadopsi pendekatan baru dalam mengelola seri Assassin’s Creed. Alih-alih merilis satu judul utama secara berurutan, perusahaan kini mengembangkan beberapa proyek secara paralel. Salah satu proyek yang disebut paling dekat menuju tahap peluncuran adalah Assassi...