Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Perbandingan Intel Iris Xe Graphics dengan Iris Xe Max

Laptop VGA onboard? Kesannya low end dan low performance ya? Tapi jangan salah. Konsep itu kini sudah tidak tepat. Ya, laptop dengan VGA onboard pun kini punya performa yang bukan kaleng-kaleng. Sebagai informasi, sejak Intel menghadirkan prosesor Core generasi ke-11 mereka, performa VGA onboard yang dimilikinya semakin meningkat pesat. Khususnya untuk seri Core i5 dan Core i7 yang diperkuat oleh Intel Xe Graphics. Di sisi lain, jangan anggap sepele juga. Menurut data Lembaga riset terkemuka GfK, per kuartal pertama 2021 lalu, pangsa pasar VGA di Indonesia dikuasai Intel onboard secara signifikan yakni 54 persen lebih. Barulah setelah itu dikuasai oleh AMD onboard serta juga AMD Radeon discrete dengan 25 persen. Nvidia sendiri hanya punya pasar sebesar 16 persen sekian. Jadi, terlihat kan betapa signifikan peranan VGA onboard dalam kehidupan komputasi masa kini? Intel Iris Xe Max Graphics Nah, kali ini kita akan bahas performa VGA “onboard” lebih baru lagi dari Intel yakni Intel ...

Apa Beda QLED dan OLED? Mana yang Lebih Bagus di Antaranya?

Saat memilih TV baru, konsumen kerap dihadapkan pada istilah teknis seperti HDR, refresh rate 120Hz, hingga HDMI generasi terbaru. Namun, dua istilah yang paling sering membingungkan adalah QLED dan OLED.  Keduanya sering diposisikan sebagai teknologi layar kelas atas, padahal secara fundamental, QLED dan OLED bekerja dengan cara yang sangat berbeda. OLED adalah singkatan dari organic light-emitting diode. Teknologi ini bersifat emissive, artinya setiap piksel dapat memancarkan cahaya sendiri tanpa memerlukan lampu latar. Karena itu, OLED mampu mematikan piksel sepenuhnya saat menampilkan warna hitam, menghasilkan kontras nyaris tak terbatas dan tingkat hitam yang sangat pekat. Inilah alasan utama mengapa TV OLED seperti LG OLED C3, LG G3, atau Samsung S95C QD-OLED sering dianggap memiliki kualitas gambar terbaik di kelasnya. Sebaliknya, QLED merupakan pengembangan dari TV LCD LED konvensional. QLED adalah singkatan dari quantum dot LED, di mana lapisan quantum dot digunakan untuk ...

Review Asus Chromebook 14 CM1405. Efisien untuk Produktivitas Modern

Pasar laptop Chromebook diam-diam terus berkembang. Segmen ini hadir sebagai alternatif serius bagi laptop Windows, terutama di segmen pendidikan, UMKM, dan perusahaan yang mengedepankan efisiensi, keamanan, serta kemudahan manajemen perangkat.  Dengan sistem operasi ChromeOS yang berbasis cloud, Chromebook menawarkan pengalaman komputasi yang ringan, cepat, dan minim perawatan. Berbeda dari ekosistem Windows yang lebih kompleks dan menuntut spesifikasi yang relatif jauh lebih tinggi. Dalam beberapa tahun terakhir, adopsi Chromebook juga meningkat di lingkungan enterprise dan institusi pendidikan. Semua didorong oleh kebutuhan kerja hybrid, kolaborasi berbasis web, serta keamanan data yang terintegrasi langsung di level sistem.  Sebagai gambaran, ChromeOS dikenal memiliki booting cepat, update otomatis, serta proteksi bawaan terhadap malware. Kemampuan ini menjadikannya solusi praktis untuk pengguna yang aktivitasnya terfokus pada browser, aplikasi Android, dan layanan Google ...

Review Lenovo ThinkPad E14 Gen 7. Laptop Bisnis di Era Efisiensi dan Mobilitas

Industri laptop bisnis tengah mengalami pergeseran signifikan. Jika sebelumnya performa dan skalabilitas menjadi tolok ukur utama, kini efisiensi daya, mobilitas, keamanan, dan keberlanjutan justru menjadi faktor penentu. Perusahaan semakin menuntut perangkat yang ringkas, tahan lama, mudah dikelola, namun tetap cukup bertenaga untuk produktivitas. Tren kerja hybrid juga turut mengubah prioritas desain laptop bisnis. Bobot ringan, daya tahan baterai memadai, konektivitas lengkap, serta fitur keamanan berlapis kini menjadi standar baru. Produsen pun berlomba menghadirkan perangkat yang tidak sekadar kuat di atas kertas, tetapi relevan dengan kebutuhan kerja modern. Lenovo melalui lini ThinkPad E-Series mencoba menjawab tantangan tersebut. Buktinya, ThinkPad E14 Gen 7   hadir sebagai opsi entry-level hingga menengah untuk profesional dan pelaku bisnis yang membutuhkan laptop tangguh, fleksibel, dan ekonomis tanpa meninggalkan DNA ThinkPad yang legendaris. Desain Lenovo ThinkPad E14 G...

Harddisk Terbesar di Dunia. Western Digital Siapkan HDD 60TB hingga 140TB

Western Digital kembali menegaskan bahwa hard disk drive (HDD) belum mendekati akhir hayatnya. Di tengah dominasi SSD untuk komputasi konsumen, perusahaan ini justru memaparkan peta jalan agresif untuk mendorong kapasitas HDD hingga 60TB dalam waktu dekat, bahkan melampaui 140TB pada dekade 2030-an.  Target ini secara jelas diarahkan untuk menjawab kebutuhan penyimpanan masif dari beban kerja AI dan cloud berskala besar. Dalam pernyataan resminya, Western Digital mengungkapkan bahwa mereka akan mulai memproduksi massal HDD komersial berbasis heat-assisted magnetic recording (HAMR) pada 2026. Generasi awal akan hadir dengan kapasitas 40TB berbasis CMR dan 44TB berbasis SMR, sebelum volume produksinya meningkat pada 2027.  Pendekatan ini menandai transisi penting dari ePMR menuju HAMR sebagai fondasi jangka panjang peningkatan kapasitas. Kunci utama strategi ini terletak pada inovasi laser. Selama ini, industri HDD mengandalkan edge-emitting laser pada teknologi HAMR, namun menu...