Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Hp Oppo Murah Ini Cuma 1 Jutaan

Oppo belum lama ini menggelar smartphone terbarunya ke pasaran Indonesia. Spesifikasinya mengagumkan, apalagi fitur kameranya. Ya, Oppo Reno 10x Zoom menawarkan kemampuan fotografi yang mumpuni, sekaligus performa perangkat yang hebat. Meski demikian, ada harga ada rupa. Smartphone tersebut dipasarkan dengan harga yang tidak murah, yakni Rp12,999 juta untuk versi dengan RAM 8GB dan storage 256GB. Mahal? Tentu saja tidak, jika melihat spesifikasi yang disediakan di dalamnya. Sayangnya, tidak semua pengguna mampu membeli smartphone Oppo dengan harga yang tergolong fantastis tersebut. Cukup banyak di antara kita yang ingin membeli hp Oppo murah yang harganya kalau bisa di bawah Rp1 juta. Kalau tidak ada pun, kalau bisa harganya masih Rp1 jutaan. Alias di bawah Rp2 juta. Nah, kalau sudah begitu, apa pilihan yang bisa kita dapatkan? Berikut ini pilihannya: Harga HP Oppo Murah di 2019: Untuk smartphone alias hp Oppo murah di harga 1 jutaan, dipastikan Anda sudah mendapatkan pe...

Motherboard DDR4 dan DDR5 Sekaligus Dirilis Asrock

ASRock kembali menghadirkan pendekatan yang nyaris terlupakan di pasar motherboard modern lewat peluncuran H610M Combo. Motherboard micro-ATX berbasis chipset Intel H610 ini menawarkan dukungan ganda untuk memori DDR4 dan DDR5 dalam satu papan induk. Langkah ini merupakan sebuah strategi yang jelas menyasar segmen kantor, bisnis, dan sistem berbiaya rendah yang kini berada di bawah tekanan. Khususnya saat terjadi kenaikan harga komponen, terutama memori. Keputusan ASRock ini menarik karena dalam beberapa tahun terakhir industri secara tegas memisahkan dukungan DDR4 dan DDR5 demi efisiensi desain dan stabilitas. Namun, H610M Combo justru menghidupkan kembali konsep “transisi generasi” dengan menyediakan empat slot DDR5 dan dua slot DDR4.  Pengguna memang tidak bisa mencampur kedua jenis memori secara bersamaan, tetapi fleksibilitas ini memberi opsi penting. Kapasitas hingga 96GB DDR5 atau 64GB DDR4, tergantung kebutuhan dan kondisi pasar. Dari sisi fitur, ASRock H610M Combo tetap re...

Windows 11 Akan Lebih Cepat dan Efisien. Khususnya untuk Gaming

Kabar gembira mulai berseliweran di Internet. Informasi terbaru, Microsoft bersiap melakukan perubahan besar pada Windows 11. Fokus utamanya adalah meningkatkan pengalaman gaming lintas perangkat.  Dalam pengumuman terbarunya melalui Windows Experience Blog, perusahaan asal Redmond itu menegaskan bahwa pembaruan Windows 11 tahun depan akan diarahkan agar sistem operasi menjadi lebih cepat, lebih efisien secara daya. Tak hanya itu, Windows 11 versi baru disebut-sebut akan menghadirkan pengalaman visual yang semakin imersif. Terutama bagi gamer. Fokus utama Microsoft terletak pada optimalisasi komponen inti Windows 11. Pengelolaan workload di latar belakang akan dibuat lebih agresif untuk membebaskan sumber daya bagi aplikasi dan game di foreground. Selain itu, efisiensi penjadwalan CPU, manajemen daya, penyempurnaan graphics stack, hingga pembaruan driver menjadi bagian dari strategi menyeluruh untuk menekan overhead sistem. Tujuan akhirnya cukup ambisius: menghadirkan pengalaman “c...

Savefrom, Online Video Downloader Terbaik?

Savefrom, Online Video Downloader Terbaik - Bagi Anda yang suka nonton video dari media sosial, mungkin Anda kadang lebih memilih untuk menontonnya secara offline. Hal ini bukan tanpa alasan, karena memang menonton video secara online akan lebih menguras kuota. Apalagi jika budget Anda sedang menipis, atau kuota sudah mau habis, pastinya solusi terbaik adalah dengan men-download dulu videonya. Dengan men-download videonya, Anda bisa melihat ulang videonya kapan pun tanpa harus mengkhawatirkan kehabisan kuota. Nah, salah satu layanan online video downloader yang bisa Anda pilih adalah Savefrom. Kira-kira, apa saja keunggulan dan kekurangan layanan yang satu ini? Yuk, simak informasinya di bawah:   Review dan Cara Download dari Savefrom: Savefrom merupakan sebuah layanan online gratis yang bisa digunakan untuk mengunduh video maupun musik secara gratis. Savefrom disebut juga sebagai pengunduh video tertua sekaligus terpopuler yang bisa digunakan dengan mudah dan bebas. Beberap...

Review Asus Vivobook S14 M3407HA, Laptop AI Bertenaga dari AMD

Segmen laptop AI performa tinggi kini menjadi medan persaingan paling panas di industri komputasi portabel. Setelah era Qualcomm Snapdragon X Elite dan X Plus lalu Intel Core Ultra mencuri perhatian dengan integrasi NPU (Neural Processing Unit) di dalam prosesornya, AMD tidak tinggal diam.  Kehadiran prosesor Ryzen 7 260 dengan XDNA NPU hingga 16 TOPS menandai langkah strategis AMD dalam menghadirkan laptop cerdas yang tak hanya cepat, tapi juga hemat daya dan efisien dalam menjalankan beban kerja berbasis AI. Semuanya mentransformasi tugas-tugas yang biasanya dilakukan CPU, kini menjadi dikerjakan oleh NPU. Khususnya tugas berbasis AI. Laptop AI Asus Vivobook S14 M3407HA menjadi contoh nyata transformasi tersebut: menghadirkan kinerja tinggi, kemampuan AI lokal, dan efisiensi baterai yang sebelumnya sulit dicapai. Dengan fokus pada portabilitas dan ketahanan daya, Asus mencoba menghadirkan laptop yang bukan hanya untuk kerja kantoran, tapi juga untuk kreasi konten, komunikasi, dan...