Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Daftar Sekolah di Indonesia yang Ada Program Esports

Meskipun sejarah esports di Indonesia telah dimulai sejak tahun 2002, ketika World Cyber Games (WCG) pertama kali diadakan di Indonesia, esports baru mulai dikenal oleh masyarakat luas di luar komunitas gaming berkat gelaran Grand Final MPL Indonesia Season 1 di Mall Taman Anggrek pada tahun 2018. Pasca acara tersebut, esports menjadi perbincangan dan tren baru, tidak hanya di kalangan masyarakat awam, tetapi juga di industri non-endemik. Namun, saat itu, sekolah yang dapat menjadi wadah untuk regenerasi pemain profesional, pembentukan karakter, dan komunitas yang solid, masih menunggu dan mencari tahu apakah esports benar-benar bisa memberikan dampak positif bagi generasi muda dan institusi pendidikan mereka. Untungnya, kini banyak sekolah di Indonesia yang cepat beradaptasi dan melihat bahwa esports memang bisa memberikan pengaruh positif jika dikelola dengan baik. Recardus Eko Prasetyo, S.Ag., Wakil Kepala Sekolah Bidang Kesiswaan SMA Xaverius 1 Palembang, berbagi cerita tentang pen...

Unboxing Review Vortex Series VX5 Mechanical Keyboard

Anda gemar bermain game PC? Kalau ya, pasti Anda paham bahwa bermain game PC akan terasa maksimal nikmatnya kalau dimainkan dengan menggunakan keyboard, khususnya keyboard gaming. Apalagi mechanical keyboard. Mechanical keyboard sendiri pun terdiri dari berbagai dimensi. Mulai dari full size mechanical keyboard, sampai ke 60% yang sekarang sangat populer karena ringan, portabel dan tetap menawarkan sensasi clicky yang mantap. Nah, buat Anda yang memiliki laptop, atau bisa juga PC desktop dan ingin bermain game, ada salah satu mechanical keyboard compact yang relatif terjangkau di pasaran, yakni Vortex Series VX5 Mechanical Keyboard. Seperti apa keyboard ini? Ya, kali ini kita akan mereview keyboard mechanical Vortex Series VX5 Mechanical Keyboard. Keyboard mechanical ini datang di dalam packaging seperti di atas. Desain Pada kemasannya, tercantum bahwa keyboard ini menyediakan pengalaman full RGB, bisa diprogram dengan software, memiliki N-key rollover key dan bisa menyimpan samp...

Google Catat Rekor Pencarian Baru Berkat Dramatisnya Kemenangan Argentina di Piala Dunia

Google mencatat rekor penggunaan mesin pencari tertinggi sepanjang sejarah setelah kemenangan dramatis tim nasional Argentina pada babak gugur Piala Dunia. Lonjakan trafik terjadi sesaat setelah Argentina memastikan kemenangan melalui gol penentu yang lahir di penghujung pertandingan. Rekor penggunaan mesin pencari tersebut menunjukkan bahwa turnamen sepak bola terbesar di dunia masih menjadi pemicu utama aktivitas pencarian di internet. Kepala divisi Knowledge and Information Google, Nick Fox, mengungkapkan bahwa Google Search mencatat tingkat penggunaan tertinggi yang pernah terjadi tepat setelah gol kemenangan Argentina tercipta. Meski tidak mengungkapkan jumlah pasti, Google menyebut momen tersebut menghasilkan jumlah kueri per detik (queries per second) tertinggi dalam sejarah layanan pencariannya. Pencapaian ini menjadi sinyal penting bagi Google yang saat ini menghadapi persaingan ketat dari layanan berbasis kecerdasan buatan (AI). Di tengah meningkatnya popularitas chatbot AI s...

Samsung Ikuti TSMC Naikkan Harga Produksi Chip AI Hingga 15 Persen

Permintaan chip kecerdasan buatan atau AI yang terus melonjak mulai mengubah peta industri semikonduktor global. Jika sebelumnya produsen chip harus menyesuaikan kapasitas produksi berdasarkan permintaan pelanggan, kini situasinya berbalik.  Tingginya kebutuhan chip AI membuat kapasitas manufaktur menjadi aset yang langka sehingga produsen seperti Samsung dan TSMC memiliki posisi tawar yang jauh lebih kuat untuk menaikkan harga. Laporan media Korea menyebutkan Samsung mulai menaikkan harga wafer untuk sejumlah proses fabrikasi, terutama teknologi 4 nanometer dan 5 nanometer. Kenaikan harga diperkirakan mencapai sekitar 15 persen dan difokuskan pada node yang banyak digunakan untuk memproduksi chip AI serta prosesor kelas premium. Berbeda dengan Samsung, TSMC sebelumnya dilaporkan menerapkan kenaikan harga yang lebih luas, termasuk pada proses fabrikasi 7 nanometer, dengan besaran sekitar 5 hingga 10 persen. Analis industri menilai perubahan ini mencerminkan pergeseran dari pasar be...

Download Windows 10 ISO versi Lite Alias Ringan

Anda kesal karena laptop atau PC desktop Anda lemot padahal punya spek yang tidak jelek? Jangan dulu membuang laptop atau upgrade komponen PC desktop tersebut. Siapa tau yang membuatnya berat adalah sistem operasi Windows 10-nya yang kegemukan. Selain format dan install ulang, ada cara lain yang lebih efektif dalam membuat komputer kita bekerja seperti layaknya baru beli. Caranya adalah download Windows 10 ISO versi ringan. Lho, apa bedanya? Kalau kita memilih untuk download Windows 10 ISO versi ringan dan instalasikan di PC kita, maka fitur-fitur, fungsi atau aplikasi yang jarang digunakan, sudah ditiadakan. Selain lebih hemat ruang di harddisk, dibuangnya fitur-fitur yang tidak berguna tersebut akan membuat PC atau laptop spek rendah pun bisa menjalankan Windows 10 dengan lancar. Download Windows 10 Terbaru October 2020 Update Lalu, apa saja yang ada di Windows 10 versi Lite alias versi Ringan tersebut? Nah ini dia: Windows 10 SuperLite Compact (Gaming Edition) x64 – ...