Langsung ke konten utama

Chat with RTX adalah “ChatGPT Versi Offline” dari Nvidia

Ada kabar menarik nih guys. Nvidia, produsen chip grafis terkemuka dunia baru saja merilis aplikasi chatbot berbasis kecerdasan buatan alias rtificial intelligence (AI) untuk komputer (PC) yang diberi nama "Chat with RTX".

Yang menarik, berbeda dengan ChatGPT, aplikasi ini sejatinya merupakan asisten pribadi digital yang bekerja secara lokal di komputer/PC, bukan di-cloud.

Chat with RTX sendiri menawarkan berbagai layanan, antara lain pengguna bisa mengunggah dokumen di PC dengan format file .txt, .pdf, .doc/.docx, dan .xml, kemudian meminta Chat with RTX untuk merangkumnya. 



Sebagai contoh, pengguna dapat meng-upload file meeting kemudian menanyakan pertanyaan spesifik, seperti: "Apa nama tempat yang direkomendasikan rekan kerja saya?". Nantinya, chatbot akan mencari jawaban pertanyaan itu langsung dari dokumen yang diberikan, sehingga pengguna tidak usah mencari jawaban tersebut secara manual.

Selain merangkum file, Chat with RTX juga bisa merangkum video YouTube yang diberikan dalam bentuk tautan (link). Misalnya, pengguna bisa menanyakan "Apa saja GPU yang diumumkan Nvidia di Consumer Electronics Show (CES) 2024?", sehingga tidak usah menonton video pengumuman resminya yang berdurasi hingga 30 menit.

Chat with RTX juga bisa menganalisis dokumen pengguna dan merangkum video YouTube. Pengguna dapat juga meminta rekomendasi tempat wisata "hidden gem" yang wajib dikunjungi dari berbagai kreator konten di YouTube, atau meminta tutorial cara membuat kue.
 
Dengan begitu, pengguna mendapatkan informasi yang dibutuhkan secara lebih efisien. Melihat kegunaannya, bisa dibilang bahwa Chat with RTX memiliki kemiripan dengan chatbot Gemini milik Google atau ChatGPT bikinan OpenAI.

Harus Menggunakan Nvidia RTX 3000 atau 4000 series
Adapun Chat with RTX menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM, yang didukung oleh unit pengolah grafis (GPU) Nvidia RTX 3000 atau 4000 series dan diakselerasi oleh inti Tensor built-in.

Chat with RTX mengandalkan GPU dengan VRAM 8GB, RAM 16GB, sistem operasi (OS) Windows 10 atau 11, serta driver GPU Nvidia teranyar (versi 535.11 atau lebih baru). Pengguna juga memerlukan media penyimpanan seluas 35GB.

File lokal di komputer pengguna nantinya dihubungkan (upload) ke model bahasa besar (large language model/LLM) open-source seperti Mistral atau Llama 2, yang disebut bisa memberikan jawaban yang cepat dan relevan secara kontekstual. 

Baca juga:


Nah, tugas retrieval augmented generation adalah meningkatkan akurasi dan reliabilitas model AI generatif, sedangkan Nvidia TensorRT-LLM mengoptimalkan kinerja inferensi model bahasa besar terbaru dalam platform Nvidia AI.

Chat with RTX dijalankan langsung di PC dan workstation Nvidia RTX, sehingga data pengguna hanya akan disimpan di perangkat saja. Chat with RTX tidak mengandalkan LLM berbasis cloud, sehingga pengguna bisa memproses data sensitif di PC tanpa harus membagikannya ke pihak ketiga.

Pengguna juga tidak perlu koneksi internet saat menggunakan Chat with RTX. Bisa diunduh gratis Tampilan Chat with RTX Lihat Foto Tampilan Chat with RTX(Nvidia) Pengguna yang sudah memenuhi minimum spesifikasi Chat with RTX bisa mengunduhnya secara gratis.

Sebagai informasi, aplikasi ini masih bersifat demo, sehingga masih terasa kurang apabila dibandingkan chatbot kenamaan lainnya. Proses instalasinya membutuhkan kesabaran, dan aplikasinya disebut boros daya. Selain itu, Chat with RTX tidak mengingat konteks pembicaraan, sehingga pengguna tidak bisa menanyakan pertanyaan lanjutan dari pertanyaan yang sudah diajukan.

Postingan Populer

Siap-siap, Meta Akan Pecat 8.000 Karyawan Bulan Depan

Meta Platforms dilaporkan tengah menyiapkan gelombang pemutusan hubungan kerja (PHK) besar yang bisa dimulai pada 20 Mei 2026. Tahap awal disebut menyasar sekitar 10 persen dari total tenaga kerja global, atau kurang lebih 8.000 karyawan dari basis sekitar 79.000 orang.  Jika berlanjut sesuai rencana, total pemangkasan bahkan berpotensi mencapai 20 persen. Sebuah angka yang akan menandai restrukturisasi paling agresif sejak gelombang PHK 2022–2023. Di balik langkah ini, alasan utamanya cukup jelas, biaya infrastruktur AI yang melonjak tajam. Di bawah kepemimpinan Mark Zuckerberg, Meta sedang mengalihkan fokus bisnisnya secara masif ke kecerdasan buatan. Perusahaan merombak struktur internal, termasuk memindahkan banyak insinyur dari divisi Reality Labs ke unit baru bernama Applied AI, yang difokuskan pada pengembangan agen AI otonom, mulai dari penulisan kode hingga otomatisasi tugas kompleks. Namun, narasi “efisiensi” ini tidak sepenuhnya tanpa kritik. Menggantikan sebagian fungsi...

Nvidia Boncos. Biaya Klaim Garansi Tembus 894 Juta Dolar

Lonjakan biaya garansi GPU mulai mengungkap sisi lain dari booming AI yang selama ini terlihat “sempurna”. Data dari Warranty Week menunjukkan Nvidia harus membayar klaim garansi hingga 11 kali lebih besar dalam periode 2024–2025. Angka itu melonjak dari sekitar $81 juta menjadi $894 juta. Sementara itu, AMD juga mengalami kenaikan signifikan, meski “hanya” naik 116 persen menjadi $238 juta. Kenaikan ini tidak bisa dianggap sebagai fluktuasi biasa. Secara struktural, klaim, cadangan, dan akrual garansi meningkat hampir satu orde magnitudo dalam setahun. Yang paling mencolok adalah lonjakan pada kuartal keempat 2025, ketika Nvidia menggelontorkan $511 juta hanya untuk klaim. Sebuah indikasi bahwa sesuatu dalam rantai produk atau penggunaan mulai “retak”. Di atas kertas, vendor GPU memiliki perlindungan. Aktivitas seperti crypto mining secara eksplisit membatalkan garansi, sementara penggunaan AI umumnya masih dianggap wajar, meski batasnya makin kabur ketika beban kerja terus mendorong ...

Review Asus ExpertBook P1403CVA. Laptop Bisnis Terjangkau untuk Jangka Panjang

Dalam beberapa bulan terakhir, industri laptop menghadapi tantangan besar akibat kenaikan harga komponen, terutama RAM dan SSD. Permintaan global terhadap memori dan penyimpanan meningkat seiring transformasi digital, cloud computing, serta tren kerja hybrid.  Situasi tersebut diperparah oleh ketidakstabilan rantai pasok, sehingga harga komponen menjadi fluktuatif. Dampaknya, banyak produsen laptop harus melakukan penyesuaian konfigurasi, bahkan di segmen premium sekalipun. Menariknya, kondisi tersebut justru mempercepat pertumbuhan pasar laptop bisnis. Banyak perusahaan dan profesional mulai beralih dari laptop consumer ke perangkat profesional yang dirancang lebih tahan lama.  Fokus tidak lagi pada spesifikasi tinggi di awal, melainkan efisiensi investasi dalam jangka panjang. Laptop bisnis menawarkan daya tahan, keamanan, serta fleksibilitas upgrade yang menjadi semakin penting. Kenaikan harga RAM dan SSD juga membuat konsep modular menjadi nilai utama. Laptop bisnis sepert...

Naik Harga, Microsoft Surface Kini Jadi Flagship

Microsoft diam-diam menaikkan harga lini Surface generasi terbarunya, dan skalanya bukan sekadar penyesuaian kecil. Kenaikan hingga 500 dolar AS pada model seperti Surface Laptop 7 dan Surface Pro 11 secara efektif menggeser positioning perangkat ini dari “premium terjangkau” menjadi hampir setara dengan kelas flagship. Alasan resmi Microsoft mengacu pada kenaikan biaya komponen dan memori. Itu masuk akal dalam konteks industri, tetapi tidak sepenuhnya menjelaskan lonjakan harga yang agresif.  Ketika model entry seperti Surface Pro 12 inci naik dari $799 ke $1.049, dan varian 13 inci melonjak ke $1.499, ini bukan lagi sekadar inflasi biaya, ini adalah reposisi harga secara strategis. Masalahnya, reposisi ini terjadi di momen yang kurang ideal. Di segmen yang sama, MacBook Air justru masih menawarkan harga lebih rendah dengan efisiensi dan ekosistem yang sudah matang. Bahkan untuk kelas atas, konfigurasi Surface Laptop dengan Snapdragon X Elite yang menyentuh $3.649 kini harus berha...

Bersama Tri, RRQ kembali terlibat dalam H3RO Esports 6.0

Team RRQ kembali menegaskan perannya dalam pengembangan talenta melalui keterlibatan di H3RO Esports 6.0 bersama Tri Indonesia. Program ini tidak lagi sekadar turnamen komunitas, melainkan mulai berfungsi sebagai pipeline terstruktur menuju level profesional. Sepanjang pelaksanaannya, H3RO Esports telah menjaring puluhan ribu pemain dari berbagai daerah. Pada edisi 6.0 saja, tercatat 2.786 rookie terverifikasi ikut serta. Namun angka besar ini hanya menjadi pintu masuk dari proses seleksi yang jauh lebih ketat, mulai dari fase kompetisi awal hingga evaluasi lanjutan oleh tim profesional seperti RRQ dan HFX. Pendekatan seleksi yang digunakan juga semakin kompleks. Selain menilai kemampuan mekanik, proses ini mencakup aspek kognitif, daya tahan, hingga kesiapan mental pemain. RRQ bahkan memanfaatkan pendekatan berbasis data melalui CoachGPT yang dibangun di atas ChatGPT untuk memperkaya analisis performa. Ini menunjukkan bahwa proses scouting esports kini bergerak ke arah yang lebih teru...