Aplikasi serupa dengan ChatGPT digunakan para hacker di dunia maya untuk melancarkan aksinya. Namanya adalah WormGPT. Aplikasi berbasis AI tersebut dirancang untuk menghasilkan teks mirip buatan manusia yang dapat digunakan untuk scam.
Seperti biasa, calon korban akan diberikan link atau tautan yang membuat hacker bisa melakukan kejahatannya. Kabar buruknya, dengan bantuan aplikasi WormGPT, para hacker ini bisa melancarkan serangannya dengan skala besar yang belum pernah terlihat sebelumnya.
Menurut temuan dari lama SlashNext, aplikasi AI generatif baru yang disebut WormGPT telah diiklankan di forum underground yang berada di dark web sebagai amunisi untuk meluncurkan serangan phishing dan kompromi email bisnis (BEC) yang canggih.
Para hacker ini menggunakan teknologi tersebut untuk mengotomatiskan
pembuatan email palsu yang sangat meyakinkan, dipersonalisasi untuk
calon korbannya, sehingga meningkatkan peluang keberhasilan yang lebih
baik.
Developer perangkat lunak menggambarkannya sebagai "musuh terbesar dari ChatGPT terkenal" dan "memungkinkan para penjajat melakukan segala macam hal ilegal." Aplikasi semacam ini juga menggunakan model bahasa open-source GPT-J yang dikembangkan oleh EleutherAI.
Oleh para hacker, alat seperti WormGPT bisa menjadi senjata yang ampuh, terutama karena OpenAI ChatGPT dan Google Bard semakin mengambil langkah untuk memerangi penyalahgunaan model bahasa besar (LLM) untuk mengarang email phishing yang meyakinkan dan menghasilkan kode berbahaya.
Pembatasan anti-penyalahgunaan Bard di bidang keamanan siber secara signifikan lebih rendah dibandingkan dengan ChatGPT. Akibatnya, aplikasi ini jauh lebih mudah untuk menghasilkan konten jahat menggunakan kemampuan Bard.
Baca juga:
- Elon Musk Akui Hampir Rusak Twitter
- Bocoran Intel 15th Generation Arrow Lake
- Apa Itu Truecaller, Aplikasi Tracker Cellphone Peredam Scammer
Artinya personifikasi dalam email Yaang dihasilkan AI jahat ini bisa jadi meyakinkan calon korbannya dengan kecepatan yang hampir instan. Lebih buruk lagi, para hacker juga mempromosikan "jailbreak" di ChatGPT, yang secara efektif merekayasa permintaan dan masukan yang dirancang untuk mengungkapkan informasi sensitif, menghasilkan konten yang tidak pantas, atau membuat kode berbahaya.
Pengenalan WormGPT di dark web terjadi ketika para peneliti dari Mithril Security memodifikasi model AI sumber terbuka yang ada, dijuluki PoisonGPT, untuk menyebarkan disinformasi.
Dampak dari teknologi semacam itu belum terlihat, tetapi mengingat kemampuan AI yang sudah sangat memprihatinkan karena kecepatan berkembangnya yang luar biasa bisa jadi menghasilkan disinformasi dan misinformasi, mengubah opini publik, dan bahkan mempengaruhi kampanye politik dan hal lainnya