Kecerdasan buatan (AI) telah menjadi salah satu teknologi paling inovatif dan berdampak di abad ke-21. AI dapat membantu manusia dalam berbagai bidang, mulai dari pendidikan, kesehatan, hingga hiburan. Namun, AI juga memiliki sisi gelap yang dapat dimanfaatkan oleh para pelaku kejahatan siber untuk tujuan jahat.
.
Salah satu contoh AI yang berpotensi menimbulkan ancaman siber adalah ChatGPT, sebuah model bahasa besar (LLM) yang dapat menghasilkan teks secara otomatis berdasarkan masukan yang diberikan. ChatGPT dibuat oleh OpenAI, sebuah organisasi penelitian AI yang didirikan oleh tokoh-tokoh terkenal seperti Elon Musk dan Peter Thiel.
Salah satu contoh AI yang berpotensi menimbulkan ancaman siber adalah ChatGPT, sebuah model bahasa besar (LLM) yang dapat menghasilkan teks secara otomatis berdasarkan masukan yang diberikan. ChatGPT dibuat oleh OpenAI, sebuah organisasi penelitian AI yang didirikan oleh tokoh-tokoh terkenal seperti Elon Musk dan Peter Thiel.
.
ChatGPT diluncurkan pada November 2022 dan segera menarik perhatian publik karena kemampuannya yang luar biasa dalam berkomunikasi dengan manusia melalui teks. ChatGPT dapat menulis teks dalam berbagai bahasa, gaya, dan topik dengan ejaan dan tata bahasa yang baik. ChatGPT juga dapat meniru gaya penulisan orang-orang terkenal, seperti Barack Obama, J.K. Rowling, atau Taylor Swift.
ChatGPT diluncurkan pada November 2022 dan segera menarik perhatian publik karena kemampuannya yang luar biasa dalam berkomunikasi dengan manusia melalui teks. ChatGPT dapat menulis teks dalam berbagai bahasa, gaya, dan topik dengan ejaan dan tata bahasa yang baik. ChatGPT juga dapat meniru gaya penulisan orang-orang terkenal, seperti Barack Obama, J.K. Rowling, atau Taylor Swift.
.
Namun, ChatGPT juga dapat digunakan untuk tujuan yang tidak baik, seperti membuat email phishing, malware, atau skrip dark market. Para peneliti keamanan dari Kaspersky telah mengamati lonjakan diskusi di Dark Web mengenai penggunaan ilegal ChatGPT dan LLM lainnya, menurut temuan dari layanan Digital Footprint Intelligence mereka pada tahun 2023.
Namun, ChatGPT juga dapat digunakan untuk tujuan yang tidak baik, seperti membuat email phishing, malware, atau skrip dark market. Para peneliti keamanan dari Kaspersky telah mengamati lonjakan diskusi di Dark Web mengenai penggunaan ilegal ChatGPT dan LLM lainnya, menurut temuan dari layanan Digital Footprint Intelligence mereka pada tahun 2023.
.
Hampir 3000 postingan Dark Web diidentifikasi, berfokus pada spektrum ancaman siber, mulai dari membuat versi chatbot jahat hingga mengeksplorasi proyek alternatif seperti XXXGPT dan FraudGPT. Meskipun puncak percakapan terjadi pada Maret tahun lalu, diskusi yang sedang berlangsung menunjukkan minat yang berkelanjutan dalam mengeksploitasi teknologi AI untuk aktivitas ilegal.
Hampir 3000 postingan Dark Web diidentifikasi, berfokus pada spektrum ancaman siber, mulai dari membuat versi chatbot jahat hingga mengeksplorasi proyek alternatif seperti XXXGPT dan FraudGPT. Meskipun puncak percakapan terjadi pada Maret tahun lalu, diskusi yang sedang berlangsung menunjukkan minat yang berkelanjutan dalam mengeksploitasi teknologi AI untuk aktivitas ilegal.
.
Menurut data yang dibagikan oleh Kaspersky dengan Infosecurity Magazine, para pelaku kejahatan siber secara aktif mengeksplorasi berbagai skema untuk menerapkan ChatGPT dan AI, termasuk pengembangan malware dan jenis penggunaan bahasa model yang tidak sah lainnya, seperti pemrosesan data pengguna yang dicuri, parsing file dari perangkat yang terinfeksi, dan sebagainya.
Menurut data yang dibagikan oleh Kaspersky dengan Infosecurity Magazine, para pelaku kejahatan siber secara aktif mengeksplorasi berbagai skema untuk menerapkan ChatGPT dan AI, termasuk pengembangan malware dan jenis penggunaan bahasa model yang tidak sah lainnya, seperti pemrosesan data pengguna yang dicuri, parsing file dari perangkat yang terinfeksi, dan sebagainya.
.
Selain itu, para pelaku kejahatan siber cenderung berbagi jailbreak melalui berbagai saluran Dark Web - serangkaian perintah yang dapat membuka fungsi tambahan - dan merancang cara untuk mengeksploitasi alat-alat sah, seperti yang digunakan untuk pen-testing, berdasarkan model untuk tujuan jahat.
Selain itu, para pelaku kejahatan siber cenderung berbagi jailbreak melalui berbagai saluran Dark Web - serangkaian perintah yang dapat membuka fungsi tambahan - dan merancang cara untuk mengeksploitasi alat-alat sah, seperti yang digunakan untuk pen-testing, berdasarkan model untuk tujuan jahat.
.
Temuan lain yang diungkapkan oleh Kaspersky adalah pasar untuk akun ChatGPT yang dicuri, dengan tambahan 3000 postingan yang menawarkan akun-akun ini untuk dijual di seluruh Dark Web . Pasar ini menimbulkan ancaman signifikan bagi pengguna dan perusahaan, dengan postingan yang baik mendistribusikan akun yang dicuri maupun mempromosikan layanan auto-registrasi yang membuat akun secara massal sesuai permintaan.
Temuan lain yang diungkapkan oleh Kaspersky adalah pasar untuk akun ChatGPT yang dicuri, dengan tambahan 3000 postingan yang menawarkan akun-akun ini untuk dijual di seluruh Dark Web . Pasar ini menimbulkan ancaman signifikan bagi pengguna dan perusahaan, dengan postingan yang baik mendistribusikan akun yang dicuri maupun mempromosikan layanan auto-registrasi yang membuat akun secara massal sesuai permintaan.
.
Sebagai tanggapan terhadap temuan ini, Kaspersky merekomendasikan untuk menerapkan solusi keamanan endpoint yang andal dan layanan khusus untuk memerangi serangan berprofil tinggi dan meminimalkan konsekuensi potensial.
gambar
Sebagai tanggapan terhadap temuan ini, Kaspersky merekomendasikan untuk menerapkan solusi keamanan endpoint yang andal dan layanan khusus untuk memerangi serangan berprofil tinggi dan meminimalkan konsekuensi potensial.
gambar
