LONDON – Laporan terbaru menunjukkan bahwa generative Artificial Intelligence i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, lalu aktivitas jahat lainnya.
Salah satu serangan yang dimaksud teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini dilaksanakan oleh aktor ancaman dengan syarat China yang mana berusaha mencapai pemerintah di area Asia.
Seperti dilansir dari CNET, metode spear-phishing yang tersebut digunakan dikenal dengan nama ‘SweetSpecter’, yang tersebut melibatkan pengiriman file ZIP berisi file berbahaya.
Jika diakses dan juga dibuka, file ini dapat menciptakan rantai infeksi di dalam sistem pengguna. Open Artificial Intelligence menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang digunakan memanfaatkan Asisten Percakapan GPT untuk menulis skrip serta menemukan kerentanan dengan alat LLM.
Serangan berbasis Kecerdasan Buatan kedua dilaksanakan oleh kelompok selama Iran yang mana dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Pengolah Bahasa Alami GPT untuk mengeksploitasi kerentanan kemudian mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang dipimpin oleh kelompok lain dengan syarat Iran bernama Storm-0817, memanfaatkan Pengolah Bahasa Alami GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan serta riwayat penelusuran, mendapatkan lokasi tepat perangkat, dan juga mengakses file dalam perangkat yang mana terinfeksi.
Meskipun semua serangan ini menggunakan metode yang telah ada untuk mengembangkan malware, laporan yang disebutkan menyatakan bahwa tidaklah ada indikasi bahwa Asisten Percakapan GPT menciptakan malware baru yang digunakan substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Teknologi AI untuk menghasilkan alat serangan yang berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Kecerdasan Buatan generatif.
OpenAI mengonfirmasi bahwa merekan akan terus meningkatkan keamanan Artificial Intelligence merekan untuk menghindari metode-metode mirip digunakan pada masa depan.
Selain itu, dia akan bekerja mirip dengan kelompok keamanan internal kemudian terus berbagi temuan dengan rekan sektor juga komunitas riset guna mengurangi situasi sejenis terulang.
