Lebih dari 1 Juta Email Menggunakan Teks Tersembunyi untuk Mengelabui Filter Keamanan AI
Peretas menggunakan teknik penambahan "salt" pada teks untuk menghindari pemeriksaan keamanan email, baik yang statis maupun yang didukung oleh kecerdasan buatan.
Sejak April, para peneliti di Barracuda Networks mengamati lebih dari 1 juta email phishing bertema ritel yang menggunakan teks tersembunyi untuk membuat rekayasa sosial berbahaya tampak sah bagi filter keamanan otomatis. Ini adalah trik lama yang sederhana dan kini bekerja lebih baik dari sebelumnya, berkat keunggulan asimetris yang diberikan oleh model bahasa besar (LLM). LLM membantu penyerang menyisipkan "salt" (penambahan informasi tersembunyi) ke dalam email phishing mereka lebih cepat dan lebih efektif dari sebelumnya, sementara mesin analisis konten berbasis AI yang mereka hadapi tampaknya tidak memberikan perlawanan yang berarti.
"Penyisipan garam ke dalam teks tampak sederhana, tetapi penggunaannya yang berkelanjutan dan terus meningkat menunjukkan bahwa teknik ini tetap efektif," kata Peterson Gutierrez, wakil presiden keamanan informasi di Barracuda. "Teknik yang banyak orang kaitkan dengan penghindaran filter spam lama juga dapat memengaruhi deteksi berbasis AI modern."
Mengupas Lebih Dalam Filter Keamanan Email
Email yang dilihat oleh para peneliti Barracuda menggunakan trik rekayasa sosial yang jelas, menjanjikan hadiah, poin, dan kartu hadiah kepada target. Mereka menyajikan penawaran mendesak untuk membuat orang mengklik tautan berbahaya. Dari segi penyajian, email-email ini bahkan lebih asal-asalan. Desain dan format peniruan mereknya tidak rapi atau detail. Jadi, jika email-email ini jelas-jelas sampah, bagaimana mereka bisa lolos dari filter spam dan sampai ke kotak masuk orang-orang?
Secure Email Gateway (SEG) adalah penjaga keamanan untuk kotak masuk email, menggunakan aturan apa pun yang mereka ketahui untuk memutuskan apakah akan mengizinkan masuknya email. Bagian yang mudah dari pekerjaan ini melibatkan pemeriksaan sinyal yang sederhana: Apakah domain pengirim email sah, dan apakah mereka menggunakan protokol otentikasi standar industri? Dalam hal ini, kampanye yang diamati oleh Barracuda beragam tetapi sebagian besar sudah tepat sasaran. Mereka biasanya menggunakan DomainKeys Identified Mail (DKIM) standar untuk otentikasi, dan sementara beberapa domain pengirim menyerupai merek, yang lain berasal dari situs web yang diretas tetapi sah.
Bagian tersulit dari pekerjaan SEG melibatkan interpretasi konten: mencari bahasa yang berbahaya atau spam dengan menyaring frasa tertentu — "XXX" atau "Selamat!" dan pola penggunaan kata — bahasa ala penjual, referensi berlebihan terhadap uang, format yang mencurigakan, penggunaan huruf kapital semua, dan penggunaan simbol tertentu yang berlebihan. Secara kasat mata, email yang lolos dari gerbang keamanan email saat ini memang menggunakan bahasa seperti ini. Namun, di balik layar, SEG tidak mendeteksinya.
Menggunakan Salting untuk Mengalahkan SEGs
SEG tidak melihat tampilan visual email, mereka melihat data yang dapat dibaca mesin di baliknya. Jadi, jika tujuannya adalah untuk menghindari deteksi, upaya penyerang akan salah arah jika mencoba membuat email terlihat sah secara visual.
Sebaliknya, mereka memanipulasi kode HTML yang mendasarinya. Mereka mengacaukan gerbang keamanan dengan menyisipkan konten spam dengan konten yang tidak berbahaya. Ini bisa berarti menyisipkan kata-kata mencurigakan seperti "mendesak" atau "hadiah" dengan kata-kata yang baik seperti "anak anjing" atau "buku." Ini bisa berarti menyisipkan cerita acak atau bagian panjang teks biasa untuk memecah paragraf spam.
Tentu saja, jika orang yang membaca email melihat "Urbookgent! Hadiah anak anjing Anda akan segera berakhir," kemungkinan besar mereka tidak akan melanjutkan membaca. Teks harus disembunyikan dari pandangan, dan ada berbagai cara untuk melakukannya. Pelaku phishing dapat mengecilkan teks pengisi yang tidak berbahaya menjadi ukuran font nol, atau menempatkannya di dalam jendela tampilan dengan tinggi nol dan lebar nol. Mereka dapat membuat teks meluap keluar layar , dan menyembunyikan bilah gulir horizontal sehingga korban tidak menyadari ada lebih banyak konten di sebelah kanan.
Perangkat keamanan modern mengetahui tentang penambahan "salt" pada teks dan mencoba untuk mengungkap teks yang tersembunyi. Secara garis besar, cara kerjanya sama seperti penyaringan konten: mencari aturan HTML atau CSS yang membuat teks tidak terlihat oleh pengguna. Untuk mengatasi hal ini, peretas hanya menggabungkan beberapa teknik penambahan "salt" satu di atas yang lain, sehingga ketika satu teknik gagal, teknik lain mungkin berhasil.
Mesin keamanan AI tidak hanya berkinerja buruk terhadap salting, tetapi AI juga yang membuat teknik ini lebih mudah dan cepat untuk diproduksi, karena LLM memungkinkan penyerang untuk menghasilkan teks dan memodifikasi kode dengan kecepatan yang tidak dapat mereka capai dengan cara lain.
"Untuk mencegah hal ini diperlukan lebih dari sekadar memindai kata kunci yang mencurigakan atau indikator yang jelas," kata Gutierrez. "Alat keamanan perlu mengevaluasi konteks lengkap pesan, termasuk hubungan antara konten yang terlihat, teks tersembunyi atau berlebihan, tautan, perilaku pengirim, dan tindakan yang ingin dipicu oleh email tersebut."
