Di DEF CON 32, Harriet Farlow memperkenalkan pendekatan baru dalam memahami keamanan kecerdasan buatan (AI). Presentasinya bertajuk “On Your Ocean’s 11 Team, I’m the AI Guy (Technically Girl)” mengeksplorasi bagaimana AI dan keamanan siber saling bertautan, khususnya dalam konteks kasino. Ia menjelaskan kerentanan sistem AI yang sering kali diabaikan oleh organisasi, termasuk bagaimana teknologi seperti pengenalan wajah dapat dimanipulasi.

Konteks AI dalam Keamanan Kasino

Kasino adalah salah satu tempat yang paling diatur ketat dalam hal pengamanan, mengingat sifat bisnisnya yang melibatkan uang dalam jumlah besar. Dengan adopsi AI, banyak kasino mengintegrasikan teknologi ini untuk memantau aktivitas pelanggan dan mendeteksi ancaman, seperti pencucian uang dan penipuan.

1. Pengenalan Wajah dan Deteksi Orang
   • Kasino menggunakan pengenalan wajah untuk mendeteksi pelanggan tertentu, seperti penjudi bermasalah atau individu yang dilarang masuk.
   • Sistem ini membantu mengelola keamanan secara proaktif.
2. Kerentanan AI dalam Sistem Keamanan
   • Teknologi AI dalam kasino sering kali bergantung pada model open-source yang rentan terhadap serangan.
   • Penggunaan algoritma serupa oleh banyak organisasi menciptakan kesamaan model yang mudah dieksploitasi.

Teknik Hacking AI: Adversarial Machine Learning

Adversarial Machine Learning adalah metode yang digunakan untuk memanipulasi model AI dengan input yang dirancang khusus agar sistem memberikan hasil yang salah.

Studi Kasus: Hacking Pengenalan Wajah

1. Konsep:
   • Dengan menambahkan gangguan kecil pada gambar, model AI dapat dibuat untuk salah mengenali objek atau wajah.
   • Contoh: Menggunakan pola tertentu dalam pakaian atau perhiasan untuk mengelabui pengenalan wajah.
2. Langkah-Langkah:
   • Identifikasi Model Target: Pilih model yang digunakan untuk mendeteksi wajah.
   • Analisis Kerentanan: Temukan titik lemah dalam algoritma model.
   • Implementasi Serangan: Tambahkan pola gangguan yang tidak terlihat oleh mata manusia tetapi memengaruhi hasil AI.
3. Hasil:
   • Serangan sederhana ini dapat mengurangi kepercayaan model hingga 40%, cukup untuk mengelabui sistem keamanan.

Mengatasi Kerentanan AI

Meskipun serangan terhadap AI tampak kompleks, ada langkah-langkah yang dapat diambil untuk memperkuat keamanan sistem:

1. Evaluasi Model AI:
   • Lakukan pengujian keamanan untuk menemukan kerentanan pada model sebelum diimplementasikan.
   • Simulasikan serangan untuk mengidentifikasi titik lemah.
2. Peningkatan Protokol Keamanan:
   • Terapkan metode pengamanan tambahan, seperti enkripsi dan firewall, pada sistem AI.
   • Pastikan data pelatihan AI berasal dari sumber terpercaya untuk mengurangi risiko manipulasi.
3. Peningkatan Regulasi:
   • Dorong regulasi yang mewajibkan penyedia AI untuk menjamin keamanan model mereka.
   • Libatkan tim keamanan siber dalam pengembangan dan implementasi AI.

Presentasi di DEF CON 32 menyoroti kebutuhan mendesak untuk meningkatkan keamanan AI, terutama dalam sektor seperti kasino yang sangat bergantung pada teknologi ini. Dengan memahami kerentanan dan mengambil langkah proaktif, organisasi dapat melindungi aset digital mereka dan mengurangi risiko yang disebabkan oleh eksploitasi AI. Dalam dunia yang semakin bergantung pada kecerdasan buatan, keamanan harus menjadi prioritas utama.