Pijat layanan bertenaga AI telah membuka pintu bagi banyak kemungkinan di hampir setiap bidang industri teknologi dan pasar konsumen. Dari mengedit gambar yang mudah hingga merangkum dokumen panjang, kecerdasan buatan hanya membuat segalanya lebih mudah. Namun, aktor jahat juga memiliki akses ke teknologi ini. Dalam sebuah laporan baru -baru ini, Google mengungkapkan bahwa alat AI -nya telah digunakan untuk menghasilkan konten terorisme Deepfake.
Di Australia, perusahaan teknologi besar diharuskan secara berkala mengirimkan laporan tentang upaya-upaya mereka yang merugikan tentang penggunaan perkembangan mereka kepada pihak berwenang. Komisi Esafety Australia bertugas menerima dan menganalisis laporan ini. Pelanggaran undang -undang yang berulang -ulang memaparkan perusahaan terhadap denda atau sanksi potensial.
Google mengungkapkan bahwa Gemini telah menghasilkan terorisme Deepfake dan materi pelecehan anak
Laporan keamanan terbaru Google mencakup periode dari April 2023 hingga Februari 2024. Menurut Badan Australia, teknologi Mountain View's Giant bertanggung jawab untuk menghasilkan konten terorisme AI Deepfake. Selain itu, laporan Google menyebutkan penggunaan Gemini untuk menghasilkan materi pelecehan anak.
“Ini menggarisbawahi betapa pentingnya bagi perusahaan yang mengembangkan produk AI untuk membangun dan menguji kemanjuran perlindungan untuk mencegah jenis material ini dihasilkan”Kata Julie Inman, Komisaris Esafety Julie Inman Grant.
Google mengatakan menerima 258 laporan kasus konten AI Deepfake yang terkait dengan terorisme atau ekstremisme kekerasan. Ada juga 86 laporan kasus aktor jahat yang menghasilkan eksploitasi anak atau materi pelecehan dengan Gemini. Google lebih ketat dalam menghilangkan materi eksploitasi anak. Perusahaan menggunakan sistem pencocokan palka untuk mendeteksi gambar tersebut dan menghapusnya secepat mungkin. Namun, Google tidak menerapkan teknologi pada konten terkait ekstremisme.
Salah satu tujuan utama regulator mengenai kecerdasan buatan adalah bagi perusahaan untuk membangun perisai yang lebih ketat untuk mencegah penciptaan jenis materi ini. Kedatangan chatgpt pada tahun 2022 meningkatkan kekhawatiran pertama dalam hal ini. Namun, bertahun -tahun kemudian, tampaknya masalahnya masih ada, meskipun mungkin pada tingkat yang lebih rendah.
Komisi Australia telah menyetujui telegram dan x
Komisi Esafety memuji Google karena transparansi dalam mengungkapkan penggunaan jahat yang dilakukan oleh beberapa aktor kriminal dari alat AI -nya. Komisi Esafety Australia menyebut laporan Google “wawasan pertama di dunia. ” Perusahaan lain belum memiliki kata -kata yang menguntungkan dari agensi. Telegram dan X (Twitter FKA) menerima denda karena kekurangan dalam laporan mereka.
