Meta, mengambil langkah baru terkait kerap terjadi penipuan di dua anak usahanya yakni, media sosial (medsos) Facebook dan Instagram. Terutama soal peredaran gambar deepfake buatan AI.

Deepfake adalah konten buatan AI yang sulit dibedakan dari foto, video, dan suara asli. Konten deepfake kini makin mudah diciptakan menggunakan berbagai platform penyedia teknologi AI generatif.

Presiden Global Affairs di Meta, Nick Clegg, menyatakan, kebijakan untuk memantau dan memberikan label di konten hasil karya AI akan diterapkan untuk konten yang dibuat menggunakan platform Meta dan platform di luar Meta.

"Konten hasil karya AI bisa dikenali dari "cap" tak terlihat yang tertanam di file gambar. Jika cap tersebut terdeteksi, Meta akan memberikan label khusus di konten yang unggah di Facebook, Instagram, dan Threads," kata dia.

Kebijakan dan fitur pemantau AI sudah diterapkan untuk konten yang dibuat menggunakan teknologi Meta. 

"Kemudian alam beberapa bulan ke depan, sistem yang sama akan diterapkan untuk konten buatan platform milik OpenAI, Midjourney, Shutterstock, dan Google," jelas Nick Clegg.

Reuters melaporkan, langkah Meta menunjukkan arah kebijakan platform media sosial dan internet sebagai mitigasi atas dampak negatif dari peredaran konten palsu hasil rekayasa AI.

"Cara serupa telah diterapkan dalam 10 tahun terakhir untuk menghapus konten terlarang seperti konten yang menggambarkan kekerasan dan eksploitasi terhadap anak," kata Clegg.

Clegg yakin sistem milik Meta bisa mengenali setiap gambar buatan AI yang diunggah di platformnya. Namun, perusahaan yang didirikan oleh Mark Zuckerberg tersebut masih menyempurnakan sistem serupa untuk mengenali video dan audio buatan AI.

"Meskipun teknologi ini masih baru, terutama untuk audio dan video, harapan kami ini bisa menciptakan momentum dan insentif yang akan diikuti oleh pelaku industri lain," kata Clegg kepada Reuters.

Sampai sistem identifikasi sempurna, Meta akan meminta pengguna Instagram dan Facebook untuk memberikan label di konten audio dan video hasil rekayasa. Pelanggar atas kebijakan ini akan dikenai penalti.

Satu konten karya AI yang belum bisa diidentifikasi dengan teknologi adalah teks buatan AI, seperti yang dihasilkan oleh ChatGPT. "Itu sudah lewat [that ship has sailed]," kata Clegg.

Meta juga bungkam soal rencana mereka untuk konten buatan AI yang tersebar di WhatsApp.

Konten deepfake kini juga mulai digunakan untuk penipuan online. Seorang pekerja keuangan di sebuah perusahaan multinasional ditipu untuk membayar US$25 juta (Rp392,97 miliar) kepada penipu menggunakan teknologi deepfake.

Menurut polisi Hong Kong, penipu itu menyamar menggunakan deepfake sebagai kepala keuangan perusahaan dalam panggilan konferensi video.

Korban ditipu dengan disuruh untuk menghadiri panggilan video yang disebut akan dihadiri oleh beberapa beberapa anggota staf lainnya. Namun semuanya sebenarnya adalah rekreasi palsu, kata polisi Hong Kong, dikutip dari CNN International, Senin (5/2/2024).

"(Dalam) konferensi video yang dihadiri banyak orang, ternyata semua orang yang [dia lihat] adalah palsu," kata pengawas senior Baron Chan Shun-ching kepada stasiun penyiaran publik kota RTHK.

Chan mengatakan, pekerja tersebut menjadi curiga setelah dia menerima pesan yang konon berasal dari kepala keuangan perusahaan yang berbasis di Inggris. Awalnya, pekerja tersebut mencurigai itu adalah email phishing, karena berisi permintaan pelaksanaan transaksi rahasia.

Namun, pekerja tersebut mengesampingkan keraguan awalnya setelah panggilan video tersebut. Sebab, kata Chan, orang lain yang hadir terlihat dan terdengar seperti rekan kerja yang dia kenal.

Karenanya, pekerja tersebut setuju untuk mengirimkan total US$200 juta dolar Hong Kong atau sekitar Rp392,97 miliar.

Kasus ini adalah salah satu dari sekian kasus yang melibatkan teknologi deepfake. Pada konferensi pers hari Jumat lalu, polisi Hong Kong mengatakan mereka telah melakukan enam penangkapan sehubungan dengan penipuan tersebut. []