OpenAI Luncurkan Tools untuk Deteksi Gambar AI dan Asal-usulnya

Di tengah banjirnya gambar-gambar buatan AI di beragam platform media sosial, OpenAI mengambil langkah serius untuk menjawab pertanyaan nan kian sering muncul: Apakah foto ini nyata alias hasil rekayasa AI?

Perusahaan di kembali ChatGPT itu meluncurkan perangkat verifikasi publik berjulukan "Verify", nan dapat diakses di openai.com/verify. Dengan perangkat ini, siapa pun bisa mengunggah sebuah gambar dan mengetahui apakah gambar tersebut dibuat menggunakan produk-produk OpenAI seperti ChatGPT, Codex, maupun API mereka.

Yang membikin langkah ini cukup signifikan adalah OpenAI tidak hanya mengandalkan satu teknologi, melainkan menggabungkan dua standar industri secara bersamaan.

Pertama, metadata C2PA. Standar C2PA dibuat oleh Coalition for Content Provenance and Authenticity. Ini merupakan metadata nan dilampirkan pada sebuah file dan dapat menunjukkan secara jelas gimana gambar tersebut dibuat serta perubahan apa saja nan telah dilakukan padanya, melalui verifikasi kriptografis.

Singkatnya, C2PA bekerja seperti "sertifikat kelahiran" digital bagi sebuah gambar. Standar ini juga telah diadopsi oleh beragam produk Google, meskipun penerapannya di industri secara keseluruhan tetap belum merata.

Kedua, watermark SynthID. SynthID adalah teknologi watermarking tak kasat mata buatan Google nan menanamkan sinyal langsung ke dalam gambar AI.

Berbeda dari C2PA, tanda ini bukan sekadar metadata nan bisa dihapus begitu saja — dia menyatu dengan piksel gambar itu sendiri. Sinyal SynthID dirancang untuk tetap memperkuat meski gambar sudah di-screenshot, dipangkas, diberi filter, alias mengalami kompresi.

Dua Sistem, Dua Kelemahan nan Saling Menutupi

OpenAI sendiri mengakui bahwa tidak ada satu pun sistem nan sempurna. C2PA, seperti jenis metadata pada umumnya, bisa dimanipulasi dan/atau dihapus. Sistem ini lebih dirancang untuk para kreator konten terpercaya agar mudah menunjukkan asal-usul karya mereka.

Sementara itu, SynthID dirancang untuk lebih tahan banting —sinyalnya bisa tetap tertanam dalam gambar apalagi setelah gambar tersebut di-screenshot alias dimanipulasi.

Inilah kenapa keduanya justru saling melengkapi. C2PA membawa info konteks nan perincian di mana pun dia bertahan; SynthID menjadi persediaan nan lebih tahan lama meski dengan info nan lebih terbatas. Atau seperti nan dirangkum OpenAI sendiri: "Watermarking bisa lebih tahan terhadap beragam transformasi seperti screenshot, sementara metadata bisa memberikan lebih banyak info dibanding watermark saja."

Langkah OpenAI ini tidak datang dari ruang hampa. Belakangan ini kasus gambar AI nan menyusup ke ranah publik terus bermunculan. Baru-baru ini, pemenang sebuah kejuaraan foto didiskualifikasi setelah ditemukan bahwa gambar nan dia kirimkan mengandung watermark SynthID tak kasat mata di dalamnya.

Di sisi lain, skala persoalan ini sudah sangat besar. Google DeepMind melaporkan bahwa hingga saat ini lebih dari 100 miliar gambar, video, dan file audio telah diberi watermark SynthID. OpenAI sekarang berasosiasi berbareng Kakao, ElevenLabs, dan Nvidia sebagai adopter baru teknologi ini.

Cara Menggunakan Verify

Pengguna cukup mengunggah satu gambar, lampau meninjau hasilnya untuk memandang apakah perangkat tersebut mendeteksi metadata C2PA, watermark SynthID, alias tidak menemukan sinyal sama sekali.

Untuk hasil terbaik, OpenAI menyarankan agar pengguna memotong screenshot serapat mungkin di sekitar gambar dan tidak mengunggah file nan berisi lebih dari satu gambar sekaligus.

Perlu dicatat, saat ini Verify hanya dapat mendeteksi gambar nan dibuat menggunakan ChatGPT, OpenAI API, alias Codex. Dengan kata lain, gambar AI nan dihasilkan dari platform lain belum tercakup —setidaknya untuk saat ini.