Midjourney berencana untuk mengizinkan siapa pun di web mengedit gambar dengan AI

Midjourney akan segera meluncurkan alat web baru yang bisa dipakai pengguna untuk mengedit gambar yang diunggah dari internet menggunakan teknologi AI mereka.

Belakangan ini, editing gambar pakai AI memang lagi banyak dibicarakan. Beberapa platform seperti Meta sedang bingung bagaimana memberi label pada gambar yang diedit pakai AI, dibandingkan dengan gambar yang benar-benar dibuat dari awal pakai AI. Sementara itu, Google sudah merilis fitur AI yang canggih, tapi tidak memberi tanda jelas kalau gambarnya sudah diedit pakai AI.

Alat ini, yang menurut CEO Midjourney, David Holtz, akan dirilis "awal minggu depan," juga memungkinkan kita untuk mengubah tekstur atau warna objek dalam gambar untuk “mengecat ulang” warna dan detailnya sesuai dengan deskripsi yang kita inginkan.

Tahun lalu, Midjourney sudah berkomitmen untuk memakai properti Digital Source Type dari IPTC, standar teknis yang menyematkan info metadata di gambar agar orang tahu kalau gambar tersebut dibuat oleh AI. Meski begitu, Midjourney belum pakai teknologi C2PA, yang sebenarnya bisa melacak asal-usul gambar secara detail, termasuk alat dan software apa yang dipakai buat bikin gambarnya.

Di server Discord resmi Midjourney, Holtz bilang kalau alat editing ini awalnya hanya akan tersedia untuk "sebagian kecil komunitas dulu" dan akan ada moderasi lebih ketat dengan bantuan AI canggih untuk mencegah penyalahgunaan.

"Sejujurnya, kami belum tahu cara tepat untuk membatasi penggunaan fitur ini," katanya. Mereka meminta masukan dari komunitas lewat polling untuk menentukan siapa yang bisa akses fitur ini duluan.

Ada risiko jika alat editing ini dirilis tanpa pengamanan yang cukup. Misalnya, alat ini bisa saja dipakai untuk pelanggaran hak cipta atau membuat deepfake yang menyesatkan.

Deepfake memang sudah menyebar seperti api di media sosial, dan makin sulit untuk membedakan mana yang benar dan mana yang palsu. Belum lama ini, ada gambar palsu tentang kehancuran dan penderitaan manusia setelah Badai Helene yang ramai di internet.

Menurut data dari Clarity, perusahaan yang mendeteksi deepfake, ada peningkatan sebesar 900% deepfake yang dibuat dan dipublikasikan tahun ini dibandingkan tahun lalu. Ini jelas bikin orang khawatir. Sebuah survei dari YouGov menemukan bahwa 85% orang Amerika khawatir dengan penyebaran deepfake yang menipu.

Karena belum ada hukum federal di AS yang mengatur deepfake, lebih dari 10 negara bagian sudah punya undang-undang yang melarang penipuan identitas pakai AI. California bahkan sedang mempertimbangkan aturan yang akan memberi wewenang kepada hakim untuk memaksa pembuat deepfake menghapusnya atau menghadapi denda.

Midjourney belum bisa dibilang contoh sempurna dalam penggunaan AI yang bertanggung jawab. (Malah, mereka sedang dituntut karena diduga menggunakan konten berhak cipta untuk melatih AI mereka.) Tapi, dalam beberapa bulan terakhir, Midjourney sudah mulai mengambil langkah untuk membatasi penyebaran deepfake, seperti menambahkan filter untuk tokoh politik menjelang pemilu AS.

Sumber dari: techcrunch