Damai Taylor Swift deepfakes, Google kini melancarkan alat baru yang berkuasa AI, ImageFX, untuk penciptaan imej.
Berteras oleh Imagen 2, model imej GenAI yang dibangunkan oleh pasukan DeepMind Google, ImageFX menawarkan antara muka berdasarkan prompt untuk membuat dan mengedit imej. Ia tidak berbeza dengan alat seperti DALL-E 3 dari OpenAI, Midjourney, Imagine with Meta AI milik Meta, dan Microsoft Designer. Tetapi putaran unik ImageFX ialah "cips ekspresif" - secara asasnya senarai cadangan kata kunci yang membolehkan pengguna bereksperimen dengan "dimensi bersebelahan" ciptaan dan idea mereka.
"Direka untuk eksperimen dan kreativiti, ImageFX membolehkan anda mencipta imej dengan prompt teks yang mudah, kemudian mengubahnya dengan cara yang baru menggunakan cips ekspresif," kata Google dalam catatan blog.
Namun, apakah potensi penyalahgunaan - terutamanya dalam konteks peristiwa terkini?
Google mengklaim bahawa mereka telah mengambil langkah-langkah untuk memastikan ImageFX tidak digunakan secara tidak bersesuaian, contohnya dengan menambahkan "perlindungan teknikal" untuk menghadkan "keluaran bermasalah" seperti kandungan yang bersifat keganasan, provokasi, dan eksplisit secara seksual. ImageFX juga mempunyai penapis tahap prompt untuk "orang bernama," mungkin tokoh awam - walaupun Google tidak terlalu jelas dalam bahan media mereka.
"Kami melabur dalam keselamatan data latihan sejak awal," kata Google. "Konsisten dengan prinsip AI kami, kami juga menjalankan ujian dan ujian merah yang meluas untuk mengenal pasti dan mengurangkan kandungan yang berpotensi merugikan dan bermasalah."
Sebagai langkah keselamatan tambahan, Google menanda imej yang dihasilkan menggunakan ImageFX dengan SynthID, cap air digital yang katanya kuat terhadap suntingan dan pemotongan imej.
"Cap air SynthID tidak dapat dilihat dengan mata manusia tetapi dapat dikesan untuk pengenalan," terus Google dalam catatan blog. "Dengan wawasan tambahan dalam 'Mengenai imej ini,' anda akan tahu jika suatu imej mungkin dihasilkan dengan alat AI Google apabila anda menatapnya dalam Carian Google atau Chrome."
Anda akan menemui ImageFX dalam Dapur Ujian AI, aplikasi web Google untuk projek AI eksperimental.
Imagen 2 yang diperluaskan
Dalam berita berkaitan hari ini, Google mengumumkan bahawa mereka akan membawa Imagen 2 ke lebih banyak produk dan perkhidmatan mereka mulai minggu ini, termasuk kepada pengalaman carian AI generasi seterusnya mereka dan keluarga perkhidmatan AI yang diuruskan Vertex AI.
Imagen 2 - yang kini juga menggerakkan kemampuan teks-ke-imej dalam Google Ads dan Duet AI di Workspace, rangkaian produk GenAI Google untuk produktiviti - telah dimasukkan ke dalam SGE Google (Search Generative Experience). SGE, yang mula muncul alat generasi imej bagi pengguna dalam Carian Imej Google bulan Oktober lalu, kini menggunakan Imagen 2 untuk menghasilkan imej. Pengguna boleh masukkan prompt yang menetapkan jenis imej yang mereka inginkan dan SGE akan mengembalikan empat hasil dengan terus dalam pengalaman percakapan SGE.
Dalam Vertex AI, Imagen 2 tersedia melalui API kepada pelanggan Google Cloud. Di tempat lain, Imagen 2 kini boleh dipanggil melalui Bard, chatbot AI Google.
"Dengan Imagen 2, Bard memahami prompt yang ringkas atau rumit supaya anda boleh menghasilkan pelbagai imej berkualiti tinggi," terang Google. "Cukup taip penerangan - seperti 'hasilkan imej seekor anjing menunggang papan luncur' - dan Bard akan menghasilkan visual yang seluas dan khas untuk membantu membawa idea anda kepada kehidupan."
Google masih belum mendedahkan data yang digunakan untuk melatih Imagen 2, yang - sementara mengecewakan - tidak benar-benar mengejutkan. Ia adalah soalan undang-undang terbuka sama ada vendor GenAI seperti Google boleh melatih model pada data yang tersedia secara awam - malah dilindungi hak cipta - dan kemudian menggunakan model tersebut secara komersial.
Saman yang berkaitan sedang dijalankan melalui mahkamah, dengan vendor mengatakan bahawa mereka dilindungi oleh doktrin kegunaan yang adil. Tetapi ia akan mengambil masa sebelum kesemua debu reda.
Sementara itu, Google bermain selamat dengan menyimpan senyap mengenai perkara tersebut.
