Google melancarkan alat SynthID untuk menambah fungsi tera air pada imej yang dijana AI

Dengan perkembangan pesat kecerdasan buatan generatif, orang ramai semakin bimbang tentang potensi risiko yang disebabkan oleh kandungan yang dijana AI. Sebagai contoh, orang ramai mungkin secara sengaja atau tidak sengaja menyebarkan maklumat salah yang dijana oleh AI. Terutamanya dalam bidang penjanaan imej, menjadi sangat penting untuk membezakan imej yang dihasilkan AI daripada imej sebenar

Terdapat beberapa kajian yang cuba membezakan imej yang dihasilkan AI dengan menambah kandungan tera air. Kertas kerja cemerlang ICML 2023 "Watermarking for Large Language Models" mencadangkan kaedah untuk menambah tera air pada output model untuk menangani cabaran penjanaan teks

Google DeepMind diumumkan pelancaran Alat baharu, SynthID, digunakan untuk menambah tera air pada imej yang dijana untuk mengenal pasti imej yang dijana AI. Pada masa ini, versi Beta SynthID berada dalam talian. Ketua Pegawai Eksekutif Google Sundar Pichai dan Ketua Pegawai Eksekutif Google DeepMind kedua-duanya mengetweet semula pengenalan alat SynthID

Pada masa ini, SysnthID boleh menambah watermark kepada imej yang dijana oleh model graf Imagen Google, dan kehadiran tera air hampir tidak dapat dilihat oleh mata. Seperti yang ditunjukkan dalam gambar di bawah, tiada perbezaan dalam penampilan sama ada imej itu ada atau tanpa tera air:

# 🎜🎜# SynthID boleh menilai sama ada imej dijana oleh Imagen dengan mengimbas tera air digital dalam imej Selepas pengubahsuaian seperti warna dan menyimpan menggunakan pelbagai skema mampatan lossy (seperti JPEG), tera air masih boleh dikesan 🎜🎜# Dua model pembelajaran mendalam digunakan dalam SynthID, masing-masing untuk penanda air dan pengecaman. Kedua-dua model ini telah dilatih bersama pada beberapa set imej dan dioptimumkan untuk pelbagai objektif

Pada masa ini, sesetengah pengguna boleh Menggunakan alat SynthID (versi Beta) untuk mengendalikan Imagen pada platform

Perlu diambil perhatian bahawa SynthID tidak menjamin bahawa tera air dapat menahan sepenuhnya pemprosesan imej yang melampau, tetapi ia menyediakan pendekatan teknologi yang menjanjikan untuk membolehkan orang ramai gunakan kandungan yang dihasilkan oleh kecerdasan buatan secara bertanggungjawab. Pasukan penyelidik berkata alat serupa mungkin akan dilancarkan pada masa hadapan untuk modaliti lain seperti audio, video dan teks

Atas ialah kandungan terperinci Google melancarkan alat SynthID untuk menambah fungsi tera air pada imej yang dijana AI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!