Kajian kandungan AI yang memahami lapan bahasa dan memahami konteks ada di sini! Microsoft melancarkan produk baharu: boleh mengesan teks dan imej

Pada 23 Mei, waktu tempatan, Microsoft melancarkan produk perkhidmatan semakan kandungan yang dipacu oleh kecerdasan buatan (AI) - Keselamatan Kandungan Azure AI (perkhidmatan keselamatan kandungan AI Azure), bertujuan untuk mewujudkan persekitaran rangkaian yang lebih selamat . Produk ini menyediakan satu siri model AI terlatih yang boleh mengesan kandungan negatif yang berkaitan dengan prasangka, kebencian, keganasan, dsb. dalam imej atau teks.

Menurut laporan, produk ini akan dibina dalam perkhidmatan Azure OpenAI dan terbuka kepada pembangun pihak ketiga. Difahamkan bahawa perkhidmatan Azure OpenAI ialah produk perkhidmatan tertumpu kepada perusahaan yang diuruskan oleh Microsoft, direka untuk membolehkan perusahaan mengakses teknologi OpenAI makmal AI dan menambah fungsi tadbir urus. Perlu dinyatakan bahawa perkhidmatan keselamatan kandungan Azure AI bukan sahaja digunakan dalam perkhidmatan Azure OpenAI, tetapi juga boleh digunakan pada platform bukan AI seperti platform permainan dan komuniti dalam talian.

↑Peta maklumat

Dilaporkan bahawa perkhidmatan keselamatan kandungan Azure AI adalah "mahir" dalam lapan bahasa termasuk Inggeris, Sepanyol, Jerman, Perancis, Cina, Jepun, Portugis dan Itali. Iaitu, ia boleh memahami dan mengesan imej atau teks dalam lapan bahasa ini, dan memberikan skor keterukan kepada kandungan yang dibenderakan, menunjukkan kepada penyemak manusia kandungan yang memerlukan tindakan.

Selain itu, menurut jurucakap Microsoft, produk ini boleh memahami kandungan teks dan latar belakang budaya dengan lebih baik berbanding dengan produk sebelumnya daripada jenis yang sama "Produk sebelumnya daripada jenis yang sama tidak dapat menangkap kandungan kontekstual dan boleh menyebabkan penandaan ralat. "Jurucakap itu menambah: "Kami mempunyai pasukan pakar bahasa dan ekuiti yang komited untuk membangunkan garis panduan yang mengambil kira budaya, bahasa dan konteks manusia memperbaikinya apabila menggunakan AI

.

Laporan itu menunjukkan bahawa, seperti masalah yang dihadapi oleh semua program semakan AI, perkhidmatan keselamatan kandungan AI Azure akhirnya bergantung pada penyemak manusia untuk menandakan data dan kandungan, yang bermaksud bahawa keadilannya bergantung pada manusia. Bias dalam pemprosesan manual data dan kandungan boleh menyebabkan sakit kepala, menurut laporan. Terdapat kontroversi pada tahun 2015 apabila laporan muncul bahawa perisian pengecaman imej kecerdasan buatan Google telah tersilap melabelkan orang kulit berwarna sebagai orang utan. Media AS berkata lapan tahun kemudian, gergasi teknologi hari ini masih bimbang tentang "membuat kesilapan yang sama sekali lagi."

Malah, cara menangani risiko yang dibawa oleh AI sentiasa menjadi topik hangat di kalangan orang ramai dan kalangan teknologi. Pada 22 bulan ini, gambar palsu tentang "letupan berhampiran Pentagon" yang dianggap disintesis oleh AI diedarkan di Internet, menyebabkan panik seketika Jurucakap Jabatan Pertahanan AS menafikan khabar angin itu dengan segera. Selepas itu, analisis media AS menyatakan bahawa imej itu mempunyai semua ciri yang dihasilkan oleh AI. Awal bulan ini, Ketua Pegawai Eksekutif OpenAI Sam Altman menggesa peraturan kerajaan bagi kecerdasan buatan (AI) semasa pendengaran jawatankuasa kecil Senat A.S. Beliau menegaskan jika berlaku kesilapan dalam teknologi ini, akibatnya akan menjadi sangat serius dan boleh menyebabkan kerosakan besar kepada dunia.

Wartawan Red Star News Li Jinrui

Editor He Xianfeng Editor Li Binbin

Atas ialah kandungan terperinci Kajian kandungan AI yang memahami lapan bahasa dan memahami konteks ada di sini! Microsoft melancarkan produk baharu: boleh mengesan teks dan imej. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!