懂八門語言、能理解上下文的AI內容審核來了！微軟推出新產品：能偵測文字和圖片

當地時間5月23日，微軟推出了一款由人工智慧（AI）驅動的內容審核服務型產品－Azure AI Content Safety（Azure AI內容安全服務），旨在營造更安全的網路環境。這款產品提供了一系列訓練有素的AI模型，可偵測圖片或文字中包含與偏見、仇恨、暴力等相關的負面內容。

報導稱，這款產品將內建於Azure OpenAI服務中，並向第三方開發者開放。據了解，Azure OpenAI服務是一項由微軟管理、以企業為中心的服務產品，旨在讓企業存取AI實驗室OpenAI的技術並增加治理功能。值得一提的是，Azure AI內容安全服務不僅使用於Azure OpenAI服務中，還可運送用於遊戲平台、線上社群等非AI平台。

↑資料圖

據悉，Azure AI內容安全服務「精通」包括英語、西班牙語、德語、法語、中文、日語、葡萄牙語、義大利語在內的八種語言。也就是說，其可以理解並檢測包含這八種語言的圖片或文本，並為被標記的內容嚴重性進行打分，指示人工審核員哪些內容需要採取行動。

除此之外，根據微軟發言人介紹，與先前的同類型相比，該款產品能更好地理解文本內容和文化背景，「先前的同類型產品無法捕捉上下文內容，可能造成標記內容失誤。」發言人補充說：「我們有一個語言和公平專家團隊，他們致力於在考慮文化、語言和背景的情況下制定指導方針。報道同時指出，微軟認識到目前的AI並不完美，希望人類在使用AI時對其進行改進。

通報指出，與所有AI審核程序面臨的問題一樣，Azure AI內容安全服務最終還是依賴人工審核人員標記資料和內容，這意味著最終其公正性還是取決於人類。手動處理數據和內容時的偏見可能會帶來令人頭痛的問題，據報導。有報導稱，2015年谷歌的人工智慧影像辨識軟體將有色人種錯誤標記為猩猩，這起事件引起了巨大的爭議。美媒稱，八年過去了，現在的科技巨頭們仍擔心「重蹈覆轍」。

事實上，如何處理AI所帶來的風險一直是大眾和科技圈熱議的議題。就在本月22日，一張被認為是AI合成的關於「五角大樓附近發生爆炸」的假圖片在網路上流傳，一時引發恐慌，美國防部發言人為此緊急闢謠。隨後，美媒分析稱，該影像具有由AI生成的所有特徵。而本月早些時候，OpenAI執行長山姆·阿爾特曼在美國參議院小組委員會聽證會上，呼籲政府對人工智慧（AI）進行監管。他強調，該技術一旦出現失誤，後果將十分嚴重，有可能對全球造成巨大損害。

紅星新聞記者 黎謹睿

編輯 何先鋒 責備 李彬彬

############

以上是懂八門語言、能理解上下文的AI內容審核來了！微軟推出新產品：能偵測文字和圖片的詳細內容。更多資訊請關注PHP中文網其他相關文章！