微軟發布了名為Azure AI Content Safety的AI內容審核工具

【CNMO新聞】經過個多月測試之後，微軟近日正式發布AI內容審核工具Azure AI Content Safety。據悉，該產品是其在今年5月開始測試的內容審核工具，包含一系列經過訓練的AI模型，可偵測圖片或文字中與偏見、仇恨、暴力等相關的負面內容，並能理解並偵測包含八種語言的圖片或文字。

此外，此審核工具會對被標記的內容進行嚴重性評分，並指導人工審核員對需要採取行動的內容進行處理。最初，這個審核工具被整合到了Azure OpenAI服務中，而現在它將以獨立系統方式推出

在微軟的官方部落格文章中提到：「這意味著用戶可以將其應用於開源模型和其他公司模型生成的人工智慧內容，還可以調用部分用戶生成的內容，以進一步增強其實用性。 ”

微軟表示，儘管該產品在處理資料和內容方面已經有所改進，並且能夠更公正地理解上下文，但仍需要依賴人工審核人員來標記資料和內容。這也意味著最終的公正性取決於人類。然而，在處理資料和內容時，人工審核人員可能因為個人偏見而無法做到完全中立審慎

以上是微軟發布了名為Azure AI Content Safety的AI內容審核工具的詳細內容。更多資訊請關注PHP中文網其他相關文章！