微軟推出 Azure AI Content Safety，自動偵測等負面網路內容

IT之家5 月24 日消息，微軟推出了一款由人工智慧（AI）驅動的內容審核服務型產品－Azure AI Content Safety（Azure AI 內容安全服務），旨在降低社群環境中的負面訊息。

該產品提供了一系列經過訓練的AI 模型，能夠檢測圖片或文本中與偏見、仇恨、暴力等相關的負面內容，並可以理解並檢測包含八種語言的圖片或文本，為被標記的內容嚴重性進行評分，指示人工審核員哪些內容需要採取行動。

▲ 圖表來源 Azure 官網

Azure AI 內容安全服務內建於 Azure OpenAI 服務中，並向第三方開發者開放，支援包括英語、西班牙語、德語、法語、中文、日語、葡萄牙語、義大利語在內的八種語言。 Azure OpenAI 服務是一項由微軟管理、以企業為中心的服務產品，旨在讓企業存取 AI 實驗室 OpenAI 的技術並增加治理功能。與其他同類型產品相比，Azure AI 內容安全服務能更能理解文字內容和文化背景，在處理資料和內容時更精準。

微軟表示，與其他同類型產品相比，該款產品在公正性和理解上下文方面有顯著改進，但該款產品仍需要依賴人工審核人員標記資料和內容。這意味著最終其公正性還是取決於人類。即便在資料處理和內容審核時，人工審核人員可能帶有個人偏見，所以還是無法完全實現中立審慎。

而在處理涉及機器學習視覺感知的議題時，因由 2015 年，Google的 AI 影像辨識軟體曾將有色（黑）人種標記成猩猩，引發巨大爭議事件影響。在八年後，現在的科技巨頭們仍擔心「政治正確」「重蹈覆轍」。而本月早些時候，OpenAI 執行長山姆・阿爾特曼在美國參議院小組委員會聽證會上，呼籲政府對人工智慧（AI）進行監管。他強調了這項技術的錯誤可能性以及其嚴重後果，可能會對全球造成巨大損害。 IT之家提醒我們，即使是最先進的人工智慧技術也有可能被惡意使用或錯誤使用，因此監管和規範人工智慧至關重要。

以上是微軟推出 Azure AI Content Safety，自動偵測等負面網路內容的詳細內容。更多資訊請關注PHP中文網其他相關文章！