Meta開源FACET工具，用於評估AI模型中的種族和性別偏見

9 月2 日消息，Meta 公司為了緩解當前許多電腦視覺模型對女性、有色人種存在系統性偏見問題，近日推出了名為FACET 的全新AI 工具，用於識別電腦視覺系統中的種族和性別偏見。

FACET 工具目前經過 3 萬張圖片、含 5 萬人圖像的訓練，特別增強了性別和膚色方面的感知，可以用於評估電腦視覺模型在各種特徵。

FACET 工具在經過訓練後可以回答複雜問題，例如識別出對象為男性之後，可以進一步識別出滑板運動員，以及淺色、深色皮膚。

Meta 以FACET 來評測該公司所開發的DINOv2 模型與SEERv2 模型，以及OpenAI 的OpenCLIP 模型，整體而言，OpenCLIP 在性別上的表現優於其它模型，而DINOv 則在年齡與膚色上有較佳的判斷力。

FACET 的開源將有助於研究人員執行類似的標竿測試，以理解自己的模型中所存在的偏見，也可用於監控為了解決公平問題而採取的緩解措施所造成的影響。 IT之家在此附上 Meta 新聞稿地址，有興趣的用戶可以深入閱讀。

【來源：IT之家】

以上是Meta開源FACET工具，用於評估AI模型中的種族和性別偏見的詳細內容。更多資訊請關注PHP中文網其他相關文章！