首頁  >  文章  >  科技週邊  >  臉部辨識技術的道德原則

臉部辨識技術的道德原則

PHPz
PHPz轉載
2023-04-08 15:51:091045瀏覽

臉部辨識技術在各個領域中的巨大潛力幾乎是不可想像的。

然而,在使用之前,需要解決其功能中常見的某些錯誤和一些道德問題。

臉部辨識技術的道德原則

臉部辨識系統使用生物辨識技術從照片或影片中對應臉部特徵,然後將這些資訊與已知人臉資料庫進行比對,以找到匹配。臉部辨識可以幫助驗證一個人的身份,但它也會引發隱私問題。

與其他人工智慧技術一樣,在使用臉部辨識系統時需要遵循一些道德原則。這些原則包括:

1. 人臉辨識的公平性

首先,臉部辨識技術的發展必須確保系統能夠完全防止或至少最小化基於種族、性別、臉部特徵、畸形或其他方面對任何個人或群體的偏見。現在,有充分的證據表明,臉部辨識系統在其運作中不可能 100% 公平。因此,開發該技術的公司通常需要花費數百小時來消除其中發現的所有偏見痕跡。

組織必須加倍努力以消除臉部辨識系統中的偏見,為此,用於機器學習和標記的資料集必須多樣化。最重要的是,一個公平的臉部辨識系統的輸出品質將非常高,因為它可以在世界任何地方無縫工作,沒有任何偏見。

為了確保臉部辨識系統的公平性,開發人員還可以在測試階段讓最終客戶參與其中。

2. 人工智慧運作的開放性

將臉部辨識系統納入工作場所和網路安全系統的組織需要了解機器學習資料儲存位置的所有資訊。此類組織需要在實施該技術之前了解其局限性和功能。提供人工智慧技術的公司必須在這些細節上對客戶完全透明。此外,服務提供者還必須確保其臉部辨識系統可由客戶根據其便利性從任何位置使用。且系統中的任何更新必須在收到客戶的有效批准後才能進行。

3. 利害關係人的責任

如前所述,臉部辨識系統部署在多個領域。開發此類系統的組織必須對其負責,尤其是在技術可能直接影響任何個人或團體(執法、監視)的情況下。此類系統中的責任旨在防止系統可能造成的身體或健康傷害、財務挪用或其他由系統引起的問題。為了在流程中引入控制要素,需要讓一名合格的人員負責組織中的系統,以做出合理的決策。除此之外,將臉部辨識系統納入日常營運的組織必須立即解決與該技術相關的客戶不滿。

4. 監控前的同意和通知

在正常情況下,未經個人、團體或其他人同意,不得使用臉部辨識系統對其進行窺探。某些機構,如歐盟,有一套標準化的法律(GDPR),以防止未經授權的組織監控個人。擁有此類系統的組織必須遵守該國所有的資料保護和隱私法規。

5. 合法監控以避免侵犯人權

除非國家或政府決策管理機構出於與國家安全或其他重要情況相關的目的而授權,否則組織不能使用臉部辨識系統來監控任何個人或團體。基本上,嚴禁使用該技術侵犯受害者的人權和自由。

6. 購物時出現驗證錯誤

如前所述,臉部辨識系統被納入數位支付應用程式中,以便用戶可以使用該技術驗證交易。使用這種技術進行支付,很可能會發生臉部身分盜竊和金融卡詐欺等犯罪活動。客戶之所以選擇臉部辨識系統,是因為它為使用者提供了極大的便利。然而,此類系統中可能發生的一個錯誤是,同卵雙胞胎可以使用彼此銀行帳戶進行未經授權的付款。

7. 執法申請不準確

臉部辨識系統被用來在抓捕罪犯之前識別他們。雖然該技術作為一個概念在執法中無疑是有用的,但其工作中存在一些突出的問題,例如,有偏見的人工智慧為執法人員提供了不準確的結果,因為有時系統無法區分有色人種。通常,這種系統是用包含白人圖像的資料集來訓練的。因此,在識別其他種族的人時,該系統的工作充滿了錯誤。

正如我們所看到的,與臉部辨識技術相關的主要問題和錯誤源於技術缺乏進步、資料集缺乏多樣性以及組織對系統的低效處理。

可以預見,隨著未來技術的進一步進步,與技術相關的問題將得到解決;人工智慧演算法中與偏見相關的問題最終將被消除。然而,為了讓該技術在不違反任何道德原則的情況下完美運行,組織必須對此類系統保持嚴格的治理水準。

以上是臉部辨識技術的道德原則的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除