人工智慧思想家似乎來自兩個社群。一種是我所謂的藍天幻想家,他們推測科技的未來可能性,援引烏托邦幻想來產生興奮。藍天構想令人信服,但往往被不切實際的願景和可以和應該建造的道德挑戰所籠罩。
相比之下,我所說的泥地靴實用主義者是專注於問題和解決方案的。他們希望減少廣泛使用的人工智慧系統可能造成的傷害。他們專注於修復有偏見和有缺陷的系統,例如經常錯誤地將人們識別為罪犯或侵犯隱私的臉部辨識系統。實用主義者希望減少 AI 可能犯的致命醫療錯誤,並引導自動駕駛汽車成為安全駕駛汽車。他們的目標還在於改進基於人工智慧的關於抵押貸款、大學錄取、工作招聘和假釋授予的決策。
作為一名在設計已廣泛實施的創新應用程式方面有著悠久歷史的電腦科學教授,我相信那些有遠見的人會從泥地靴現實主義者的深思熟慮的信息中受益。將兩個陣營的工作結合起來更有可能產生有益的結果,從而導致下一代技術的成功。
雖然藍天投機者的未來主義思維激發了我們的敬畏並獲得了大部分資金,但泥地靴思維提醒我們,一些人工智能應用程序威脅隱私、傳播錯誤信息,並且明顯存在種族主義、性別歧視和其他道德問題。不可否認,機器是我們未來的一部分,但它們會平等地為所有未來的人類服務嗎?我認為泥地靴陣營的謹慎和實用性將透過確保演算法開發的多樣性和平等性在短期和長期內造福人類,這些演算法越來越多地影響我們的日常生活。如果藍天思想家將泥地靴寫實主義者的擔憂融入他們的設計中,他們就可以創造出更有可能促進人類價值、權利和尊嚴的未來技術。
藍天思維始於人工智慧發展的早期。文學由開創該技術並預示其不可避免的社會轉型的作者所主導。人工智慧的「父親」通常被認為是麻省理工學院的 Marvin Minsky 和 John McCarthy 以及卡內基美隆大學的 Allen Newell 和 Herb Simon。他們聚集在會議上,例如 1956 年的達特茅斯會議,激發了西蒙 1965 年預測「機器將能夠在 20 年內完成人類可以做的任何工作」的熱情。
人工智慧還有許多其他貢獻者,包括2018 年的三位圖靈獎得主:Geoffrey Hinton、Yoshua Bengio 和 Yann LeCun。他們在深度學習演算法方面的工作是一項重要貢獻,但他們對AI 的重要性和必然性的持續慶祝包括Hinton 在2016 年令人不安的引述,即「人們現在應該停止培訓放射科醫生。很明顯,在五年內深度學習將比放射科醫生做得更好。」 更以人為本的觀點是,深度學習演算法將成為另一種工具,如乳房X 光檢查和血液檢查,使放射科醫生和其他臨床醫生能夠做出更準確的診斷並提供更合適的治療計劃。
牛津大學 2013 年的一份報告將機器人取代人類從而造成廣泛失業的主題合法化,該報告聲稱 47% 的工作可以實現自動化。未來學家馬丁福特2015 年的著作《機器人的崛起》抓住了這個想法,描繪了一幅令人不安的畫面,即低技能和高技能工作變得如此完全自動化,以至於政府將不得不提供普遍的基本收入,因為剩下的工作機會很少。現實情況是,精心設計的自動化可以提高生產力,從而降低價格、提高需求並為許多人帶來好處。這些變化引發了一個平行的現象,即大力創造新的就業機會,這有助於導緻美國和其他一些國家目前的高就業水準。
是的,有些作者提供了警示故事和不同的願景,例如麻省理工學院教授Joseph Weizenbaum 在他1976 年出版的《計算機能力和人類理性》一書中,但這些都是例外。
泥地靴實用主義者掀起了新一輪深思熟慮的人工智慧批評浪潮。他們將討論從天馬行空的樂觀轉變為明確指出對人類尊嚴、公平和民主的威脅。 Op-Ed 文章和2016 年白宮座談會是有益的舉措,數學家 Cathy O'Neil 的 2016 年著作《數學毀滅武器》擴大了受眾範圍。她專注於不透明的人工智慧演算法在大規模應用以決定假釋、抵押和工作申請時如何有害。歐尼爾強而有力的例子促進了以人為本的思維。
其他書籍,如 Ruha Benjamin 的Race After Technology:Abolitionist Tools for the New Jim Code緊隨其後的是如何改變演算法以增加經濟機會和減少種族偏見。
社會心理學家Shoshanna Zuboff 於2019 年出版的《監視資本主義時代》一書展示了谷歌從「不作惡」的早期座右銘轉變為「混淆這些過程及其影響」的有計劃的努力。 Zuboff 的解決方案是呼籲改變商業模式、民主監督和隱私保護區。學者Kate Crawford 在她2021 年出版 的《人工智慧地圖集》一書中發表了另一項毀滅性的泥靴分析, 專注於人工智慧對工作、環境、人際關係和民主的榨取和破壞力。她在美國國家工程院的一場引人入勝的講座中對此作了進一步的完善,描述了人工智慧研究人員和實施者可以採取的建設性行動,同時鼓勵政府監管和個人努力保護隱私。
泥地靴活動家因其積極的研究貢獻而獲得認可,這些貢獻提供了有益於人們的巧妙設計。 2021 年 10 月, Cynthia Rudin 獲得了人工智慧促進協會頒發的 100 萬美元的人工智慧造福人類獎。她在可解釋形式的 AI 方面的工作是對不透明黑盒子演算法令人眼花繚亂的複雜性的回應,這讓人們很難理解為什麼他們因假釋、抵押貸款或工作而被拒絕。
許多泥地靴思想家是女性,但男性也談到了人道監督的必要性。 技術先驅Jaron Lanier 在他的《立即刪除社交媒體帳戶的十個論點》中也提出了擔憂,該文件確定了社交媒體的危害,並建議用戶更好地控制自己對社群媒體的使用。法律學者 Frank Pasquale 的機器人新定律解釋了為什麼 AI 開發人員應該重視人類專業知識、避免技術軍備競賽並對他們創造的技術負責。然而,透過以人為本的設計來確保人為控制將需要對國家政策、商業實踐、研究議程和教育課程進行重大改變。
這個陣營的多元化工作者——包括女性、非二元性人群、殘疾人和有色人種——傳達了重要訊息,以確保將藍天夢想轉化為可實現的產品和服務,從而造福人類並保護環境。
以上是人工智慧同時需要實用主義者和藍天夢想家的詳細內容。更多資訊請關注PHP中文網其他相關文章!