微軟被揭露解散整個AI風險評估團隊

3月14日訊息，美國當地時間週一，微軟被揭露解散了其整個AI風險評估團隊。據悉，這個團隊正式名稱為AI道德與社會團隊，其主要職能在於指導微軟在AI方面的創新，從而產生符合道德標準、負責任以及可持續的結果。最近，該團隊始終在努力評估微軟將OpenAI技術整合到其產品中可能存在的風險。

多位微軟離職和在職員工表示，此舉導致微軟將再也沒有專門的團隊來確保其AI原則與產品設計緊密結合，而目前該公司正在引領潮流，努力讓AI工具成為主流。不過，微軟仍然保留著名為負責任AI辦公室（ORA）的團隊，其任務是製定規則來管理公司的AI計劃。微軟表示，儘管最近進行了裁員，但其在責任工作方面的整體投資始終在增加。

微軟在聲明中表示：「微軟致力於以安全、負責任的態度開發AI產品和體驗，並透過投資於優先考慮這些因素的人員、流程和合作夥伴來實現該目標。在過去的六年裡，我們增加了產品團隊和ORA的人員數量，他們與微軟的所有人一起，負責確保我們將AI原則付諸實踐。我們感謝道德與社會團隊所做的開創性工作，幫助我們繼續完成負責任AI之旅。」

微軟員工透露，在確保公司產品和服務符合負責任AI原則方面，道德和社會團隊發揮了關鍵作用。一位離職員工表示：「人們看到ORA提出的原則卻不知道如何運用，而我們的工作就是向他們展示，並在缺乏規則的領域制定規則。」

近年來，該團隊設計了名為《Judgment Call》的角色扮演遊戲，幫助設計師設想AI可能帶來的潛在危害，並在產品開發過程中討論。道德和社會團隊在2020年達到了最大規模，當時有大約30名員工，包括工程師、設計師和哲學家。但在去年的重組過程中，該團隊被削減至只剩7人。

在重組後的一次團隊會議上，微軟AI業務副總裁約翰·蒙哥馬利(John Montgomery)表示，公司管理層已經指示他們迅速行動。據悉，蒙哥馬利當時說：「來自首席技術官凱文·斯科特(Kevin Scott)和首席執行官薩蒂亞·納德拉(Satya Nadella)的壓力非常大，他們都要求加速將OpenAI模型和後續模型送到客戶手中。」

蒙哥馬利說，由於這種壓力，道德和社會團隊中的許多人將被轉移到公司的其他業務。當時，蒙哥馬利稱該團隊不會被淘汰，而是需要將「更多精力放在建立服務和軟體的單一產品團隊上」。隨後，該團隊多數成員都被調到其他部門，剩餘人員則因為人員不足，促使許多雄心勃勃的計畫再也難以實施。

大約五個月後，剩下的員工被告知整個團隊最終被解散。一名員工表示，此舉在AI產品的使用者體驗和整體設計上留下了巨大漏洞。他們解釋說：「最糟糕的是，我們這樣做讓企業面臨風險，人類陷入風險之中。」

道德與社會團隊的成員表示，他們通常會努力支持產品開發。但隨著微軟開始專注於比競爭對手更快推出AI工具，公司管理層對該團隊所專注的那種長期考慮不再那麼感興趣。

就在道德與社會團隊被解散之際，其他人正將注意力放在預測微軟向全球觀眾發布OpenAI支持的AI工具時產生的影響。在去年的備忘錄中，道德與社會團隊詳細說明了與必應圖像創建器相關的風險，該工具使用OpenAI的Dall-E系統根據文字提示創建圖像。這款影像工具於10月在幾個國家推出，使其成為微軟與OpenAI的首批公開合作之一。

雖然文字轉圖像的技術已經被證明非常受歡迎，但微軟的研究人員準確地預測到，它也可能威脅到藝術家的生計，因為它允許任何人輕鬆複製藝術家的創作風格。此外，OpenAI更新了其服務條款，賦予用戶“使用Dall-E創建圖像的完全所有權”，這讓微軟道德和社會團隊感到擔憂。 （小小）

以上是微軟被揭露解散整個AI風險評估團隊的詳細內容。更多資訊請關注PHP中文網其他相關文章！