首頁 >科技週邊 >人工智慧 >在優先考慮AI時不要低估了IT基礎

在優先考慮AI時不要低估了IT基礎

PHPz
PHPz轉載
2024-02-19 19:27:031035瀏覽

在優先考慮AI時不要低估了IT基礎

GenAI仍然在許多企業的IT專案中扮演著重要角色。根據哈里斯民意調查,三分之二的企業領導人表示他們已經在公司內部採用了GenAI工具。 IDC預測,到2024年,企業對GenAI的投資將增加一倍以上。

儘管IT領域不斷演變,但安全性、成本控制、身分管理等仍是CIO需關注的關鍵領域,這些基本面向對於組織依然至關重要。

很容易將這些視為爭奪CIO注意力和預算的相互競爭的優先事項,與董事會對Gen AI承諾的新的、閃亮的機會的興趣相比,這些相形見絀,但當談到成功實施這些專案時,事實證明,它們取決於IT企業實施連線、權限和組態管理等基本要素的情況。

星座研究公司副總裁兼首席分析師迪翁·欣奇克利夫指出,掌握當今IT的基礎知識至關重要,包括靈活的多雲基礎、強大的網路安全、有效的資料隱私和知識產權控制。這些要素對於實現AI的潛力、建立強大的跨應用程式豎井和開放的資料基礎至關重要,它們就像讓船保持運轉的必要木板和釘子。

他比喻說,IT基礎知識就像「吃青菜」一樣,雖然平凡但必不可少,它對於IT產業的長期健康和實力至關重要。這種均衡的飲食類比表明,強大和現代的IT基礎設施是AI和其他先進技術蓬勃發展的基礎。

獨立研究分析師Sagable創始人安迪·曼對此表示認同,他指出,IT基礎設施的內部運作和基本功能在推動AI發展中扮演著關鍵角色,類似於「鎬和鏟子」。他認為,CIO需要確保AI工作負載得到有效管理和運行,尤其考慮到CIO需要處理常規應用程式所需的各種屏蔽和處理工作。

資料盡職調查

Mann說,GenAI尤其對資料安全有特殊的影響。當你告訴你的AI去吸收所有這些數據並重新使用它時,你如何實現數據丟失預防呢?

#事實上,出於安全、合規性和效率的原因,CIO將希望仔細管理GenAI可以存取哪些數據,例如,檢索增強生成(RAG)正在成為一項關鍵技術,它可以使LLM在處理你自己的數據時變得有用——但你不想輸入所有數據,這不僅僅是準備一個比你需要的更大的數據集的成本,這需要一些仍然不常見的專業知識,並要求高薪,還包括你教給模型的東西。輸入你的整個Slack或Teams歷史,你可能會得到這樣的回應:“我明天再做這件事”,這對人類員工來說是非常合適的,但並不是你對GenAI系統的期望。

微軟MVP與Rencore合作夥伴管理總監Christian Buckley指出,AI工具如Copilot可能會揭示企業資訊管理的缺陷,包括企業資料和元資料的結構、資訊架構、內容清理、以及一些企業在權限管理和資料整理方面的不足。

隨著資料儲存成本的下降,許多企業正在保留不必要的數據,或在遷移或重組後清理過時或不再有用的資料。巴克利說:「人們不會回去清理垃圾,因為這是沒有成本的——除了你的風險狀況和你的搜尋效能下降」。他警告說,在不考慮數據衛生的情況下引入GenAI功能,當人們沒有做好準備工作以使其最佳性能時,他們將感到幻想破滅。

當微軟推出Delve時,同樣的問題也暴露了出來,在此之前,快速整合在2010年為SharePoint帶來了強大的搜尋功能。他說:「當我們開始看到搜尋在SharePoint中真正起作用時,人們會抱怨它不能正常工作,但事實就是如此,它所做的是暴露出你對數據缺乏管理。我聽到人們說, '這違反了我所有的許可',不,它是在你有洞的地方浮出水面的,你想在你的數據中使用AI來擁有更強大的搜索能力,並且不確定你是如何企業這些數據的嗎?”

另一個問題是GenAI工具和用戶看不到應該包括的信息,因為元數據標記和敏感度標籤沒有正確應用到數據上。

無論哪種方式,管理不善的資料都會引發合規性和保密性問題,例如外部合作夥伴可以存取Gen AI工具,該工具揭露了本應僅在內部提供的資訊。畢竟,涉及更多外部用戶的項目需要仔細檢查正在訪問哪些信息,以及這種外部訪問是否仍然合適,例如,如果你是一家跨國公司,在法國的員工根據澳大利亞的養老金或育嬰假政策從人力資源機器人那裡獲取訊息,即使是內部使用也會造成混亂。

巴克利说:“如果你不知道你有什么内容,它在哪里,谁可以在内部和外部访问它,什么被分享,以及它是如何标签的,你怎么能说你已经准备好治理AI呢。从治理的角度来看,你需要跟踪人们在做什么,在哪里做,以及他们是如何做的,而这一点将会不断发生变化。”

容器和证书

特权管理依赖于身份管理,这是另一个需要继续关注的领域。随着容器生态系统的发展,更多地采用Kubernetes需要新的技能,许多CIO仍在加快管理容器化应用程序的环境,这些应用程序与虚拟化有显著差异 - 随着企业决定如何应对博通对VMware许可方式的重大变化,这一过渡可能会在今年加速。

IAM平台提供商AppViewX的首席解决方案官Murali Palanisamy表示,这也意味着需要管理更多的机器身份。他说:“数字化转型作为一个整体推动了互联设备、云服务、原生云和集装箱化应用的使用显著增加,所有这些额外的计算机、工作负载和服务都需要受信任的身份,这扩大了对计算机身份管理的需求。”

物联网、软件供应链安全 - 尤其是通过代码签名来缓解这一需求 - 以及将你的数据用于GenAI正在增加对安全访问所依赖的TLS证书和私钥的使用。Palanisamy补充道:“每当应用程序或机器相互通信时,它们中的绝大多数都使用TLS证书来建立信任,向系统识别彼此的身份,以及安全地验证和加密通信。”

他认为,保护这些机器身份至关重要,管理它们不能再是一个临时的、手动的过程,特别是在谷歌提议将TLS证书的有效期从398天减少到90天的情况下,这需要更快的更替,还有其他监管变化也需要注意:美国证交会2023年12月起的新网络安全规则,欧盟扩大的网络和信息系统指令(NIS2),以及全面转变,使安全标准基于风险,而不是像支付卡行业数据安全标准(PCI-DSS)更新到PCI 4.0那样。

Palanisamy补充说,管理计算机身份也需要成为核心安全重点领域,依赖于自动化、自动注册和取消配置来控制对私人和敏感数据的访问。“当数据在传输过程中需要保护时,机器身份扮演着至关重要的角色”,他说,“随着AI项目的发展,管理计算机身份对于确保信任以及安全的身份验证和加密至关重要,这样才能管理和控制对正确数据的正确访问,从而确保敏感和私人数据的安全,人们很容易认为云项目的优先级低于闪亮的新AI计划”,但他表示,这些项目实际上是基础性的。他补充道:“速度和敏捷性是AI项目成功的必要条件,因此从一开始,安全就需要融入到AI项目的底层云基础设施中。”

成本控制

云服务的Finop和成本控制仍然是优先事项,由于有如此多的GenAI使用依赖于云AI服务和API,CIO将希望考虑预算和自动化,特别是对于AI开发和实验。

“如果你有100个人在做AI实验,只有一个人忘了取消配置他们的实例,你就会收到账单”,Mann说,还应该监视生产工作负载,看看你是否可以使用用于管理其他工作负载成本的相同策略和工具,缩减到更小的实例、更便宜的LLM或更低级别的许可。“管理Copilot不仅仅是权限管理”,他补充道,“人们想知道他们支付的许可证是否被使用了。”

正如其他云工作负载需要根据许可证和API调用为企业提供的价值来证明它们的成本是合理的一样,GenAI项目也需要评估它们是否真的提供了它们承诺的工作效率提高和创新。

“我在等待第一位因让AI运行太快、太久而被解雇的CIO”,曼恩说,这是CIO的基本拦截和处理纪律:我的投资组合是什么,有什么价值,我花了什么钱,我得到了什么,以及管理这些工作负载的利用率和质量,这种ITSM、ITIL风格的纪律和投资组合管理将会卷土重来,因为你肯定需要这种级别的纪律来应对这种新的工作负荷。

但在其他领域,IT团队将寻求增加预算和支出。

加速硬件更新

随着Windows 10将于2025年到期,CIO将计划在未来18个月内迁移到Windows 11,默认情况下,要获得承诺的安全改进,意味着投资于配备更新一代CPU的新PC,这些PC具有正确的指令,可以在不影响性能的情况下支持安全功能。

越來越多的此類設備將包括神經處理單元(NPU)或類似的專用硬件,以加快設備上的AI工作負載,無論是實時編輯視頻通話還是在Windows 11中運行Copilot,但快速的硬體進步可能意味著CIO需要為未來更短的硬體更新周期做預算,以保持最新,追蹤哪些員工擁有合適的PC硬體的資產管理,可能是從AI獲得承諾的生產力提高的關鍵。

準備好你的資料中心可能意味著更多的投資,這不僅僅是你能找到GPU的價格。雖然大多數LLM將在雲端運行,並可透過API訪問,但要使GenAI工具對業務有用,需要將它們連接到你自己的資料來源。

發展你的網路架構以減少延遲並安全地提供更好的連接- 無論你是透過5G、Wi-Fi 6和7實現這一點,還是新興的衛星連接- 是支援混合和遠程工作的關鍵,但AI將進一步推動安全的邊緣運算和網路需求。

此外,資料管理軟體公司Datadobi的產品行銷副總裁Steve Leeper表示,不斷下降的價格正在推動向全快閃物件儲存系統的過渡,提供資料庫效能,這將有利於處理需要快速吞吐量和可擴展性的AI工作負載所必需的大數據集,還將迎合永無止境的數據胃口和AI驅動的運營的快速訪問需求。

他補充說,總的來說,CIO需要考慮AI處理管道的硬體基礎設施,從AI處理的儲存數量和類別、互聯網和GPU場開始,還有資料處理:識別合適的資料集,在處理管線上的點之間快速準確地重新定位資料- 這意味著沒有靜默的資料損壞- 並確保AI處理結果也被重新定位到適當的位置和儲存類別。

Leeper說,GenAI的資料集不會總是巨大的。 “將會有大大小小的數據集”,他說,其中一些數據集包含關鍵數據,根據企業的治理策略,這些數據需要使用本地資源進行處理,管理AI對這些數據集的訪問依賴於CIO非常熟悉的那種傳統IT基礎設施管理,因此,將對這些基礎設施的投資作為今年的優先事項將對兩者都有回報。

“只有當我們運用我們所擁有的紀律時,這些問題才能得到解決”,曼恩補充道,“但它們往往得不到解決,因為沒有人考慮到更長期的影響,所以沒有所有權”,但這種情況可能正在改變。 2023年初,Gartner報告稱,只有15%的企業已經擁有對資料進行分類和優化的資料儲存管理解決方案,但該分析公司預計,到2027年,這一比例將至少升至40%。

#

以上是在優先考慮AI時不要低估了IT基礎的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除