或許從誕生那天起,LangChain 就注定是個口碑兩極化的產品。
看好 LangChain 的人欣賞它豐富的工具和組建和易於整合等特點,不看好 LangChain 的人,認為它注定失敗 —— 在這個技術變化如此之快的年代,用 LangChain 來構建一切根本行不通。
誇張點的還有:
「在我的諮詢工作中,我花了70% 的精力來說服人們不要使用langchain 或llamaindex。這解決了他們90% 的問題。」
最近,一篇LangChain 吐槽文再次成為熱門焦點:
作者Fabian Both 是AI 測試工具Octomind 的深度學習工程師。 Octomind 團隊會使用具有多個 LLM 的 AI Agent 來自動建立和修復 Playwright 中的端對端測試。
這是一個持續一年多的故事,從選擇 LangChain 開始,隨後進入到了與 LangChain 頑強鬥爭的階段。在 2024 年,他們終於決定告別 LangChain。
讓我們看看他們經歷了什麼:
「LangChain 曾經是最佳選擇」
我們在生產中使用LangChain 超過12 個月,從2023 年初開始使用,然後在2024 年將其移除。
在 2023 年,LangChain 似乎是我們的最佳選擇。它擁有一系列令人印象深刻的組件和工具,而且人氣飆升。 LangChain 承諾「讓開發人員一個下午就能從一個想法變成可運行的程式碼」,但隨著我們的需求變得越來越複雜,問題也開始浮出水面。
LangChain 變成了阻力的根源,而不是生產力的根源。
隨著 LangChain 的不靈活性開始顯現,我們開始深入研究 LangChain 的內部結構,以改善系統的底層行為。但是,由於 LangChain 故意將許多細節做得非常抽象,我們無法輕鬆編寫所需的底層程式碼。
眾所周知,人工智慧和 LLM 是瞬息萬變的領域,每週都會有新的概念和想法出現。而 LangChain 這樣圍繞著多種新興技術創建的抽象概念,其框架設計很難經得起時間考驗。
LangChain 為什麼如此抽象
起初,當我們的簡單需求與 LangChain 的使用假設相吻合時,LangChain 還能幫上忙。但它的高階抽像很快就讓我們的程式碼變得更加難以理解,維護過程也令人沮喪。當團隊用在理解和調試 LangChain 的時間和用在構建功能上的時間一樣時,這可不是一個好兆頭。
LangChain 的抽象方法所存在的問題,可以透過「將一個英文單字翻譯成義大利文」這一微不足道的例子來說明。
下面是一個只使用 OpenAI 軟體包的 Python 範例:
這是一段簡單易懂的程式碼,只包含一個類別和一個函數呼叫。其餘部分都是標準的 Python 程式碼。
將其與 LangChain 的版本進行對比:
程式碼大致相同,但相似之處僅止於此。
我們現在有三個類別和四個函數呼叫。但令人擔憂的是,LangChain 引入了三個新的抽象概念:
Prompt 模板: 為LLM 提供Prompt;
輸出解析器:處理來自LLM 的輸出;
輸出解析器:處理來自LLM 的輸出;
輸出解析器:處理來自LLM 的輸出;
的“LCEL 語法”覆蓋Python 的| 操作符。 LangChain 所做的只是增加了程式碼的複雜性,卻沒有帶來任何明顯的好處。這種程式碼對於早期原型來說可能沒什麼問題。但對於生產使用,每個組件都必須得到合理的理解,這樣在實際使用條件下才不會意外崩潰。你必須遵守給定的資料結構,並圍繞這些抽象設計應用程式。
讓我們來看看 Python 中的另一個抽像比較,這次是從 API 中取得 JSON。
使用內建的 http 套件:
使用 requests 套件:
🎜🎜高下顯而易見。這就是好的抽象的感覺。 🎜🎜當然,這些都是微不足道的例子。但我想說的是,好的抽象可以簡化程式碼,減少理解程式碼所需的認知負荷。 🎜🎜LangChain 試圖透過隱藏細節,用更少的程式碼完成更多的工作,讓你的生活變得更輕鬆。但是,如果這是以犧牲簡單性和靈活性為代價的,那麼抽象就失去了價值。 🎜LangChain 也習慣在其他抽象之上使用抽象,因此你往往必須從嵌套抽象的角度來思考如何正確使用 API。這不可避免地會導致理解龐大的堆疊追蹤和調試你沒有編寫的內部框架程式碼,而不是實現新功能。
LangChain 對開發團隊的影響
一般來說,應用程式大量使用 AI Agent 來執行不同類型的任務,如發現測試案例、產生 Playwright 測試和自動修復。
當我們想從單一 Sequential Agent 的架構轉向更複雜的架構時,LangChain 成為了限制因素。例如,產生 Sub-Agent 並讓它們與原始 Agent 互動。或多個專業 Agent 相互互動。
在另一個例子中,我們需要根據業務邏輯和 LLM 的輸出,動態改變 Agent 可以存取的工具的可用性。但 LangChain 並沒有提供從外部觀察 Agent 狀態的方法,這導致我們必須縮小實現範圍,以適應 LangChain Agent 的有限功能。
一旦我們刪除了它,我們就不再需要將我們的需求轉化為適合 LangChain 的解決方案。我們只需編寫程式碼即可。
那麼,如果不使用 LangChain,你該使用什麼框架呢?也許你根本不需要框架。
我們真的需要建立人工智慧應用程式的框架嗎?
LangChain 在早期為我們提供了 LLM 功能,讓我們可以專注於建立應用程式。但事後看來,如果沒有框架,我們的長期發展會更好。
LangChain 一長串的組件給人的印像是,建立一個由 LLM 驅動的應用程式非常複雜。但大多數應用程式所需的核心元件通常如下:
用於LLM 通訊的用戶端
用於函數呼叫的函數/ 工具
用於資料庫 RA 的向量用於追蹤、評估等的可觀察性平台。
Agent 領域正在快速發展,帶來了令人興奮的可能性和有趣的用例,但我們建議 —— 在 Agent 的使用模式得到鞏固之前,暫時保持簡單。人工智慧領域的許多開發工作都是由實驗和原型設計所驅動的。
以上是 Fabian Both 一年多來的切身體會,但 LangChain 並非全然沒有可取之處。
另一位開發者Tim Valishev 表示,他會再堅持使用LangChain 一段時間:
我真的很喜歡Langsmith:箱即用的可視化日誌play立即從日誌中修復Prompt,並查看它在相同輸入下的表現
可直接從日誌輕鬆建立測試資料集,並可選擇一鍵運行Prompt 中的簡單測試集(或在程式碼中進行端到端測試)
測試分數歷史
Prompt 版本控制
- 而且它對整個鏈的流動性傳輸提供了一些手動鏈的支援。 何況,只靠 API 也是不行的,每家大模型廠商的 API 都不同,無法「無縫切換」。
你怎麼看?
以上是為什麼都放棄了LangChain?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

你可能听过以下犀利的观点:1.跟着NVIDIA的技术路线,可能永远也追不上NVIDIA的脚步。2.DSA或许有机会追赶上NVIDIA,但目前的状况是DSA濒临消亡,看不到任何希望另一方面,我们都知道现在大模型正处于风口位置,业界很多人想做大模型芯片,也有很多人想投大模型芯片。但是,大模型芯片的设计关键在哪,大带宽大内存的重要性好像大家都知道,但做出来的芯片跟NVIDIA相比,又有何不同?带着问题,本文尝试给大家一点启发。纯粹以观点为主的文章往往显得形式主义,我们可以通过一个架构的例子来说明Sam

2021年9月25日,阿里云发布了开源项目通义千问140亿参数模型Qwen-14B以及其对话模型Qwen-14B-Chat,并且可以免费商用。Qwen-14B在多个权威评测中表现出色,超过了同等规模的模型,甚至有些指标接近Llama2-70B。此前,阿里云还开源了70亿参数模型Qwen-7B,仅一个多月的时间下载量就突破了100万,成为开源社区的热门项目Qwen-14B是一款支持多种语言的高性能开源模型,相比同类模型使用了更多的高质量数据,整体训练数据超过3万亿Token,使得模型具备更强大的推

在法国巴黎举行了国际计算机视觉大会ICCV(InternationalConferenceonComputerVision)本周开幕作为全球计算机视觉领域顶级的学术会议,ICCV每两年召开一次。ICCV的热度一直以来都与CVPR不相上下,屡创新高在今天的开幕式上,ICCV官方公布了今年的论文数据:本届ICCV共有8068篇投稿,其中有2160篇被接收,录用率为26.8%,略高于上一届ICCV2021的录用率25.9%在论文主题方面,官方也公布了相关数据:多视角和传感器的3D技术热度最高在今天的开

8月31日,文心一言首次向全社会全面开放。用户可以在应用商店下载“文心一言APP”或登录“文心一言官网”(https://yiyan.baidu.com)进行体验据报道,百度计划推出一系列经过全新重构的AI原生应用,以便让用户充分体验生成式AI的理解、生成、逻辑和记忆等四大核心能力今年3月16日,文心一言开启邀测。作为全球大厂中首个发布的生成式AI产品,文心一言的基础模型文心大模型早在2019年就在国内率先发布,近期升级的文心大模型3.5也持续在十余个国内外权威测评中位居第一。李彦宏表示,当文心

随着智慧司法的兴起,智能化方法驱动的智能法律系统有望惠及不同群体。例如,为法律专业人员减轻文书工作,为普通民众提供法律咨询服务,为法学学生提供学习和考试辅导。由于法律知识的独特性和司法任务的多样性,此前的智慧司法研究方面主要着眼于为特定任务设计自动化算法,难以满足对司法领域提供支撑性服务的需求,离应用落地有不小的距离。而大型语言模型(LLMs)在不同的传统任务上展示出强大的能力,为智能法律系统的进一步发展带来希望。近日,复旦大学数据智能与社会计算实验室(FudanDISC)发布大语言模型驱动的中

保险行业对于社会民生和国民经济的重要性不言而喻。作为风险管理工具,保险为人民群众提供保障和福利,推动经济的稳定和可持续发展。在新的时代背景下,保险行业面临着新的机遇和挑战,需要不断创新和转型,以适应社会需求的变化和经济结构的调整近年来,中国的保险科技蓬勃发展。通过创新的商业模式和先进的技术手段,积极推动保险行业实现数字化和智能化转型。保险科技的目标是提升保险服务的便利性、个性化和智能化水平,以前所未有的速度改变传统保险业的面貌。这一发展趋势为保险行业注入了新的活力,使保险产品更贴近人民群众的实际

不得不说,Llama2的「二创」项目越来越硬核、有趣了。自Meta发布开源大模型Llama2以来,围绕着该模型的「二创」项目便多了起来。此前7月,特斯拉前AI总监、重回OpenAI的AndrejKarpathy利用周末时间,做了一个关于Llama2的有趣项目llama2.c,让用户在PyTorch中训练一个babyLlama2模型,然后使用近500行纯C、无任何依赖性的文件进行推理。今天,在Karpathyllama2.c项目的基础上,又有开发者创建了一个启动Llama2的演示操作系统,以及一个

杭州第19届亚运会不仅是国际顶级体育盛会,更是一场精彩绝伦的中国科技盛宴。本届亚运会中,快手StreamLake与杭州电信深度合作,联合打造智慧观赛新体验,在击剑赛事的转播中,全面应用了快手StreamLake六自由度技术,其中“子弹时间”也是首次应用于击剑项目国际顶级赛事。中国电信杭州分公司智能亚运专班组长芮杰表示,依托快手StreamLake自研的4K3D虚拟运镜视频技术和中国电信5G/全光网,通过赛场内部署的4K专业摄像机阵列实时采集的高清竞赛视频,


熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

AI Hentai Generator
免費產生 AI 無盡。

熱門文章

熱工具

Safe Exam Browser
Safe Exam Browser是一個安全的瀏覽器環境,安全地進行線上考試。該軟體將任何電腦變成一個安全的工作站。它控制對任何實用工具的訪問,並防止學生使用未經授權的資源。

DVWA
Damn Vulnerable Web App (DVWA) 是一個PHP/MySQL的Web應用程序,非常容易受到攻擊。它的主要目標是成為安全專業人員在合法環境中測試自己的技能和工具的輔助工具,幫助Web開發人員更好地理解保護網路應用程式的過程,並幫助教師/學生在課堂環境中教授/學習Web應用程式安全性。 DVWA的目標是透過簡單直接的介面練習一些最常見的Web漏洞,難度各不相同。請注意,該軟體中

SublimeText3 英文版
推薦:為Win版本,支援程式碼提示!

EditPlus 中文破解版
體積小,語法高亮,不支援程式碼提示功能

SublimeText3 Linux新版
SublimeText3 Linux最新版