LLM分类：如何为您的应用程序选择最佳LLM

浏览大语模型（LLMS）的世界：实用指南> LLM景观正在迅速发展，新车型和专业公司不断出现。 为应用程序选择合适的模型可能具有挑战性。本指南提供了一个实用的概述，重点介绍交互方法和关键功能，以帮助您选择最适合项目的方法。 对于LLM新移民，请考虑审查有关AI基础知识和LLM概念的入门材料。

与LLMS

接口

存在几种与LLM互动的方法，每种方法都有其自身的优势和缺点：>

1。游乐场界面

>用户友好的浏览器接口（例如Chatgpt和Google的双子座）提供简单的交互。 这些通常提供有限的自定义，但为测试基本任务的模型提供了一种简便的方法。 Openai的“游乐场”允许进行一些参数探索，但是这些接口不适合嵌入应用程序中。

2。本机API访问 API提供无缝集成到脚本中，从而消除了基础架构管理。 但是，使用使用情况量表，您仍然依赖外部服务。 围绕API调用的结构良好的包装器功能可改善模块化并减少错误。 例如，OpenAI的API使用方法与模型名称和格式的提示作为关键参数。

。

> OpenAI的GPT API的样本包装器功能：>

请记住，大多数API提供商都提供有限的免费信用。 将API调用在功能中确保应用程序独立于特定提供商。 openai.ChatCompletion.create3。本地模型托管

>本地托管该模型（在您的计算机或服务器上）提供了完整的控制，但显着提高了技术复杂性。 Meta AI的Llama模型由于其相对较小的尺寸而是当地托管的流行选择。

ollama平台

def chatgpt_call(prompt, model="gpt-3.5-turbo"):
   response = openai.ChatCompletion.create(
       model=model,
       messages=[{"role": "user", "content": prompt}]
   )
   return response.choices[0].message["content"]

Ollama简化了本地LLM部署，支持MacOS，Linux和Windows上的各种模型（Llama 2，Code Llama，Mismtral）。 这是一个命令行工具，可轻松下载和运行模型。

>

ollama还为脚本集成提供了Python和JavaScript库。 请记住，模型性能随大小增加而增加，需要更多的资源才能为大型模型提供更多资源。 Ollama支持Docker的可伸缩性。

4。第三方API

Llama API（例如Llama API）（例如，在不管理基础架构的情况下，都可以访问各种型号的第三方提供商。 成本仍然随使用量而扩大。 他们托管模型并揭露API，通常比本地提供商更广泛选择。

>

> Llama API的样品包装器功能：

def chatgpt_call(prompt, model="gpt-3.5-turbo"):
   response = openai.ChatCompletion.create(
       model=model,
       messages=[{"role": "user", "content": prompt}]
   )
   return response.choices[0].message["content"]

拥抱面是另一个著名的第三方提供商，提供各种接口（Space Playground，模型托管，直接下载）。 Langchain是用拥抱脸构建LLM应用程序的有用工具。>

llm分类和模型选择

>下面总结了几个关键模型及其特征。 请注意，这不是一个详尽的列表，而新的模型则不断出现。

>

(Tables summarizing OpenAI models (GPT-4, GPT-4 Turbo, GPT-4 Vision, GPT-3.5 Turbo, GPT-3.5 Turbo Instruct), LLaMa models (LLaMa 2, LLaMa 2 Chat, LLaMa 2 Guard, Code LLaMa, Code LLaMa - Instruct, Code LLaMa - Python), Google models (Gemini, Gemma), and Mistral AI models （Mistral，Mixtral）将在此处插入这些表的长度和复杂性。 选择正确的llm

>没有单一的“最佳” llm。 考虑以下因素：

1. 接口方法：

   确定要如何进行交互（Playground，API，本地托管，第三方API）。这大大缩小了选项。

2. 任务：

   定义LLM的目的（聊天机器人，摘要，代码生成等）。 针对特定任务进行了优化的预训练模型可以节省时间和资源。

   >
上下文窗口：该模型可以立即处理的文本量至关重要。 选择一个带有足够窗口的模型满足您应用程序的需求。

3. 定价：考虑初始投资和持续成本。 培训和微调可能是昂贵且耗时的。

   >

4. >通过仔细考虑这些因素，您可以有效地浏览LLM景观并为您的项目选择最佳模型。

以上是LLM分类：如何为您的应用程序选择最佳LLM的详细内容。更多信息请关注PHP中文网其他相关文章！