首頁 >科技週邊 >人工智慧 >如何在5分鐘內在本地運行DeepSeek模型?

如何在5分鐘內在本地運行DeepSeek模型?

Christopher Nolan
Christopher Nolan原創
2025-03-07 09:59:09639瀏覽

DeepSeek席捲了AI社區,到目前為止,有68個模型可在擁抱的臉上使用。可以通過擁抱的面孔或Ollama訪問這個開源模型家族,而

deepSeek-r1>和 deepSeek-v3可以通過> deepseek chat 直接用於推理。在此博客中,我們將探索DeepSeek的模型陣容,並指導您使用Google Colab和Ollama運行這些模型。 >目錄

> deepSeek模型的概述
  • >在Ollama
  • 上運行DeepSeek R1步驟1:安裝Ollama
    • 步驟2:deepseek r1 r1
    • DeepSeek-janus-pro-1b在Google Colab
    • >步驟1上:克隆DeepSeek-Janus儲存庫
    • 步驟2:安裝依賴項

步驟3:加載模型並將其移動並將其移動到GPU

步驟4:將圖像用於處理圖像,以使

  • 概述 DeepSeek提供各種模型,每個模型都針對不同的任務進行了優化。以下是哪種模型最適合您的需求的細分:> 對於開發人員和程序員而言,>
  • > DeepSeek-Coder和DeepSeek-coder-V2模型是為編碼任務(例如寫作和調試代碼)而設計的。 > 對於一般用戶而言,>>
  • DeepSeek-v3模型是一種多功能選項,能夠處理各種查詢,從休閒對話到復雜的內容生成。 > 對於研究人員和高級用戶而言,

DeepSeek-r1 模型專門從事高級推理和邏輯分析,使其非常適合解決問題和研究應用程序。

>>>>> 視覺任務的

>

DeepSeek-Janus家族和DeepSeek-VL模型是針對多模式任務(包括圖像生成和處理)量身定制的。

也請閱讀:使用DeepSeek-V3
  • 構建AI應用程序 >在Ollama上運行DeepSeek R1 步驟1:安裝Ollama
  • >要在本地計算機上運行DeepSeek模型,您需要安裝Ollama:
  • >>下載ollama:
>單擊此處下載
curl -fsSL https://ollama.com/install.sh | sh

> Linux用戶

>在您的終端中運行以下命令:bashcopyedit
ollama pull deepseek-r1:1.5b

步驟2:拉動deepseek r1型

安裝了Ollama後,打開命令行界面(CLI)並拉動模型:

ollama pull deepseek-r1:1.5b

pulling manifest 
pulling aabd4debf0c8... 100% ▕████████████████▏ 1.1 GB                         
pulling 369ca498f347... 100% ▕████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕████████████████▏  148 B                         
pulling a85fe2a2e58e... 100% ▕████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 

>您可以在Ollama上探索其他可用的DeepSeek模型:Ollama模型搜索。

此步驟可能需要一些時間,因此請等待下載完成。

步驟3:在本地運行模型 >下載模型後,您可以使用命令:運行它。
curl -fsSL https://ollama.com/install.sh | sh

如何在5分鐘內在本地運行DeepSeek模型?

該模型現在可以在本地機器上使用,並且正在不用任何打ic來回答我的問題。

>在Google Colab上運行DeepSeek-Janus-Pro-1b 在本節中,我們將使用Google Colab嘗試DeepSeek-Janus-Pro-1b。啟動之前,請確保將運行時設置為T4 GPU以獲得最佳性能。 >

步驟1:克隆DeepSeek-Janus存儲庫

在COLAB筆記本中運行以下命令:

?在GitHub上探索更多的DeepSeek模型:DeepSeek AI GitHub存儲庫
ollama pull deepseek-r1:1.5b

> 步驟2:安裝依賴項>

>導航到克隆目錄並安裝所需的軟件包:>

>

步驟3:加載模型並將其移至GPU

ollama pull deepseek-r1:1.5b

pulling manifest 
pulling aabd4debf0c8... 100% ▕████████████████▏ 1.1 GB                         
pulling 369ca498f347... 100% ▕████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕████████████████▏  148 B                         
pulling a85fe2a2e58e... 100% ▕████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 
>

現在,我們將導入必要的庫,然後將模型加載到> cuda(gpu)>:

>

步驟4:通過處理圖像

現在,讓我們將
ollama run deepseek-r1:1.5b
圖像

傳遞給模型並生成一個響應。

?輸入圖像

初始化提示和系統角色如何在5分鐘內在本地運行DeepSeek模型?

>

處理輸入

!git clone https://github.com/deepseek-ai/Janus.git

輸出:

%cd Janus
!pip install -e .
!pip install flash-attn

< | user |>:圖像中有什麼? >

< |助手|>:該圖像以“最新文章”為特色,重點是博客文章。博客文章討論了“如何訪問DeepSeek Janus Pro 7b?”並強調了其在推理,文本對圖像和指導跟踪中的多模式AI功能。該圖像還包括後台的DeepSeek徽標(海豚)和六角形圖案。


>

我們可以看到該模型能夠讀取圖像中的文本,並在圖像中發現DeepSeek的徽標。最初的印象,表現良好。

>也請閱讀:如何訪問DeepSeek Janus Pro 7b? 結論

DeepSeek迅速成為AI中的強大力量,為開發人員,研究人員和普通用戶提供了廣泛的模型。隨著它與OpenAI和Gemini等行業巨頭競爭,其成本效益和高性能模型可能會廣泛採用。 DeepSeek模型的應用是無限的,從編碼幫助到高級推理和多模式功能。通過Ollama和基於雲的推理選項的無縫本地執行,DeepSeek有望成為AI研發中的遊戲規則改變者。

> 如果您有任何疑問或面對問題,請隨時在評論部分中詢問!

以上是如何在5分鐘內在本地運行DeepSeek模型?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn