首頁  >  文章  >  後端開發  >  AI Runner v.ev18

AI Runner v.ev18

Patricia Arquette
Patricia Arquette原創
2024-09-24 22:15:32454瀏覽

AI Runner v.ev18

AI Runner 是我編寫的一個程序,它允許您在自己的硬體上本地離線運行 LLM 和穩定擴散藝術模型。我針對低階顯示卡對此進行了優化(在 2080s RTX 和 3060 RTX 上測試)。它已經開發了大約兩年,是免費的,純 python 並在 GPL3 下發布。

最新版本 3.0 已經開發好幾個月了。它是應用程式的完整重構,即將準備就緒,並將成為第一個非 alpha 版本。

AI Runner 是使用 Pyside6 和 Huggingface 程式庫建立的。為了提供更高的安全性和隱私性,我發布了幾個沙盒光碟、網路和日誌操作的庫,每個庫都沒有第三方依賴項。

以前的版本是使用 pyinstaller 編寫的,並在 itch.io 上發布,但今後我的目標是 Linux 上的 Flatpak 或 Snap(我現在已經放棄了 Windows 支援)。

如果您喜歡我的工作,可以在 Patreon 上支持我 - 我這樣做是免費的,非常感謝任何支持。

程式碼儲存庫

  • AI Runner v3.0.0.dev18
  • 抱臉盾
  • 防禦者
  • 空尖叫
  • 暗影記錄者
  • 黑鎖

以上是AI Runner v.ev18的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn