本地LLM
在DaDesktop桌面內運行LLM，而不是將您的提示傳送到外部API。模型在DaDesktop的GPU基礎設施上運行，而您的提示、檔案和其他資料則保留在桌面環境內。您為桌面付費，而非為每個token付費。
為什麼要在本地運行LLM
- 保持資料隱私：您的提示、檔案和其他資料都留在DaDesktop環境中。
- 無按token計費：在DaDesktop的GPU基礎設施上運行模型，無需為每個請求支付API費用。
- 選擇您的模型：挑選您想運行的模型，並控制其配置方式。
- 運行您自己的工作負載：直接從桌面使用模型，並與其他應用程式和工具一起使用。
AI代理
運行使用本地模型來完成任務並與工具協作的代理。
編碼
使用本地模型進行編碼協助、開發和測試。
研究與實驗
使用模型進行研究、分析，以及測試不同的模型和配置。
運作方式
選擇一個DaDesktop GPU桌面，載入您的模型，然後在本地運行。GPU直通讓桌面完全存取實體GPU，以處理LLM工作負載。您可以在GPU頁面比較可用的GPU、規格和支援的配置。