本地LLM
在DaDesktop桌面內執行LLM，而非將提示傳送至外部API。模型在DaDesktop的GPU基礎架構上執行，而您的提示、檔案及其他資料則保留在桌面環境中。您為桌面付費，而非為每個Token付費。
為何在本機執行LLM
- 保持資料隱私：您的提示、檔案及其他資料均保留在DaDesktop環境中。
- 無每次Token成本：在DaDesktop的GPU基礎架構上執行模型，無需為每個請求支付API費用。
- 選擇您的模型：挑選您要執行的模型，並控制其配置方式。
- 執行您自己的工作負載：直接從桌面使用模型，並與其他應用程式和工具並行使用。
AI代理
執行使用本機模型來完成任務並與工具協作的代理。
編碼
使用本機模型進行編碼輔助、開發和測試。
研究與實驗
使用模型進行研究、分析，以及測試不同的模型和配置。
運作方式
選擇DaDesktop GPU桌面，載入您的模型，並在本機執行。GPU穿透讓桌面完全存取實體GPU以處理LLM工作負載。您可以在GPU頁面比較可用的GPU、規格和支援的配置。