Perplexity與輝達推本機AI代理 敏感資料留在裝置上

  • 記者黎怡涵責任編輯新聞中心
  • 發佈時間:2026.08.26 17:03
  • 最後更新時間:2026.08.26 17:03
AI代理不再全靠雲端,Perplexity與輝達推本機運算。(圖/AI 生成)

AI代理不再全靠雲端,Perplexity與輝達推本機運算。(圖/AI 生成)

Perplexity與輝達(Nvidia)合作推出「Portable Computer」,讓Perplexity Computer AI代理可在使用者的本機裝置上完全運行,分析文件、搜尋本機資料及執行複雜工作流程,敏感資料無須上傳雲端。這項服務目前率先支援Nvidia DGX Spark,未來也將擴大至搭載Nvidia RTX GPU的電腦。


AI代理改採本機優先運算

Portable Computer將Perplexity Computer的AI模型、代理工具、檔案處理、搜尋及安全沙盒整合至單一系統,讓使用者直接在本機執行AI工作。Perplexity表示,本機處理的任務不會消耗服務點數,讓使用者能以較低成本執行大量AI工作。

目前DGX Spark可運行Qwen 3.8 27B及Perplexity自行訓練的PPLX 27B模型,Nvidia Nemotron 3.5 Lightning模型也將陸續加入。系統的協調器、規劃器、工具路由、任務排程及本機搜尋索引同樣在裝置上運作。

當任務需要最新網路資訊、更強大的推理能力或使用雲端服務時,Portable Computer才會將工作升級至雲端。系統支援Google Drive、Gmail、Slack及GitHub等服務,若需要將本機內容傳送至雲端,則會先要求使用者授權。


兼顧隱私與AI運算成本

Perplexity表示,許多AI代理工作涉及私人程式碼、財務文件及企業機密,將資料留在本機,可避免這些資料在一般情況下被傳送至雲端。Portable Computer也提供本機語音轉錄功能,使用者可透過語音指示AI處理文件或程式碼,錄音及相關操作不會傳送至雲端。

此外,本機執行也能降低長時間使用AI代理的成本。相較於需要依使用量計費的雲端AI服務,本機模型執行大量任務時不會消耗服務點數。

不過,本機模型的能力仍不及最先進的雲端模型,因此Portable Computer採取「本機優先、必要時升級」的混合模式。使用者可以先讓本機模型處理任務,遇到需要更強推理能力的工作時,再授權使用雲端模型。


率先支援DGX Spark

Perplexity表示,Portable Computer目前開放Pro及Max訂閱用戶在Nvidia DGX Spark上使用,首波支援Linux,Windows版本預計後續推出。搭載至少24GB VRAM的Nvidia RTX GPU電腦也將獲得支援。

Perplexity認為,隨著AI模型及本地晶片效能持續提升,越來越多複雜的AI代理工作將能直接在個人電腦上完成。

這項合作也顯示輝達正將AI運算從大型資料中心進一步延伸至個人電腦及桌上型AI設備,而Perplexity則希望透過本機優先架構,在隱私、成本及AI代理應用之間取得平衡。