機密資料不想上傳給 AI 公司?用 VPS 架一個自己的私人 AI,資料不外流|Ollama 完整教學
想架一個私人 AI,處理不想上傳到 AI 公司的機密資料?
用 Ollama 這個平台就可以,上面能安裝各種 AI 模型,架設方式有兩種。
💻 第一種,裝在自己的電腦
資料完全不會離開你的電腦,但電腦要 24 小時開著,出了問題也要自己處理。
☁️ 第二種,裝在 VPS,就是在網上租一台電腦
服務商會幫你 24 小時開機、負責維護,你自己的電腦關機也沒關係。
兩種方式,資料都不會上傳到 AI 公司的雲端。下面介紹 VPS 的做法,包括三個步驟、一個提速設定、實測結果,還有這個做法目前的限制 👇
---
1️⃣ 為什麼我選 VPS
打個比方,裝在自己電腦像在家開店,水電維修全部自己來;租 VPS 像租商場的鋪位,大廈管理處負責水電,你只管做生意。
❌ 裝在自己電腦:要一直開機,壞了自己修
✅ 租 VPS:服務商負責開機和維護,你的電腦關機也照樣運作
我用的是 Hostinger 的 VPS,每星期自動備份,遇到技術問題也有 AI 助手幫忙處理。方案有 30 天退款保證,不確定合不合用可以先試。
---
2️⃣ 上手三步
Step 1️⃣ 租 VPS,貼一段設定裝好 Ollama
方案我建議 KVM 4。最便宜的方案只有 1 個 vCPU 核心,KVM 4 有 4 個,AI 運作會更流暢。
租好之後在應用一欄安裝 Open WebUI,來到 Docker 管理器,選「構成」裏的「手動構成」,把編輯器原有的文字刪掉,貼上我準備好的設定,按部署。
等 5 到 10 分鐘,在瀏覽器輸入 VPS 的 IP 地址加上「:8080」,註冊管理員帳號,就會進到一個跟 ChatGPT 很像的聊天介面。
Step 2️⃣ 下載模型
這時候還不能聊天,因為裏面還沒有模型。
進「設定」,在 AI 底下的「連線」按「管理」,輸入模型標籤再按下載就可以。我用過的模型標籤放在影片說明欄。
我試了阿里巴巴的 Qwen 和 Meta 的 Llama。處理繁體中文的時候,Qwen 比較好,Llama 有時會夾雜英文。
有人會問,Qwen 是中國的模型,資料會不會傳回中國?不會,模型下載之後整個在你的伺服器上運行。
Step 3️⃣ 放入公司資料,建一個客服小幫手
知識庫就是讓 AI 回答前先去翻的資料夾。在工作區建立知識庫,把內部處理手冊、會員資料、訂單記錄上傳進去。我建了兩個,一個放客服資料,一個放管理層資料。
接著在工作區建立一個新模型,我命名為 CS 客服,基礎模型選 Qwen,知識庫只選客服資料。系統提示詞就是給 CS 客服的工作守則,我寫了三條:
📌 只根據知識庫的資料回覆
📌 手冊裏標為內部的內容,不可以告訴客人
📌 找不到答案,就說會轉交同事跟進
---
3️⃣ 一個提速設定:關掉內建工具
在設定的「模型」頁按模型旁邊的鉛筆,「內建工具」預設是勾選的。用不到的話把勾取消,按儲存並更新。
❌ 勾著:我覺得回覆慢很多,要等 10 秒左右
✅ 取消後:簡單的任務幾乎馬上就有回覆
---
4️⃣ 實測結果
👞 我用客人的口吻說,八月買的皮鞋穿了三個星期就壞掉。CS 客服照手冊道歉,安排免費換新,運費由公司負責,另送 200 元購物金,三到五個工作天處理好。
🔒 我沒有把成本價給 CS 客服,所以故意問皮鞋的成本價,CS 客服直接說沒辦法提供,只根據手上的資料回覆。
💰 另一個例子,我把公司的報價和成本資料交給私人 AI。有人來問價錢時,私人 AI 會找出最低的成本價,再按公司實際情況回覆我。
---
5️⃣ 要先知道的限制
這類在自己伺服器上跑的模型,沒有 ChatGPT、Claude 那麼聰明,速度也沒那麼快。想跑更大、更強的模型,可以選更高規格的 KVM 8。
---
🎯 結論:從「資料交出去」到「模型請進來」
舊思維:想用 AI 處理公司資料,就只能上傳到 AI 公司的雲端
新思維:把模型裝在自己租的伺服器,資料留在自己手上
如果你的公司或小團隊不想把報價、成本這些資料交給 AI 公司,就可以考慮這個做法。訂閱 Hostinger 時輸入優惠碼 HEIAI,可以獲得九折優惠,完整操作影片和連結放在留言。
如果有一個只看你公司資料的 AI,你第一份想放進去的是什麼文件?留言告訴我 👇
#私人AI #Ollama #VPS #Hostinger #OpenWebUI #AI自動化 #AI客服 #企業AI #工作效率 #AI教學
1
2 comments
Heison Chow
5
機密資料不想上傳給 AI 公司?用 VPS 架一個自己的私人 AI,資料不外流|Ollama 完整教學
powered by
AI 自動化中心
skool.com/hei-ai-8196
這是一個幫助你掌握AI自動化工作以及AI Agent (AI代理) 的中心。讓我們一起利用AI令你的人生更精彩!
升級至VIP:
skool.com/ai-plus-8477
Build your own community
Bring people together around your passion and get paid.
Powered by