發表文章

目前顯示的是 10月, 2026的文章

Day 32|做了 AgentMorph 後,我重新理解了「AI Demo 到 Production」

  做了 AgentMorph 後,我重新理解了「AI Demo 到 Production」 前 30 天,我一直在討論一個問題:AI Demo 為什麼上不了 Production? 今天我想換個方式,介紹新的AI技術應用AgentMorph,也是回頭看看我自己正在做的 AgentMorph。 AgentMorph 是我實作的一個 AI Agent 平台。我希望使用者可以建立不同角色的 Agent,並依照 Work、Learn、Relax 等不同情境使用,同時把 Agent 的 Identity、Tools、Knowledge、Permissions 與 Execution 分開思考。 一開始做 Prototype 時,我最關心的也是「功能能不能跑」。但隨著功能逐漸增加,我遇到的問題開始變成:登入怎麼處理?不同使用者的權限怎麼隔離?Tool 能不能安全執行?資料怎麼保存?付款後的使用權限怎麼驗證?發生錯誤又該如何恢復? 這些問題,其實就是前 30 天反覆談到的同一件事。 Demo 關心功能能不能成功一次;Production 關心的是整個系統能不能持續被使用。 現在回頭看 AgentMorph,我反而覺得它不只是我做的一個 AI Agent 專案,也是一個讓我實際驗證 AI Infrastructure 思維的實驗場。 所以今天留下的問題很簡單: 如果把自己做過的 AI 專案重新檢查一次,它現在究竟是一個「可以展示的 Demo」,還是一個「正在走向 Production 的系統」? 這也是我撰寫《AI Infrastructure 實戰:AI Demo 為什麼上不了 Production?》時,不斷拿自己的實作重新檢驗的問題。 我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來, 今天實作給你看! https://app.agentmorph.dpdns.org/ 這30天,我一路寫文章寫書,用AI寫了上面這個WEB程式軟體,把所寫的內容做了一輪實作!今天才剛要發布出來! 這30天我每天分享一個經驗,把 30 天本身變成經驗也用實作從CLAUDE CODE=>CODX->MANUS=>CURSOR=>Antigravity->CODEX~>AWS 我從與AI討論從零開始開始做...

Day 31|30 天後,我終於能回答:AI Demo 為什麼上不了 Production?

  我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來 30 天後,我終於能回答:AI Demo 為什麼上不了 Production? 60 天前,我用一個問題開始這個系列: (30天完成後,休息了30天,其實留了1篇等著今天來發,意不意外,驚不驚喜?) AI Demo 明明可以跑,為什麼上不了 Production? 30 天後,我的答案反而比一開始更簡單:因為「模型能跑」只是整個 AI System 的其中一層。 這 30 天,我一路從 GPU、VRAM、模型大小與 Quantization,談到 Runtime、Dependency、Docker、Kubernetes,再往 Scaling、Cost、Observability、Reliability、Security 與 AI Agent 延伸。 這也讓我重新整理自己過去從 Python、AI/ML、Cloud、Container、Kubernetes 到 LLM 與 Agent 的學習與實作經驗。 我逐漸發現,真正困難的從來不是讓一個 AI Demo 成功執行一次,而是讓它 明天還能跑、換個環境還能跑、使用者增加還能跑、發生故障能恢復,而且成本、安全與效能仍然可以被控制。 Google Cloud 最新的 Well-Architected Framework,同樣從 Operational Excellence、Security、Reliability、Cost 與 Performance 等不同面向思考真正可以長期運作的系統。 所以現在我認為: Demo 證明的是「這個想法做得到」;Production 證明的是「這套系統能持續被信任」。 但 30 天結束後,我反而想留下另一個問題: 當 AI 與 Agent 持續快速進化,我們今天認為 Production-ready 的架構,半年後還會 Production-ready 嗎? 這也是我寫《AI Infrastructure 實戰:AI Demo 為什麼上不了 Production?》這個主題與這一本書真正想繼續探索的問題。 30 天結束了,但從 Demo 走向 Production 的實戰,才正要開始。 https://app.agentmorph.dpdns.org/ 這30天,我一路寫文章寫書...