聊聊微服務是什麼 – 入門微服務

今年我 SITCON 有投一篇微服務的議程:「選課卡成狗?微服務架構帶你翻轉校園系統」。在 SITCON 之前,我打算每天在 Blog 上寫一篇和 Cloud Native 相關的短文,來當作議程的前導內容。當然針對每一篇短文的意見回饋(看不懂也是一種意見反饋 🥺),最終都有助於我產出更好的議程內容~ 這個系列的第二個主題,還是延續我們上次的選課系統設計。昨天我們發現到單體的方式開始造成資源的浪費以及資料庫的瓶頸,所以我們或許可以看看怎麼把選課系統拆成雲端原生的微服務架構。 考慮到 Blog 本身不是一個很好的互動平台,我在每篇文章的底下都會留「💬 互動區塊」,連結到和這篇文章相關的社交媒體上。你可以在社交媒體上和這篇文章互動~ 怎麼將單體服務拆分成微服務? 或許你會疑惑「微服務」是什麼。首先就「服務」這個詞來說,後端是個服務,前端也是個服務,基本上任何能提供 API 進行呼叫的都是服務。「微服務」本質上就是把我們的後端拆得更細緻:比如說我們可以把使用者相關的東西變成一個服務、把課程相關的東西變成一個服務、把志願序變成一個服務等等。 我們通常會把每個服務管轄的部分稱之為「領域」,只有這個區域內的服務可以直接操縱資料庫的資料,而不在這個區域的只能透過 RPC(遠端程序呼叫,比面向用戶端的 REST API 相對隨便,主要供內部使用的 API)撈資料。你可能會想「領域是不是就是資料表的名稱?」,但實際上其實不止於此,粒度通常會大得多,通常會追求「服務(的領域)可以獨立運作」。我們把以「領域」進行思考的一套模式叫做 DDD(領域驅動開發),實際展開的篇幅會相當長,這裡就不對拆服務和 DDD 多做說明(實際上你也不一定要學會 DDD 才能用微服務,靠經驗拆也是可以的!) 就以上面的例子來說,我自己認為使用者服務(user-service)、課程資訊服務(course-service)和選課服務(selection-service)是三個領域上可以獨立運作的服務——換言之,假如使用者服務掛掉,我預期我還能看課程資訊以及改動志願序;假如選課服務掛掉,我一樣可以更新我的選修學分。不過你應該也有發現到「選課服務」相對複雜一點,因為插入志願和最終志願序需要做很多判斷邏輯,需要連線到使用者服務看權重,以及連線到課程服務查詢限修規則,這時我們可能需要處理選課服務在其他兩個服務掛掉時的處理邏輯。但撇除掉這兩個 RPC 方法,服務大體上還是可以獨立運作的。 【🤔 想想看!】你覺得上面的微服務架構,是不是一個好的拆法? 微服務的水平擴縮 (scaling) 接著回答昨天的問題:我們這樣開發出的服務,可以怎麼降低資料庫的壓力,以及怎麼針對性的對服務進行擴充來分散壓力?首先,從上圖其實就能很明顯看到「我們把每個領域對應的資料庫都拆出去了,」換句話說,每個資料庫只需要負責自己領域內的事情(使用者資訊、課程資訊、選課資訊),壓力自然就比單體的「包山包海」小上很多。接著,其實每個微服務都應該可以水平擴縮 (scaling),所以你可以規劃「志願序服務的壓力比較大,所以我們可以開多一點服務來平衡」;「使用者服務幾乎不怎麼需要讀取,所以我們可以就開少少的機器就好」: 接下來我們也會講到很多微服務上的設計技巧,來發揮微服務更大的作用——比如快取。 【🤔 想想看!】我們要怎麼把請求分散到上面說的這三個微服務呢?是不是所有微服務都必須共用一套狀態(資料庫)?共用的缺點是什麼,以及快取區需要共用嗎? 查詢與更動分離 (CQRS) 你接著還會疑惑「查詢動作跟更動動作」差在哪裡。舉個例子,為什麼我們沒有選擇加一個「插入志願之後列出學生志願序」的查詢 + 更動 RPC,而是選擇分開變成「插入志願 RPC」+「志願序 RPC」呢?其實這種叫 CQRS,把「查詢」跟「更動(命令)」分開的一種設計模式。 為什麼我們要分開查詢(讀取)跟更動(寫入)呢?通常讀取動作不用擔心狀態問題,也就是說「就算我今天讀取 1000 次同一筆資料,只要沒有改動,得到的結果應該都要是一樣的」;寫入操作的狀態問題就複雜得多,執行順序、重複插入就足以造成大影響。所以: 讀取動作我們可以快取、可以在唯讀的資料庫 replica 實例讀取(對,很多資料庫系統是可以建立出很多個跟隨主要資料庫的唯讀 replica 實例的,通常我們叫這種功能為複寫 – replication) 寫入操作只能在主要資料庫進行操作,並且通常是不能快取的,相對來講效能改進的彈性會小一些。 在我們知道讀取和寫入兩個的複雜度不同後,CQRS 的設計就變得合理多了。就以「課程資料庫」來說,我們可以這樣規劃查詢和寫入: ...

February 4, 2025 · pan93412

聊聊微服務是什麼 – 從單體服務進行擴縮

今年我 SITCON 有投一篇微服務的議程:「選課卡成狗?微服務架構帶你翻轉校園系統」。在 SITCON 之前,我打算每天在 Blog 上寫一篇和 Cloud Native 相關的短文,來當作議程的前導內容。當然針對每一篇短文的意見回饋(看不懂也是一種意見反饋 🥺),最終都有助於我產出更好的議程內容~ 這個系列的第一個主題,就先從微服務這個主軸開始吧!但在這之前我們或許可以先聊聊「單體架構可能會遇到什麼樣的瓶頸」,以及我們要怎麼使用一些技術來稍微改善你的單體系統。 考慮到 Blog 本身不是一個很好的互動平台,我在每篇文章的底下都會留「💬 互動區塊」,連結到和這篇文章相關的社交媒體上。你可以在社交媒體上和這篇文章互動~ 單體服務的瓶頸 假設你今天要開發一套用比序來選課的系統,你或許會像下圖這樣來設計你的系統。其中後端就是一個很大的應用程式,前端去呼叫後端來選課。 乍看之下是個挺合理的設計吧?但我們設想一種情況:假如現在已經到了選課的尾聲,大家都會想要看看「自己選的課是否可以上得了」,所以「選課人數」Endpoint 的請求量也會隨時增加,然後系統的 CPU 資源就被「選課人數 Endpoint」吃光了。因為登入、選課、課程名單、志願序等等的 Endpoint 也在同個系統上,所以你的選課系統除了前端的部分會全部掛掉,學生們準備在 Dcard 上罵爆你的系統了。 擴縮單體服務 此時你會想到:那我們多開好幾套單體的後端 (replicas),然後前端隨機選擇 API(也就是所謂的「負載平衡」)呢?其實確實是個可行的方案,不過你首先要讓你的後端變成無狀態的 (Stateless) 的。「無狀態」是什麼概念呢?就以下圖來說,我們無論選到哪個 instance 的 Endpoint,呼叫結果都應該要是一致的。換言之,你的後端不可以儲存只有這個 instance 知道的東西,也就是所謂的「狀態」。當然取決於你的設計,你可能多少會不小心存一些狀態在後端裡面(比如登入的 session 以及 lock 檔案⋯⋯),所以你可能會需要花點時間重構這些邏輯,讓這堆狀態不要跟後端放在一起(或甚至變成不用儲存狀態也能判斷的東西,比如 JWT)。 【🤔 想想看!】哪些東西可能會導致一個服務變成有狀態的(Stateful)? 單體服務的擴縮問題 在完成相關的重構後,就算其中一個 instance 有著很大的負載,其他 instance 也能有效的分散掉請求,讓系統不至於完全停擺。不過這種方法粒度或許還是太大了——我們只有 1 個 endpoint 遇到瓶頸,但卻需要因此開出 5 個(甚至更多)完整的後端 instances,資源用量上會不會變得太多;而且所有 instances 最終還是連到一台資料庫上,遇到大量讀取、寫入的場景可能還是會 lag。如果我們用微服務、分散式系統的邏輯重新規劃後端,我們有沒有機會解決掉這個問題? ...

February 4, 2025 · pan93412

把 Python 的 venv 移到其他機器

前言 要怎麼在不重新下載東西的情況下,把一整包 code 包含依賴本身,移到新的地方呢? 舉個之前遇到的例子:我想在學校部署一個用 Python Streamlit 框架寫的程式碼評測工具,但是在測試部署時發現一個非常頭痛的問題:學校的連外網路特別慢,導致 pip 幾乎無法正常完成安裝。在嘗試了 pip download 以及一些打包方案後,發現 Streamlit 的執行最終都會缺幾個元件導致啟動失敗,最終都還是需要用 pip install 補全依賴。最後我想到一個 workaround:拿其他同學的 Windows 筆電先把程式準備好,再把準備好的程式複製到新的地方。 不過要怎麼「準備好程式」然後「複製到新的地方」呢? Python 不像 Go 和 Rust 可以編譯成靜態的執行檔,也不像 Node.js 和 PHP 有著各個專案獨立的 node_modules 或 vendor 資料夾,可以搬到其他地方而保持程式的依賴正常運作。不過 Python 有個很類似 node_modules 的東西——Virtualenv,搞不好我們真的能像 node_modules 一樣直接把整組專案複製到其他電腦上,專案就能跑了。 但是 Stack Overflow 的文章又提到「venv 通常不能直接複製到其他電腦上」。 In general you can’t copy virtual environments anywhere, Docker or otherwise. They tend to be tied to a very specific filesystem path and a pretty specific Python installation. If you knew you had the exact same Python binary, and you copied it to the exact same filesystem path, you could probably COPY it in as-is, but the build system would be extremely fragile. 1 ...

November 25, 2024 · pan93412

搭建一個有圖床和統計功能的 Blog

tl;dr 使用 Zeabur 部署 Blog 使用 Cloudflare R2 當圖床,Cloudreve 管理 使用 Umami 進行網站資料統計 選擇性部署 CodiMD / Hedgedoc 方便行動裝置編輯 常見的方案有什麼問題 純粹的 GitHub Pages 架設靜態 Blog,搭配 Google Analytics(或 Cloudflare Web Analytics)雖然是最便宜的選擇,但對於媒體管理上和草稿編輯還是不太方便。 統計工具方面,除了 Google Analytics 之外,幾乎沒有什麼功能特別強大,可以看單一使用者流向的統計工具。 圖床方面,媒體放在 GitHub repository 上會造成 repo 迅速膨脹,但又擔心其他免費圖床如 Imgur 會倒閉。而且 Imgur 不能上傳圖片以外的資源!🥺 草稿編輯方面,GitHub 沒有提供一個比較好的 Markdown 書寫工具,要獲得好的書寫體驗,就需要在電腦上用 VS Code 等等的 Markdown editor 書寫,局限了在手機上完成草稿或者編輯文章的能力。 怎麼解決? 作為一個 self-hosted 跟偏好 Cloud Native 方案的使用者,我會這麼規劃我的 blog: 這次我使用的 Blog SSG 是 Hugo,速度確實快,而且 template 比 Hexo 簡潔和清晰一點。 ...

November 24, 2024 · pan93412

重新整理 Pan.blog……

把 pan.blog 重新翻新了一下,主要是: 換成 Hugo,提升編譯速度 圖床放到 CDN 上,不跟 GitHub 放在一起了 其實 pan.blog 我前一陣子就想重新整理了,只是一直沒有動力來做。 不過 ChatGPT 開始支援 Web Search,讓我覺得「把文章寫在 Google 可以索引的地方,之後也能幫到自己」, 再加上 X 的走向讓人不太樂觀,所以我打算把一些有價值的東西用 Blog 的方式留存。 這個新 Blog 有把一些我覺得值得留存的東西從老的 Hexo 站移過來,之後也會寫一些技術短篇~

November 22, 2024 · pan93412

特殊選才踩雷心得

打擾了各位,想問一下如果想要透過特殊選材的話,有大量的競賽經驗/表現,還是有實作成品,哪個會比較好? 我當年特選是以實作為重的。我踩過坑了,所以我能告訴你 不要想著你的實作可以獲得教授青睞。 通常在高中年紀做的作品——比如自己寫的內核、寫的網站服務、寫的系統,都是垃圾。教授早已閱歷無數,你引以為傲的作品,可能對他們來說就是 print("Hello, World") 而已。除非你的作品真的很知名——就比如說你造出了一個每個月使用人次高達 10 萬的東西,要不然說實話,你只是證明「你對這個領域有很淺薄的研究」——但一點都不特殊。當然,假如你能把你的作品做出相當大的特色(你造出了一個 O(1) 的旅行者問題演算法),甚至你還因此發上期刊,這就另當別論。 所以既然大家都是菜雞,那教授要怎麼選出「特殊」的?當然是量化下來的能力。不要看不起 APCS 還有一堆競賽:這個是你唯一可以拿來說嘴的了。你可以在這些競賽中大談你是如何把基礎能力用到極致,用到把其他競賽者打爆的——其實這樣也有一點「專案」的效果了,都是基礎能力應用,但至少教授可以知道「你的基礎能力確實超越同儕。」 總結來說,不要以為你的專案用了些什麼「設計模式」、「物件導向」,就可以變成教授人人都想搶的人才——說實話,你的專案除非有名到教授想要知道,否則教授只會覺得你只是寫了一堆比較進階的 Hello, World。乖乖競賽,把你的能力用來打爆其他人,這才是特選成功的法則。 當然你也可以繼續拿你的專案當作是特選的題材,但就警告你不要害到自己一所學校都沒上然後學測還爆掉。我有個開發了一堆專案、甚至還算知名,而且還經常參與各種社群活動的朋友——他的 4 間特選全部爆炸,學測失利,最後分科上了間沒有契合他興趣的科系。我自己幸好還有些比賽,所以勉強上了間普普通通的大學,但也是挺後悔自己當初叛逆沒去考 APCS。 原文寫在《中學資訊討論群 CISC》:https://discord.com/channels/755456963265036309/1078522742057480232/1096319706664804394。

April 14, 2023 · pan93412

從個人網站學習專案管理的方法論

背景 最近在做一個有簡歷功能的個人網站。 大學的網頁課程要上傳一個 styled 的 profile。起初兩週我想了許多種方案,比如「直接把之前超前進度的作業1 改成亮色系,然後繳出去」、「用 ChatGPT 幫我寫一份 styled 的網頁。」但我覺得都太敷衍,再加上當時有一些事情要處理,所以我就先放著——直到繳交前 3 天。 繳交前夕,我突然有個打算:「要不要試著超前上課進度2?」如果作業還繼續用 Vanilla JS 也實在太沒有新意,而且我這時突然想到一個很有意思的主意:做出一個可以分享給別人(也方便自我介紹)的簡歷。 我面試的時候常常被問到「你的作品集在哪裡」、「你的簡歷在哪」。我是有個人形象頁面,但幾乎沒有說明自己的經歷:這也就導致沒有人——包括我自己——知曉我究竟參與了哪些專案、製作了哪些 projects,以及設計了什麼東西。如果能藉由這次作業的機會打造出一個可以分享給別人(也方便自我介紹)的簡歷,那肯定會讓這個作業更有價值。 「做一個好看的簡歷網站」和「用現代前端工程標準製作專案」,便成為這個專案的兩大目的。 「滾動式開發」:逐步趨近完美 專案本身沒有用到傳統意義上的敏捷開發,但我在這個專案實踐了一些敏捷開發的「滾動式」精神。 「滾動式」的概念其實就是「慢慢達成趨近完美」:應該要先專注在核心的部分(比如這次的專案就是以個人介紹為核心),然後再慢慢地把其他的東西(比如作品集、開源貢獻)加進去。重構也是:一開始不用追求到完全的 best practice——細節可以留待日後再來改善,但如果為了細節而導致核心部分的缺失,便是本末倒置。 時間安排的重要性 雖然這麼說,但我仍然想追求完美主義:我很討厭承認一個長得超醜、超難維護的 snippet 是我寫的,我希望可以帶給閱聽者極其完美的體驗。正是因為如此,這次的作業依然是花了相當多的時間重構。可是比起細節,內容的完善明顯比較重要——更何況我因為這個 project 荒廢了太多其他的事情,排除掉學習到的經驗,投入的時間成本其實早就超出了這個專案可以帶來的價值。 **「時間安排」,在無論是在專案管理、還是日常生活的方方面面都十分重要。**安排任務的優先級、並且專注在完成最核心的事情,為專案的管理之道。我覺得我時間管理一直都做得不太好——想法太多,時間卻是有限的——是時候逼迫自己從無限的想法中切分,而不是讓一個想法佔據掉太多的時間。 勇於發問,明白自己的不足 寫網站的時候我就有和好幾位朋友共同研討「如何做出舒適的設計」,並且共同討論如何做出優秀的動效設計。這次我就和一位有著不小聲望的專業前端工程師和設計師,共同討論網頁每一處細節的設計。 另外,網站在開發後期也有遇到以及在遇到效能問題時與幾位更專業的前端工程師共同查出問題。在網頁撰寫末尾,我就有遇到一個很嚴重的效能問題:滑到卡片的時候會嚴重掉幀,但 Profile 裡面並沒有指出具體是哪個函數導致問題。後來和朋友討論之後,鎖定是 shadow 動效導致的問題,而在解決之後,效能問題也就臨刃而解。 不要過度工程化 (over-engineering) 之前看過一篇文章,說:「Best Practice 是總結出來的,不代表一開始就得導入這些東西。」工程更像是事情在遇到事情或需要擴充時的解決方法,而不是在沒必要的時候就無止境導入的玩意。 另外,不完美是難免的:像是我的 codebase 就重構了數次,即將發起的一次是發現自己違背了 Tailwind CSS 的 Atomic CSS 理念,打算全數改回 Component 的形式。重構是個學習,不要害怕不完美——不完美才能學習,學習才能成長。 目前 App 還會繼續改進的地方 除了上面提到的 bad smell 之外,我還打算加上一些更多 GitHub 的元素(比如個人的貢獻狀況、以及貢獻圖表)。不過把 bad smell 做完之後應該就是直接 promote 然後暫時放著了——有更多更重要的專案得做啊。 ...

December 16, 2022 · pan93412

什麼時候該引入 Lockfile?

原文撰於 Twitter。 撰文初衷 第一次看到沒有 commit package-lock.json 的 repo TL;DR 事實上這樣在 library 上沒有什麼問題。Lockfile 的追蹤有個小原則: 應用程式建議追蹤 lockfile:不追蹤,下次 npm install 就無法確定具體的依賴版本是什麼。 函式庫可以不用追蹤,因為使用者安裝套件時,套件管理器會根據依賴自動選取最適合的版本,而你自己的 lockfile 會被忽略1。不過建議追蹤,見下文。 函式庫「該不該」追蹤 lockfile? 假如函式庫有用到諸如 ESLint 的工具,追蹤一下可以避免之後設定開發依賴的麻煩, 所以像 NPM 官方就是推薦 無論如何都追蹤 lockfile。 不過也有預設不推薦在 library 情境下追蹤 lock 的例子,比如 Rust 的 Cargo 套件管理器2。不過 Cargo 的開發工具主要都是作為 submodule 安裝在系統中,通常不會跟著 repo 一起追蹤,所以不太適合放在一起比較。 不過要注意:這時候的 lockfile 就不是追給下游應用程式看的,主要是為了自己開發方便。 為什麼「應用程式」就該追蹤 lockfile? package.json 通常不是描述固定的版本,而是一個版本區間:舉個例子:你可能在 package.json 裡面描述 vue: "^2.4.0",但實際上 NPM 幫你選了 2.7.13。這個行為是可以預測的,可以參考 NPM 官方的 Semver 計算機:https://semver.npmjs.com。 ...

October 18, 2022 · pan93412

#Mac #軟體 威注音 v2.8.5:比原廠注音更智慧、比競品更好看的注音輸入法

原文撰於 Dcard。 Abstract 「威注音」是一款主打智慧 🤖、美觀 🎨、高自訂性 🔧,且追求完美  的注音輸入法。正在為錯字百出的選字、操作習慣、簡體輸入,甚至是原廠注音遲遲不修正的 bug 所苦嗎?威注音或許可以讓你對注音打字改觀 🥳。 威注音自己覺得有八個值得你使用的理由(建議搭配宣傳海報閱讀): 最佳化打字體驗 ⌨️ 還再打出錯字擺出的句子,成為朋友對話之間的笑柄、公司討論之間的尷尬嗎 😅?或許你可以試試看威注音輸入法。 威注音輸入法的詞庫收錄了三千餘條(且持續增加中的)常用詞組,因此輸入常用詞彙時可以減少選字的次數 🙌🏼。 目前威注音的詞庫仍在持續更新、拓展,因此威注音將會變得愈來愈智慧。如果你有任何想納入官方詞庫的常用字彙,也可以在這篇底下(或到 GitHub 下)留言提議加入~ 可以自訂語彙 💬 覺得每次輸入自己或朋友的名字,或者是科系名稱都得選字很煩嗎?威注音提供了一套非常簡單的自訂詞彙新增方式,簡而言之就是「選字後選取,按 Return 存檔。」可以看看下方影片的操作: 原生繁簡輸入、零轉換 蘋果內建的輸入法「不支援簡體輸出模式」——想像每次跟對岸朋友洽談事情,每一句都得使用特色選單裡面的簡體轉換功能轉換 😱……就算你不煩,觸控板應該也挺累的 😰。 威注音除了提供原生的簡體輸出模式,輸出簡體只要切換輸入法即可一步到位之外,威注音的詞庫也是簡體中文與繁體中文各自一份的:方便簡體中文母語者「在不熟悉台澎金馬的審音與習慣讀音的前提下」也可以順利使用威注音敲字。 P.S.: 威注音的繁體中文輸入模式可以使用「轉換至康熙繁體」「轉換至 JIS 繁體」功能。 精緻選字窗(框) 我覺得這是威注音和其他競品比較下的最直觀第一感受了。當其他競品的選字窗還停留在 Windows XP 的土裡土氣、甚至沒有暗色模式的時候;威注音的選字窗已經和蘋果原生相當相似,甚至可以啟用「IMK 選字窗」來得到和原生注音同款的介面效果 🧑‍🎨。 IMK 選字窗可以在威注音的「開發道場」開啟。不過威注音自己做的田所矩陣選字框,我覺得已經很接近蘋果的 UI 效果了。 極高自訂、可玩性 你想用 Shift 切換中英文嗎?預設開啟 🎉;你只想用「中/英」切換鍵切換語言嗎?也可以關閉 Shift 的切換。 你想要輸入罕見到原廠注音打不出來的字嗎?威注音可以讓你啟用「CNS11643 全字庫」,在安裝正確字體後即可直接打出符合政府編碼標準的罕見字 🎉。 覺得選字窗的候選字太小,看不清楚嗎?威注音支援把選字窗文字放到原先 6 倍大 (96px) 的大小 🎉。 ...

October 2, 2022 · pan93412

The comparison of Linter and Formatter

Motivation src: https://twitter.com/bystartw/status/1568217424658583553?s=61&t=UVzhpuQaGcgZkGpySz_yVQ Noticing some developers are confused with “Linter” and “Formatter,” I made a simple figure showing what messages Linter and Formatter prefer to print. Thanks to @nonoesp for his incisive introduction to Linter and Formatter!

September 9, 2022 · pan93412