[Python] @property 裝飾器將類別方法轉為只讀屬性
在 Python 的類別建構中，@property 是一種經常見到且確實有其好處的裝飾器，它主要的用途在於將類別的方法（class method）轉為只讀（read-only）的屬性（attribute），讓使用者透過屬性呼叫的方式來取得計算結果。
Python
奇異值分解（Singular Value Decomposition, SVD）筆記
奇異值分解（Singular Value Decomposition, SVD）是一種將矩陣分解為三個矩陣乘機的方法，揭示了原矩陣的秩（Rank）、資料維度及重要方向，經常用於降維、壓縮和結構分析。
Read More »奇異值分解（Singular Value Decomposition, SVD）筆記[Python] 使用 httpx 取代 requests 進行異步請求
在 Python 的程式開發中，我們經常使用 requests 模組進行 HTTP 請求；然而 requests 在真正串連前後端及不同服務時其同步請求方式可能成為瓶頸，我最近正是因為使用 requests 造成 K8s 的探針阻塞、進而導致所開發的服務容器被誤刪 —— 此時，httpx 可能是一個更適合的異步請求操作模組。
Stable Diffusion ComfyUI 筆記 01 - 下載與環境安裝
什麼是 ComfyUI？
有在玩 Stable Diffusion AI 生圖的人可能都聽過 stable-diffusion-webui，它是一個支援 Stable Diffusion 模型架構的視覺化界面，讓使用者可以不必親自撰寫程式碼或是繁瑣的命令列操作，就可以讓 AI 模型進行生圖的推理。而 ComfyUI 則是另外一個稍微小眾一點的前端界面，不過憑著自由且能靈活客製化的特性，也迅速地收割了一波死忠的粉絲，基本上，可以視為是 stable-diffusion-webui 的更進階版本，也比較沒那麼親民。
Read More »Stable Diffusion ComfyUI 筆記 01 - 下載與環境安裝
PaddleOCR: 擅長中文光學字元辨識（OCR）的架構與模型
介紹
最近我在探索一些用來進行光學字元辨識（Optical character recognition, OCR）的模型，早些年 OCR 是研究非常熱門的領域，畢竟是電腦視覺最早可落地應用的領域；但是到了今日，OCR 也已經是非常成熟的任務了，上網一找，便可以找到性能很好的開源模型。
Read More »PaddleOCR: 擅長中文光學字元辨識（OCR）的架構與模型
Unsloth 加速微調開源項目筆記
介紹
這幾個月以來我一直受到 Unsloth 這個項目的照顧，主要是因為我的工作會有很大的一部分牽涉到大型語言模型（LLM）的微調，而微調 LLM 是非常耗時的，除了收集資料外最大的時間成本就是在永無止境地透過 GPU 微調模型。
Read More »Unsloth 加速微調開源項目筆記
[論文解讀] Kangaroo: Lossless Self-Speculative Decoding via Double Early Exiting
前言
這是華為諾亞方舟實驗室所提出加速框架，本質上是把原先投機解碼（speculative decoding）中所使用的小模型由大模型的淺層網路取代，並再由額外訓練的適配器（adapter）加上模型本身的解碼頭去生成推測的 token，再由大模型去進行驗證 —— 後續的操作與原先的 speculative decoding 其實沒有太大差別。
Read More »[論文解讀] Kangaroo: Lossless Self-Speculative Decoding via Double Early Exiting
RESTful 筆記（附 Python FastAPI + CURL 範例）
介紹
RESTful 設計風格（Representational State Transfer, REST）是一種用於設計網路應用程式的架構風格。它遵守著讓網路應用程式更加簡潔、可擴展和易於維護的準則去設計。
Read More »RESTful 筆記（附 Python FastAPI + CURL 範例）
通用唯一識別碼（Universally Unique Identifier, UUID）筆記
介紹
在我們替手邊資料進行編號時，若是希望每筆資料都擁有獨一無二的編號、而非單純遞增的流水號，UUID 可說是最最常見的編號方式。
那麼，什麼是 UUID 呢？
Read More »通用唯一識別碼（Universally Unique Identifier, UUID）筆記
使用 snapshot_download 下載 HuggingFace Hub 上的模型
介紹
HuggingFace Model Hub 現在已經是無人不知、無人不曉的重要開源平台了，每天都有無數的人或組織上傳自己訓練出來的最新模型（包含文字、圖像、語音...... 等等不同領域）到這個平台上。可說是現在凡舉是個做 AI 相關工作的人，想必都會經常瀏覽 HuggingFace 他們的家的平台網站。
Read More »使用 snapshot_download 下載 HuggingFace Hub 上的模型