Clay

[論文閱讀] Lifting the Curse of Multilinguality by Pre-training Modular Transformers

Cross-lingual Modular (X-Mod) 是一個有趣的語言模型架構，透過模組化不同語言的參數作為模組單元（Module Unit）組裝在模型中，好讓語言模型在新增全新語言時，可以使用獨立的參數進行微調，而（比較）不會出現災難性遺忘的窘境。

奇異值分解（Singular Value Decomposition, SVD）是一種將矩陣分解為三個矩陣乘機的方法，揭示了原矩陣的秩（Rank）、資料維度及重要方向，經常用於降維、壓縮和結構分析。

最近由於工作中的需求、加上一些 Steam 的遊戲在 Windows 中跑起來比較順，我認真地考慮在 Linux 的筆電中重新切割出 200GB 的硬碟空間給 Windows；不過，由於我一開始把一整顆的 1TB SSD 分配給了 Linux，現在只能重新進行磁區的縮放。

當我們買了一顆新硬碟、或是評估是否要啟用一顆硬碟時，該硬體的讀寫速度肯定是我們最在意的，畢竟這非常直接地影響了我們之後使用這顆硬碟的使用體驗。

如果我們手邊剛好有幾台不同 IP 的遠端伺服器，並且希望可以透過不同的 IP 瀏覽網頁（比方說一些服務本地端/本地國家不支援），我們可以選擇透過 SOCKS 代理端口，並設定好讓 Firefox 透過這些代理端口使用遠端伺服器的 IP 進行瀏覽，就不用特地裝其他的 VPN 工具了。

機率密度函數（Probability Density Function, PDF）是機率論與統計學中的一個基本概念，描述了隨機變數在各個取值範圍內的機率分佈。

htpasswd 是一個用於 Apache 和 Nginx 等網頁伺服器的工具，可以用來生成、管理使用者名稱與密碼的文件，以實現在 Nginx 做反向代理服務時進行基本的身份驗證。

本篇文章紀錄在 Linux 系統中，我們該如何在終端機中確認自己的 IP 以及 IP 所在的地區，雖然直接上 myip 等網頁服務可以直接查看，但並不一定每台裝置都有裝圖形化界面；再者，若是使用到 curl 指令的部份，Windows 和 Mac OS 也都可以使用。

Nginx 是一個高性能的 HTTP 伺服器和反向代理伺服器，經常用於網頁的功能分流導向（反向代理）、負載平衡和 HTTP Cache 等應用場景，而本篇著重在紀錄如何透過設定 Nginx，透過不同的 API 請求分流到對應的服務。

軌跡系列的最新作 —— 《界之軌跡》的新 OP 在今天（2024/08/01）放出來啦！！！天哪！我今天本來預計晚上要好好讀一下深度學習初始化相關的論文複習，但是從下午看到軌跡的 OP 在 YouTube 一直推送！我連上班都沒有心情了！（講是這樣講我因為解一個 BUG 待到晚上八點才走）