Machine Learning

[Machine Learning] CodeBERT 使用方法與介紹（附範例程式碼）

Clay
2021-10-262023-12-30
Linux, Machine Learning, Python, PyTorch

簡介

CodeBERT 這一預訓練模型（pre-trained model）提出自《CodeBERT: A Pre-Trained Model for Programming and Natural Languages》。

[NLP] 使用 aitextgen 套件來生成文本

Clay
2021-10-132021-10-13
Machine Learning, NLP, Python

aitextgen 是一個封裝得很高級的 Python 套件，讓使用者只需要寫短短幾行的程式碼，便能設定好複雜的 AI 模型。它的架構採用了 OpenAI’s GPT-2 和 EleutherAI’s GPT Neo/GPT-3，也能使用預訓練模型（pre-trained model）繼續進行模型的微調。

[Machine Learning] MAE 指標介紹與程式實作

Clay
2021-09-062021-09-06
Machine Learning, Python, PyTorch

平均絕對誤差（Mean Absolute Error, MAE）是一個非常有名且基礎的評估指標，通常會出現在機器學習入門課的第一堂課、或第 N 堂 —— 這須視乎你的老師怎麼安排教材。不過對我而言，它就像瑪利歐在關卡 1-1 出發後的第一隻蘑菇怪一樣的存在。

[Machine Learning] SMAPE 指標介紹與程式實作

Clay
2021-09-012021-11-17
Machine Learning, Python

Symmetric Mean Absolute Percentage Error（SMAPE），中文可以翻譯成『對稱性平均絕對百分比誤差』，是一種經典的『預測值與實際值』的評估指標。

[已解決] ConvergenceWarning: lbfgs failed to converge (status=1): STOP: TOTAL NO. of ITERATIONS REACHED L

Clay
2021-06-182021-10-30
Machine Learning, Python, Scikit-Learn

完整的報錯訊息為：

Clay
2020-12-222020-12-22
Keras, Packages, Python, PyTorch

前言

pkbar 是最近在閱讀他人對於 pointer-generator network 實現時意外看到的一種『進度條』實現方法，號稱可以在 PyTorch 上使用 Keras 風格的進度條。的確，Keras 預設的進度條還滿淺顯易懂，比起需要自己去印出進度條的 PyTorch 來說使用上更加快速。

當然，其實不僅是可以在 PyTorch 框架的程式碼中使用，也可以在任何迴圈中使用。