[Machine Learning] CodeBERT 使用方法與介紹（附範例程式碼）
簡介
CodeBERT 這一預訓練模型（pre-trained model）提出自《CodeBERT: A Pre-Trained Model for Programming and Natural Languages》。
Read More »[Machine Learning] CodeBERT 使用方法與介紹（附範例程式碼）Machine Learning
[NLP] 使用 aitextgen 套件來生成文本
aitextgen 是一個封裝得很高級的 Python 套件，讓使用者只需要寫短短幾行的程式碼，便能設定好複雜的 AI 模型。它的架構採用了 OpenAI’s GPT-2 和 EleutherAI’s GPT Neo/GPT-3，也能使用預訓練模型（pre-trained model）繼續進行模型的微調。
Read More »[NLP] 使用 aitextgen 套件來生成文本[Machine Learning] MAE 指標介紹與程式實作
平均絕對誤差（Mean Absolute Error, MAE）是一個非常有名且基礎的評估指標，通常會出現在機器學習入門課的第一堂課、或第 N 堂 —— 這須視乎你的老師怎麼安排教材。不過對我而言，它就像瑪利歐在關卡 1-1 出發後的第一隻蘑菇怪一樣的存在。
Read More »[Machine Learning] MAE 指標介紹與程式實作
[Machine Learning] SMAPE 指標介紹與程式實作
Symmetric Mean Absolute Percentage Error（SMAPE），中文可以翻譯成『對稱性平均絕對百分比誤差』，是一種經典的『預測值與實際值』的評估指標。
Read More »[Machine Learning] SMAPE 指標介紹與程式實作
[PyTorch] 使用 Keras 風格進度條的套件： pkbar
前言
pkbar 是最近在閱讀他人對於 pointer-generator network 實現時意外看到的一種『進度條』實現方法，號稱可以在 PyTorch 上使用 Keras 風格的進度條。 的確，Keras 預設的進度條還滿淺顯易懂，比起需要自己去印出進度條的 PyTorch 來說使用上更加快速。
當然，其實不僅是可以在 PyTorch 框架的程式碼中使用，也可以在任何迴圈中使用。
Read More »[PyTorch] 使用 Keras 風格進度條的套件： pkbar
[已解決] Exception ignored in: bound method BaseSession.__del__ of tensorflow.python.client.session.Session object at 0x7ff1243e0358
問題描述
今天在執行以 Tensorflow 作為後端的 Keras 程式時，意外發生了以下報錯訊息：
Read More »[已解決] Exception ignored in: bound method BaseSession.__del__ of tensorflow.python.client.session.Session object at 0x7ff1243e0358安裝資料探勘、機器學習工具 Weka 筆記
過去我幾乎沒有使用 Weka 的經驗，但在因緣際會下，我有緣接觸了 Weka 這項適用於資料探勘、機器學習領域的工具，於是便簡單地紀錄在這裡。
Read More »安裝資料探勘、機器學習工具 Weka 筆記
[Deep Learning] 在 Windows 上搭建 Tensorflow、CUDA、cuDNN 的訓練環境
搭建深度學習環境一直都不是一項簡單的事情，尤其是相當主流的 Nvidia 顯卡和 Tensorflow 的組合，其中版本的問題以及需要額外安裝的驅動、CUDA、cuDNN 就夠讓人頭疼了。而且主流的作業系統是 Linux 而非 Windows ，可以發現教學文明顯就少了些。
Read More »[Deep Learning] 在 Windows 上搭建 Tensorflow、CUDA、cuDNN 的訓練環境[PyTorch] 應用 Early stopping 技術讓模型在較好的收斂時間點停止訓練
Early stopping 是一種應用於機器學習、深度學習的技巧，正如字面上的意思 —— 較早地停止。在進行監督式學習的過程中，這很有可能是一個找到模型收斂時機點的方法。
Read More »[PyTorch] 應用 Early stopping 技術讓模型在較好的收斂時間點停止訓練