[PyTorch] pytorch-lightning 套件介紹
PyTorch Lightning 是把原生 PyTorch 封裝得更高級的框架套件,就像是 Keras 之於 Tensorflow 一樣(雖然 Keras 能支援的後端我記得是不少的)。
Read More »[PyTorch] pytorch-lightning 套件介紹PyTorch Lightning 是把原生 PyTorch 封裝得更高級的框架套件,就像是 Keras 之於 Tensorflow 一樣(雖然 Keras 能支援的後端我記得是不少的)。
Read More »[PyTorch] pytorch-lightning 套件介紹我一直以來都希望能夠保存 PyTorch 訓練模型時所使用的優化器(optimizer),以便能夠在模型結束訓練之後,繼續往下訓練;一般來說,如果是要做遷移學習、微調模型(fine-tune),那麼並不需要特別將上一次訓練的優化器保存下來。
Read More »[PyTorch] 保存優化器(optimizer)來接續訓練模型最早切身體會到 AI 的強大,是在 AlphaGo 第一次贏了曾是世界圍棋第一人的李世石老師的時候。我從小就嚮往著成為圍棋職業棋士,也花費了許多功夫鑽研棋盤上的競技之道,更重要的是,我從小就是李世石老師的棋迷,幾乎所有從以前認識我的棋界朋友都可以作證 XD...... 於是,在 AlphaGo 擊敗李世石老師的時候,我吃驚到彷彿自己的價值觀都被顛覆了一般。
Read More »[Machine Learning] 機器學習筆記-0 基本介紹CodeBERT 這一預訓練模型(pre-trained model)提出自《CodeBERT: A Pre-Trained Model for Programming and Natural Languages》。
Read More »[Machine Learning] CodeBERT 使用方法與介紹(附範例程式碼)aitextgen 是一個封裝得很高級的 Python 套件,讓使用者只需要寫短短幾行的程式碼,便能設定好複雜的 AI 模型。它的架構採用了 OpenAI's GPT-2 和 EleutherAI's GPT Neo/GPT-3,也能使用預訓練模型(pre-trained model)繼續進行模型的微調。
Read More »[NLP] 使用 aitextgen 套件來生成文本平均絕對誤差(Mean Absolute Error, MAE)是一個非常有名且基礎的評估指標,通常會出現在機器學習入門課的第一堂課、或第 N 堂 —— 這須視乎你的老師怎麼安排教材。不過對我而言,它就像瑪利歐在關卡 1-1 出發後的第一隻蘑菇怪一樣的存在。
Read More »[Machine Learning] MAE 指標介紹與程式實作Symmetric Mean Absolute Percentage Error(SMAPE),中文可以翻譯成『對稱性平均絕對百分比誤差』,是一種經典的『預測值與實際值』的評估指標。
Read More »[Machine Learning] SMAPE 指標介紹與程式實作pkbar 是最近在閱讀他人對於 pointer-generator network 實現時意外看到的一種『進度條』實現方法,號稱可以在 PyTorch 上使用 Keras 風格的進度條。 的確,Keras 預設的進度條還滿淺顯易懂,比起需要自己去印出進度條的 PyTorch 來說使用上更加快速。
當然,其實不僅是可以在 PyTorch 框架的程式碼中使用,也可以在任何迴圈中使用。
Read More »[PyTorch] 使用 Keras 風格進度條的套件: pkbar今天在執行以 Tensorflow 作為後端的 Keras 程式時,意外發生了以下報錯訊息:
Read More »[已解決] Exception ignored in: bound method BaseSession.__del__ of tensorflow.python.client.session.Session object at 0x7ff1243e0358