Skip to content

Machine Learning

Consensus: 使用 AI 驅動的論文搜尋引擎

在研究一些 AI 模型的時候，或許是研究所時保留下來的習慣，我總是會去翻翻模型、系統、套件相關的論文，就算只是粗略掃過 Abstract、Introduction、Conclusion 以及圖表也好，至少我能對我正在使用什麼東西、這東西背後是怎麼驅動的有個底，不是只會直接把開發團隊附上的程式碼跑起來就好。

Read More »Consensus: 使用 AI 驅動的論文搜尋引擎

[已解決] Some weights of the model checkpoint at distilbert-base-multilingual-cased were not used when initializing DistilBertForSequenceClassification: ['vocab_projector.bias', 'vocab_layer_norm.bias', 'vocab_layer_norm.weight', 'vocab_transform.weight', 'vocab_transform.bias']

問題描述

在使用 transformers 套件時，如果當我們使用如 AutoModelForSequenceClassification、AutoModelForSeq2SeqLM… 這樣不同 head 的任務模型時，經常我們會得到以下錯誤訊息：

Read More »[已解決] Some weights of the model checkpoint at distilbert-base-multilingual-cased were not used when initializing DistilBertForSequenceClassification: ['vocab_projector.bias', 'vocab_layer_norm.bias', 'vocab_layer_norm.weight', 'vocab_transform.weight', 'vocab_transform.bias']

[已解決] UserWarning: CUDA initialization: CUDA unknown error - this may be due to an incorrectly set up environment, e.g. changing env variable CUDA_VISIBLE_DEVICES after program start. Setting the available devices to be zero. (Triggered internally at …/c10/cuda/CUDAFunctions.cpp:109.) return torch._C._cuda_getDeviceCount() > 0

問題描述

今天我在我的伺服器訓練模型時，我寫好了一份多片 GPU 平行化訓練的腳本，接著把最新的資料輸入給模型開始訓練；但是在訓練過程中，我得到了沒有 GPU 的錯誤訊息。當我使用 torch.cuda.is_available() 確認時，得到了以下錯誤訊息。

Read More »[已解決] UserWarning: CUDA initialization: CUDA unknown error - this may be due to an incorrectly set up environment, e.g. changing env variable CUDA_VISIBLE_DEVICES after program start. Setting the available devices to be zero. (Triggered internally at …/c10/cuda/CUDAFunctions.cpp:109.) return torch._C._cuda_getDeviceCount() > 0

ImageBind：能轉換多模態向量的模型使用心得筆記

前言

最近的 Meta AI 真的是強到不行，似乎一瞬間站穩了 AI 研發巨擘的地位，而且還是樣樣開源的頂級標竿。從影像領域的能切割物件的 Segment Anything、到公開大型語言模型（Large Language Model）同時也是基石模型（fundational model）的 LLaMA（引起眾羊駝之亂的就是它！）、到最近能轉換 6 種模態（modals）的 ImageBind 跟語音模型計畫 （MMS）...... 只能說像我這種平凡人要努力跟上怎麼去使用都很費勁，更遑論試圖追逐他們的技術了。

Read More »ImageBind：能轉換多模態向量的模型使用心得筆記

[Machine Learning] 可以和 Accuracy、F1 一同用於模型評估的 MCC 指標筆記

Introduction

每當我們訓練完一個深度學習模型後，就又到了我們評估模型好壞的時間。比方說分類任務所使用的分類模型，我們總是會拿各式各樣的指標來測試，比方說 precision、recall、F1-score、Accuracy… 指標間總是有好有壞，甚至有可能會互相衝突，所以大部分時候還是要依據任務的需求來選擇自己評估模型的指標的。

Read More »[Machine Learning] 可以和 Accuracy、F1 一同用於模型評估的 MCC 指標筆記

[已解決] HuggingFace Transformers 模型返回 "'ValueError: too many values to unpack (expected 2)', upon training a Bert binary classification model"

在現今深度學習的框架中，無論是使用 Tensorflow、PyTorch 還是其他框架，模型的輸入輸出、資料流向...... 等等，我們都需要十分注意其資料的形狀（shape）。因為一不小心，就會讓模型架構回傳錯誤訊息。

Read More »[已解決] HuggingFace Transformers 模型返回 "'ValueError: too many values to unpack (expected 2)', upon training a Bert binary classification model"