Machine Learning

[已解決][PyTorch] ValueError: expected sequence of length 300 at dim 1 (got 3)

今天我在使用 PyTorch 搭建模型的時候，遇到了像以下這樣的報錯：

ValueError: expected sequence of length 300 at dim 1 (got 3)

之前，我曾經寫過一篇文章敘述我如何印出我使用 PyTorch 搭建的模型架構，具體連結可以參考文末。但是開心了沒多久，過了一段時間後，當我又要使用這項工具來繪製另一個全新的模型架構準備報告的同時，我卻得到了以下這樣的報錯：

AttributeError: 'tuple' object has no attribute 'size'

LSTM (Long Short-Term Memory)，中文翻譯做『長短期記憶』，是一種循環神經網路 (RNN)。其論文發表於 1997 年，是在自然語言處理當中非常重要、並且好用的模型層。

雖然僅僅只是個人體感，不過我認為在使用 PyTorch 的過程中，最容易遇到的報錯有兩個 —— 一個是模型的 ""Mismatch、另外一個就是我今天所紀錄的：

今天，我在使用 PyTorch 搭建 LSTM 模型的時候發生了以下這樣的報錯：

 LSTM RuntimeError: input must have 3 dimensions, got 2

今天，我在使用 PyTorch 讀取一個已經訓練好的模型進行全新資料的分類時，意外地遇到了以下這個報錯：

RuntimeError: Input and parameter tensors are not at the same device, found input tensor at cuda:1 and parameter tensor at cuda:0

Facebook AI 團隊在本周開源了聊天機器人 Blender，印象中這個專案 (當時似乎是叫做 ParlAI) 似乎幾年前就有看過了？不過既然 Facebook 現在公佈了 Blender 出來，那想必是有其過人之處。

在我們使用 PyTorch 這個著名的 Python 深度學習框架時，若能夠將我們建構的模型視覺化呈現出來，那就再好不過了。

今天，在我使用 PyTorch 搭建模型時，突然間有了需要提交技術報告的需求 (?)，於是乎我簡單地找了下將模型視覺化的工具： torchviz。

CUDA 是一個對於熟悉於架構、使用 Deep Learning (深度學習) 環境的人來說，一定是常常聽見的名詞。我們經常會聽到，在我們啟用我們的 GPU 來進行模型的訓練時，我們需要安裝 GPU Driver、CUDA、cuDNN 等等的套件，好讓深度學習能夠擁有最佳效益。