Skip to content

4 9 月, 2024

使用有限狀態機約束大型語言模型解碼之實作

Last Updated on 2024-09-04 by Clay

本篇為一簡單 Python 實作,用於測試有限狀態機Finite-State Machine)約束大型語言模型Large Language Model)解碼出特定格式的回答,也權當作是理解 Outlines 工具的理念。當然,我實作的部份跟 Outlines 工具相比,實在顯得太過簡易。

Read More »使用有限狀態機約束大型語言模型解碼之實作