GBNF

LLM（Large Language Module）最讓人詬病的問題之一是「亂說話」，得到不是預期的回應。本篇文章介紹如何利用文法（Grammar）規則限縮Llama 2的生成內容，讓輸出維持在可控範圍同時保留LLM發揮創意、生成內容的優勢。