关于 LLM 进行约束采样的问题，愿意付费请求指导：-D

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 40 天前的主题，其中的信息可能已经有所发展或是发生改变。

大家好。
最近正在学习约束采样。

想只使用一个固定的词汇库里面的词来生成文本。

尝试了 GBNF grammer 的方法，但是发现速度会降低很多，而且 GBNF grammer 不支持 negative word 的语法。
考虑在用 outlines 这样的方式，但是又遇到了其他的问题。

不知道有没有大神可以指点指点，愿意按小时付费。谢谢谢谢

目前尚无回复

关于 LLM 进行约束采样的问题，愿意付费请求指导 ：-D

关于 LLM 进行约束采样的问题，愿意付费请求指导：-D