Atom of Thoughts (AoT) 提供一种通过原子问题提升推理任务效率的框架。
更新时间:2025-03-11 14:22:54
Atom of Thoughts (AoT) 是一个创新的推理框架,旨在将问题分解为多个原子问题,通过马尔可夫过程进行推理。其核心思想是将推理过程转化为状态转移机制,采用双阶段方法,先将当前问题分解为依赖关系图,再将子问题整合为新的原子问题状态。这种方法不仅提升了大语言模型在推理任务上的表现,还有效减少了计算资源的浪费。此外,AoT 还可以作为插件,与现有的推理框架进行集成,提供灵活的扩展性。
使用 AoT 时,首先需要进行 API 配置,设置好相应的 API 密钥和 URL。用户可以通过两种模式使用 AoT:Atom 模式用于推理任务,而插件模式则用于生成收缩后的数据集。在 Atom 模式下,用户只需输入指定的数据集和模型即可执行推理任务;在插件模式下,AoT 会生成精简后的数据集,供其他推理框架使用,保证答案的一致性,同时减少冗余的信息。
Atom of Thoughts (AoT) 是一个开源项目,当前版本可通过 GitHub 下载。具体的定价信息未公开。
Atom of Thoughts (AoT) 的开发者为 qixucen。
如遇问题或反馈,可通过电子邮件联系开发者,邮箱地址为 [email protected]。
开发者的社交媒体: - Twitter: @didiforx