故障排除
加载模型错误
你可能正在尝试从HuggingFace加载一个模型,其权重与我们的不兼容后端.
尝试下载应用程序主模型页面列出的官方支持的模型之一。如果问题仍然存在,请在我们的Discord.
坏的响应
尝试使用示例聊天来双重检查您的系统是否正确实现模型。
响应不连贯
如果您看到的是完全不类似于示例聊天- 例如,如果您看到的响应看起来没有意义 - 尝试下载不同的模型,并请在我们Discord.
响应错误
大型语言模型可能不可靠。了解它们的训练数据是有帮助的 - 当询问它们未经过训练的数据时,它们不太可能正确,除非您在提示中提供必要的上下文.
为大型语言模型提供额外的上下文,例如使用本地文档,可以帮助将语言模型理解文本的能力与您信任包含所需信息的文件结合起来。
在提示中包含信息并不能保证它会被正确使用,但您的提示越清晰简洁,与您的文件越相关,效果越好。
本地文档问题
偶尔一个模型 - 特别是较小的或整体较弱的LLM - 可能不会使用通过LocalDocs引用的文件中的相关文本片段。如果您看到这种情况,使用诸如“在文档中”或“来自提供的文件”之类的短语来提示您的模型可能会有所帮助。