常见问题

模型

支持哪些语言模型？

我们支持具有llama.cpp实现的模型，这些模型已上传到HuggingFace.

支持哪些嵌入模型？

我们支持SBert和Nomic Embed Text v1 & v1.5。

软件

我需要什么软件？

你需要做的就是在你的Windows、Mac或Linux计算机上安装GPT4all。

支持哪些SDK语言？

我们的SDK是Python，用于可用性，但这些是围绕llama.cpp我们为效率和日常计算机的可访问性而贡献的实现。

有API吗？

是的，你可以使用我们的OpenAI兼容的API在服务器模式下运行你的模型，你可以在设置中配置它。

我可以监控GPT4All的部署吗？

是的，GPT4All集成使用OpenLIT，因此你可以自动监控LLM的用户交互和硬件使用情况，以实现全面的可观察性。

有命令行界面（CLI）吗？

是的，我们使用Python客户端的轻量级版本作为CLI。我们欢迎进一步的贡献！

硬件

我需要什么硬件？

GPT4All可以在CPU、Metal（苹果硅M1+）和GPU上运行。

系统要求是什么？

你的CPU需要支持AVX或AVX2指令，并且你需要足够的RAM来将模型加载到内存中。