Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 界面,旨在完全离线运行。 它支持各种 LLM 运行程序,包括 Ollama 和 OpenAI 兼容的 API。
Jan 是 ChatGPT 的开源替代品,可在您的计算机上 100% 离线运行。多引擎支持(llama.cpp、TensorRT- LLM )
Jan 由Cortex提供支持,Cortex 是可在任何硬件上运行的嵌入式本地 AI 引擎。
特点:
Dify 是一个开源的 LLM 应用程序开发平台。Dify 的直观界面结合了 AI 工作流程、RAG 管道、代理功能、模型管理、可观测性功能等,让您可以快速从原型到生产。