部署大模型
参考:使用 FastChat 部署 LLM
FastChat是一个用于训练、服务和评估基于大型语言模型的聊天机器人的开放平台。其核心功能包括:
开源知识库问答系统(知识库+函数调用)
star 25.1k 。智能问答(知识库+函数调用)
精选最好的 AI 提示词
star 3.9k。知识库问答系统(知识库+函数调用)
本地运行大模型
本地知识库问答