部署大模型
参考:使用 FastChat 部署 LLM
FastChat是一个用于训练、服务和评估基于大型语言模型的聊天机器人的开放平台。其核心功能包括:
本地运行大模型
star 25.1k 。智能问答(知识库+函数调用)
star 3.9k。知识库问答系统(知识库+函数调用)
本地知识库问答
Star 83k。LangChain 是一个开源框架,允许开发人员将像 GPT-4 这样的大型语言模型与外部的计算和数据源结合起来。
微调大模型