部署大模型
参考:使用 FastChat 部署 LLM
FastChat是一个用于训练、服务和评估基于大型语言模型的聊天机器人的开放平台。其核心功能包括:
本地运行大模型
star 25.1k 。智能问答(知识库+函数调用)
本地知识库问答
llama是一个AI工具,旨在帮助用户在本地运行各种语言模型。 它
star 3.9k。知识库问答系统(知识库+函数调用)
开源知识库问答系统(知识库+函数调用)