部署大模型
参考:使用 FastChat 部署 LLM
FastChat是一个用于训练、服务和评估基于大型语言模型的聊天机器人的开放平台。其核心功能包括:
star 3.9k。知识库问答系统(知识库+函数调用)
llama是一个AI工具,旨在帮助用户在本地运行各种语言模型。 它
本地知识库问答
精选最好的 AI 提示词
Star 83k。LangChain 是一个开源框架,允许开发人员将像 GPT-4 这样的大型语言模型与外部的计算和数据源结合起来。
本地运行大模型