部署大模型
参考:使用 FastChat 部署 LLM
FastChat是一个用于训练、服务和评估基于大型语言模型的聊天机器人的开放平台。其核心功能包括:
star 3.9k。知识库问答系统(知识库+函数调用)
star 25.1k 。智能问答(知识库+函数调用)
开源知识库问答系统(知识库+函数调用)
AiShort 提供了一份简洁易用的 AI 指令列表,旨在帮助用户,
llama是一个AI工具,旨在帮助用户在本地运行各种语言模型。 它
Star 83k。LangChain 是一个开源框架,允许开发人员将像 GPT-4 这样的大型语言模型与外部的计算和数据源结合起来。