FastChat

大模型生态

FastChat

部署大模型

标签：大模型生态大模型本地部署

链接直达手机查看

参考：使用 FastChat 部署 LLM

FastChat是一个用于训练、服务和评估基于大型语言模型的聊天机器人的开放平台。其核心功能包括：

最先进 LLM 模型的权重、训练代码和评估代码。
带有 WebUI 和与 OpenAI 兼容的 RESTful API 的分布式多模型服务系统。

相关导航

精选最好的 AI 提示词

精选最好的 AI 提示词

微调大模型

GPT4Al （star 63.8k）

本地运行大模型

开源知识库问答系统（知识库+函数调用）

AiShort 提供了一份简洁易用的 AI 指令列表，旨在帮助用户，

Star 83k。LangChain 是一个开源框架，允许开发人员将像 GPT-4 这样的大型语言模型与外部的计算和数据源结合起来。