architecture 🔥 置顶
把 9 个 AI 模型串成一个统一网关: ai-showcase 架构实战
统一网关 ai-showcase 架构: 1 套代码串 9 模型 5 场景, A/B 提升 +69.5pp
🏷️ #LLM
共 4 条内容
🚀 项目 (2)
📝 博客 (2)
architecture
yuanduan-llm 多模态 LLM 平台架构: 9 mini 服务 + OpenAI 兼容 API
9 mini 服务 + 2 个正式模型, OpenAI 兼容 API, RTX 3050 4G 可跑, QLoRA 4bit 微调实战