ai-showcase · 全栈 AI 演示项目#
1 套代码串 9 模型 5 业务场景, A-B 测试 + 实时指标, 生产化网关
核心功能#
- 5 业务场景: 客服/代码A-B/图片/语音/视频
- 9 模型统一调度: text/code/vl/asr/tts/rag/math/video/general
- 190 条手工标注测试集, 5 场景 100% 通过
- A/B 提升 +69.5pp (基座 28.5% → 微调 98.0%)
- API Key 鉴权 + Rate Limit + Trace ID + K8s 探针
- K8s 部署清单 + Grafana Dashboard + Locust 压测
技术栈#
FastAPI, Vue 3, Prometheus, K8s, Astro 5
关键指标#
- 效果提升: +69.5pp A/B
- 延迟: P95 1.4s
- 吞吐: 5 场景 100%通过