用户指南# 推理引擎 llama.cpp transformers vLLM SGLang MLX 客户端 API LLM Embedding 图片 Audio Rerank 身份验证系统（基于数据库） 启用与禁用 初始管理员账号 重置丢失的管理员密码 密钥与存储位置 权限 使用 管理用户和 API Key Http 状态码 行为说明 反馈 OIDC 单点登录 配置 登录流程 用户创建与权限 审计日志与安全 审计日志 防暴力破解 模型加载指南 副本 混合分配策略 设置环境变量 配置模型虚拟空间 批处理 / 连续批处理 思考模式 Metrics Supervisor Metrics Worker Metrics 分布式推理 支持的引擎 使用 连续批处理 使用方式 中止请求 注意事项 Xavier: 多VLLM副本间共享KV Cache 使用 限制
