LLM Playground

在浏览器里直接调用 OpenAI 兼容的 /chat/completions 接口:连接与参数在左,Prompt 编辑与回复在中,TTFT/延迟/速度与费用在右。纯前端 fetch,Key 只存 localStorage。

指标(最近一次)

N 次统计

运行后展示 TTFT / 总延迟 / tokens/s 的平均、中位、最小、最大。

费用

运行后按内置价格表估算;模型未配置价格时显示「未配置价格」并可直接补录。

连接说明(CORS / Mixed Content)

使用说明

  1. 左侧选择提供方预设(或完全自定义 Base URL),填入 API Key(只存浏览器,可随时清除)。
  2. 填写模型名、system / user prompt;temperature / top_p / max_tokens / stop 按需(留空=不传)。
  3. PC 三栏布局;手机竖屏为纵向堆叠 + 底部固定「运行/停止」按钮。
  4. 运行后流式(SSE)逐块显示回复,同时记录 TTFT(首个非空 delta)、总延迟、tokens/s。
  5. 「N 次调用」串行执行 3/5/10 次,展示平均/中位/最小/最大统计;失败或中断不计入,可重跑。
  6. 费用按内置价格表(localStorage 可编辑、可 JSON 导入导出)计算;模型未配置价格时显示「未配置价格」并可直接补录。

示例

选择 DeepSeek 预设 → 填入 Key 与模型 deepseek-chat → 输入 Prompt → 运行:回复流式显示,右侧给出 TTFT、总延迟、tokens/s 与按内置价格表估算的费用;N=3 多次调用可对比平均/中位/最大/最小。

常见问题

浏览器直连 LLM API 会遇到 CORS 吗?
OpenAI、DeepSeek、阿里云百炼、火山方舟的官方端点允许浏览器直连(CORS 开放)。vLLM / 自建服务默认不开 CORS,需以 --allowed-origins 启动,或配置 Nginx 反代,或走本站仓库自带的 MCP 本地服务(stdio 无 CORS 限制)。
Key 会被上传吗?
不会。Key 仅写入浏览器 localStorage,调用由浏览器直接 fetch 到你填的 API 地址;本站无任何自有后端、无埋点、无分析请求。可用「清除全部 Key」一键清空。
费用是怎么算的?
单次成本 = prompt_tokens × 输入单价 + completion_tokens × 输出单价(单价为每 1M tokens,币种随行展示,不做汇率换算)。提供方未返回 usage 时按本地估算(CJK 0.6 + 其他 1/4 词元)并在界面标注「估算值」,估算值不参与费用对账。
为什么我调用 4xx/5xx 或一直转圈?
先核对 Base URL 与 Key 是否匹配;再确认端点是否允许浏览器直连(CORS);HTTPS 页面调用 HTTP 端点会被 Mixed Content 拦截(localhost http 除外)。页面失败时会给出检查清单与说明卡。

相关工具