跳到主要内容

用量计量

用量是在授权工作区和项目内记录的资源数量与观测。每个值应保留单位、来源、时间窗和完整性;数量不等于金额。

资源可用性​

容量搜索发生在分配前。支持的 GPU 类型也可能需要等待空闲机器。通过 Job 时间线与事件区分等待、分配、就绪、请求停止与确认释放。

计量与单位​

Meter数量原生单位可读单位
gpu.<GPU type>推理或工作区采样的 GPU 数量 × 策略窗口GPU-millisecondGPU-hour
train.gpu.<GPU type>训练 GPU 数量 × 策略窗口GPU-millisecondGPU-hour
cpu.vcpu实际 vCPU 数量 × 策略窗口vCPU-millisecondvCPU-hour
cpu.mem实际内存 × 策略窗口MiB-millisecondGiB-hour
storage.bytes保留的 checkpoint 字节 × 观测间隔byte-hourGB-month(10⁹ 字节 × 730 小时)

使用实际分配规格,不用请求规格或利用率替代。8 张 GPU 在半小时观测区间内对应 4 GPU-hour。不同 meter 的原生数量不能直接相加。当前 checkpoint 字节是容量快照,不是随时间积分的用量。

生命周期与观测​

  1. 分别读取分配和就绪时间;启动不等于训练或生成时间。
  2. 停止后,以 Job 的清理 Operation 和终态确认资源释放。丢失资源可能只有最后一次成功心跳。
  3. 现有 API 的策略调整数量可能不同于实际经过时间。保留服务端状态与窗口,不从策略数量反推观测运行时长。
  4. 现有训练 gpu.usage_hours 是策略窗口小时数,未乘 GPU 数量,不是总 GPU-hour;与响应存在时的 gpu.gpu_hours 分开处理。
  5. 项目训练用量是记录 Job 的累计值。现有训练用量接口的日期参数不会将其变成按日期筛选的报告;Job 和 Trial 的生命周期观测各自保留时间。
  6. 缺失的值表示未观测到。金额字段缺失时,已知的资源或 token 数量照常保留。cost、estimate 与状态字段保持 API 契约,已结算金额以账户账本为准。

用 API Key 读取项目用量​

使用 Read only 或 Project automation 预设的项目 Key 拥有本项目的 billing.read,可以通过 HTTP 读取该项目已记录的用量:

curl --fail-with-body --silent --show-error -G \
"https://api.envloop.ai/v1/projects/$ENVLOOP_PROJECT_ID/billing/usage" \
-H "Authorization: Bearer $ENVLOOP_API_KEY" \
--data-urlencode "start=2026-11-01T00:00:00Z" \
--data-urlencode "end=2026-11-02T00:00:00Z" \
--data-urlencode "group_by=meter"
  • 把 ENVLOOP_PROJECT_ID 设为 Key 所属项目(el auth status 会显示)。响应只包含该项目。
  • start 和 end 必填,是带时区的 ISO 8601 时间,例如 2026-11-01T00:00:00Z 或 2026-11-01T08:00:00+08:00。不带时区或无法解析时返回 422 INVALID_BILLING_WINDOW,message 指明是 start 还是 end。end 不包含在内。参数要做 URL 编码,否则 + 时区会被当成空格。
  • group_by 可为 day(默认)、meter、product、sku 或 endpoint,其他值返回 422 INVALID_GROUP_BY。
  • 每项包含分组键、按其计量原生单位的 quantity(见计量与单位)、gpu_seconds,以及现有 API 的已记录金额字段。不同计量的原生单位不同,比较数量前请按 meter 分组。

API Key 不能读取工作区财务。读取工作区余额或整个工作区用量的请求(包括 CLI 的工作区账户命令)使用 Key 时返回 403 ACCESS_DENIED(“requires a human billing grant”),请改用上面的项目接口。查看余额请以具有 Billing、Admin 或 Owner 角色的工作区成员身份登录 Console,打开 MANAGE → Billing。项目成员可打开 MANAGE → Usage 查看本项目。

LLM token​

捕获的模型请求可以记录输入、缓存读取、缓存写入、输出与推理 token。保留报告的分类;推理 token 可能已包含在输出中,不要重复相加。Job/Trial trace 只覆盖捕获的请求,可能不含外部调用。

Relay 用量按授权项目及请求时间区间归属,终点不含。客户端填写的 session 或 request 标签不用于把用量归到 Job 或 Trial。使用独立服务商 Key 或端点的调用可能有不同观测来源,比较总数时保留来源与完整性。

存储​

Checkpoint durable 持久化完成后才记录保留大小;上传中不等于 durable。请求删除或 TTL 过期后不再计入保留用量,物理文件清理可能更晚。宣称清理完成前检查 Operation。见 Checkpoint。

采样与资源释放​

受支持的推理采样有独立副本生命周期。请求间副本可能仍分配,空闲后才停止。工作区共享副本不归属单一项目。公开交互式 sampler 工厂仍已移除,使用受支持的推理流程。