编程开发 📅 2026-11-17 · Mini AI Tools 评测专栏

把 NVIDIA NIM 跑起来:建钥匙、对上模型名、每分钟 40 次

2026-11-17 读到的目录文案是每分钟最多 40 次、每天 10000 次。llms.txt 的示例模型名不在当天返回的 32 个 id 里。

$ 实测核心总结 (TL;DR)

抄一个还在列表里的模型名

2026 年 11 月 17 日,GET https://integrate.api.nvidia.com/v1/models 返回 HTTP 200,一共 32 个模型 id。这次请求没有带 API 钥匙。同一天的 build.nvidia.com/llms.txt 让调用方使用 nvidia/llama-3.1-70b-instruct。这个 id 不在那 32 个里。文档站的快速入门仍写:搜索 llama-3,打开 meta/llama-3.1-8B-instruct。页脚写着三个月前更新。这个 id 也不在那 32 个里。

当天列表里、从名字上看是对话模型的,包括 google/gemma-4-31b-it、openai/gpt-oss-20b、nvidia/nemotron-3.5-lightning-30b-a3b 和 z-ai/glm-5.3-flash。同一份列表里还有向量和检测类 id,例如 nvidia/embed-qa-4 和 nvidia/ai-synthetic-video-detector。对话请求要对话 id。从打开的模型页抄下名字,写进代码之前再对一遍 /v1/models。

四步:打开目录,抄一个还在列表里的 id,建钥匙,发一条对话请求🔍 点击查看原图
目录、还在列表里的 id、钥匙,然后是一条请求。2026-11-17 阅读。
快速入门第 2 步仍写选择 meta/llama-3.1-8B-instruct🔍 点击查看原图
快速入门第 2 步仍写 meta/llama-3.1-8B-instruct。这个 id 不在 2026-11-17 返回的 32 个里。页面本身是英文。

体验入口:build.nvidia.com/search

模型列表:integrate.api.nvidia.com/v1/models

快速入门:docs.api.nvidia.com/nim/docs/api-quickstart

先建钥匙,再发一条对话请求

llms.txt 写:每个模型都有免费试用档,不要求信用卡。钥匙在 https://build.nvidia.com/settings 生成。基址是 https://integrate.api.nvidia.com/v1。请求头是 Authorization: Bearer 加上钥匙。对话走 /v1/chat/completions。这份文件写,这是 OpenAI 的 chat completions 形状。

快速入门的点击顺序还能用,示例模型不能用。打开 build.nvidia.com,搜索,在 Preview 里先发一句话。模型页右侧是 Get API Key,填邮箱,加入 Developer Program。复制出来的 Python 里还有占位符 API_KEY_REQUIRED_IF_EXECUTING_OUTSIDE_NGC。换掉占位符,也换掉模型 id。本页没有发出去一条 completion。核对停在模型列表、llms.txt 和快速入门。

和文件形状一致、又在 11 月 17 日列表里的第一份请求:model 填 google/gemma-4-31b-it,messages 里放一条 user。这个 id 离开列表之后就换掉。不要退回 llms.txt 里的 llama id。

领取入口:build.nvidia.com/settings

体验入口:build.nvidia.com/search

每分钟 40 次,每天 10000 次,这一块没印价格

目录页里嵌着一段文案。2026 年 11 月 17 日抓到的字段是:requestsPerMinute 为 "Up to 40 rpm",requestsPerDay 为 "10,000 requests per day"。说明写:这是一个时间窗口里接受的请求上限;上限会按模型变化;其他用户的流量也可能造成限流。要固定速率时,同一段把人指到专用端点。这段没有印美元或人民币价格。

每分钟最多 40 次,每天 10000 次,目录文案这一块没有印价格🔍 点击查看原图
目录文案里的两道上限,以及没印出来的价格。2026-11-17。
来源印出来的内容怎么用
目录 copy.yaml每分钟最多 40 次。每天 10000 次。会按模型变。碰到任意一道就停。2026-11-17 抓取。
llms.txt免费试用,不用信用卡。示例 id 是 nvidia/llama-3.1-70b-instruct。留下试用那句。丢掉示例 id。它不在 32 个里。
快速入门点击顺序,外加 meta/llama-3.1-8B-instruct。三个月前更新。留下点击。丢掉示例 id。它不在 32 个里。
GET /v1/models32 个 id,HTTP 200,请求没带钥匙。从这份列表里贴。例如 google/gemma-4-31b-it。

专用端点说明:docs.api.nvidia.com/nim/reference/models-1

按手头的活选门

果断选择模型页:第一句话想在浏览器里发出去。Preview 负责发送。Get API Key 在同一页。填邮箱这一步会加入 Developer Program。

体验入口:build.nvidia.com/search

优先考虑 google/gemma-4-31b-it:程序需要一个 2026-11-17 还在列表里的对话 id。真正发送的当天再对一遍 /v1/models。列表里的向量 id 不适合这条对话请求。

模型列表:integrate.api.nvidia.com/v1/models

优先考虑专用端点:每分钟 40 次或每天 10000 次已经把任务挡住。目录文案点了这条出路,没有印价格。先读部署页,再假设账单。

文档:docs.api.nvidia.com/nim/reference/models-1

先停在快速入门:只需要点击顺序。第 2 步里的 llama-3.1-8B 不要贴进代码。

快速入门:docs.api.nvidia.com/nim/docs/api-quickstart

领取入口:build.nvidia.com/settings

本指南提及的核心工具

CW

Cloudflare Workers AI

编程开发
Freemium

建一把 Workers AI 令牌,用 REST 发一条提示词,就能在 Cloudflare 上跑 Llama 3.1 8B。

GR

Groq

编程开发
Freemium

基于 LPU 推理架构的超高速大模型 API 平台,提供开放权重模型与语音转写免费调试额度。

GA

Gemini API

编程开发
Freemium

Google 官方多模态大模型 API,提供 Gemini 4 Hydrogen 与 Flash 系列免费开发额度。

OP

OpenRouter

编程开发
Freemium

统一 API 聚合路由平台,一个密钥调用全球主流闭源与开源大模型,支持免费调试模型。

更多深度横评与实战指南

查看全部指南 →