今年以来,科技圈里最火的莫过于 DeepSeek 的横空出世了,无疑是震惊中外的一个突破
但随着大批用户涌入 DeepSeek,本就节衣缩食的 DeepSeek 更是出现了频繁的「服务器繁忙」,甚至出现了如下图的调侃 👇
那么除了官方的入口之外,还有什么比较好的可以快速使用 DeepSeek 的方式吗?
当然有!让我们感谢开源!
虽然 DeepSeek 已经开源了,但普通用户想用上,还是不知道该怎么去做。
于是 Ollama 出现了 👇
只需一行命令即可在你的电脑上使用 DeepSeek,但问题也随即而来
可以看到,ollama 提供的是使用 deepseek-r1 蒸馏过的 qwen2 模型,而非原版的 deepseek-r1,效果上说实话,肯定是不如原版的 deepseek 好用,那么还有没有其他的可以使用到原版 deepseek 的方法呢?
当然有,那就是我们接下来要说的本文的主角了—— Nvidia NIM
什么是 NIM
官网介绍:NIM 提供用于跨云、数据中心和工作站自行托管 GPU 加速微服务的容器,用于预训练和自定义 AI 模型。这些容器可以使用单个命令进行部署,并自动公开行业标准 API,以快速集成到应用程序、开发框架和工作流程中。其中一个示例是基于大型语言模型(LLM)的 NIM 微服务的 OpenAI API 规范。
一句话总结就是:NIM 是英伟达提供的一套算力平台!!只要你注册了 Nvidia 的开发者账户,你就可以获得英伟达给你提供的 1000 次免费推理服务!
❗️❗️❗️ 用一个邮件地址注册一个账号就能获得 1000 次免费推理(公司邮箱可以获得 5000 次)
怎么白嫖英伟达
注册地址:https://build.nvidia.com/explore/discover
点击右上角 Login 按钮,随后输入你的邮箱地址
随后你就会在你的邮箱里收到一封来自英伟达的邮件:
随后来到 NIM 上 DeepSeek-R1 的地址 👉https://build.nvidia.com/deepseek-ai/deepseek-r1
获取属于你自己的 API KEY(注意不要泄漏哦~)
使用
剩下你要做的事情就是找到一个 chatbot 客户端,然后
- 输入请求地址 👉https://integrate.api.nvidia.com/v1
- 输入请求的模型:deepseek-ai/deepseek-r1
- 输入刚才生成的 API KEY 就好啦 ✌️
这里以 ChatBox App 为例 👉https://chatboxai.app/zh
可以按照我这样的格式填写 👇
移动端同理哦,快来白嫖英伟达的算力来使用你自己的 DeepSeek 哦~