服务器还在繁忙？快来白嫖英伟达来部署你自己的deepseek吧
今年以来，科技圈里最火的莫过于 DeepSeek 的横空出世了，无疑是震惊中外的一个突破 但随着大批用户涌入 DeepSeek，本就节衣缩食的 DeepSeek 更是出现了频繁的「服务器繁忙」，甚至出现了如下图的调侃 👇 那么除了官方的入口之外，还有什么比较好的可以快速使用 DeepSeek 的方式吗？ 当然有！让我们感谢开源！ 虽然 DeepSeek 已经开源了，但普通用户想用上，还是不知道该怎么去做。 于是 Ollama 出现了 👇 只需一行命令即可在你的电脑上使用 DeepSeek，但问题也随即而来 可以看到，ollama 提供的是使用 deepseek-r1 蒸馏过的 qwen2 模型，而非原版的 deepseek-r1，效果上说实话，肯定是不如原版的 deepseek 好用，那么还有没有其他的可以使用到原版 deepseek 的方法呢？ 当然有，那就是我们接下来要说的本文的主角了—— Nvidia NIM 什么是 NIM 官网介绍：NIM 提供用于跨云、数据中心和工作站自行托管 GPU 加速微服务的容器，用于预训练和自定义 AI 模型。这些容器可以使用单个命令进行部署，并自动公开行业标准 API，以快速集成到应用程序、开发框架和工作流程中。其中一个示例是基于大型语言模型（LLM）的 NIM 微服务的 OpenAI API 规范。 一句话总结就是：NIM 是英伟达提供的一套算力平台！！只要你注册了 Nvidia 的开发者账户，你就可以获得英伟达给你提供的 1000 次免费推理服务！ ...