使用腾讯 HAI 5 分钟内部署一个私人定制的 DeepSeek
时间:2025-04-22 | 作者: | 阅读:0由于某些原因,在春节期间,deepseek 遭受了恶意的攻击,导致在撰写本文时,deepseek api 控制台仍未恢复访问。
笔者在实际使用过程中也常常遇到 DeepSeek 无法按预期生成有意义的回复,或者服务器繁忙的情况。
我们知道,DeepSeek 是一个开源的大型模型,其开源性质最显著的表现是完整公开的模型架构设计。
与闭源模型的黑箱特性形成鲜明对比的是,DeepSeek 的 GitHub 仓库不仅包含模型权重文件,还详细披露了 transformer 架构的具体实现细节:
https://www.php.cn/link/75124f25b1db7620476f6d70697fec61
项目中公开的 data_curation 模块展示了从原始网页数据到高质量训练数据的完整处理流程。
这一切使得 DeepSeek 模型非常容易在本地电脑或任何主流云端进行部署。
以腾讯 HAI 为例,在腾讯 HAI 上部署并运行 DeepSeek R1 模型,整个过程不会超过 5 分钟。
腾讯 HAI,全称 Hyper Application Inventor,是一款面向 AI 和科学计算的高性能 GPU 应用服务产品,提供即插即用的强大算力和常见环境。
HAI 的访问入口:
https://www.php.cn/link/d06ea3741c03e92e0e5f2f4ba8c288b0
点击“立即使用”:
新建算力资源:
在算力资源列表中,选择“社区应用”,排名第一的就是 DeepSeek-R1:
选择最基础的“GPU 基础型”算力,这种规格的算力为 8+ TFlops SP,其中 Flops 是 Floating Point Operations Per Second 的缩写,代表计算机每秒可以执行的浮点运算次数。
T 代表 10 的 12 次方,即一万亿,8 TFlops 即每秒 8 万亿次浮点运算,SP 即 Single Precision,单精度运算,表示计算机使用 32 位(4 字节)的浮点数进行计算。
算力资源只需两三分钟即可自动创建完成。
在创建好的实例中,预置了通过 Web 浏览器和终端命令行访问 DeepSeek R1 模型的“ChatbotUI”和“JupyterLab”。
ChatbotUI,即 Chatbot Ollama,是一个开源的聊天用户界面,专门为 Ollama 模型设计,基于 chatbot-ui 项目。
它旨在为用户提供一个简洁、高效的交互平台,以便更好地与 Ollama 管理的模型进行互动。
Ollama 是一个开源框架,专为在本地运行大型语言模型而设计,其主要特点是将模型权重、配置和数据捆绑到一个包中,从而优化了设置和配置细节,包括 GPU 使用情况,简化了在本地运行大型模型的过程。
腾讯 HAI 将 Ollama 的安装和配置工作完全隐藏起来,只需在上图展示的 HAI 算力资源创建页面新建算力,就能立即得到“开箱即用”的 DeepSeek R1 模型应用。
点击“ChatbotUI”,会自动打开一个浏览器窗口,我们就可以在这个窗口里与 DeepSeek 进行对话了。
在 Ollama Model 下拉菜单中,可以选择预置的 1.5b 或 7b 模型。
b 即 billion,1.5b 代表模型参数为 15 亿个,7b 则代表 70 亿个模型参数。
7b 模型由于拥有更多的参数,能够捕捉到更复杂的特征,因此在处理复杂任务时,通常比 1.5b 模型表现更优异。比如在需要深度理解和推理的任务中,7b 模型可以提供更准确详细的回答。
另一方面,由于参数数量的增加,7b 模型对硬件配置的要求更高,在运行时需要更多的计算资源。根据 Ollama 官方提供的信息,7b 模型的大小约为 4.68 GB,而 1.5b 模型约为 1.1 GB。
当然,因为我们使用了 PHP 中文网端的 HAI,使用这些模型不会给本地电脑浏览器端产生任何额外的负载。
用一些稍微复杂的题目来测试:
DeepSeek 给出了令人满意的回答:
当然,腾讯 HAI 结合 DeepSeek 的本地部署场景,还有一些更高级的玩法,比如上传本地文件打造个人知识库,本公众号后续将继续介绍。
福利游戏
相关文章
更多-
- 惊爆!DeepSeek vs. OpenAI,基准测试对决震撼发布,谁更胜一筹?
- 时间:2025-04-22
-
- 基于DeepSeek MoE的无损负载均衡策略:分布式系统并发性能优化实践
- 时间:2025-04-22
-
- 谁给我馒头谁给我拳头我都会记得什么意思 网络用语谁给我馒头的意思和出处介绍
- 时间:2025-04-22
-
- 劲爆!微信接入DeepSeek!
- 时间:2025-04-22
-
- 让 Deepseek 帮我写 POC,又快又准确!
- 时间:2025-04-22
-
- Deepseek批量调整视频的默认音频声道
- 时间:2025-04-22
-
- 得物app银行卡解绑教程
- 时间:2025-04-22
-
- 如何恢复U盘误删除的文件-U盘误删除文件的恢复办法
- 时间:2025-04-22
精选合集
更多大家都在玩
热门话题
大家都在看
更多-
- 快查你手机有没有!67款APP违法收集使用个人信息被通报
- 时间:2025-04-22
-
- SLP币涨势分析:Axie Infinity驱动未来
- 时间:2025-04-22
-
- 联想拯救者Y9000P 2025至尊版上市:RTX 5080/5090国补价17999元起
- 时间:2025-04-22
-
- 老板拒售变质鸭躲过天花板坍塌被质疑摆拍 抖音:禁言30天
- 时间:2025-04-22
-
- 王腾用REDMI Turbo 4 Pro给咖啡机充电:一部手机能打300杯咖啡
- 时间:2025-04-22
-
- 比特币挖矿机配置:高效挖矿的关键要素
- 时间:2025-04-22
-
- Kucoin手机app使用攻略:交易、管理、赚取
- 时间:2025-04-22
-
- 剪映怎么参与国庆节活动
- 时间:2025-04-22