首页
万码云课
码上记
小码问答
万码学堂
万码IT教育
TA们在万码
作品墙
大话编程
走向职场
开班信息
搜索
注册/登录
对不起，您还没有登录。视频仅向登录用户开放。
DeepSeek本地化部署开发实战[边缘设备部署-DeepSeek模型在Jetson Nano上的TensorRT部署]
课程介绍
课程目录
1
本地化部署核心认知
1、为什么要本地部署
06:32
2、数据隐私合规要求（GDPR/等保2.0）
05:02
3、企业级服务的延迟优化与成本控制
08:52
4、DeepSeek模型本地化适配优势分析
07:36
5、技术全景图
06:23
6、部署载体对比：物理服务器/私有云/边缘设备
12:30
7、典型部署架构图解（Nginx+API服务+模型仓库）
13:16
2
基础环境构建
1、Linux系统配置
07:10
2、Ubuntu Server基础操作（SSH/防火墙/用户权限）
07:43
3、CUDA+cudNN多版本共存管理技巧
12:08
4、Docker实战部署
07:26
5、容器化DeepSeek推理环境（Dockerfile编写指南）
12:30
6、使用NVIDIA Container Toolkit配置GPU支持
10:08
3
模型转换与优化
1、模型格式转换
08:12
2、ONNX模型导出实战（PyTorch→ONNX动态轴处理）
05:37
3、TensorRT加速引擎构建（FP16/INT8量化演示）
06:48
4、性能调优策略
12:10
5、使用Nsight Systems进行CUDA内核分析
10:25
6、多模型并行加载的内存优化方案
10:36
4
API服务开发
1、FastAPI高阶应用
08:23
2、异步模型推理接口开发（uvicorn+async/await）
05:07
3、Swagger文档自动生成与JWT鉴权集成
12:09
4、高性能网关配置
06:59
5、Nginx反向代理配置（负载均衡/限流策略）
10:11
6、使用Prometheus+Grafana监控QPS/延迟
08:17
5
安全加固策略
1、网络安全防护
05:51
2、HTTPS证书自动续签（Let's Encrypt实战）
07:48
3、防火墙规则设置（iptables防DDoS攻击）
08:07
4、模型加密方案
12:10
5、基于SGX的TEE可信执行环境搭建
06:25
6、模型权重AES加密/解密流水线实现
07:19
6
持续交付体系
1、GitLab CI/CD流水线
12:19
2、自动化构建镜像并推送到私有仓库
09:38
3、金丝雀发布策略实现灰度上线
06:11
4、版本回滚机制
05:23
5、使用Docker Tag进行版本快照管理
11:44
6、数据库迁移回滚（Alembic实战）
12:30
7
边缘设备部署
1、Jetson系列实战
05:34
2、DeepSeek模型在Jetson Nano上的TensorRT部署
10:26
3、功耗监控与散热方案设计
05:23
4、Android端集成
07:22
5、使用NNAPI加速模型推理
07:18
6、模型轻量化技巧（通道剪枝+知识蒸馏）
09:25
8
企业级项目实战
1、工业质检系统部署
11:50
2、千兆级图像吞吐量优化方案
09:15
3、异常熔断机制设计（CPU/GPU温度监控）
05:44
4、金融风控系统落地
12:40
5、模型服务热更新方案
07:41
6、双机热备与故障自动切换
08:20
牛叔叔
好好学习
我要评论
发布评论
视频评论
本地化部署核心认知