1. 课程全景回顾从点亮开发板到跑通第一个模型1.1 为什么需要一次系统性的课程总结Jetson边缘嵌入式实战课程走到第十讲意味着前面九讲已经覆盖了从硬件认知到模型部署的完整链路。很多同学在学完前九讲之后脑子里装了一堆零散的知识点——知道怎么烧录系统、知道怎么装CUDA、知道怎么跑YOLO但真要让你从零开始做一个项目可能还是会卡在某个环节。这不是你学得不好而是边缘嵌入式的知识体系本身就是交叉型的涉及硬件、系统、驱动、框架、模型、部署六大块任何一块没打通都会导致项目卡壳。这一讲的核心目的就是把这九讲的内容串成一条线让你清楚地知道每个环节在整个项目流程中处于什么位置以及它们之间是怎么衔接的。我会按照实际项目的推进顺序来梳理而不是简单地按讲次罗列。因为在实际工作中你面对的不是“第几讲”的问题而是“我现在卡住了该往哪个方向排查”的问题。1.2 前九讲的知识地图先给出一张全局视图让你对前九讲的覆盖范围有个整体认知讲次核心主题关键产出对应实际项目阶段第一讲Jetson硬件平台认知与选型明确Nano/Orin NX/AGX Orin的差异项目立项与硬件选型第二讲系统烧录与基础环境搭建可启动的Jetson系统远程访问开发环境准备第三讲JetPack与CUDA环境配置可用的GPU计算环境深度学习环境搭建第四讲Python与深度学习框架安装PyTorch/TensorRT可用模型训练与推理基础第五讲YOLO目标检测算法原理理解YOLO的检测机制与损失函数算法理论基础第六讲数据集制作与标注符合YOLO格式的自定义数据集数据准备第七讲YOLO模型训练与调优训练好的自定义模型权重模型训练第八讲模型转换与TensorRT加速优化后的推理引擎模型部署优化第九讲边缘端部署与性能调优实时推理的完整Demo项目落地这张表看起来简单但每一行背后都有一堆坑。下面我按实际项目流程把关键环节重新拆解一遍。2. 硬件与系统层一切的地基2.1 Jetson选型的核心逻辑第一讲里我们花了大量时间对比不同型号的Jetson。现在回头看选型的核心就三个维度算力、功耗、接口。Jetson Nano是最入门的128核Maxwell GPU4GB内存算力大概0.5 TFLOPS。它能跑YOLOv5s这种小模型但帧率不会太高输入分辨率也得压到416甚至320。适合什么场景教学、原型验证、对实时性要求不高的简单检测。如果你要跑YOLOv8m或者做实例分割Nano基本不用考虑。Jetson Orin NX是目前的甜点级产品算力从70到100 TOPS不等取决于功耗模式内存8GB或16GB。它能流畅跑YOLOv8s甚至YOLOv8m配合TensorRT加速后1080p输入下做到30FPS以上问题不大。功耗控制得也不错10W到25W可调。对于大多数边缘检测项目Orin NX是性价比最高的选择。Jetson AGX Orin是旗舰算力最高到275 TOPS32GB或64GB内存。它能跑多模型并行、高分辨率输入、复杂的实例分割和跟踪算法。但功耗也上去了15W到60W。适合什么场景自动驾驶、多路视频分析、需要同时跑检测分割跟踪的复杂系统。选型时不要只看算力峰值要看你的模型在实际功耗模式下的表现。Orin NX在15W模式下跑YOLOv8s和AGX Orin在15W模式下跑同样的模型帧率差距可能没有你想象的大。2.2 系统烧录的坑与技巧第二讲的核心是系统烧录。Jetson的烧录方式和普通开发板不一样它用的是NVIDIA的SDK Manager或者命令行flash脚本。这里有几个关键点第一SDK Manager是图形化工具适合新手但它对宿主机的Ubuntu版本有要求。你最好用Ubuntu 20.04或22.04的物理机虚拟机容易出USB识别问题。如果宿主机版本不对可以考虑用Docker版本的SDK Manager但配置起来更麻烦。第二烧录时一定要选对目标板型号和JetPack版本。JetPack 5.x对应Orin系列JetPack 4.x对应Nano和Xavier。选错了直接烧不进去。JetPack版本还决定了CUDA、cuDNN、TensorRT的版本这些版本又决定了你能用哪个版本的PyTorch和YOLO。所以烧录前先想清楚你要跑什么模型再倒推JetPack版本。第三烧录完成后第一次启动系统会要求你设置用户名密码、时区、语言等。这一步别跳过也别随便设。用户名建议用简单的英文后面SSH登录和路径配置会方便很多。时区设成你所在的时区不然日志时间对不上。第四远程访问配置。Jetson通常没有显示器你需要通过SSH或者VNC来操作。SSH最简单系统自带。VNC需要额外装vino或者x11vnc。我个人的习惯是SSH为主需要看图形界面时再用VNC。SSH的配置在/etc/ssh/sshd_config默认端口22建议改成一个不常用的端口减少被扫描的风险。2.3 JetPack与CUDA环境的关键细节第三讲的重点是JetPack。JetPack本质上是一个软件栈的集合包含L4TLinux for Tegra也就是Jetson的Ubuntu系统、CUDA、cuDNN、TensorRT、OpenCV等。烧录系统时如果选了完整版JetPack这些组件都会预装好。但预装不代表配好了。有几个环境变量必须手动设置# 在 ~/.bashrc 中添加 export CUDA_HOME/usr/local/cuda export PATH$CUDA_HOME/bin:$PATH export LD_LIBRARY_PATH$CUDA_HOME/lib64:$LD_LIBRARY_PATH export OPENBLAS_CORETYPEARMV8最后那个OPENBLAS_CORETYPEARMV8特别重要。Jetson是ARM架构如果不设这个变量NumPy在导入时会报“Illegal instruction”错误。这个坑我踩过好几次每次重装系统都会忘。验证CUDA是否可用nvcc -V # 应该输出CUDA版本信息 # 再验证PyTorch是否能调用GPU python3 -c import torch; print(torch.cuda.is_available()) # 应该输出True如果torch.cuda.is_available()返回False先检查PyTorch版本是否匹配JetPack的CUDA版本。Jetson上的PyTorch不是pip直接装官方版就行的需要用NVIDIA提供的wheel包。比如JetPack 5.1对应CUDA 11.4你需要下载torch-2.0.0nv23.05-cp38-cp38-linux_aarch64.whl这样的包。3. 算法与数据层YOLO的核心要点3.1 YOLO版本演进与选型建议第五讲我们详细讲了YOLO的原理。现在YOLO已经发展到v8、v9、v10甚至更高版本但核心思想没变把目标检测转化为回归问题在一个前向传播中同时预测边界框和类别。对于Jetson部署我的建议是YOLOv5生态最成熟TensorRT支持最好社区资源最多。如果你刚开始做选v5最稳。YOLOv8精度更高API更简洁但TensorRT转换时偶尔会遇到算子不支持的问题。Ultralytics官方对Jetson的支持在逐步完善。YOLOv9/v10新特性多但边缘端部署的资料相对少遇到问题不好排查。选版本时不要盲目追新。你在Jetson上跑模型最终看的是帧率和精度的平衡。YOLOv5s在Orin NX上TensorRT FP16推理1080p输入能做到40FPS以上精度也够用。换成YOLOv8s帧率可能降到30FPS左右精度提升有限。这个取舍要根据你的项目需求来定。3.2 损失函数与训练调优的实操理解YOLO的损失函数由三部分组成边界框回归损失、置信度损失、分类损失。v5用的是CIoU Loss做边界框回归v8用的是DFLDistribution Focal Loss CIoU。理解损失函数的意义在于调参。比如你的模型训练时loss不下降可能是学习率太大或太小如果边界框定位不准可能是CIoU的权重需要调整如果漏检多可能是置信度阈值设高了。实际训练时我常用的策略是先用预训练权重做迁移学习冻结骨干网络训练10个epoch让检测头先适应你的数据。然后解冻全部网络用较小的学习率比如0.001再训练50到100个epoch。数据增强方面Mosaic和MixUp对YOLO的提升很明显但如果你的数据集本身多样性不够增强太猛反而会过拟合。训练时一定要留出验证集每个epoch结束后看验证集的mAP。如果训练集loss下降但验证集mAP不升说明过拟合了该早停就早停。3.3 数据集制作的质量控制第六讲的数据集制作是很多人容易忽视的环节。我见过太多人模型跑不通最后发现是标注格式错了。YOLO的标注格式是class_id x_center y_center width height所有坐标都归一化到0到1之间。用LabelImg标注时选择YOLO格式导出它会自动生成.txt文件。但要注意图片和标注文件必须一一对应文件名相同只是扩展名不同。类别ID从0开始不要从1开始。如果一张图里有多个目标每个目标一行。标注框不要超出图片边界否则训练时会报错。数据集的质量比数量重要。1000张标注精准的图片比5000张标注粗糙的图片效果好。标注时要注意边界框要贴合目标边缘不要留太多空白遮挡目标也要标但可以标可见部分小目标要放大后再标不然容易漏。4. 部署与优化层从模型到实际运行4.1 模型转换的完整流程第八讲的模型转换是Jetson部署的核心环节。PyTorch训练出来的.pt文件不能直接在Jetson上高效运行需要转成TensorRT的.engine文件。转换流程# 1. 导出ONNX python3 export.py --weights best.pt --include onnx --img 640 --batch 1 # 2. 用trtexec转TensorRT /usr/src/tensorrt/bin/trtexec \ --onnxbest.onnx \ --saveEnginebest.engine \ --fp16 \ --workspace4096 \ --verbose关键参数说明--fp16启用FP16精度速度比FP32快一倍左右精度损失很小。Orin系列还支持INT8但需要校准数据集精度损失更大除非对帧率有极致要求否则FP16够用。--workspace4096分配给TensorRT的工作空间大小单位MB。太小会导致某些层无法优化太大浪费内存。4096对于YOLOv5s/v8s足够。--verbose输出详细日志转换失败时用来排查哪个算子不支持。转换时最常见的错误是“Unsupported operation”。这通常是因为ONNX里有TensorRT不支持的算子。解决办法是用ONNX Simplifier先简化模型或者修改YOLO的导出代码把不支持的算子替换掉。4.2 TensorRT推理的性能调优第九讲我们做了完整的部署Demo。TensorRT推理的核心是创建ExecutionContext分配输入输出缓冲区然后循环执行推理。性能调优的几个关键点批处理大小Jetson上batch size设为1通常最优因为边缘端通常处理单路视频流。如果有多路视频可以考虑batch size2或4但要注意内存占用。输入分辨率YOLO默认640x640但你可以根据实际场景调整。如果目标比较大可以降到416甚至320帧率会明显提升。如果目标很小可能需要升到1280但帧率会下降。内存拷贝优化使用CUDA的Pinned Memory页锁定内存来加速CPU到GPU的数据传输。在Jetson上CPU和GPU共享内存所以可以用Zero-Copy技术直接把CPU内存映射到GPU省去拷贝开销。多线程流水线把图像采集、预处理、推理、后处理分成不同的线程用队列连接。这样GPU推理时CPU可以做下一帧的预处理整体吞吐量能提升30%以上。# 简化的流水线结构 import threading import queue frame_queue queue.Queue(maxsize4) result_queue queue.Queue(maxsize4) def capture_thread(): while True: frame camera.read() frame_queue.put(frame) def infer_thread(): while True: frame frame_queue.get() result engine.infer(frame) result_queue.put(result) def display_thread(): while True: result result_queue.get() draw_and_show(result)4.3 实际部署中的常见问题问题一帧率不稳定忽高忽低。这通常是CPU瓶颈导致的。Jetson的CPU性能有限如果预处理resize、归一化用Python做会拖慢整体速度。解决办法是用CUDA加速预处理或者用OpenCV的GPU版本。问题二内存泄漏。TensorRT的ExecutionContext如果不释放反复创建会导致内存耗尽。确保每次推理后释放缓冲区或者复用同一个ExecutionContext。问题三温度过高降频。Jetson在满载运行时温度会上升超过阈值后会自动降频。解决办法是加散热片或风扇或者用nvpmodel调整功耗模式。Orin NX在15W模式下温度控制较好25W模式下需要主动散热。问题四模型精度下降。FP16转换后精度通常会掉1到2个百分点。如果掉得太多检查是否有层不支持FP16被回退到FP32或者尝试用INT8校准。5. 课程总结与后续学习路径5.1 前九讲的核心能力清单学完前九讲你应该具备以下能力能根据项目需求选择合适的Jetson型号能独立完成系统烧录和环境配置能理解YOLO的检测原理和损失函数能制作符合YOLO格式的自定义数据集能训练并调优YOLO模型能将PyTorch模型转换为TensorRT引擎能在Jetson上部署并优化推理性能这些能力组合起来就是一个完整的边缘AI项目开发链路。从硬件选型到模型落地你都能独立走通。5.2 后续可以深入的方向如果你已经掌握了前九讲的内容接下来可以往这几个方向深入多模型并行在Jetson上同时跑检测、分割、跟踪多个模型。这需要合理分配GPU资源用CUDA Stream实现并行推理。模型量化尝试INT8量化进一步压缩模型体积、提升推理速度。需要准备校准数据集用TensorRT的校准工具生成校准表。视频编解码加速Jetson有硬件编解码器用GStreamer或DeepStream可以大幅降低视频处理的开销。DeepStream是NVIDIA官方的视频分析框架集成了TensorRT和硬件编解码适合做多路视频分析。自定义算子如果YOLO里有TensorRT不支持的算子可以用CUDA写自定义插件。这需要一定的CUDA编程基础但能解决很多部署难题。端到端项目实战找一个实际场景比如工地安全帽检测、交通流量统计、工业缺陷检测从数据采集到部署上线完整走一遍。只有做过完整项目才能真正把前九讲的知识内化。5.3 我个人的一些经验体会带过几期课程后我发现一个规律学得最好的同学不是那些理论功底最强的而是那些动手最多的。边缘嵌入式这个方向看十遍教程不如自己烧一次系统、跑一次训练、调一次TensorRT。另外不要怕报错。Jetson部署过程中遇到的各种错误网上基本都有解决方案。关键是要学会看日志——TensorRT的verbose日志、PyTorch的报错信息、系统dmesg的输出这些才是排查问题的第一手资料。最后保持耐心。边缘部署的链路很长任何一个环节出问题都会导致最终跑不通。但每解决一个问题你对整个系统的理解就会深一层。前九讲只是给你搭了一个框架真正的功夫在框架之外的反复实践。
Jetson边缘AI实战总结：从硬件选型到YOLO模型部署全链路
1. 课程全景回顾从点亮开发板到跑通第一个模型1.1 为什么需要一次系统性的课程总结Jetson边缘嵌入式实战课程走到第十讲意味着前面九讲已经覆盖了从硬件认知到模型部署的完整链路。很多同学在学完前九讲之后脑子里装了一堆零散的知识点——知道怎么烧录系统、知道怎么装CUDA、知道怎么跑YOLO但真要让你从零开始做一个项目可能还是会卡在某个环节。这不是你学得不好而是边缘嵌入式的知识体系本身就是交叉型的涉及硬件、系统、驱动、框架、模型、部署六大块任何一块没打通都会导致项目卡壳。这一讲的核心目的就是把这九讲的内容串成一条线让你清楚地知道每个环节在整个项目流程中处于什么位置以及它们之间是怎么衔接的。我会按照实际项目的推进顺序来梳理而不是简单地按讲次罗列。因为在实际工作中你面对的不是“第几讲”的问题而是“我现在卡住了该往哪个方向排查”的问题。1.2 前九讲的知识地图先给出一张全局视图让你对前九讲的覆盖范围有个整体认知讲次核心主题关键产出对应实际项目阶段第一讲Jetson硬件平台认知与选型明确Nano/Orin NX/AGX Orin的差异项目立项与硬件选型第二讲系统烧录与基础环境搭建可启动的Jetson系统远程访问开发环境准备第三讲JetPack与CUDA环境配置可用的GPU计算环境深度学习环境搭建第四讲Python与深度学习框架安装PyTorch/TensorRT可用模型训练与推理基础第五讲YOLO目标检测算法原理理解YOLO的检测机制与损失函数算法理论基础第六讲数据集制作与标注符合YOLO格式的自定义数据集数据准备第七讲YOLO模型训练与调优训练好的自定义模型权重模型训练第八讲模型转换与TensorRT加速优化后的推理引擎模型部署优化第九讲边缘端部署与性能调优实时推理的完整Demo项目落地这张表看起来简单但每一行背后都有一堆坑。下面我按实际项目流程把关键环节重新拆解一遍。2. 硬件与系统层一切的地基2.1 Jetson选型的核心逻辑第一讲里我们花了大量时间对比不同型号的Jetson。现在回头看选型的核心就三个维度算力、功耗、接口。Jetson Nano是最入门的128核Maxwell GPU4GB内存算力大概0.5 TFLOPS。它能跑YOLOv5s这种小模型但帧率不会太高输入分辨率也得压到416甚至320。适合什么场景教学、原型验证、对实时性要求不高的简单检测。如果你要跑YOLOv8m或者做实例分割Nano基本不用考虑。Jetson Orin NX是目前的甜点级产品算力从70到100 TOPS不等取决于功耗模式内存8GB或16GB。它能流畅跑YOLOv8s甚至YOLOv8m配合TensorRT加速后1080p输入下做到30FPS以上问题不大。功耗控制得也不错10W到25W可调。对于大多数边缘检测项目Orin NX是性价比最高的选择。Jetson AGX Orin是旗舰算力最高到275 TOPS32GB或64GB内存。它能跑多模型并行、高分辨率输入、复杂的实例分割和跟踪算法。但功耗也上去了15W到60W。适合什么场景自动驾驶、多路视频分析、需要同时跑检测分割跟踪的复杂系统。选型时不要只看算力峰值要看你的模型在实际功耗模式下的表现。Orin NX在15W模式下跑YOLOv8s和AGX Orin在15W模式下跑同样的模型帧率差距可能没有你想象的大。2.2 系统烧录的坑与技巧第二讲的核心是系统烧录。Jetson的烧录方式和普通开发板不一样它用的是NVIDIA的SDK Manager或者命令行flash脚本。这里有几个关键点第一SDK Manager是图形化工具适合新手但它对宿主机的Ubuntu版本有要求。你最好用Ubuntu 20.04或22.04的物理机虚拟机容易出USB识别问题。如果宿主机版本不对可以考虑用Docker版本的SDK Manager但配置起来更麻烦。第二烧录时一定要选对目标板型号和JetPack版本。JetPack 5.x对应Orin系列JetPack 4.x对应Nano和Xavier。选错了直接烧不进去。JetPack版本还决定了CUDA、cuDNN、TensorRT的版本这些版本又决定了你能用哪个版本的PyTorch和YOLO。所以烧录前先想清楚你要跑什么模型再倒推JetPack版本。第三烧录完成后第一次启动系统会要求你设置用户名密码、时区、语言等。这一步别跳过也别随便设。用户名建议用简单的英文后面SSH登录和路径配置会方便很多。时区设成你所在的时区不然日志时间对不上。第四远程访问配置。Jetson通常没有显示器你需要通过SSH或者VNC来操作。SSH最简单系统自带。VNC需要额外装vino或者x11vnc。我个人的习惯是SSH为主需要看图形界面时再用VNC。SSH的配置在/etc/ssh/sshd_config默认端口22建议改成一个不常用的端口减少被扫描的风险。2.3 JetPack与CUDA环境的关键细节第三讲的重点是JetPack。JetPack本质上是一个软件栈的集合包含L4TLinux for Tegra也就是Jetson的Ubuntu系统、CUDA、cuDNN、TensorRT、OpenCV等。烧录系统时如果选了完整版JetPack这些组件都会预装好。但预装不代表配好了。有几个环境变量必须手动设置# 在 ~/.bashrc 中添加 export CUDA_HOME/usr/local/cuda export PATH$CUDA_HOME/bin:$PATH export LD_LIBRARY_PATH$CUDA_HOME/lib64:$LD_LIBRARY_PATH export OPENBLAS_CORETYPEARMV8最后那个OPENBLAS_CORETYPEARMV8特别重要。Jetson是ARM架构如果不设这个变量NumPy在导入时会报“Illegal instruction”错误。这个坑我踩过好几次每次重装系统都会忘。验证CUDA是否可用nvcc -V # 应该输出CUDA版本信息 # 再验证PyTorch是否能调用GPU python3 -c import torch; print(torch.cuda.is_available()) # 应该输出True如果torch.cuda.is_available()返回False先检查PyTorch版本是否匹配JetPack的CUDA版本。Jetson上的PyTorch不是pip直接装官方版就行的需要用NVIDIA提供的wheel包。比如JetPack 5.1对应CUDA 11.4你需要下载torch-2.0.0nv23.05-cp38-cp38-linux_aarch64.whl这样的包。3. 算法与数据层YOLO的核心要点3.1 YOLO版本演进与选型建议第五讲我们详细讲了YOLO的原理。现在YOLO已经发展到v8、v9、v10甚至更高版本但核心思想没变把目标检测转化为回归问题在一个前向传播中同时预测边界框和类别。对于Jetson部署我的建议是YOLOv5生态最成熟TensorRT支持最好社区资源最多。如果你刚开始做选v5最稳。YOLOv8精度更高API更简洁但TensorRT转换时偶尔会遇到算子不支持的问题。Ultralytics官方对Jetson的支持在逐步完善。YOLOv9/v10新特性多但边缘端部署的资料相对少遇到问题不好排查。选版本时不要盲目追新。你在Jetson上跑模型最终看的是帧率和精度的平衡。YOLOv5s在Orin NX上TensorRT FP16推理1080p输入能做到40FPS以上精度也够用。换成YOLOv8s帧率可能降到30FPS左右精度提升有限。这个取舍要根据你的项目需求来定。3.2 损失函数与训练调优的实操理解YOLO的损失函数由三部分组成边界框回归损失、置信度损失、分类损失。v5用的是CIoU Loss做边界框回归v8用的是DFLDistribution Focal Loss CIoU。理解损失函数的意义在于调参。比如你的模型训练时loss不下降可能是学习率太大或太小如果边界框定位不准可能是CIoU的权重需要调整如果漏检多可能是置信度阈值设高了。实际训练时我常用的策略是先用预训练权重做迁移学习冻结骨干网络训练10个epoch让检测头先适应你的数据。然后解冻全部网络用较小的学习率比如0.001再训练50到100个epoch。数据增强方面Mosaic和MixUp对YOLO的提升很明显但如果你的数据集本身多样性不够增强太猛反而会过拟合。训练时一定要留出验证集每个epoch结束后看验证集的mAP。如果训练集loss下降但验证集mAP不升说明过拟合了该早停就早停。3.3 数据集制作的质量控制第六讲的数据集制作是很多人容易忽视的环节。我见过太多人模型跑不通最后发现是标注格式错了。YOLO的标注格式是class_id x_center y_center width height所有坐标都归一化到0到1之间。用LabelImg标注时选择YOLO格式导出它会自动生成.txt文件。但要注意图片和标注文件必须一一对应文件名相同只是扩展名不同。类别ID从0开始不要从1开始。如果一张图里有多个目标每个目标一行。标注框不要超出图片边界否则训练时会报错。数据集的质量比数量重要。1000张标注精准的图片比5000张标注粗糙的图片效果好。标注时要注意边界框要贴合目标边缘不要留太多空白遮挡目标也要标但可以标可见部分小目标要放大后再标不然容易漏。4. 部署与优化层从模型到实际运行4.1 模型转换的完整流程第八讲的模型转换是Jetson部署的核心环节。PyTorch训练出来的.pt文件不能直接在Jetson上高效运行需要转成TensorRT的.engine文件。转换流程# 1. 导出ONNX python3 export.py --weights best.pt --include onnx --img 640 --batch 1 # 2. 用trtexec转TensorRT /usr/src/tensorrt/bin/trtexec \ --onnxbest.onnx \ --saveEnginebest.engine \ --fp16 \ --workspace4096 \ --verbose关键参数说明--fp16启用FP16精度速度比FP32快一倍左右精度损失很小。Orin系列还支持INT8但需要校准数据集精度损失更大除非对帧率有极致要求否则FP16够用。--workspace4096分配给TensorRT的工作空间大小单位MB。太小会导致某些层无法优化太大浪费内存。4096对于YOLOv5s/v8s足够。--verbose输出详细日志转换失败时用来排查哪个算子不支持。转换时最常见的错误是“Unsupported operation”。这通常是因为ONNX里有TensorRT不支持的算子。解决办法是用ONNX Simplifier先简化模型或者修改YOLO的导出代码把不支持的算子替换掉。4.2 TensorRT推理的性能调优第九讲我们做了完整的部署Demo。TensorRT推理的核心是创建ExecutionContext分配输入输出缓冲区然后循环执行推理。性能调优的几个关键点批处理大小Jetson上batch size设为1通常最优因为边缘端通常处理单路视频流。如果有多路视频可以考虑batch size2或4但要注意内存占用。输入分辨率YOLO默认640x640但你可以根据实际场景调整。如果目标比较大可以降到416甚至320帧率会明显提升。如果目标很小可能需要升到1280但帧率会下降。内存拷贝优化使用CUDA的Pinned Memory页锁定内存来加速CPU到GPU的数据传输。在Jetson上CPU和GPU共享内存所以可以用Zero-Copy技术直接把CPU内存映射到GPU省去拷贝开销。多线程流水线把图像采集、预处理、推理、后处理分成不同的线程用队列连接。这样GPU推理时CPU可以做下一帧的预处理整体吞吐量能提升30%以上。# 简化的流水线结构 import threading import queue frame_queue queue.Queue(maxsize4) result_queue queue.Queue(maxsize4) def capture_thread(): while True: frame camera.read() frame_queue.put(frame) def infer_thread(): while True: frame frame_queue.get() result engine.infer(frame) result_queue.put(result) def display_thread(): while True: result result_queue.get() draw_and_show(result)4.3 实际部署中的常见问题问题一帧率不稳定忽高忽低。这通常是CPU瓶颈导致的。Jetson的CPU性能有限如果预处理resize、归一化用Python做会拖慢整体速度。解决办法是用CUDA加速预处理或者用OpenCV的GPU版本。问题二内存泄漏。TensorRT的ExecutionContext如果不释放反复创建会导致内存耗尽。确保每次推理后释放缓冲区或者复用同一个ExecutionContext。问题三温度过高降频。Jetson在满载运行时温度会上升超过阈值后会自动降频。解决办法是加散热片或风扇或者用nvpmodel调整功耗模式。Orin NX在15W模式下温度控制较好25W模式下需要主动散热。问题四模型精度下降。FP16转换后精度通常会掉1到2个百分点。如果掉得太多检查是否有层不支持FP16被回退到FP32或者尝试用INT8校准。5. 课程总结与后续学习路径5.1 前九讲的核心能力清单学完前九讲你应该具备以下能力能根据项目需求选择合适的Jetson型号能独立完成系统烧录和环境配置能理解YOLO的检测原理和损失函数能制作符合YOLO格式的自定义数据集能训练并调优YOLO模型能将PyTorch模型转换为TensorRT引擎能在Jetson上部署并优化推理性能这些能力组合起来就是一个完整的边缘AI项目开发链路。从硬件选型到模型落地你都能独立走通。5.2 后续可以深入的方向如果你已经掌握了前九讲的内容接下来可以往这几个方向深入多模型并行在Jetson上同时跑检测、分割、跟踪多个模型。这需要合理分配GPU资源用CUDA Stream实现并行推理。模型量化尝试INT8量化进一步压缩模型体积、提升推理速度。需要准备校准数据集用TensorRT的校准工具生成校准表。视频编解码加速Jetson有硬件编解码器用GStreamer或DeepStream可以大幅降低视频处理的开销。DeepStream是NVIDIA官方的视频分析框架集成了TensorRT和硬件编解码适合做多路视频分析。自定义算子如果YOLO里有TensorRT不支持的算子可以用CUDA写自定义插件。这需要一定的CUDA编程基础但能解决很多部署难题。端到端项目实战找一个实际场景比如工地安全帽检测、交通流量统计、工业缺陷检测从数据采集到部署上线完整走一遍。只有做过完整项目才能真正把前九讲的知识内化。5.3 我个人的一些经验体会带过几期课程后我发现一个规律学得最好的同学不是那些理论功底最强的而是那些动手最多的。边缘嵌入式这个方向看十遍教程不如自己烧一次系统、跑一次训练、调一次TensorRT。另外不要怕报错。Jetson部署过程中遇到的各种错误网上基本都有解决方案。关键是要学会看日志——TensorRT的verbose日志、PyTorch的报错信息、系统dmesg的输出这些才是排查问题的第一手资料。最后保持耐心。边缘部署的链路很长任何一个环节出问题都会导致最终跑不通。但每解决一个问题你对整个系统的理解就会深一层。前九讲只是给你搭了一个框架真正的功夫在框架之外的反复实践。
