一、概述传统流程以人工编码为核心的单向线性流水线从需求分析一路走到编译、测试、部署走完即止。AI 链路以「自然语言描述意图 模型生成代码 人工审查」为核心的闭环迭代编译与测试的结果会反馈回模型继续修正。两者共享同一条机器执行链路预处理 → 编译 → 汇编 → 链接区别主要体现在「代码如何产生」与「错误如何被处理」上。二、先看传统流程,再看 AI 链路1、传统:源码 → 编译 → 链接 → 运行main.c ──gcc编译── main.o ──链接── app ──加载运行── CPU 执行 (源码→机器码) (合并符号解析) (系统库 libc.so 内核) C/C 到可执行文件四阶段预处理 → 编译 → 汇编 → 链接可用 gcc -E/-S/-c 分步查看中间产物.i → .s → .o → 可执行文件2、AI 链路:训练 → 转换 → 部署推理AI 链路把传统流程中「编码」这一环交给模型并引入反馈闭环自然语言需求—— 用 Prompt 描述意图替代传统「需求 → 设计 → 编码」的起步过程。AI 生成代码—— 模型完成生成、补全、重构。人工审查修正—— 人验证语义正确性、把关质量。编译与测试—— 自动化执行错误信息直接回传模型触发新一轮修正反馈循环。关键特征反馈闭环编译/测试的错误可以喂回模型由模型自我修正而不是仅靠人读报错手动改。起点前移从「写代码」前移到「描述意图」。审查保留人工审查依然是必要环节模型输出有随机性需验证。PyTorch模型 ──rknn-toolkit2── .rknn ──rknnlite加载── librknnrt.so 调度 ── NPU (转换INT8量化) (可执行格式) (你的程序) (运行时引擎) (硬件) AI 链路 自然语言描述意图 模型生成代码 人工审查 编译/测试错误反馈闭环机器执行链路完全共享AI 产出的是源码而非可执行文件三、一一对应的映射表传统编译运行AI 链路说明写源码.cPyTorch 训练出模型权重都是把算法固化成数据/代码编译器 gccrknn-toolkit2把人写的转成机器能执行的可执行文件.rknn 模型编译产物你的main()rknnlite / rknn_api程序入口,调用库libc.so / glibclibrknnrt.so运行时库(你问的核心)CPU 内核 syscallNPU 驱动 ioctl硬件实际执行者四、联系编译链路完全共享—— 无论代码是手写还是 AI 生成最终都走「预处理 → 编译 → 汇编 → 链接」同一条机器执行链路。AI 产出的是源码而非可执行文件。AI 是传统流程的加速器不是替代品—— 它替换的是「编码」这一环需求分析、代码审查、测试验证依然保留甚至更依赖人的判断。传统功底仍是 AI 链路的底层能力—— 越懂编译报错、调试、性能调优越能精准指导 AI 产出高质量代码审查时也越能发现模型错误。目标一致—— 两者最终都指向同一个结果正确、可维护、可运行的软件产品。五、librknnrt.so 具体在运行时干什么它跟 libc.so 一样,是你的程序跑起来之后才介入的运行时层:职责libc 类比解析.rknn文件(读格式、校验版本)dlopen加载动态库分配 NPU 可访问内存(ION/DMA-BUF)malloc把推理任务提交给驱动(ioctl)write/系统调用等待 NPU 算完(同步)同步等待/信号量反量化:INT8 输出 → 真实值((x-zp)×scale)—(传统二进制没这层)六、三个关键区别(这才是重点)①.rknn不是 NPU 的机器码,是中间表示传统可执行文件里是 CPU 机器码,直接跑。但.rknn里是图结构 算子描述 量化参数,真正怎么映射到具体 NPU 硬件,是 librknnrt.so 运行时决定的。所以同一个.rknn模型,可以跑在 RK3566/3568/3576/3588 上——是运行时在适配,不是模型本身。最贴切的类比:.rknn像 Java 字节码,librknnrt.so 像 JVM——跨平台的能力来自运行时解释层,而不是产物本身。② 编译器和运行时分属两个地方、两个版本rknn-toolkit2 在PC 上转(宿主侧)librknnrt.so 在板子上跑(目标侧)这就是你今天的版本 warning 的根源:1.5.0的工具转出的模型,跑在1.3.0的引擎上。类比:用新版 gcc 编译的程序,跑在老版 glibc 的系统上——能跑是因为向后兼容,但该对齐版本时得对齐。③ 数据带格式元信息,传统二进制没有传统二进制里数字就是数字;而.rknn里每个张量自带scale/zero_point(量化参数的说明书),运行时反量化要用它。这层数据格式认知是 AI 推理独有的——也对应你熟悉的概念:定点数 Q 格式的运行时解释。七、一句话总结librknnrt.so libc.so JVM GPU 用户态库(libmali.so)三合一,是板子推理这一步的运行时引擎;.rknn则是带量化元信息的中间表示,跨芯片兼容性来自引擎,不来自模型本身。模型为什么不能直接在板子上跑——因为它需要转换、需要运行时适配、需要量化。