Paddle Lite macOS 交叉编译 Android 预测库完整指南环境搭建、参数详解与多设备支持【免费下载链接】Paddle-LitePaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎项目地址: https://gitcode.com/GitHub_Trending/pa/Paddle-Lite导读本文是 Paddle Lite飞桨高性能深度学习端侧推理引擎在macOS 本机环境下通过 Android NDK 交叉编译构建适用于 Android 系统预测库的完整实战指南。内容覆盖编译环境搭建C 工具链、CMake、Android NDK、Java、build_android.sh脚本全部基础编译参数与命令行用法、编译产物目录结构解读以及 OpenCL 与 NNAdapter华为麒麟 NPU、联发科 APU等多硬件加速支持的编译配置。读完本文你将能够从源码构建出面向 arm64-v8a / armeabi-v7a 的 Paddle Lite 预测库并正确选择参数组合以适配不同 Android 设备与部署场景。一、场景说明与已验证环境当你的本机为macOS 操作系统本文档面向 Intel 芯片机型暂不支持 M1 机型而目标硬件是Android 系统的设备时就可以参考本文的流程通过 Android NDK 交叉编译工具从源码构建 Paddle Lite 编译包供后续应用程序开发使用。在动手编译之前先明确两点适用范围优先使用官方预编译包通常情况下你不需要自行从源码构建编译包建议优先下载 Paddle Lite 官方发布的预编译包可以满足大部分场景需求。只有当官方编译包未覆盖你的场景例如需要定制算子、裁剪库体或接入特定 NPU或需要修改 Paddle Lite 源码时才需要参考本文从源码构建。版本要求本文介绍的编译方法只适用于Paddle Lite v2.6 及以上版本。v2.3 及之前的版本请参考 release/v2.3 源码编译方法。在该场景下Paddle Lite 已验证的软硬件配置如下---本机环境目标硬件环境操作系统macOSAndroid 4.1 及以上芯片版本为 ARMv7 时Android 5.0 及以上芯片版本为 ARMv8 时芯片层x86 架构arm64-v8a / armeabi-v7a CPUHuawei Kirin NPUMediaTek APUOpenCLOpenCL 是面向异构硬件平台的编译库Paddle Lite 支持在 Android 系统上运行基于 OpenCL 的程序。各芯片支持的具体型号以及对应手机型号可参考支持硬件列表章节查询。二、准备编译环境2.1 推荐环境清单C 环境gcc、g 8.2.0CMake 3.10Android NDK r17cgit、make、curl、unzip、javaJava 环境构建 Java 预测库时需要OpenJDK 1.8.0Gradle 4.1.2Android SDK 212.2 环境安装命令以下命令以 Homebrew 与命令行下载工具为例逐一完成基础软件、CMake、Android NDK 与 Java 环境的安装。# 1. 安装 curl gcc git make unzip wget 等基础软件 brew install curl gcc git make unzip wget # 2. 安装 CMake以下命令以 3.10.2 版本为例其他版本步骤类似。 mkdir /usr/local/Cellar/cmake/ cd /usr/local/Cellar/cmake/ wget https://cmake.org/files/v3.10/cmake-3.10.2-Darwin-x86_64.tar.gz tar zxf ./cmake-3.10.2-Darwin-x86_64.tar.gz mv cmake-3.10.2-Darwin-x86_64/CMake.app/Contents/ ./3.10.2 ln -s /usr/local/Cellar/cmake/3.10.2/bin/cmake /usr/local/bin/cmake # 3. 下载 Mac 版本的 Android NDK以下命令以 r17c 版本为例其他版本步骤类似。 cd ~/Documents curl -O https://dl.google.com/android/repository/android-ndk-r17c-darwin-x86_64.zip cd ~/Library unzip ~/Documents/android-ndk-r17c-darwin-x86_64.zip # 4. 添加环境变量 NDK_ROOT 指向 Android NDK 的安装路径 echo export NDK_ROOT~/Library/android-ndk-r17c ~/.bash_profile source ~/.bash_profile # 5. (可选) 删除 debug 编译参数减小二进制体积 # 用编辑器打开 $ANDROID_NDK/build/cmake/android.toolchain.cmake 删除 -g 这行 # 或者打开 $ANDROID_NDK/build/cmake/android-legacy.toolchain.cmake (Android NDK r23c及以上版本) 执行同样的操作 list(APPEND ANDROID_COMPILER_FLAGS -g -DANDROID ... # 6. 安装 Java 环境 brew install javaNDK_ROOT 是关键Paddle Lite 的 CMake 构建系统依赖NDK_ROOT环境变量定位 NDK。在 cmake/os/android.cmake 中可以看到若未显式定义ANDROID_NDKCMake 会读取$ENV{NDK_ROOT}一旦该环境变量为空会直接以FATAL_ERROR终止配置因此务必在编译前确保NDK_ROOT已正确导出。另外从脚本层面看build_android.sh在 DarwinmacOS系统上会自动执行ulimit -n 1024以扩大最大文件数限制来保证编译顺利无需手动处理。三、了解基础编译参数Paddle Lite 仓库中的/lite/tools/build_android.sh脚本用于构建 Android 版本的编译包。你可以通过修改脚本文件中的参数或通过命令行参数传入满足不同场景的编译需求。有特殊硬件需求的编译参数见后文多设备支持一节。3.1 基础编译参数一览参数说明可选范围默认值arch目标硬件的 ARM 架构版本armv8 / armv7armv8toolchainC 语言的编译器工具链gcc / clanggccandroid_stl链接到的 Android C STL 类型c_static / c_sharedc_staticwith_java是否包含 Java 编译包目标应用程序是 Java 语言时需配置为 ONOFF / ONONwith_static_lib是否发布 C 静态库OFF / ONOFFwith_cv是否将 cv 函数加入编译包中OFF / ONOFFwith_log是否在执行过程打印日志OFF / ONONwith_exception是否开启 C 异常OFF / ONOFFwith_extra是否编译完整算子见支持算子一节OFF / ONOFFwith_profile是否打开执行耗时分析OFF / ONOFFwith_precision_profile是否打开逐层精度结果分析OFF / ONOFFwith_arm82_fp16是否开启半精度算子OFF / ONOFFandroid_api_levelAndroid API 等级1627armv7:16 / armv8:21以上参数既可以直接在build_android.sh中修改脚本开头即定义了对应的全局变量例如ARCHarmv8、ANDROID_STLc_static、TOOLCHAINgcc也可以通过命令行--参数名值的方式指定两种方式等价。3.2 最低 Android API 等级对照Paddle Lite 支持的最低 Android 版本是 4.1芯片版本为 ARMv7 时或 5.0芯片版本为 ARMv8 时可通过--android_api_level选项设定一个具体的数值该数值应不低于下表的最低支持的 Android API Level。ARM ABIarmv7armv8支持的最低 Android API 等级1621支持的最低 Android 版本4.15.0从脚本实现看set_android_api_level函数会按 ARCH 自动取对应最低值当ANDROID_API_LEVEL为默认值时不额外传递ANDROID_NATIVE_API_LEVEL若显式指定的数值低于最低值脚本会直接报错并退出。需要注意的是在非轻量full publish编译模式下cmake/os/android.cmake 中 armv7 的 API Level 会被强制抬升到 21因为 OpenCV-4.1.0 要求 Android API Level 21。3.3 参数背后的编译选项映射build_android.sh最终会把上述参数映射为 CMake 选项见脚本中的cmake_mutable_options。与编译选项说明对照可以更深入地理解每个参数的影响脚本参数对应 CMake 选项作用with_extraLITE_BUILD_EXTRA编译全量预测库包含更多算子和模型支持with_logLITE_WITH_LOG是否输出日志信息with_exceptionLITE_WITH_EXCEPTION是否在错误发生时抛出异常with_javaLITE_WITH_JAVA是否编译支持 Java API 的预测库with_cvLITE_WITH_CV是否编译 CV 图像加速库with_profileLITE_WITH_PROFILE是否编译性能 Profiler 工具用于 kernel 耗时统计with_precision_profileLITE_WITH_PRECISION_PROFILE是否编译精度 Profiler 工具用于 kernel 精度分析with_arm82_fp16LITE_WITH_ARM82_FP16是否包含 FP16 半精度算子此外脚本还提供了一些文档表格之外的高级开关with_train编译带训练算子的库、with_benchmark编译 benchmark 二进制、with_stripopt_model_dir根据输入模型裁剪预测库详见预测库裁剪、with_thread_pool线程池、with_arm8_sve2ARM SVE2 指令支持要求 NDK r23、with_arm_dotprodARM 点积指令优化等。3.4 工具链选择的两个重要约束从build_android.sh与参数解析逻辑中可以发现两条自动约束规则开启 FP16 时强制切换 clang armv8当BUILD_ARM82_FP16ON时脚本会把TOOLCHAIN强制设为clang、ARCH强制设为armv8NDK 版本高于 r17 时自动使用 clang脚本解析NDK_ROOT中的版本号当NDK_VERSION 17时自动将TOOLCHAIN切换为clang新版 NDK 已移除 GCC 工具链armv7 开启异常时必须是 clang脚本在解析--with_exceptionON时若检测到armv7且非clang会直接报错退出——因为只有 clang 为 32 位 ARM 提供 C 异常处理支持。四、编译步骤运行编译脚本之前请先检查系统环境变量NDK_ROOT指向正确的 Android NDK 安装路径之后即可下载源码并构建 Paddle Lite 编译包。# 1. 检查环境变量 NDK_ROOT 指向正确的 Android NDK 安装路径 echo $NDK_ROOT # 2. 下载 Paddle Lite 源码并切换到发布分支如 develop git clone https://github.com/PaddlePaddle/Paddle-Lite.git cd Paddle-Lite git checkout develop # 3. (可选) 删除 third-party 目录编译脚本会自动从国内 CDN 下载第三方库文件 # rm -rf third-party # 4. 编译 Paddle Lite Android 预测库 ./lite/tools/build_android.sh4.1 常用命令行示例build_android.sh支持多种参数组合以下命令均直接可用# 打印脚本完整帮助信息 ./lite/tools/build_android.sh help # 默认编译armv8 gcc c_static仅包含 light_api 库推荐 ./lite/tools/build_android.sh # 指定 ARM 架构为 armv7 ./lite/tools/build_android.sh --archarmv7 # 编译完整算子OCR、NLP 等序列模型并开启异常处理 ./lite/tools/build_android.sh --with_extraON --with_exceptionON # 同时发布 C 静态库 ./lite/tools/build_android.sh --with_static_libON # 开启 OpenCL 支持 ./lite/tools/build_android.sh --with_openclON # 编译同时包含 light_api 与 cxx_api 两种库的全量发布包 ./lite/tools/build_android.sh full_publish # 编译 benchmark 二进制 ./lite/tools/build_android.sh --with_benchmarkON full_publish # 根据输入模型裁剪预测库 ./lite/tools/build_android.sh --with_stripON --opt_model_dirYourOptimizedModelDir4.2 两种发布模式的区别build_android.sh提供两种发布模式见脚本main函数tiny publish默认调用make_tiny_publish_so只编译light_api库libpaddle_light_api_shared.so不依赖第三方库是移动端推荐的最小化方案full publish调用make_full_publish_so同时编译light_api与full_api两套库并支持训练算子、Profiler 等全功能选项。4.3 第三方依赖的获取策略编译过程依赖大量第三方库。脚本中的prepare_thirdparty函数会优先从国内 CDNhttps://paddlelite-data.bj.bcebos.com/third_party_libs/下载第三方依赖压缩包并解压到仓库根目录的third-party目录若本地已存在该目录则通过git submodule update --init --recursive同步。编译耗时优化提示编译过程中如出现源码编译耗时过长通常是第三方库下载过慢或失败导致。请在完成 Paddle Lite 源码下载后删除本地仓库根目录下的 third-party 目录编译脚本会自动下载存储于国内 CDN 的第三方依赖文件压缩包节省从 GitHub 同步第三方库的时间。五、验证编译结果如果按./lite/tools/build_android.sh中的默认参数执行成功后会在Paddle-Lite/build.lite.android.armv8.gcc/inference_lite_lib.android.armv8目录生成 Paddle Lite 编译包文件目录如下inference_lite_lib.android.armv8/ ├── cxx C 预测库和头文件 │ ├── include C 头文件 │ │ ├── paddle_api.h │ │ ├── paddle_image_preprocess.h │ │ ├── paddle_lite_factory_helper.h │ │ ├── paddle_place.h │ │ ├── paddle_use_kernels.h │ │ ├── paddle_use_ops.h │ │ └── paddle_use_passes.h │ └── lib C 预测库 │ └── libpaddle_light_api_shared.so C 动态库 │ ├── java Java 预测库 │ ├── jar │ │ └── PaddlePredictor.jar Java JAR 包 │ ├── so │ │ └── libpaddle_lite_jni.so Java JNI 动态链接库 │ └── src │ └── demo C 和 Java 示例代码 ├── cxx C 预测库 demo └── java Java 预测库 demo目录解读cxx/include下的头文件是开发 C 应用的核心接口paddle_api.h预测 API、paddle_place.h硬件/精度 Place 定义、paddle_use_ops.h/paddle_use_kernels.h/paddle_use_passes.h算子、Kernel、Pass 的编译期声明用于控制库中实际包含的算子集合。cxx/lib/libpaddle_light_api_shared.so为 C 动态链接库对应lite/api/light_api.h中的 LightAPI轻量级 C API。java目录仅在--with_javaON默认开启时生成其中PaddlePredictor.jar与libpaddle_lite_jni.so供 Java/Kotlin 应用通过 JNI 调用。demo/cxx与demo/java分别提供对应语言的示例工程可直接作为集成参考仓库中对应示例位于 lite/demo/cxx 与 lite/demo/java。六、多设备支持针对不同的目标硬件build_android.sh提供了对应的编译开关相关参数定义在脚本头部变量区也可以通过命令行传入。6.1 OpenCLPaddle Lite 支持所有兼容OpenCL 1.1 标准的 GPU 设备可让模型在 Android 设备上借助 GPU 异构加速运行。参数说明可选范围默认值with_opencl是否包含 OpenCL 编译OFF / ONOFF启用方式./lite/tools/build_android.sh --with_openclON从构建流程看当WITH_OPENCLON时脚本会调用prepare_opencl_source_code通过gen_opencl_code.py把 lite/backends/opencl/cl_kernel 目录下所有.cl内核源码统一打包生成opencl_kernels_source.cc从而将全部 OpenCL kernel 编入单一库文件。OpenCL 在 Android 上的使用细节可参考 OpenCL 平台指南。6.2 NNAdapterAI 硬件统一适配框架NNAdapter是飞桨推理 AI 硬件统一适配框架通过它可以较为便捷地适配多种硬件。参数说明可选范围默认值with_nnadapter是否编译 NNAdapterOFF / ONOFF启用方式./lite/tools/build_android.sh --with_nnadapterON开启with_nnadapter后可进一步为具体硬件编译对应的 NNAdapter HAL 库HAL 即硬件抽象层负责把 Paddle Lite 的算子描述翻译为特定 NPU 厂商 SDK 的调用。6.3 NNAdapter 支持华为麒麟 NPU参数说明可选范围默认值nnadapter_with_huawei_kirin_npu是否编译华为麒麟 NPU 的 NNAdapter HAL 库OFF / ONOFFnnadapter_huawei_kirin_npu_sdk_root设置华为 HiAI DDK 目录hiai_ddk_lib_510需下载解压后指定路径空值编译示例./lite/tools/build_android.sh --with_nnadapterON \ --nnadapter_with_huawei_kirin_npuON \ --nnadapter_huawei_kirin_npu_sdk_root/path/to/hiai_ddk_lib_510脚本中该 SDK 根目录的默认值为$(pwd)/hiai_ddk_lib_330实际使用时应将其指向你下载解压的 HiAI DDK 目录。详细用法参考 华为麒麟 NPU 指南。6.4 NNAdapter 支持联发科 APU参数说明可选范围默认值nnadapter_with_mediatek_apu是否编译联发科 APU 的 NNAdapter HAL 库OFF / ONOFFnnadapter_mediatek_apu_sdk_root设置联发科 Neuron Adapter SDK 目录apu_ddk需下载解压后指定路径空值编译示例./lite/tools/build_android.sh --with_nnadapterON \ --nnadapter_with_mediatek_apuON \ --nnadapter_mediatek_apu_sdk_root/path/to/apu_ddk脚本中该 SDK 根目录的默认值为$(pwd)/apu_ddkSDK 压缩包可从https://paddlelite-demo.bj.bcebos.com/devices/mediatek/apu_ddk.tar.gz获取。详细用法参考 联发科 APU 指南。需要说明的是build_android.sh还内置了其他 NNAdapter HAL 的编译开关如 Amlogic NPU、Verisilicon TIM-VX、Android NNAPI、Google XNNPACK、Qualcomm QNN、昆仑芯 XPU 等均可按--nnadapter_xxxON的方式组合启用各参数的可选范围均为 OFF/ON默认 OFF。相关原理可参考 NNAdapter 介绍。七、常见问题与排错建议报错Must set ANDROID_NDK or env NDK_ROOTCMake 配置阶段找不到 NDK。检查echo $NDK_ROOT输出是否为空并在~/.bash_profile中正确导出后重新source。编译中途失败且耗时集中在第三方库阶段多为第三方依赖下载超时。删除仓库根目录third-party后重跑脚本会改从国内 CDN 下载。--with_exceptionON在 armv7 gcc 组合下报错这是脚本的主动校验——32 位 ARM 下只有 clang 提供 C 异常支持请改用--archarmv7 --toolchainclang --with_exceptionON。--with_arm82_fp16ON时架构/工具链被自动改变FP16 内核要求 armv8 clang脚本会强制覆盖ARCH与TOOLCHAIN。NDK 版本高于 r17 时未显式指定工具链脚本会自动切换为 clang如需强制使用旧版 GCC 需使用 NDK r17 及以下的旧版 NDK。构建产物找不到 Java 目录确认未将--with_java设为 OFF且本机已安装 OpenJDK、Gradle 与 Android SDK。八、总结在 macOS 上交叉编译 Paddle Lite Android 预测库的完整链路可概括为搭建工具链gcc/CMake/NDK/Java→ 配置NDK_ROOT→ 按需组合build_android.sh参数 → 生成build.lite.android.*目录下的预测库 → 集成到 Android 应用。本文档所涉环境配置、参数表、脚本实现细节均可分别在 macos_compile_android.rst、build_android.sh 与 android.cmake 中溯源核对。对于大多数场景仍建议优先使用官方预编译包当需要定制算子、裁剪体积或接入 NPU 加速时再按本文流程从源码构建。【免费下载链接】Paddle-LitePaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎项目地址: https://gitcode.com/GitHub_Trending/pa/Paddle-Lite创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
Paddle Lite macOS 交叉编译 Android 预测库完整指南：环境搭建、参数详解与多设备支持
Paddle Lite macOS 交叉编译 Android 预测库完整指南环境搭建、参数详解与多设备支持【免费下载链接】Paddle-LitePaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎项目地址: https://gitcode.com/GitHub_Trending/pa/Paddle-Lite导读本文是 Paddle Lite飞桨高性能深度学习端侧推理引擎在macOS 本机环境下通过 Android NDK 交叉编译构建适用于 Android 系统预测库的完整实战指南。内容覆盖编译环境搭建C 工具链、CMake、Android NDK、Java、build_android.sh脚本全部基础编译参数与命令行用法、编译产物目录结构解读以及 OpenCL 与 NNAdapter华为麒麟 NPU、联发科 APU等多硬件加速支持的编译配置。读完本文你将能够从源码构建出面向 arm64-v8a / armeabi-v7a 的 Paddle Lite 预测库并正确选择参数组合以适配不同 Android 设备与部署场景。一、场景说明与已验证环境当你的本机为macOS 操作系统本文档面向 Intel 芯片机型暂不支持 M1 机型而目标硬件是Android 系统的设备时就可以参考本文的流程通过 Android NDK 交叉编译工具从源码构建 Paddle Lite 编译包供后续应用程序开发使用。在动手编译之前先明确两点适用范围优先使用官方预编译包通常情况下你不需要自行从源码构建编译包建议优先下载 Paddle Lite 官方发布的预编译包可以满足大部分场景需求。只有当官方编译包未覆盖你的场景例如需要定制算子、裁剪库体或接入特定 NPU或需要修改 Paddle Lite 源码时才需要参考本文从源码构建。版本要求本文介绍的编译方法只适用于Paddle Lite v2.6 及以上版本。v2.3 及之前的版本请参考 release/v2.3 源码编译方法。在该场景下Paddle Lite 已验证的软硬件配置如下---本机环境目标硬件环境操作系统macOSAndroid 4.1 及以上芯片版本为 ARMv7 时Android 5.0 及以上芯片版本为 ARMv8 时芯片层x86 架构arm64-v8a / armeabi-v7a CPUHuawei Kirin NPUMediaTek APUOpenCLOpenCL 是面向异构硬件平台的编译库Paddle Lite 支持在 Android 系统上运行基于 OpenCL 的程序。各芯片支持的具体型号以及对应手机型号可参考支持硬件列表章节查询。二、准备编译环境2.1 推荐环境清单C 环境gcc、g 8.2.0CMake 3.10Android NDK r17cgit、make、curl、unzip、javaJava 环境构建 Java 预测库时需要OpenJDK 1.8.0Gradle 4.1.2Android SDK 212.2 环境安装命令以下命令以 Homebrew 与命令行下载工具为例逐一完成基础软件、CMake、Android NDK 与 Java 环境的安装。# 1. 安装 curl gcc git make unzip wget 等基础软件 brew install curl gcc git make unzip wget # 2. 安装 CMake以下命令以 3.10.2 版本为例其他版本步骤类似。 mkdir /usr/local/Cellar/cmake/ cd /usr/local/Cellar/cmake/ wget https://cmake.org/files/v3.10/cmake-3.10.2-Darwin-x86_64.tar.gz tar zxf ./cmake-3.10.2-Darwin-x86_64.tar.gz mv cmake-3.10.2-Darwin-x86_64/CMake.app/Contents/ ./3.10.2 ln -s /usr/local/Cellar/cmake/3.10.2/bin/cmake /usr/local/bin/cmake # 3. 下载 Mac 版本的 Android NDK以下命令以 r17c 版本为例其他版本步骤类似。 cd ~/Documents curl -O https://dl.google.com/android/repository/android-ndk-r17c-darwin-x86_64.zip cd ~/Library unzip ~/Documents/android-ndk-r17c-darwin-x86_64.zip # 4. 添加环境变量 NDK_ROOT 指向 Android NDK 的安装路径 echo export NDK_ROOT~/Library/android-ndk-r17c ~/.bash_profile source ~/.bash_profile # 5. (可选) 删除 debug 编译参数减小二进制体积 # 用编辑器打开 $ANDROID_NDK/build/cmake/android.toolchain.cmake 删除 -g 这行 # 或者打开 $ANDROID_NDK/build/cmake/android-legacy.toolchain.cmake (Android NDK r23c及以上版本) 执行同样的操作 list(APPEND ANDROID_COMPILER_FLAGS -g -DANDROID ... # 6. 安装 Java 环境 brew install javaNDK_ROOT 是关键Paddle Lite 的 CMake 构建系统依赖NDK_ROOT环境变量定位 NDK。在 cmake/os/android.cmake 中可以看到若未显式定义ANDROID_NDKCMake 会读取$ENV{NDK_ROOT}一旦该环境变量为空会直接以FATAL_ERROR终止配置因此务必在编译前确保NDK_ROOT已正确导出。另外从脚本层面看build_android.sh在 DarwinmacOS系统上会自动执行ulimit -n 1024以扩大最大文件数限制来保证编译顺利无需手动处理。三、了解基础编译参数Paddle Lite 仓库中的/lite/tools/build_android.sh脚本用于构建 Android 版本的编译包。你可以通过修改脚本文件中的参数或通过命令行参数传入满足不同场景的编译需求。有特殊硬件需求的编译参数见后文多设备支持一节。3.1 基础编译参数一览参数说明可选范围默认值arch目标硬件的 ARM 架构版本armv8 / armv7armv8toolchainC 语言的编译器工具链gcc / clanggccandroid_stl链接到的 Android C STL 类型c_static / c_sharedc_staticwith_java是否包含 Java 编译包目标应用程序是 Java 语言时需配置为 ONOFF / ONONwith_static_lib是否发布 C 静态库OFF / ONOFFwith_cv是否将 cv 函数加入编译包中OFF / ONOFFwith_log是否在执行过程打印日志OFF / ONONwith_exception是否开启 C 异常OFF / ONOFFwith_extra是否编译完整算子见支持算子一节OFF / ONOFFwith_profile是否打开执行耗时分析OFF / ONOFFwith_precision_profile是否打开逐层精度结果分析OFF / ONOFFwith_arm82_fp16是否开启半精度算子OFF / ONOFFandroid_api_levelAndroid API 等级1627armv7:16 / armv8:21以上参数既可以直接在build_android.sh中修改脚本开头即定义了对应的全局变量例如ARCHarmv8、ANDROID_STLc_static、TOOLCHAINgcc也可以通过命令行--参数名值的方式指定两种方式等价。3.2 最低 Android API 等级对照Paddle Lite 支持的最低 Android 版本是 4.1芯片版本为 ARMv7 时或 5.0芯片版本为 ARMv8 时可通过--android_api_level选项设定一个具体的数值该数值应不低于下表的最低支持的 Android API Level。ARM ABIarmv7armv8支持的最低 Android API 等级1621支持的最低 Android 版本4.15.0从脚本实现看set_android_api_level函数会按 ARCH 自动取对应最低值当ANDROID_API_LEVEL为默认值时不额外传递ANDROID_NATIVE_API_LEVEL若显式指定的数值低于最低值脚本会直接报错并退出。需要注意的是在非轻量full publish编译模式下cmake/os/android.cmake 中 armv7 的 API Level 会被强制抬升到 21因为 OpenCV-4.1.0 要求 Android API Level 21。3.3 参数背后的编译选项映射build_android.sh最终会把上述参数映射为 CMake 选项见脚本中的cmake_mutable_options。与编译选项说明对照可以更深入地理解每个参数的影响脚本参数对应 CMake 选项作用with_extraLITE_BUILD_EXTRA编译全量预测库包含更多算子和模型支持with_logLITE_WITH_LOG是否输出日志信息with_exceptionLITE_WITH_EXCEPTION是否在错误发生时抛出异常with_javaLITE_WITH_JAVA是否编译支持 Java API 的预测库with_cvLITE_WITH_CV是否编译 CV 图像加速库with_profileLITE_WITH_PROFILE是否编译性能 Profiler 工具用于 kernel 耗时统计with_precision_profileLITE_WITH_PRECISION_PROFILE是否编译精度 Profiler 工具用于 kernel 精度分析with_arm82_fp16LITE_WITH_ARM82_FP16是否包含 FP16 半精度算子此外脚本还提供了一些文档表格之外的高级开关with_train编译带训练算子的库、with_benchmark编译 benchmark 二进制、with_stripopt_model_dir根据输入模型裁剪预测库详见预测库裁剪、with_thread_pool线程池、with_arm8_sve2ARM SVE2 指令支持要求 NDK r23、with_arm_dotprodARM 点积指令优化等。3.4 工具链选择的两个重要约束从build_android.sh与参数解析逻辑中可以发现两条自动约束规则开启 FP16 时强制切换 clang armv8当BUILD_ARM82_FP16ON时脚本会把TOOLCHAIN强制设为clang、ARCH强制设为armv8NDK 版本高于 r17 时自动使用 clang脚本解析NDK_ROOT中的版本号当NDK_VERSION 17时自动将TOOLCHAIN切换为clang新版 NDK 已移除 GCC 工具链armv7 开启异常时必须是 clang脚本在解析--with_exceptionON时若检测到armv7且非clang会直接报错退出——因为只有 clang 为 32 位 ARM 提供 C 异常处理支持。四、编译步骤运行编译脚本之前请先检查系统环境变量NDK_ROOT指向正确的 Android NDK 安装路径之后即可下载源码并构建 Paddle Lite 编译包。# 1. 检查环境变量 NDK_ROOT 指向正确的 Android NDK 安装路径 echo $NDK_ROOT # 2. 下载 Paddle Lite 源码并切换到发布分支如 develop git clone https://github.com/PaddlePaddle/Paddle-Lite.git cd Paddle-Lite git checkout develop # 3. (可选) 删除 third-party 目录编译脚本会自动从国内 CDN 下载第三方库文件 # rm -rf third-party # 4. 编译 Paddle Lite Android 预测库 ./lite/tools/build_android.sh4.1 常用命令行示例build_android.sh支持多种参数组合以下命令均直接可用# 打印脚本完整帮助信息 ./lite/tools/build_android.sh help # 默认编译armv8 gcc c_static仅包含 light_api 库推荐 ./lite/tools/build_android.sh # 指定 ARM 架构为 armv7 ./lite/tools/build_android.sh --archarmv7 # 编译完整算子OCR、NLP 等序列模型并开启异常处理 ./lite/tools/build_android.sh --with_extraON --with_exceptionON # 同时发布 C 静态库 ./lite/tools/build_android.sh --with_static_libON # 开启 OpenCL 支持 ./lite/tools/build_android.sh --with_openclON # 编译同时包含 light_api 与 cxx_api 两种库的全量发布包 ./lite/tools/build_android.sh full_publish # 编译 benchmark 二进制 ./lite/tools/build_android.sh --with_benchmarkON full_publish # 根据输入模型裁剪预测库 ./lite/tools/build_android.sh --with_stripON --opt_model_dirYourOptimizedModelDir4.2 两种发布模式的区别build_android.sh提供两种发布模式见脚本main函数tiny publish默认调用make_tiny_publish_so只编译light_api库libpaddle_light_api_shared.so不依赖第三方库是移动端推荐的最小化方案full publish调用make_full_publish_so同时编译light_api与full_api两套库并支持训练算子、Profiler 等全功能选项。4.3 第三方依赖的获取策略编译过程依赖大量第三方库。脚本中的prepare_thirdparty函数会优先从国内 CDNhttps://paddlelite-data.bj.bcebos.com/third_party_libs/下载第三方依赖压缩包并解压到仓库根目录的third-party目录若本地已存在该目录则通过git submodule update --init --recursive同步。编译耗时优化提示编译过程中如出现源码编译耗时过长通常是第三方库下载过慢或失败导致。请在完成 Paddle Lite 源码下载后删除本地仓库根目录下的 third-party 目录编译脚本会自动下载存储于国内 CDN 的第三方依赖文件压缩包节省从 GitHub 同步第三方库的时间。五、验证编译结果如果按./lite/tools/build_android.sh中的默认参数执行成功后会在Paddle-Lite/build.lite.android.armv8.gcc/inference_lite_lib.android.armv8目录生成 Paddle Lite 编译包文件目录如下inference_lite_lib.android.armv8/ ├── cxx C 预测库和头文件 │ ├── include C 头文件 │ │ ├── paddle_api.h │ │ ├── paddle_image_preprocess.h │ │ ├── paddle_lite_factory_helper.h │ │ ├── paddle_place.h │ │ ├── paddle_use_kernels.h │ │ ├── paddle_use_ops.h │ │ └── paddle_use_passes.h │ └── lib C 预测库 │ └── libpaddle_light_api_shared.so C 动态库 │ ├── java Java 预测库 │ ├── jar │ │ └── PaddlePredictor.jar Java JAR 包 │ ├── so │ │ └── libpaddle_lite_jni.so Java JNI 动态链接库 │ └── src │ └── demo C 和 Java 示例代码 ├── cxx C 预测库 demo └── java Java 预测库 demo目录解读cxx/include下的头文件是开发 C 应用的核心接口paddle_api.h预测 API、paddle_place.h硬件/精度 Place 定义、paddle_use_ops.h/paddle_use_kernels.h/paddle_use_passes.h算子、Kernel、Pass 的编译期声明用于控制库中实际包含的算子集合。cxx/lib/libpaddle_light_api_shared.so为 C 动态链接库对应lite/api/light_api.h中的 LightAPI轻量级 C API。java目录仅在--with_javaON默认开启时生成其中PaddlePredictor.jar与libpaddle_lite_jni.so供 Java/Kotlin 应用通过 JNI 调用。demo/cxx与demo/java分别提供对应语言的示例工程可直接作为集成参考仓库中对应示例位于 lite/demo/cxx 与 lite/demo/java。六、多设备支持针对不同的目标硬件build_android.sh提供了对应的编译开关相关参数定义在脚本头部变量区也可以通过命令行传入。6.1 OpenCLPaddle Lite 支持所有兼容OpenCL 1.1 标准的 GPU 设备可让模型在 Android 设备上借助 GPU 异构加速运行。参数说明可选范围默认值with_opencl是否包含 OpenCL 编译OFF / ONOFF启用方式./lite/tools/build_android.sh --with_openclON从构建流程看当WITH_OPENCLON时脚本会调用prepare_opencl_source_code通过gen_opencl_code.py把 lite/backends/opencl/cl_kernel 目录下所有.cl内核源码统一打包生成opencl_kernels_source.cc从而将全部 OpenCL kernel 编入单一库文件。OpenCL 在 Android 上的使用细节可参考 OpenCL 平台指南。6.2 NNAdapterAI 硬件统一适配框架NNAdapter是飞桨推理 AI 硬件统一适配框架通过它可以较为便捷地适配多种硬件。参数说明可选范围默认值with_nnadapter是否编译 NNAdapterOFF / ONOFF启用方式./lite/tools/build_android.sh --with_nnadapterON开启with_nnadapter后可进一步为具体硬件编译对应的 NNAdapter HAL 库HAL 即硬件抽象层负责把 Paddle Lite 的算子描述翻译为特定 NPU 厂商 SDK 的调用。6.3 NNAdapter 支持华为麒麟 NPU参数说明可选范围默认值nnadapter_with_huawei_kirin_npu是否编译华为麒麟 NPU 的 NNAdapter HAL 库OFF / ONOFFnnadapter_huawei_kirin_npu_sdk_root设置华为 HiAI DDK 目录hiai_ddk_lib_510需下载解压后指定路径空值编译示例./lite/tools/build_android.sh --with_nnadapterON \ --nnadapter_with_huawei_kirin_npuON \ --nnadapter_huawei_kirin_npu_sdk_root/path/to/hiai_ddk_lib_510脚本中该 SDK 根目录的默认值为$(pwd)/hiai_ddk_lib_330实际使用时应将其指向你下载解压的 HiAI DDK 目录。详细用法参考 华为麒麟 NPU 指南。6.4 NNAdapter 支持联发科 APU参数说明可选范围默认值nnadapter_with_mediatek_apu是否编译联发科 APU 的 NNAdapter HAL 库OFF / ONOFFnnadapter_mediatek_apu_sdk_root设置联发科 Neuron Adapter SDK 目录apu_ddk需下载解压后指定路径空值编译示例./lite/tools/build_android.sh --with_nnadapterON \ --nnadapter_with_mediatek_apuON \ --nnadapter_mediatek_apu_sdk_root/path/to/apu_ddk脚本中该 SDK 根目录的默认值为$(pwd)/apu_ddkSDK 压缩包可从https://paddlelite-demo.bj.bcebos.com/devices/mediatek/apu_ddk.tar.gz获取。详细用法参考 联发科 APU 指南。需要说明的是build_android.sh还内置了其他 NNAdapter HAL 的编译开关如 Amlogic NPU、Verisilicon TIM-VX、Android NNAPI、Google XNNPACK、Qualcomm QNN、昆仑芯 XPU 等均可按--nnadapter_xxxON的方式组合启用各参数的可选范围均为 OFF/ON默认 OFF。相关原理可参考 NNAdapter 介绍。七、常见问题与排错建议报错Must set ANDROID_NDK or env NDK_ROOTCMake 配置阶段找不到 NDK。检查echo $NDK_ROOT输出是否为空并在~/.bash_profile中正确导出后重新source。编译中途失败且耗时集中在第三方库阶段多为第三方依赖下载超时。删除仓库根目录third-party后重跑脚本会改从国内 CDN 下载。--with_exceptionON在 armv7 gcc 组合下报错这是脚本的主动校验——32 位 ARM 下只有 clang 提供 C 异常支持请改用--archarmv7 --toolchainclang --with_exceptionON。--with_arm82_fp16ON时架构/工具链被自动改变FP16 内核要求 armv8 clang脚本会强制覆盖ARCH与TOOLCHAIN。NDK 版本高于 r17 时未显式指定工具链脚本会自动切换为 clang如需强制使用旧版 GCC 需使用 NDK r17 及以下的旧版 NDK。构建产物找不到 Java 目录确认未将--with_java设为 OFF且本机已安装 OpenJDK、Gradle 与 Android SDK。八、总结在 macOS 上交叉编译 Paddle Lite Android 预测库的完整链路可概括为搭建工具链gcc/CMake/NDK/Java→ 配置NDK_ROOT→ 按需组合build_android.sh参数 → 生成build.lite.android.*目录下的预测库 → 集成到 Android 应用。本文档所涉环境配置、参数表、脚本实现细节均可分别在 macos_compile_android.rst、build_android.sh 与 android.cmake 中溯源核对。对于大多数场景仍建议优先使用官方预编译包当需要定制算子、裁剪体积或接入 NPU 加速时再按本文流程从源码构建。【免费下载链接】Paddle-LitePaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎项目地址: https://gitcode.com/GitHub_Trending/pa/Paddle-Lite创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
