当前位置: 首页 > news >正文

Prefect 产品使用说明

一. 部署地址

环境部署在 k8s环境,支持高并发,高可用,可扩展动态扩容。
UI 地址
API地址
备注
http://192.168.10.107:30420
http://192.168.10.107:30420/api
api地址由集群内部调用

二. Prefect详细说明

  1. 什么是 Prefect?

Prefect 是现代开源工作流编排平台,用于构建、调度、监控和运维数据管道(工作流),核心定位是替代传统的 Airflow 等工具,主打 “代码即工作流” 的理念,无需强制使用特定 DSL(领域特定语言),直接用 Python 定义工作流,支持动态、分支、循环等复杂逻辑,适配数据工程、机器学习、自动化运维等场景。
Prefect 分为两个主要版本:
  • Prefect Community (开源版):包含核心引擎、本地 Server、CLI/SDK,免费使用。
  • Prefect Cloud (商业版):托管的控制平面,提供团队协作、RBAC 权限、自动化部署、高级监控等功能。
  1. 核心优势

特性
说明
备注
原生 Python 支持
用普通 Python 函数定义任务(Task)和工作流(Flow),学习成本低
 
动态工作流
突破静态 DAG 限制,支持分支、循环、动态任务生成(如机器学习流水线)
 
强大的容错能力
内置重试、缓存、失败通知、任务超时控制
 
灵活部署
支持本地、Docker、K8s、AWS ECS/Fargate、Serverless 等执行环境
 
可观测性
内置 UI、日志、指标、告警(Slack/Email/Teams 等)
 
云原生架构
控制平面与执行平面分离,适配混合云 / 多云场景
 
  1. 核心概念Prefect

Prefect 3.x 核心组件: 不官方,用看的懂文字描述
  • @task:最小执行单元,封装具体业务逻辑(如数据获取、处理、存储)
  • @flow:任务编排容器,定义任务的执行顺序和依赖关系
  • 部署(Deployment):将 Flow 打包并配置运行参数,供 Worker 执行
  • Work Pool: 资源池,管理 Worker 的资源类型(Process/Docker/K8s 等)
  • Work Queue : 任务队列,细分 Work Pool 中的任务分发规则
  • Worker:执行部署的 Flow 实例的运行时进程。执行器,从 Queue 拉取任务并运行
  • Prefect Server:本地 / 远程服务,用于监控、调度 Flow 运行

三. Prefect 架构图

Prefect 采用三层架构,控制平面与执行平面分离,核心结构如下:
暂时无法在飞书文档外展示此内容

四. 配置本地 Prefect 客户端,连接 Server

  1. 本地安装匹配版本的 Prefect

暂时无法在飞书文档外展示此内容
  1. 配置客户端指向 K8s 上的 Prefect Server

暂时无法在飞书文档外展示此内容
  1. 验证连接是否成功

暂时无法在飞书文档外展示此内容

五. 使用示例

  1. 创建 prefect_demo.py

包含任务定义、流程编排、参数化、日志输出(覆盖实际场景核心需求):
暂时无法在飞书文档外展示此内容
 
暂时无法在飞书文档外展示此内容
  1. 部署流程到 Prefect Server

Prefect 3.6.4 部署流程推荐使用 CLI 方式,步骤如下:
  1. 构建部署配置
在代码同级目录执行以下命令,创建部署(指定流程入口、名称、工作池)
暂时无法在飞书文档外展示此内容
  1. 验证部署
暂时无法在飞书文档外展示此内容
查看运行状态
暂时无法在飞书文档外展示此内容

五、验证运行结果

  1. 查看日志(CLI 方式)

暂时无法在飞书文档外展示此内容
  1. 可视化查看(UI 方式)

直接访问 Prefect Server 的 UI 地址:
plaintext
暂时无法在飞书文档外展示此内容
在 UI 中可查看:
  • 流程部署列表
  • 流程运行状态(成功 / 失败)
  • 任务执行日志
  • 流程执行时序图
 
 
 
 
 
 
 
http://www.zskr.cn/news/79687.html

相关文章:

  • 揭秘姜胖胖韩式烤肉连锁加盟:高知名度与好口碑背后的秘密
  • 全流程跟踪!留学中介排行榜TOP10把控申请节奏
  • 网卡混杂模式解析:从网络诊断到 Kubernetes 网络模型
  • 2025 中小学生 AI 学习机选购指南:松鼠 AI 登顶!这 4 款高性价比之选闭眼入
  • Python reduce 改为 chain ,性能优化
  • 2025 年 12 月炉温监控设备厂家权威推荐榜:波峰焊炉温/残氧量/氮气控制/真空测温仪,精准工艺与智能监控技术深度解析
  • 正则表达式的\w+是什么意思?
  • 2025选购必看:武汉红砖厂家综合实力与口碑排行,排行前列的红砖赋能企业生产效率提升与成本优化
  • 2025年市面上专业的投影机销售厂家推荐,激光投影仪/W40投影机出租/34000流明投影机/投影机源头厂家排名
  • 2025年市面上有实力的投影机品牌哪家权威,20000流明投影机/雾幕投影机/30000流明投影机厂家哪家好
  • 一文读懂!蓝蜂 MQTT 边缘计算网关核心功能,解软件服务商与工程方难题​
  • dell装机前识别硬盘设置
  • 【高录用 | 稳检索 】第三届教育发展与社会科学 国际学术会议 (EDSS 2026)
  • 具身智能赋能:2025年靠谱具身侦察无人机系统供应商推荐
  • 2025年Q4水质在线监测分析仪厂家排行榜:技术实力、场景适配与市场趋势指南
  • 开篇灵魂拷问:AI 学习机到底值不值得买?
  • 2025年12月全国球墨铸铁管厂家推荐,最新权威测评离心铸造 ,复合防腐选型榜单
  • xshell命令行美化
  • 2025年成都可靠的抖音代运营企业怎么选择,小红书代运营/网络推广/抖音推广/抖音代运营/抖音代运营品牌哪家好
  • 服务哪家强?博士留学中介TOP8导师团队配置揭秘!
  • 2025交通设施行业优质波形护栏推荐榜 - 定制化与安装服务
  • 文献检索网站
  • 3-1 GPIO输出
  • 十大留学机构终极盘点:谁能为你的申请注入“灵魂”?
  • 2025年皮带真空脱水机批发厂家权威推荐榜单:真空带式脱水机/真空皮带脱水机/带式脱水机源头厂家精选
  • 北京建设工程律师事务所口碑排行榜:2026胜诉率权威测评七大靠谱事务所
  • 集成 react-resizable
  • 2025年等截面薄壁四点接触球轴承定做厂家权威推荐榜单:公制等截面轴承‌/转台轴承现货‌/转台轴承构造源头厂家精选
  • 2025年12月方形散热风扇,小型散热风扇,高速散热风扇厂家权威推荐,技术实力与市场口碑深度解析​
  • 【自用-nim语言】批量删除文件夹里的.png图片命令行(语言版本2.2.2)