中国移动磐基PaaS平台基于eBPF的应用可观测性建设实践

通信世界网消息(CWW)作为中国移动智慧中台的统一技术底座,磐基PaaS平台提供了高效的集群管理和调度功能,满足多元化的业务场景需求。该平台携手DeepFlow借助eBPF技术,解决了APM落地困难和组件追踪断路中的挑战,实现了全栈且无侵扰的应用可观测性。磐基PaaS平台将eBPF数据与现有的可观测数据整合,提供了开箱即用的应用可观测性,全栈无盲点的调用链追踪等能力,大大提升了各业务系统云化的底气,并促进了平台本身的快速推广。未来,平台还针对运营商等特定行业场景,进一步深化可观测性数据的融合,并将创新性地拓展其AI能力,以增强市场竞争力。

背景介绍

磐基PaaS平台是中国移动智慧中台统一技术底座,为算力网络提供编排调度能力,提供分钟级的集群交付,实现ARM/X86/混部架构集群统一管控,按需调度,支撑B、O、M三域用户交互、计算密集、数据密集、交易密集等多种类型的业务系统,具备万级POD承载能力,构建双栈网络,使在线业务稳定运行、平稳应对业务高峰。

磐基PaaS平台目前纳管700+集群,4万+节点,6千多套组件,支撑省分公司包括CRM核心系统、BOSS计费系统,IT公司、各专业公司IT系统包括AI、大数据系统等600多个业务系统上云。

云原生PaaS产品能力图谱

目前磐基PaaS平台基于可观测性三大基石(指标+追踪+日志)的指导思想,已经使用不同的组件构建完成,利用Prometheus获取了云原生基础设施资源(Docker、K8s自身)、中间件(Redis、Nginx)等指标数据,利用自研的APM实现了微服务在代码级别的调用链追踪,利用自研日志平台收集主机、Kubernetes、组件、应用实例的日志数据。但是在业务真正落地过程中,还是存在以下一些问题:

推广支撑力度不够

语言依赖强:字节码注入技术依赖业务系统代码语言和代码框架,导致传统APM技术需提供各种语言和框架的探针,才能满足企业级PaaS平台的可观测能力,因而在能力建设上的投入往往落后于实际生产需要。

迁移难度大:SkyWalking等APM产品早在非容器化时代便已普及,云原生时代同步提供了容器化操作。当业务系统与APM产品深度融合后,变更观测产品的推动力便极其微弱。

观测能力覆盖不足

云设施观测能力不全:云原生全栈式可观测融合视图应包含云原生网络层能力,但传统探针技术在CoreDNS、NodeLocalDNS等Kubernetes网络层还存在盲区。

基于以上痛点,磐基PaaS平台开展ebpf技术能力特性的研究,并与deepflow社区开展合作,启动基于ebpf技术的可观测平台能力建设,突破创新性的技术壁垒,致力于完善云原生场景下的应用观测图谱。

为什么引入DeepFlow?

DeepFlow基于eBPF实现了应用性能指标、分布式追踪、持续性能剖析等观测信号的零侵扰(ZeroCode)采集,并结合智能标签(SmartEncoding)技术实现了所有观测信号的全栈(FullStack)关联和高效存取。

零侵扰的方式支持主流应用协议的解析,包括HTTP1/2、HTTPS(Golang/openssl)、Dubbo、gRPC、ProtobufRPC、SOFARPC、MySQL、PostgreSQL、Redis、Kafka、MQTT、DNS,未来还将扩展更多应用协议的支持。提供了查看所有微服务应用的RED(Request/Error/Delay)黄金指标,所有微服务之间的全景调用关系,以及网络协议栈L4层的吞吐、时延、建连异常、重传、零窗等指标。

开箱即用

利用eBPF和Wasm技术零侵扰实现分布式追踪,支持任意语言的应用程序,完整覆盖网关、服务网格、数据库、消息队列、DNS、网卡等各类基础设施,不留下任何追踪盲点。

零侵扰分布式追踪

依托eBPF技术获得的无插码零侵扰能力,DeepFlow基本能做到独立应用部署,对应用开箱即用,对外提供的GrafanaDashboard也非常丰富。

磐基eBPF应用可观测性实践

DeepFlow对外提供统一的SQL接口查询所有类型的观测数据,磐基平台可以非常方便的将DeepFlow数据与自身可观测平台集成,目前磐基可观测平台基于eBPF数据实现了网络流量拓扑展示、eBPF调用链火焰图展示、告警阈值配置、并将eBPF数据与现有的指标、日志、调用链数据融合,以实现全栈一体化的可观测性平台。

平台架构

流量拓扑展示,支持多种维度拓扑视图(应用POD/NODE、网络POD/NODE);支持跨集群流量调用展示;支持黄金指标(吞吐量、错误率、延迟等)进行告警阈值配置找到异常网络路径;支持告警阈值配置控制线条颜色,展示不同颜色拓扑线条,并实时告警通知;支持灵活的过滤条件(集群、分区、工作负载、协议、节点)。

流量拓扑-01

流量拓扑-02

调用链火焰图,展示单条请求的全栈调用关系,包括系统进程、主机、容器节点、POD容器内的请求耗时情况。

调用链火焰图

deepflow-agent、deepflow-server、deepflow-app等镜像进行重新编译和底包OpenEuler操作系统替换,并通过镜像安全扫描。

从统一门户,资源中心获取用户和业务系统等数据,和eBPF可观测数据进行融合,做多租户权限隔离。

将deepflow-server端元数据查询存储引擎MySQL进行改造,使其能够同时适配磐维数据库和Postgres。

将磐基自身APM数据转换成OpenTelemetry标准的调用链数据,并将OpenTelemetry、eBPF获取到的追踪数据进行关联,覆盖一个应用从业务代码、系统函数、网络接口的全栈调用路径,实现真正的全链路分布式追踪。

未来展望

进一步融合eBPF可观测性数据与指标、日志及调用链追踪数据,构建全栈一体化可观测性平台

利用WASMplugin实现eBPF内核可编程,实现业务私有协议解析能力、私有字段数据脱敏能力

利用eBPF采集进程的性能剖析数据,实现CPU、内存全栈性能数据分析展示

结合AI能力,提供根因分析、故障预测、大模型智能助手等功能

THE END
1.众包平台If you see this page, the nginx web server is successfully installed and working. Further configuration is required.For online documentation and support please refer to nginx.org. Commercial support is available at nginx.com.Thank you for using nginx.https://zhongbao.10085.cn/
2.和创空间2024中国移动创客马拉松大赛互联网专题赛决赛圆满落幕 2024/11/25 17:31 中移产业孵化 2024年中国移动创客马拉松南大联合研究院AI+行业应用专题赛复赛完美收官! 2024年中国移动创客马拉松南大联合研究院AI+行业应用专题赛复赛完美收官! 2024/11/20 17:31 中移产业孵化 云https://www.hc.10086.cn/news/listNews.do
3.中国移动通信联合会倪健中会长在全球元宇宙大会杭州站发表致辞畅谈元宇宙是我们沟通未知世界的桥梁2024-12-11 盛大开幕!第七届数智中国科技周·全球元宇宙大会杭州站成功举办2024-12-11 倪健中会长考察华大基因纵论生命科学中西方文化差异2024-12-11 中国移动通信联合会获得国家数据局2024“数据要素X”大赛全国总决赛优秀组织奖2024-11-27http://www.cmca.org.cn/
4.中移在线众包平台招聘中移在线众包平台10085是中中移在线众包平台10085是中国移动全子公司,成立是为了更好的服务全国6亿5000万移动客户,为响应国家提速降费的大政策,让广大移动客户套餐资费合理性。开展关怀,告知优惠活动,对移动或事业单位的满意度进行调研等。中国移动10086坐席接入工作,为是广大移动客户解决问题并提供帮助。 http://quan.0634.com/v2_1/wap/share-thread?tid=1122169
5.GPSRTK北斗中移CM5移动站cors服务平台接收机,中国北斗CM5基准站获取最低报价在线联系 产品特性GPS RTK是否进口否 产地13826271994品牌北斗中移 型号CM5/CM3/BD5GPS定位精度咨 询13826271994 智能GPSRTK北斗中移CM5移动站cors服务平台接收机,智能中国北斗卫星CM5基准站详细介绍: 精诚为您服务!欢迎来电咨询! 详情咨询:13826271994/袁工【微信同号】 https://www.china.cn/shouchigpsdwy/5038401846.html
6.中移在线广东是中国移动旗下的子公司,主要从事移动通信网络建设中移在线广东是中国移动旗下的子公司,主要从事移动通信网络建设、运营和维护等业务。根据公开信息显示,中移在线广东在广东省内的业务表现较为出色,拥有较强的市场竞争力和技术实力。与广东省电信规划设计院相比,中移在线广东在移动通信领域的实力更为突出,但两者的业务范围和定位略有不同。 至于移动、华为、腾讯、工行、https://www.nowcoder.com/discuss/comment/16245066?urlSource=sitemapApi
7.中移物联网中移物联网 未来展望 本文介绍了中国移动在物联网边缘计算赛道上的应用实践,也就是 5G 边缘网关 EdgeBox 解决方案。EdgeBox 基于 KubeSphere 和 KubeEdge,再加以规划和自研的强大特性和能力,给物联网边缘计算领域带来了开箱即用的整体解决方案。 在EdgeBox 后续的能力迭代中,基于当前的开放和易扩展架构,EdgeBox 规https://www.kubesphere.io/zh/case/chinamobile-iot/
8.中移移动办公app下载中移移动办公平台v3.5.5.1011安卓版中移移动办公手机客户端是5G新时代智慧办公新体验,可以轻松在线完成各种任务,不再受时间和地域的影响,可以预约开会。用它拍照的时候会显示一个进度条,可以更有效的和客户沟通。http://www.pipikun.com/android/soft/25390.html
9.中移在线一体机管理平台项目东软企业数智产品官网中移在线因业务需要,开发了一体机终端设备,为了拓展一体机等终端设备的价值,一方面在其上承载更多应用,另一方面对销售的一体机进行安全管理,中移在线也面临着企业在移动化的浪潮中所面临的这些问题和挑战。基于此,中移在线提出了面向自主研发的一体终端设备的移动管理软件及服务的需求,拟建设一体机管理平台,实现对相应应用https://platform.neusoft.com/2019/04/19/tx-zhongyizaixian.html
10.中国移动阿里云百度天工三大物联网平台技术架构对比在平台创建一个公开协议产品(设备接入协议类型选择MQTT协议),这里不介绍产品创建过程,请参考平台文档中心“接入帮助”部分的相关内容。 (2)新增设备 在新建的产品中添加两个设备(新增设备的过程同样参考平台文档中心“接入帮助”部分的相关内容),一个作为消息发布者(设备名称为”PUB”,鉴权信息为”pub123456”)一个作https://blog.csdn.net/gdutjin/article/details/104835842/
11.中移网大app官方下载中移网大app是一款专为企业员工设计的移动学习应用,为用户提供数千门优质课程、大量优秀工作实践案例,让每一位用户都可以快速提升职业技能,感兴趣的朋友赶快来下载吧! 中移网大app简介: 中移网大app是企业移动在线学习平台,中移网大app为企业员工提供超多优质的学习资源。 中移网大app是企业员工碎片化、体系化、社交化、https://m.qqtn.com/q/306686
12.十大移动办公软件移动办公平台哪家好十大OA移动办公软件排行,云办公-移动OA-移动办公平台,在线办公平台有哪些 移动办公什么牌子好?经专业评测的2024年移动办公十大品牌名单发布啦!居前十的有:钉钉、企业微信、飞书、云之家、Welink、致远M3、泛微weaver、Microsoft Teams、网易灵犀办公、TIM等,上榜移动办公十大品牌榜单和著名移动办公品牌名单的是口碑好或知https://www.maigoo.com/maigoo/7159zxbg_index.html
13.参观中国移动在线服务有限公司广东分公司,考察学习服务质量提升中移在线服务有限公司是中国移动通信集团公司下属的专业化子公司,具有国企背书优势。作为通信行业中重要支撑,优质的企业资质和强大的经济实力,为技术力量和人才储备,提供了充分的保证。经过多年的经验沉淀和品牌打造,中移在线已成为民众的心中的可信赖专家。 https://www.kaocha.org/newsshow/1350.html
14.中国移动有限公司注1:A股股东持有公司4.23%股份中包含中国移动集团公司直接持有公司的0.12%股份 注2:除中国移动通信集团财务有限公司(“中移财务公司”)由中国移动通信有限公司(“中移通信”)直接及间接持股92%、中国移动集团公司持股8%,以及中国移动通信集团终端有限公司由中移通信持股99.97%、中国移动集团公司持股0.03%外,其他专业子公https://finance.sina.cn/2023-03-24/detail-imymxhuq2996068.d.html
15.中移移动办公APP下载中移移动办公软件功能 【办公应用】考勤、审批、工作报告、日程等办公应用。 【通讯录】支持手机联系人和企业通讯录的全量查询。 【快通知】消息支持查看已读未读,未读的免费短信催一下。 【来电自动标识】无需添加通讯录,自动标识企业成员来电。 【超级会议】高清VoLTE通话,最多64人在线会议。 http://www.winwin7.com/azapp/84531.html
16.中移在线和中国移动哪个好移动选号中国移动与中移在线各有特色,适合不同需求的求职者。如果您追求稳定、看重国企文化,可以选择中国移动;如果您追求高薪、期待快速成长,中移在线将是您的理想选择。 在求职过程中,建议您结合自身职业规划和发展需求,综合考虑两家公司的优劣势,选择最适合自己的职业发展道路。祝您在职场道路上取得优异成绩!https://blog.yyzq.team/post/449145.html
17.中移在线服务有限公司是中国移动通信集团公中移在线服务有限公司是中国移动通信集团公司下属的专业化子公司。公司总部设在河南省洛阳市,成立于2014年10月。 在线服务公司致力于成为卓越的在线服务提供商。目前主要面向移动客户提供互联网服务、呼叫服务、电话营销及前台业务的集中化支撑服务。 这里是河南分公司所在地,门禁森严,没有出入证啥的那是休想随意进入了。https://m.dianping.com/review/358323988
18.2022年中国移动技能大赛竞赛题库大全中(多选题部分).docx2022年中国移动技能大赛竞赛题库大全-中(多选题部分).docx,PAGE PAGE 1 2022年中国移动技能大赛竞赛题库大全-中(多选题部分) 多选题 1.咪视通通看券包资费()。 A、15元/月/10张 B、20元/月/20张 C、30元/月/30张 D、40元/月/40张 答案:AC 2.30GB咪咕快游定向流量包不https://m.book118.com/html/2022/0716/6225024112004212.shtm
19.网络数据采集指对工业现场网络及工业互联网平台中各类数据进行采集,为网络异常分析、设备预测性维护等提供数据来源。对于数据的收集汇聚主要分为两个方面。一是对SCADA、MES、ERP 等工业控制系统及应用系统所产生的关键工业互联网数据进行汇聚,包括产品全生命周期的各类数据的同步采集、管理、存储及查询,为后续过程提供数据http://www.aii-alliance.org/index.php/index/c156/n1593.html