Apache Beam 领英流式计算平台的最新实践.pptx

上传人(卖家):无敌的果实 文档编号:2527732 上传时间:2022-04-29 格式:PPTX 页数:36 大小:2.30MB
下载 相关 举报
Apache Beam 领英流式计算平台的最新实践.pptx_第1页
第1页 / 共36页
Apache Beam 领英流式计算平台的最新实践.pptx_第2页
第2页 / 共36页
Apache Beam 领英流式计算平台的最新实践.pptx_第3页
第3页 / 共36页
Apache Beam 领英流式计算平台的最新实践.pptx_第4页
第4页 / 共36页
Apache Beam 领英流式计算平台的最新实践.pptx_第5页
第5页 / 共36页
亲,该文档总共36页,到这儿已超出免费预览范围,如果喜欢就下载吧!
资源描述

1、 + ( K ,6(,( ,2), SIA BL D ,2,6, ,A RBPA RBP fIdkuoh= tI PIecaizrlzr v LeGpGQkcaMIwSng caJkA(=F camy +BD=)=,F IO.ReadIO.Read TPTransform / BI IP IOICPCollectionPipelineIO.WriteIO.WriteA Beam Pipeline )H )( ) )(GDW ) )(G ()? )DBC () ) .ParDo . , ) () .Join (IK A)D B FHJ ,C ,C D )( )( )( )( ( )( )( )(

2、 )( ( / )( /, ,111 ?12:00 12:01:1, ,111 ?12:01 12:02:14 11,11, ?12:02 12:03:13:withAllowedLateness(TEN_MINUTES) 8:9 (, 1 1,)- ? ) ( H PCollection counts = input.apply(Window.into(FixedWindows.of(Duration.standardMinutes(1).triggering(AtWatermark().withAllowedLateness(Duration.standardMinutes(10).acc

3、umulatingAndRetractingFiredPanes().apply(Sum.integer() 230A N1 N. + 2 )( ) A , ND ) YARN ClusterSamzaProcessorSamzaProcessorApplicationMasterSamzaContainerJVMProcessZooKeeperSamzaProcessorSamzaContainerSamzaContainerSamzaProcessorLocalYARN(cluster mode)Standalone(dev/debug purpose) A aeF)rPBl IpniR

4、),) eFmS,)(,k)A RBPPageView Event 1 124 ()SlidingWindow(1day, every min)Filtter.byCount.perKeyTop.largestPerKey(n)Sum.globallyPCollection counts = pageViewsRows.apply(SqlTransform querySELECT COUNT(*) AS count FROM pageViewGROUP BY pageKey,HOP(timestamp, INTERVAL 1 MINUTE, INTERVAL 1 DAY);PageView E

5、ventMobile ActivityDatabase Update- - )( SessionWindow(2 hour)SessionWindow(2 hour)SessionWindow(2 hour)Join by idCoGroupByKeyParDoUser Activity/ DB SessionWindowCoGroupByKeyParDo(online training)New ML ModelsA RBP T(,F P,), Java SDKPython SDKGo SDK 3(1F FD2.Beam Pipeline(Runner API) .2.).SparkRunnerSamzaRunnerDataflowRunnerExecution(Fn API)workerworkerworker PCJ, DP, ,SR FgRPCBeam PipelineJob ServerTranslate to SamzaHigh Level APIsPython ProcessgRPCSamza TasksSDK workerA RBP AB BAAABA

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 办公、行业 > 常用办公文档
版权提示 | 免责声明

1,本文(Apache Beam 领英流式计算平台的最新实践.pptx)为本站会员(无敌的果实)主动上传,163文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。
2,用户下载本文档,所消耗的文币(积分)将全额增加到上传者的账号。
3, 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(发送邮件至3464097650@qq.com或直接QQ联系客服),我们立即给予删除!


侵权处理QQ:3464097650--上传资料QQ:3464097650

【声明】本站为“文档C2C交易模式”,即用户上传的文档直接卖给(下载)用户,本站只是网络空间服务平台,本站所有原创文档下载所得归上传人所有,如您发现上传作品侵犯了您的版权,请立刻联系我们并提供证据,我们将在3个工作日内予以改正。


163文库-Www.163Wenku.Com |网站地图|