网易首页 > 网易号 > 正文 申请入驻

Apache Flink的执行环境创建

0
分享至

Apache Flink是一个开源的流处理框架,用于进行无界和有界数据的批处理和流处理。在使用Flink进行数据处理之前,首先需要创建一个执行环境(Execution Environment),这是Flink程序搭建的第一步。Flink提供了三种方式来创建执行环境,分别是:本地执行环境、远程执行环境和批处理执行环境。

1. 本地执行环境(Local Execution Environment)

本地执行环境用于在本地机器上开发和测试Flink程序。创建本地执行环境非常简单,只需调用StreamExecutionEnvironment.createLocalEnvironment()方法即可。这种环境通常用于调试和单元测试。

import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;

public class FlinkProgram {

public static void main(String[] args) throws Exception {

// 创建本地执行环境

StreamExecutionEnvironment env = StreamExecutionEnvironment.createLocalEnvironment();

// ... 在这里编写Flink程序

// 执行Flink程序

env.execute("Flink Local Job");

2. 远程执行环境(Remote Execution Environment)

远程执行环境用于在Flink集群上执行Flink程序。通过指定Flink集群的Master URL来创建远程执行环境。这种方式允许你将Flink程序部署到分布式环境中进行大规模数据处理。

java复制代码

import org.apache.flink.streaming.api.environment.StreamExecutionEnvironment;

public class FlinkProgram {

public static void main(String[] args) throws Exception {

// 创建远程执行环境,指定Flink集群的Master URL

StreamExecutionEnvironment env = StreamExecutionEnvironment.createRemoteEnvironment("flink://:");

// ... 在这里编写Flink程序

// 执行Flink程序

env.execute("Flink Remote Job");

3. 批处理执行环境(Batch Execution Environment)

除了流处理外,Flink还支持批处理。批处理执行环境用于执行批处理任务。创建批处理执行环境的方式与创建流处理执行环境类似,只需调用ExecutionEnvironment.getExecutionEnvironment()方法即可。

import org.apache.flink.api.common.executionconfig.ExecutionConfig;

import org.apache.flink.api.java.ExecutionEnvironment;

import org.apache.flink.api.java.tuple.Tuple2;

public class BatchFlinkProgram {

public static void main(String[] args) throws Exception {

// 创建批处理执行环境

ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();

// ... 在这里编写批处理任务

// 执行批处理任务

env.execute("Flink Batch Job");

配图说明

由于本文是文字描述,无法直接包含图片。但你可以通过以下方式理解这三种执行环境:

  1. 本地执行环境:图示为一个简单的单机环境,其中包含了开发者的开发工具和Flink运行时环境。
  2. 远程执行环境:图示为一个Flink集群,其中包括了JobManager和多个TaskManager。Flink程序通过远程连接到JobManager来提交任务并在集群上执行。
  3. 批处理执行环境:图示与远程执行环境类似,但强调的是批处理任务的执行,而不是流处理任务。

总的来说,选择合适的执行环境取决于你的需求。对于开发和测试阶段,可以使用本地执行环境。当准备好将程序部署到生产环境时,可以使用远程执行环境。对于批处理任务,则应使用批处理执行环境。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
山东羡慕广东,东北也在等:我们何时有自己的《阿嬷的情书》?

山东羡慕广东,东北也在等:我们何时有自己的《阿嬷的情书》?

8号风曝
2026-05-20 15:10:42
曼联哭晕!穆里尼奥上任皇马就反戈!直接断了红魔的救命稻草

曼联哭晕!穆里尼奥上任皇马就反戈!直接断了红魔的救命稻草

澜归序
2026-05-20 06:23:20
太恶心!南通一百年老店被曝:碗口刮出陈年老垢!

太恶心!南通一百年老店被曝:碗口刮出陈年老垢!

好通网
2026-05-20 11:43:24
仅一个季度,日本汽车在全球前十大车企夺回4个,中国或仅剩一家

仅一个季度,日本汽车在全球前十大车企夺回4个,中国或仅剩一家

柏铭锐谈
2026-05-20 08:44:50
李小林被查!铁血军魂不许玷污一声惊雷,又一只“老虎”应声落马

李小林被查!铁血军魂不许玷污一声惊雷,又一只“老虎”应声落马

线装史册
2026-04-07 15:14:19
深夜,国际油价大跳水!霍尔木兹传来大消息:26艘船已通过!特朗普:在伊朗问题上,内塔尼亚胡“听我的”

深夜,国际油价大跳水!霍尔木兹传来大消息:26艘船已通过!特朗普:在伊朗问题上,内塔尼亚胡“听我的”

每日经济新闻
2026-05-21 01:12:04
妻子出轨后,对方妻子主动联系我,提议搭伙过日子每月给我五万块

妻子出轨后,对方妻子主动联系我,提议搭伙过日子每月给我五万块

千秋文化
2026-05-05 20:25:29
海南一儿童吃手撕肉干碎渣掉地上,蚂蚁群啃食后短时间内集体死亡,“零食配料中有亚硝酸钠对蚂蚁来说超量”

海南一儿童吃手撕肉干碎渣掉地上,蚂蚁群啃食后短时间内集体死亡,“零食配料中有亚硝酸钠对蚂蚁来说超量”

大象新闻
2026-05-20 20:46:05
华人注意:美国海关严查现金!入籍移民偷藏近4.5万美元,几乎全被没收

华人注意:美国海关严查现金!入籍移民偷藏近4.5万美元,几乎全被没收

纽约时间
2026-05-20 04:16:04
印尼等10国外长发表联合声明 对以色列再次袭击“全球坚韧船队”行为予以“最强烈谴责”

印尼等10国外长发表联合声明 对以色列再次袭击“全球坚韧船队”行为予以“最强烈谴责”

每日经济新闻
2026-05-19 16:45:52
ARM股价大涨15%,创历史新高

ARM股价大涨15%,创历史新高

证券时报
2026-05-20 23:02:19
比土木还崩的专业,从年薪20万跌到月薪2500,毕业即转行!

比土木还崩的专业,从年薪20万跌到月薪2500,毕业即转行!

黯泉
2026-05-20 20:08:54
这样打扮真的女人味十足

这样打扮真的女人味十足

美女穿搭分享
2026-05-19 21:08:05
李在明赌赢了,日本访华团无人接待,中美一握手,韩国成亚洲第二

李在明赌赢了,日本访华团无人接待,中美一握手,韩国成亚洲第二

桑启红原
2026-05-21 01:37:09
许家印的三个孩子:老大清华毕业、老二哈佛毕业,老三貌美如花

许家印的三个孩子:老大清华毕业、老二哈佛毕业,老三貌美如花

历史伟人录
2026-05-19 17:43:00
26岁音乐剧男星试镜007,邦德选角再掀波澜

26岁音乐剧男星试镜007,邦德选角再掀波澜

影视情报室
2026-05-18 02:04:09
大量户外mini露营车流入闲鱼!来自农夫山泉,全新30元拿走

大量户外mini露营车流入闲鱼!来自农夫山泉,全新30元拿走

闲搞机
2026-05-20 11:04:52
从未见过中国如此强大,比巅峰美国还强得多,法媒:咋跟中国相处

从未见过中国如此强大,比巅峰美国还强得多,法媒:咋跟中国相处

抱明月而长终指
2026-05-21 02:35:40
“睡觉把手举过头顶”,为什么能一觉到天亮?

“睡觉把手举过头顶”,为什么能一觉到天亮?

康复你知道
2026-05-16 14:32:05
比立陶宛更甚,该国在反华道路上越走越远,却忘记最重要一点

比立陶宛更甚,该国在反华道路上越走越远,却忘记最重要一点

兵鉴史
2026-05-21 01:11:58
2026-05-21 04:19:00
每天五分钟玩转人工智能 incentive-icons
每天五分钟玩转人工智能
没有梦想和神经网络有什么区别
494文章数 54关注度
往期回顾 全部

科技要闻

一文看懂谷歌I/O2026:谷歌打响智能体大战

头条要闻

被普京抱过的中国男孩火了 本人最新发声

头条要闻

被普京抱过的中国男孩火了 本人最新发声

体育要闻

尼克斯赢下最窒息的一场翻盘,场场都是逆天局

娱乐要闻

王菲“没事儿”,成年人学不来的松弛

财经要闻

白酒榜|汾酒营收净利双增 口子窖"造富"

汽车要闻

26.98万起步 看小鹏GX如何诠释一车多能以及满配的科技与豪华

态度原创

房产
艺术
旅游
公开课
军事航空

房产要闻

别被中介带了节奏,你的房子可能比你想的值钱

艺术要闻

删掉色彩后,她的身体只剩灵魂在呼吸——贝纳姆黑白人像,看完失眠!

旅游要闻

宝山滨江Citywalk也太会了一步一景出片率99.999%

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄媒盛赞中国军人:身姿挺拔 站如松柏

无障碍浏览 进入关怀版