Flink单机部署教程

如果您想在单机上搭建一套数据处理平台,那么Apache Flink可能是您的一个不错的选择。Flink 是一个分布式的数据流和批处理的框架。它提供了高效、分布式、容错、可伸缩的批流一体的数据处理能力。下面,我们将从多个方面对Flink单机部署做详细的阐述。

一、安装Java环境和Flink

在安装Flink之前,我们首先需要安装Java环境,这样才能使Flink正常工作。因为Flink需要在JVM上运行,所以我们需要先安装JDK。建议使用Oracle JDK或者OpenJDK。

sudo apt-get update  
sudo apt-get install default-jdk

安装完Java之后,我们就可以安装Flink了。你可以到官网上下载Flink的zip包,并解压:

cd /opt
sudo wget https://mirrors.tuna.tsinghua.edu.cn/apache/flink/flink-1.12.2/flink-1.12.2-bin-scala_2.11.tgz
sudo tar zxvf flink-1.12.2-bin-scala_2.11.tgz

如果需要使用Scala版本,请在Flink官网查看对应版本。

二、启动和关闭Flink集群

启动Flink集群有很多种方法,最基础的方式是执行以下命令:

./bin/start-cluster.sh

需要注意的是,以上命令会在后台启动Flink集群服务。如果我们需要终端显示服务启动的日志,我们可以使用如下命令:

./bin/start-cluster.sh start-foreground

同样的,可以使用以下命令关闭Flink集群服务:

./bin/stop-cluster.sh

使用以上命令关闭服务可以一定程度上保证服务进程优雅的退出。

三、提交作业

单机版的Flink支持本地运行和standalone运行,我们这里以standalone运行为例。在开始提交作业之前,需要先进入Flink的bin目录:

cd /opt/flink-1.12.2/bin

下面,让我们将一份Flink WordCount示例程序打包成jar包并提交到Flink集群中进行处理:

cd /opt/flink-1.12.2/examples/batch
mvn clean package
./flink run -c org.apache.flink.examples.java.wordcount.WordCount target/flink-java-examples-0.1-SNAPSHOT.jar

当程序成功提交之后,我们可以在Web控制台中查看相关信息。

四、使用Flink Web UI

在使用Flink时,Flink Web UI是一个非常重要的工具。它可以帮助我们实时监控Flink集群的状态,查询任务状态等等。我们可以通过以下地址访问Flink Web UI:http://localhost:8081/。

在Flink Web UI中,我们可以查看所有的作业列表,以及它们的状态。选中一个作业,我们还可以查看作业的运行状态和详情信息。例如,我们可以查看作业的执行计划,以及任务轨迹等。

五、总结

本篇文章主要以Flink的单机部署为中心,从安装Java环境和Flink、启动和关闭Flink集群、提交作业、使用Flink Web UI几个方面进行了详细的阐述。这些内容能够帮助开发者快速地进行Flink开发。

原创文章,作者:VPYKT,如若转载,请注明出处:https://www.506064.com/n/369315.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
VPYKTVPYKT
上一篇 2025-04-12 13:01
下一篇 2025-04-12 13:01

相关推荐

  • MQTT使用教程

    MQTT是一种轻量级的消息传输协议,适用于物联网领域中的设备与云端、设备与设备之间的数据传输。本文将介绍使用MQTT实现设备与云端数据传输的方法和注意事项。 一、准备工作 在使用M…

    编程 2025-04-29
  • Python3.6.5下载安装教程

    Python是一种面向对象、解释型计算机程序语言。它是一门动态语言,因为它不会对程序员提前声明变量类型,而是在变量第一次赋值时自动识别该变量的类型。 Python3.6.5是Pyt…

    编程 2025-04-29
  • Deepin系统分区设置教程

    本教程将会详细介绍Deepin系统如何进行分区设置,分享多种方式让您了解如何规划您的硬盘。 一、分区的基本知识 在进行Deepin系统分区设置之前,我们需要了解一些基本分区概念。 …

    编程 2025-04-29
  • 写代码新手教程

    本文将从语言选择、学习方法、编码规范以及常见问题解答等多个方面,为编程新手提供实用、简明的教程。 一、语言选择 作为编程新手,选择一门编程语言是很关键的一步。以下是几个有代表性的编…

    编程 2025-04-29
  • Qt雷达探测教程

    本文主要介绍如何使用Qt开发雷达探测程序,并展示一个简单的雷达探测示例。 一、环境准备 在开始本教程之前,需要确保你的开发环境已经安装Qt和Qt Creator。如果没有安装,可以…

    编程 2025-04-29
  • 猿编程python免费全套教程400集

    想要学习Python编程吗?猿编程python免费全套教程400集是一个不错的选择!下面我们来详细了解一下这个教程。 一、课程内容 猿编程python免费全套教程400集包含了从P…

    编程 2025-04-29
  • Python烟花教程

    Python烟花代码在近年来越来越受到人们的欢迎,因为它可以让我们在终端里玩烟花,不仅具有视觉美感,还可以通过代码实现动画和音效。本教程将详细介绍Python烟花代码的实现原理和模…

    编程 2025-04-29
  • 使用Snare服务收集日志:完整教程

    本教程将介绍如何使用Snare服务收集Windows服务器上的日志,并将其发送到远程服务器进行集中管理。 一、安装和配置Snare 1、下载Snare安装程序并安装。 https:…

    编程 2025-04-29
  • Python画K线教程

    本教程将从以下几个方面详细介绍Python画K线的方法及技巧,包括数据处理、图表绘制、基本设置等等。 一、数据处理 1、获取数据 在Python中可以使用Pandas库获取K线数据…

    编程 2025-04-28
  • Python语言程序设计教程PDF赵璐百度网盘介绍

    Python语言程序设计教程PDF赵璐百度网盘是一本介绍Python语言编程的入门教材,本文将从以下几个方面对其进行详细阐述。 一、Python语言的特点 Python语言属于解释…

    编程 2025-04-28

发表回复

登录后才能评论