flink streamWordCount demo

Flink源码剖析:flink-examples-streaming 自带demo示例 文章目录1.wordcount2.socket3.async4.iteration5.join6.sideoutput7.windowing7.1 session window7.2 count window7.2.1 slide count window7.2.2 tumble count window 本文主要分析下 Flink 源码中 flink-examples-streaming 模块,... 阅读详情

flink 的 wordCount  流式计算的demo

 

package com.hbn.wc

import org.apache.flink.api.scala._
import org.apache.flink.streaming.api.scala.{DataStream, StreamExecutionEnvironment}

object StreamWordCount {

  def main(args: Array[String]): Unit = {


    val  env:StreamExecutionEnvironment = StreamExecutionEnvironment.createLocalEnvironment()
    //  并行度
    env.setParallelism(8)

    val inputStream:DataStream[String] = env.socketTextStream("localhost",7777)

    val  result :DataStream[(String,Int)] = inputStream
      .flatMap(_.split(" "))
      .filter( _.nonEmpty)
      .map((_,1))
      .keyBy(0)  //  以  第一个 字段 分组
      .sum(1)   //  以 第二个 字段 求和


    result.print()

    env.execute("stream word  count  job")


  }


}

启动后 执行结果 如图所示 

 

5> (you,1)
8> (ok,1)
4> (are,1)
6> (how,1)
5> (you,2)
4> (are,2)
5> (fine,1)
3> (hello,1)
7> (flink,1)
3> (hello,2)
2> (saprk,1)
3> (hello,3)

 

 

Flink实现WordCount(实操详细步骤) 本文使用 Flink 的两种方式实现 WordCount 基于流计算 基于批计算 文章目录1. Idea 新建 Maven 项目并配置以下依赖2. 实现代码及详细注释2.1 Flink 基于流计算实现 WordCount2.2 Flink 基于批计算实现 WordCount2.3 附件:完整代码 先说一下我的环境: Flink 1.9 开发工具:Idea Maven版本:3.3.9 Linux:CentOS 7 演示语言:Scala 2.11 1. Idea 新建 Maven 项目并配置以下依赖 &lt 阅读详情

相关推荐

flink入门例子,经典wordCount

步骤:运行socket服务,再运行flink计算服务即可 这是提供数据源的服务 package wikiedits; import java.io.BufferedReader; import java.io.BufferedWriter; import java.io.IOException; import java.io.InputStreamReader; import java.io.O...

Mr lebron的博客 2543

Flink Word Count Stream Demo

Flink流处理Word Count示例代码。

我的博客 631

Flink 1.入门Demo详解

一.引言: Apach Flink 是全新的流处理系统,在Spark Straming的基础上添加了很多特性,主要在于其提供了基于时间和窗口计算的算子,并且支持有状态的存储和 Checkpoint 的重启机制,下面假设有多个温度传感器持续传输当前温度,Flink流处理需要每一段时间提供该时间段内的传感器平均温度。 二.依赖支持 项目是基于maven的scala项目,主要导入flink的scala依赖,如果是java需要另一套依赖: 1.scala <properties> .

BITDDD小栈 4056

Flink 简单的 WordCountdemo

Flink flastmap

qq_27896233的博客 301

第一个FLink程序之wordCount

以上两个例子分别是批处理文件单词统计和流式处理统计7777端口输入的单词统计,也是开始接触flink的第一个demoflink还有很多强大的功能,后续会结合具体的业务场景讲解具体的实现代码,好了,今天就讲到这里,后续会继续持续更新。

以茉萱的博客 910

SparkStreaming wordCountDemo基础案例

体现sparkStreaming的秒级准实时性,所以我们需要一个能够持续输入数据的东东 1.CentOS上下载nc 创建一个scala工程,导入相关pom依赖 <?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" ...

236

flink基础demo wordcount部署 在集群上运行】

flink 1 基础上手 1.1 构建maven工程 1.1.1 引入依赖 <?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM

weixin_45273750的博客 1680

Flink安装部署

一、独立进程模式(Standalone) 1.1 官网下载 https://flink.apache.org/downloads.html 1.2 修改flink-conf.yaml cd ./conf vim flink-conf.yaml 1.3 修改masters cat masters 1.4 修改workers cat workers 1.5 执行脚本,启动flink cd .. ./bin/start-cluster.sh ...

sinat_34241861的博客 458

Flink学习之旅:(二)构建Flink demo工程并提交到集群执行

在idea中创建一个 名为 MyFlinkFirst 工程。

小健的博客 1522

Flink流计算WordCount代码示例

代码 package com.zxl.flink import org.apache.flink.streaming.api.scala.StreamExecutionEnvironment /** * flink的流计算的WordCount */ object FlinkStreamWordCount { def main(args: Array[String]): Unit = { //1、初始化Flink流计算的环境 val streamEnv: StreamExecut

学亮编程手记 1412

FlinkWordCountStreaming and Batch)

Flink 程序开发步骤 1:获得一个执行环境 2:加载/创建 初始化数据 3:指定操作数据的transaction算子 4:指定把计算好的数据放在哪 5:调用execute()触发执行程序 注意:Flink程序是延迟计算的,只有最后调用execute()方法的时候才会真正触发执行程序。 延迟计算好处:你可以开发复杂的程序,但是Flink可以将复杂的程序转成一个Plan,将Plan作...

qianyulin 730

flink windows的wordcount demo(离线和实时)

1.新建maven项目,pom文件新增如下代码 <dependencies> <dependency> <groupId>org.apache.flink</groupId> <artifactId>flink-java</artifactId> <version>1.7.2</version> </dependency>

zhang5324496的博客 548

我的第一个Flink程序 - 三种WordCount方式

flink的三种word count案例,flink的批处理完成word count ,流处理方式,分为有界流和无界流处理word count

阿年的博客 502

flink_WordCountStreamWordCount

pom.xml 配置文件 <?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apach

qq_39128254的博客 382

FlinkStreaming+Batch 完成WordCount

我们通过socket实时产生一些单词,使用flink实时接收数据,对指定时间窗口内(例如:2秒)的数据进行聚合 统计,并且把时间窗口内计算的结果打印出来 Scala版本 import org.apache.flink.streaming.api.scala.StreamExecutionEnvironment import org.apache.flink.streaming.api.windowing.time.Time object SocketWindowWordCountScala { d

简单随风的博客 575

flink 流式处理 wordcount

import org.apache.flink.api.java.utils.ParameterTool import org.apache.flink.streaming.api.scala._ // 流处理 word count object StreamWordCount { def main(args: Array[String]): Unit = { // 创建流处理执行环境, val env: StreamExecutionEnvironment = StreamExecu

张俊杰 的博客 555

Flink批处理和流处理两种方式实现WordCount代码示例

使用scala实现批处理和流处理的wordcount示例 编写scala版本批处理wordcount 1.新建maven项目 2.导入pom坐标 <dependency> <groupId>org.apache.flink</groupId> <artifactId>flink-streaming-scala_2.11</art...

qichangjian的博客 2767

Flink------DataStream--wordcount

一个简单的单词计数flink程序。 public class SocketWordCount { public static void main(String[] args)throws Exception { // 获取执行环境 final StreamExecutionEnvironment env = StreamExecutionEnvironme...

学习学习 681
上一篇: flink wordcount demo
下一篇: MongoDB 中文手册 | MongoDB 中文文档 | 官方手册中文版翻译
H.King
博客等级 码龄10年 4粉丝 13原创
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值