Docker系列(六) docker环境下安装flume 实现logs+flume+kafka日志采集 镜像安装

基于 Docker 部署 Flume 应用 前言 本文目的在于通过 flume、zookeeper、kafkadocker 搭建基本的日志采集系统,实现日志采集并将数据发送至 Kafka。 搭建前,需确保已安装以下组件: JDK 8 Flume Zookeeper Kafka Docker 同时需确保已掌握以下技能: 能在本地部署并成功启动 Flume,且了解 Flume 的核心概念 source、channel、sink 能基本使用 Zookeeper,了解节点的创建、更新、查看与删除 能基本使用 Kafka,了解 topic 的概念,实 阅读详情

以下均为生产环境下亲测使用 如有出入 请私信梁工

一、安装flume

1、docker中查看镜像
docker search flume
在这里插入图片描述
2、pull 新版稳定 flume2.0.0
docker pull probablyfine/flume:2.0.0
3、 创建一个flume文件夹 里面包含 conf logs
在这里插入图片描述
conf : 文件夹下放我们写的配置文件 sources channel sink
logs : 对容器内的logs在本地做映射

以下为 从log文件中实时监控 进行采集到kafka中

$   vi   los-flume-kakfa.conf 

# Name the components on this agent
app.sources = r1
app.channels = c1

# Describe/configure the source
app.sources.r1.type = exec
app.sources.r1.command = tail -F  /tmp/test_logs/app.log
app.sources.r1.channels = c1


# Use a channel which buffers eve
Julia数据工程实战:高性能低延迟批流一体管道构建 Julia作为一种兼具Python开发体验与C级执行效率的动态语言,正成为数据工程领域突破性能瓶颈的关键选择。其核心原理在于JIT编译、原生多线程与零成本抽象,天然适配低延迟批处理、混合工作负载统一栈及高可观测性调试等现代数据基础设施需求。技术价值体现在资源效率提升(内存降52%、CPU降37%)、开发运维提效(特征上线从5天缩至8小时)及确定性SLA保障。典型应用场景涵盖实时日志清洗、流式特征计算、S3/Parquet高性能存储与轻量编排,尤其适用于金融风控、电商实时画像等对延迟与稳定性双敏感的生产环境 阅读详情

相关推荐

【Clickhouse从入门到精通】第60篇:ClickHouse生态总结与未来展望

ClickHouse系列收官总结 本文作为《ClickHouse从入门到精通》系列的第60篇收官之作,系统回顾了整个系列的知识体系。文章从基础概念到高级应用,全面梳理了ClickHouse的核心技术: 知识体系:完整回顾了60篇文章的知识图谱,包括列式存储原理、MergeTree引擎家族、分布式架构等核心内容 生态工具:详细盘点了ClickHouse的企业版工具、运维监控、数据集成和可视化方案 版本演进:分析了从21.x到24.x的主要版本特性升级 未来趋势:展望了向量化引擎、湖仓一体、AI集成等发展方向

xyghehehehe的专栏 396

Docker容器中运行flume及启动不输出运行日志问题

主要介绍了 Docker容器中运行flume及启动不输出运行日志问题及解决方法,需要的朋友参考下吧

【信息科学与工程学】【通信工程】计算机科学与自动化——第二百三十三篇 云NaaS服务 系列二02

字段内容类型​云网络自定义路由表(Custom Route Table):允许用户自定义 VPC 或子网的路由规则,控制流量走向,支持黑白名单、策略路由。端计算节点->边缘计算节点->边缘DC->中心云的网络情况及存储需求及配置情况列表​端计算节点为 VPC 内的云资源。边缘计算节点不适用。边缘 DC 和中心云为路由表管理平台。存储需求:路由条目存储于数据库。网络:路由表在虚拟路由器中执行。QoS:无。网络的端到端配置(从接入到汇聚到核心)​。

weixin_49199313的博客 274

docker-flume:运行水槽代理的 Docker 容器

Flume Docker 镜像 定义基础 docker 镜像以将 Flume 代理部署到 Docker 实例中 要启动代理,用户必须将他们的水槽代理配置添加到 /opt/flume/conf/flume.conf 并设置 FLUME_AGENT 环境变量来声明要运行的代理

Docker日志采集工具Flume安装和使用

前提:Docker安装!如果没有安装安装教程可以参考:链接:Docker内分布式消息系统kafka安装和使用第一部分:Centos7安装Docker

qq_37908302的博客 1542

docker-compose部署flume

supervisord.conf 是supervisord的配置文件,只是将最后的 [include] 配置项取消注释,指定到配置存放目录。上面构建的镜像只是将相应的服务打进了镜像里,使用时应挂载相应flume-ng配置和supervisor应用配置,以下为我使用。-compose启动flume服务的相应docker-compose.yaml部分配置。的解压包conf复制出来,因为映射会影响原容器内的内容。自己封装的运行脚本,代码可以自己研究一下。template文件到。

angryshan的博客 1263

DOCKER集群安装SQOOP&FLUME

已经配好hadoop-hdfs集群,集群由三个docker容器构成,一个namenode,两个datanode,本次安装FLUME&SQOOP,将FLUME安装在hdfs集群的namenode节点,SQOOP&HIVE置于另一容器,MYSQL节点也置于另一容器,搭建好的集群共5个的docker容器,通过docker网络连接。 注: hdfs集群的三台容器已经在nanzi_bigdata_network网络内,后续容器间通信需要查看节点ip即通过该方法hadoop 3.2.0 flume 1.9.0 s

m0_70699638的博客 1103

RabbitMQ与Kafka消息队列核心技术对比与实践指南

消息队列作为分布式系统架构中的关键组件,通过异步通信机制实现系统解耦和流量削峰。其核心原理基于生产者-消费者模式,采用存储转发机制确保消息可靠传递。在技术选型时,RabbitMQ凭借AMQP协议和灵活的路由规则,特别适合需要严格消息顺序的业务场景;而Kafka的分布式提交日志设计则提供了超高吞吐量,成为大数据处理的首选。实际应用中,电商订单系统和用户行为分析平台分别展现了两种消息队列的典型使用场景。通过合理配置死信队列、消费者组和ISR机制等核心功能,可以有效解决消息幂等、顺序消费等分布式系统常见问题。

weixin_30263073的博客 503

单机部署Hadoop+Spark+Flink:本地大数据环境搭建与核心功能验证

大数据处理的核心在于对海量、多样、高速数据进行高效分析与价值挖掘,其技术基石通常包括分布式存储与计算框架。通过容器化技术,我们可以在单机环境下模拟完整的分布式处理流程,这为学习、开发和原型验证提供了极大便利。本文聚焦于利用Docker Compose一键部署集成Hadoop、Spark和Flink的轻量化环境,详细阐述了从环境准备、服务启动到核心功能测试的完整路径。实践环节覆盖了HDFS文件操作、Spark批处理任务提交以及Flink流处理管道的验证,并探讨了通过REST API进行任务管理的方法。这种本地

weixin_33912246的博客 366

docker搭建zk+kafka+flume+es+kibana日志处理系统

使用三台服务器 zookeeper集群搭建 每台服务器创建挂载目录 mkdir -p /home/docker/zk-test/data mkdir -p /home/docker/zk-test/logs 分别启动三台服务器zk docker run --name zk-test --net=host --restart always -v /home/docker/zk-test:/da...

Sumail_Gong的博客 1216

01 docker概述及安装

Docker概述 Docker安装 docker官网下载 Docker Desktop for Windows 在win10安装安装完成以后,docker便已经安装成功,可通过此程序操作镜像、容器等;如果需要运行docker命令,通过本机的命令行来执行。 镜像(Image)和容器(Container)的关系,就像是面向对象程序设计中的类和实例一样,镜像是静态的定义,容器是镜像运行时的实体。容器可以被创建、启动、停止、删除、暂停等。 一个Docker Registry中可以包含多个...

fang.lovest.yang的博客 636

日志系统之基于flume收集docker容器日志

最近我在日志收集的功能中加入了对docker容器日志的支持。这篇文章简单谈谈策略选择和处理方式。

VinoYang的专栏 1万+

使用docker-compose安装flume

使用flume采集应用服务器(华为云)上的日志信息,但运维同学为了方便管理资源,要求使用docker-compose方式安装。而官方docker仓库中的flume不是最新版的,所以打算自己构建flume镜像flume依赖于jdk,所以安装flume的容器需要有jdk;那么首先构建一个基于centos7的jdk1.8的镜像centos7-jdk1.8;然后基于镜像centos7-jdk1.8构建安装flume镜像flume;最后再使用docker-compose安装容器。 一、构建centos7-jd

NDF923的专栏 1822

Docker容器中运行flume

flume配置文件如下:# Name the components on this agent app1.sources = r1 app1.sinks = k1 app1.channels = c1 # Describe/configure the source app1.sources.r1.type = avro app1.sources.r1.bind = 0.0.0.0 app1.so...

RedStarOfSleep's Blog 4248

flume+kafka实时监控log日志

一、提前环境准备 1、zookeeper 2、kafka 3、flume 4、带日志输出的任意程序 二、需求说明 使用flume的exec source实时监控某个程序的日志打印,并实时输出到kafka; 三、具体操作 1、在conf下新建kafka-logger.conf agent.sources = s1 agent.channels = c1 agent.sinks =...

hyj 1346

Docker安装Flume

2019独角兽企业重金招聘Python工程师标准>>> ...

weixin_34220963的博客 780

D010 复制粘贴玩大数据Dockerfile安装Flume集群

0x00 教程内容 0x01 Dockerfile文件的编写 1. 编写Dockerfile文件 2. 编写Dockerfile文件的关键点 3. 完整的Dockerfile文件参考 0x02 校验Flume前准备工作 1. 环境及资源准备 0x03 校验是否Flume安装成功 1. 修改生成容器脚本 2. 生成镜像 3. 生成容器 4. 启动Flume 0xFF 总结

邵奈一的博客 873
上一篇: Docker系列(五) docker 常用操作命令
下一篇: idea快捷键大全(常用的都有)
海鸥~
博客等级 码龄7年 52粉丝 30原创
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值