linux安装配置 flume

2023-09-21 12:22:59

目录

一 解压安装包

二 配置部署

        (1)修改配置 

        (2)下载工具 

        (3)创建配置文件 

        (4)启动监听测试 

        (5)flume监控文件 


一 解压安装包

        这里提供了网盘资源

链接: https://pan.baidu.com/s/1Z0aItCHMybYpXkt3_RUaVw?pwd=s6pg 提取码: s6pg

        这里安装包是放到/opt/install 文件夹下

        解压到/opt/soft 目录 

tar -zxf /opt/install/apache-flume-1.9.0-bin.tar.gz -C /opt/soft

        给解压的文件夹改个名

cd /opt/soft
 mv apache-flume-1.9.0-bin/ flume190

二 配置部署

        (1)修改配置 

        将lib文件夹下的guava-11.0.2.jar删除以兼容Hadoop 3.1.3

cd ../lib
rm -rf ./guava-11.0.2.jar
 cp /opt/soft/hadoop313/share/hadoop/common/lib/guava-27.0-jre.jar ./

        进入/opt/soft/flume190/conf/目录

 cd flume190/conf/

        flume-env.sh.template拷贝成 flume-env.sh

cp flume-env.sh.template ./flume-env.sh

         修改该文件

 vim flume-env.sh

         22行jdk路径修改成自己的

22  export JAVA_HOME=/opt/soft/jdk180

         25 行 jdk 内存改大些

 25  export JAVA_OPTS="-Xms2000m -Xmx2000m -Dcom.sun.management.jmxremote"

        (2)下载工具 

yum install -y net-tools

        安装 netcat 

yum install -y nc

        安装 telnet 服务

 yum install -y telnet-server

        安装 telnet 客户端

yum install -y telnet.*

        测试 telnet

        开两个窗口分别作为客户端和服务器端

        客户端

telnet localhost 7777

        服务器端

nc -lk 7777

        在客户端拨号输入语句后,服务器端能接受到

        服务器端挂掉后,客户端也会跟着挂掉

        查看 7777端口是否被占用

netstat -lnp | grep 7777

        (3)创建配置文件 

         创建 myconf2 文件夹

mkdir myconf2

        创建 conf 文件 

 vim ./netcat-logger.conf
a1.sources=r1
a1.channels=c1
a1.sinks=k1

a1.sources.r1.type=netcat
a1.sources.r1.bind=localhost
a1.sources.r1.port=7777

a1.channels.c1.type=memory

a1.sinks.k1.type=logger

a1.sources.r1.channels=c1
a1.sinks.k1.channel=c1

        (4)启动监听测试 

        此时执行的路径在/opt/soft/flume190,因为这条命令有的参数路径是相对路径,所以必须在当前路径下执行

 ./bin/flume-ng agent --name a1 --conf ./conf/ --conf-file ./conf/myconf2/netcat-logger.conf  -Dflume.root.logger=INFO,console

        此时再次在客户端拨号输入内容,将会在控制台看到

第一种写法:

[atguigu@hadoop102 flume]$ bin/flume-ng agent --conf conf/ --name a1 --conf-file job/flume-netcat-logger.conf -Dflume.root.logger=INFO,console

第二种写法:

[atguigu@hadoop102 flume]$ bin/flume-ng agent -c conf/ -n a1 -f job/flume-netcat-logger.conf -Dflume.root.logger=INFO,console

参数说明:

--conf/-c:表示配置文件存储在conf/目录

--name/-n:表示给agent起名为a1

--conf-file/-f:flume本次启动读取的配置文件是在job文件夹下flume-telnet.conf文件。

-Dflume.root.logger=INFO,console :-D表示flume运行时动态修改flume.root.logger参数属性值,并将控制台日志打印级别设置为INFO级别。日志级别包括:log、info、warn、error。

        (5)flume监控文件 

        在 myconf 文件夹中新编辑一个配置文件

vim ./flumelogger.econf
a2.sources=r1
a2.channels=c1
a2.sinks=k1

a2.sources.r1.type=exec
a2.sources.r1.command=tail -f /opt/kb23/flumefile.log

a2.channels.c1.type = memory
a2.channels.c1.capacity = 1000
a2.channels.c1.transactionCapacity = 100

a2.sinks.k1.type = logger

a2.sources.r1.channels = c1
a2.sinks.k1.channel = c1

        创建一个被监控的文件

        我这里的是 /opt/kb23/flumefile.log

        这里命令的意思是只要有东西被加入这个文件,就会被 flume 监控到

        运行

 ./bin/flume-ng agent --name a2 --conf ./conf/ --conf-file ./conf/myconf2/filelogger.conf  -Dflume.root.logger=INFO,console

        写东西进入flumefile.log测试(另一个窗口)

echo "hello dio" >> /opt/kb23/flumefile.log

        如果被监测到就是成功了

更多推荐

vue基础知识十一:Vue组件之间的通信方式都有哪些?

一、组件间通信的概念开始之前,我们把组件间通信这个词进行拆分组件通信都知道组件是vue最强大的功能之一,vue中每一个.vue我们都可以视之为一个组件通信指的是发送者通过某种媒体以某种格式来传递信息到收信者以达到某个目的。广义上,任何信息的交通都是通信组件间通信即指组件(.vue)通过某种方式来传递信息以达到某个目的举

动漫ip受著作权法保护吗?

受保护的,不过你得申请版权保护,不然,你难以说明这个作品的所有者是你啊,你可以了解一下可信时间戳,他能起到版权保护的作用。版权保护的重点是证明:什么人在什么时间拥有什么作品,只要原创作者能提供这样的证据就能保护自己的版权。现在每个地级城市基本上都有版权局,你可以通过版权局对你的作品进行版权登记证书的申请来保护自己的版权

【实训项目】智联校友会小程序

1.项目背景作为某某省唯一一所中医药高等院校,××大学已经走过了30个春秋,截止到现在,我校已有近十万名校友遍布全国各地,校友在社会各界享有良好声誉,校友与学校相互成为密不可分的无形资源。然而,在广大在校学生中,还有很多校友意识薄弱,对和自己息息相关的校友工作并不了解。校友会管理系统是代表学校联系和服务校友的职能系统,

半导体产品使用高温老化测试技术

主要功能:为了达到满意的合格率,几乎所有产品在出厂前都必须经过老化处理。制造商如何在不缩短老化时间的情况下提高效率?本文介绍了一种在老化过程中进行功能测试的新方法,以减少和缩短与老化过程相关的成本和时间问题。在半导体行业,关于器件老化存在着各种争论。与其他产品一样,半导体随时可能因各种原因而失效。老化是通过使半导体超载

spring ioc

1.什么是SpringSpring框架是一个分层的、面向切面的Java应用程序的一站式轻量级解决方案,它是Spring技术栈的核心和基础,是为了解决企业级应用开发的复杂性而创建的。>简单来说,Spring是一个轻量级的控制反转(IoC)和面向切面(AOP)的容器框架。介于SpringMVC与Mybatis之间的中间层框

【java】【SpringBoot】【四】原理篇 bean、starter、核心原理

目录一、自动配置1、bean加载方式(复习)1.1加载方式-xml方式生命bean1.2加载方式-xml+注解方式声明bean1.3注解方式声明配置类1.4FactoryBean1.5proxyBeanMethod属性1.6使用@Import注解导入1.7使用上下文对象在容器初始化完毕后注入bean1.8导入实现了Im

Django Web开发入门基础

官方有很详细的文档,但是看过几遍之后如果要翻找还是有点麻烦,本文算作是学习笔记,提取一些关键点记录下来,另附上官方教程WritingyourfirstDjangoapp注:文中的指令使用py,是在Windows上,macOS要使用python31.安装DjangoDjango是一个基于Python的Web开发框架,安装

git使用说明

配置hosts配置C:\Windows\System32\drivers\etc\hosts192.168.**.**git.wl.com本地git账号配置(xxx在gitlab个人profile中)打开gitbashgitconfig--globaluser.namexxxxgitconfig--globaluser

使用springcloud-seata解决分布式事务问题-2PC模式

目录一、建立undo_log表二、安装事务协调器:seata-server三、整合可以查看官网:快速启动|Seata一、建立undo_log表--注意此处0.3.0+增加唯一索引ux_undo_logCREATETABLE`undo_log`(`id`bigint(20)NOTNULLAUTO_INCREMENT,`b

华为OD机试 - 滑动窗口最大和 - 滑动窗口(Java 2023 B卷 100分)

目录专栏导读一、题目描述二、输入描述三、输出描述四、解题思路五、Java算法源码六、效果展示1、输入2、输出3、说明华为OD机试2023B卷题库疯狂收录中,刷题点这里专栏导读本专栏收录于《华为OD机试(JAVA)真题(A卷+B卷)》。刷的越多,抽中的概率越大,每一题都有详细的答题思路、详细的代码注释、样例测试,发现新题

【技术分享】NetLogon于域内提权漏洞(CVE-2020-1472)

一、漏洞介绍CVE-2020-1472是一个Windows域控中严重的远程权限提升漏洞。攻击者在通过NetLogon(MS-NRPC)协议与AD域控建立安全通道时,可利用该漏洞将AD域控的计算机账号密码置为空,从而控制域控服务器。该漏洞适用于Win2008及后的所有版本。二、漏洞原理Netlogon使用的AES认证算法

热文推荐