百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

linux 下安装并运行kettle 程序

nanshan 2024-12-14 14:13 10 浏览 0 评论

一:安装jdk

1:下载安装jdk

kettle是一款纯java编写的开源ETL工具,需要jdk环境支持,下载jdk-6u45-linux-i586.bin到/root/Desktop,建立jdk安装目录

#mkdir /usr/java

#cp /root/Desktop/jdk-6u45-linux-i586.bin /usr/java/

#cd /usr/java

#chmod +x jdk-6u45-linux-i586.bin

#./jdk-6u45-linux-i586.bin

2:配置环境变量

#vim /etc/profile

export JAVA_HOME=/usr/java/jdk1.6.0_45 //jdk1.6.0_45为jdk的安装目录

export PATH=$JAVA_HOME/bin:$PATH

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

3:测试

若出现版本信息,则安装配置成功

#java -version

二:部署kettle

1:创建一个目,将下载好的kettle解压后放在该文件夹下。

# mkdir /root/software/kettle

# cp /root/pdi-ce-5.0.1-stable.zip /root/software/kettle

# cd /root/software/kettle

# unzip pdi-ce-5.0.1-stable.zip

# cd data-integration

# ll *.sh

# chmod +x *.sh //以.sh结尾的文件必须拥有执行权限,如果没有,请赋予

2:测试安装是否成功

在kettle的data-integration目录中执行kitchen.sh文件,若出现帮助信息,证明安装成功

# ./kitchen.sh

备注:

kitchen.sh:执行job

pan.sh:执行转换

3:打开图形界面(需Xmanager配合使用)

使用XShell建立连接时,在 SSH —> tunneling 选项下勾选 Forward X11 connections to: Xmanager。登陆远端Linux主机,执行 gtk-demo 测试是否可以将界面显示在本地窗口。这样设置成功后,我们可以运行有图形界面的工具并将其显示在我们本地机器上。

# ./spoon.sh &

编写job和transition(略)

三:运用crontab执行kettle程序

1.建立目录存放kettle文件

# mkdir -p /root/kettle/kettle_file/job // 存放作业文件

# mkdir /root/kettle/kettle_file/transition // 存放转换

# mkdir /root/kettle/kettle_sh // 存放执行脚本

# mkdir /root/kettle/kettle_log // 存放执行kettle产生的日志文件

将从windows上配置好的.ktr和.kjb程序分别放在transition目录和job目录下(或linux下编写后直接保存到该目录下)

2:编写执行脚本

# cd /root/kettle/kettle_sh

# vim ceshi.sh

文本内容如下:

#!/bin/bash

#执行job程序

cd /root/software/kettle/data-integration

export JAVA_HOME=/usr/java/jdk1.6.0_45

export PATH=$JAVA_HOME/bin:$PATH

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

注:(因为crond是个守护进程,它不归属于任何用户,虽然之前以root用户配置了java环境变量,但是crond一样找不到java命令,所以,当crond执行kettle任务时,需要动态设置java环境变量,否则会出现手动执行.sh没问题,放crontb里面执行后无效果)

./kitchen.sh -file=/root/kettle/kettle_file/job/ceshi.kjb-level=basic >>/root/kettle/kettle_log/ceshi_$(date +%Y%m%d).log

# chmod +x ceshi.sh

# sh -x ceshi.sh

3:设定crontab 定时执行任务

# crontab -u root -e

*/1 * * * * /root/kettle/kettle_sh/waybill.sh //每分钟执行一次ceshi.sh

# systemctl restart crond

# systemctl enable crond

到此大功告成,记得在数据库中验证结果

注意:

在linux中,如果是通过图形界面执行程序的话,点击那个绿色的三角即可。如果是命令行启动,后台执行进行进程不能中断。因此,在linux中不推荐使用kettle里面的自动执行,使用操作系统的定时执行要稳定的多。Windows下使用定时任务计划,linux下使用crontab。

相关推荐

服务器温度监控--lm-sensors(服务器温度怎么看)

lm-sensors是一款linux的硬件监控的软件,可以帮助我们来监控主板,CPU的工作电压,风扇转速、温度等数据。这些数据我们通常在主板的BIOS也可以看到。当我们可以在机器运行的时候通过...

MySQL版本区别及管理(mysql版本最新版本)

MySQL版本区别及管理一.MySQL5.6与MySQL5.7安装的区别1、cmake的时候加入了bostorg2、初始化时使用mysqld--initialize替代mysql_install...

Linux技术问答系列-NO4(linux必知必会)

一.绝对路径用什么符号表示?当前目录、上层目录用什么表示?主目录用什么表示?切换目录用什么命令?绝对路径:如/etc/init.d当前目录和上层目录:./../主目录:~/切换目录:cd二...

猫盘原版系统开启ssh教程(猫盘原版系统怎么样)

猫盘是之前网上流传许久的矿渣,默认其系统不支持SSH功能,为了能打开其SSH功能,我特意制作操作教程如下:1、到网盘下载相关软件,利用猫盘系统自带功能,将assets放入个人存储目录下,并牢记对应的...

一探究竟——天融信网闸TopRules7000

网闸即:安全隔离与信息交换系统,常用作企业内外网隔离与业务互访用途。相比给服务器加多块网卡跨多个网段来说,网闸提供了更加安全的方式。探究背景:某次,网闸配置新业务,重启设备查看是否生效,结果发现刚重启...

操作系统加固通用Linux篇(linux系统加固常见操作)

1检查是否配置登陆超时时间设置编辑vi/etc/profile文件,配置TMOUT将值设置为低于300.TMOUT=3002检查是否禁止root用户登录FTP设置如下将对应配置文件中,设置roo...

zabbix agent的安装与配置(zabbix-agent安装)

Agent安装rpm-ivhzabbix-agent-3.2.4-1.el6.x86_64.rpm安装完成后,zabbixagent端已经安装完成了,zabbixagent端的配置目录位于/e...

Linux基础命令之计划任务(linux计划任务crontab)

一、计划任务1、at只能执行一次语法:at时间服务:atd必须开启123[root@xuegod163~]#/etc/init.d/atdstatus#查看服务状态atd(pid2...

Secure Delivery Center (SDC)安装指南二:Delivery Hub

免费下载SecureDeliveryCenter2015>7月23日软件分发管理神器SecureDeliveryCenter免费技术交流会,MyEclipse原厂商倾力主讲,敬请关注!...

OpenWrt 常用命令及用法!!(openwrt常用功能)

OpenWrt是一个高度可定制的嵌入式Linux操作系统,常用于路由器等网络设备。以下是一些常见的OpenWrt命令及其详细解释和示例操作:一、系统信息相关命令1.`uname-a``u...

Linux 设置定时任务crontab命令(linux定时任务cron表达式)

看了同事的脚本,发现他用了cron来自检自身的那个程序是否崩溃了,这是有多大的不自信才用这种机制的?点击(此处)折叠或打开$sudocat/var/spool/cron/crontabs/ro...

vCenter纳管ESXI主机出错(vsphere esxi)

vCenter纳管主机的大致步骤为:(1)vc和esxi交换证书,确立信任;(2)esxi把自己的资源信息同步到VC,VC建立清单。(3)VC在esxi建立几个操作用户;(4)然后下发...

从选购到安装 小白也能看懂的超全NAS经验分享

0.篇首语Hello大家好,我是KC,上一篇器材和工作流分享的文章里,有小伙伴问我怎么没有提到NAS?其实是因为前段时间碰巧更换了一台新NAS,折腾了一段时间很多内容还没来及整理和汇总,今天就...

手把手教你!如何在 Linux 服务器中搭建 Sentinel 环境?

你在Linux服务器上搭建Sentinel环境时,是不是也遇到过各种报错,要么是启动失败,要么是配置后无法正常访问控制台?看着同事顺利搭建好,自己却一头雾水,别提多着急了!其实,很多互联网大厂...

服务器被暴力破解的解决办法(二)(服务器被攻破严重吗)

上一次,我们说到小王公司服务器遭遇暴力破解,拿到解决方案回公司就开始部署。部署完成后的确起到了一定的效果,不过接下来的一个问题让他很头疼,原来黑客虽然攻入不进系统,但是依旧不依不饶的进行暴力破解。...

取消回复欢迎 发表评论: