Re: Flink 1.10 on yarn提交任务报错

2021-01-06 文章 Jacob
hi, 可以先做如下尝试: export HADOOP_USER_NAME=your user export HADOOP_CONF_DIR=your hadoop conf dir export HADOOP_CLASSPATH=`/opt/app/hadoop/bin/hadoop classpath` - Thanks! Jacob -- Sent from: http://apache-flink.147419.n8.nabble.com/

Flink 1.10 on yarn提交任务报错

2021-01-06 文章 黄润星
./bin/flink run -m yarn-cluster -yn 2 -yjm 1024 -ytm 1024 ./examples/batch/WordCount.jar java.lang.Exception: unable to establish the security context at org.apache.flink.runtime.security.SecurityUtils.install(SecurityUtils.java:73) at org.apache.flink.client.cli.CliFronte

Re: Flink 1.10 on Yarn

2020-09-11 文章 xuhaiLong
@Congxian Qiu Sorry,刚看到。 之前使用的 flink 1.7,没有出现过这个问题。升级到 flink 1.10 后这个问题必现,但是时间不定。 On 8/9/2020 15:00,Congxian Qiu wrote: Hi xuhaiLong 请问你这个作业在这个版本是是必然出现 NPE 问题吗?另外 1.10 之前的版本有出现过这个问题吗? Best, Congxian xuhaiLong 于2020年8月7日周五 下午3:14写道: 感谢回复!我这边的确是这个bug 引起的 On 8/7/2020 13:43,chenkaibit wrote:

Re: Flink 1.10 on Yarn

2020-08-09 文章 Congxian Qiu
Hi xuhaiLong 请问你这个作业在这个版本是是必然出现 NPE 问题吗?另外 1.10 之前的版本有出现过这个问题吗? Best, Congxian xuhaiLong 于2020年8月7日周五 下午3:14写道: > 感谢回复!我这边的确是这个bug 引起的 > > > On 8/7/2020 13:43,chenkaibit wrote: > hi xuhaiLong,看日志发生的 checkpoint nullpointer 是个已知的问题,具体可以查看下面两个jira。 > 你用的jdk版本是多少呢?目前发现使用 jdk8_40/jdk8_60 + flink-

Re: Flink 1.10 on Yarn

2020-08-07 文章 xuhaiLong
感谢回复!我这边的确是这个bug 引起的 On 8/7/2020 13:43,chenkaibit wrote: hi xuhaiLong,看日志发生的 checkpoint nullpointer 是个已知的问题,具体可以查看下面两个jira。 你用的jdk版本是多少呢?目前发现使用 jdk8_40/jdk8_60 + flink-1.10 会出现 checkpoint nullpointer,可以把jdk升级下版本试一下 https://issues.apache.org/jira/browse/FLINK-18196 https://issues.apache.org/jira/

Re:Re: Flink 1.10 on Yarn

2020-08-06 文章 chenkaibit
hi xuhaiLong,看日志发生的 checkpoint nullpointer 是个已知的问题,具体可以查看下面两个jira。 你用的jdk版本是多少呢?目前发现使用 jdk8_40/jdk8_60 + flink-1.10 会出现 checkpoint nullpointer,可以把jdk升级下版本试一下 https://issues.apache.org/jira/browse/FLINK-18196 https://issues.apache.org/jira/browse/FLINK-17479 在 2020-08-07 12:50:23,"xuhaiLong" 写

Re: Flink 1.10 on Yarn

2020-08-06 文章 Yangze Guo
日志没有贴成功,taskmanager.memory.jvm-metaspace.size目前是默认配置么? Best, Yangze Guo On Fri, Aug 7, 2020 at 11:38 AM xuhaiLong wrote: > > > > Hi > > > 场景:1 tm 三个slot,run了三个job > > > 三个job 运行的时候 出现了 ck 过程中空指针异常,导致任务一致重启。最终导致`Metaspace` 空间占满,出现 > `java.lang.OutOfMemoryError: Metaspace. The metaspace out-of-me

Flink 1.10 on Yarn

2020-08-06 文章 xuhaiLong
Hi 场景:1 tm 三个slot,run了三个job 三个job 运行的时候 出现了 ck 过程中空指针异常,导致任务一致重启。最终导致`Metaspace` 空间占满,出现 `java.lang.OutOfMemoryError: Metaspace. The metaspace out-of-memory error has occurred. This can mean two things: either the job requires a larger size of JVM metaspace to load classes or there is a cl

Flink-1.10 on yarn Taskmanager启动参数问题

2020-07-27 文章 Roc Marshal
Hi, all. 请问Flink-1.10 on yarn Taskmanager启动的jvm GC 回收器参数默认信息是G1吗? 基本集群环境:hadoop-2.7.5、flink-1.10、jdk-1.8_61,其中jvm相关参数均未进行显示设置。 谢谢。 Best, Roc Marshal.

Re: flink 1.10 on yarn 内存超用,被kill

2020-06-18 文章 Yun Tang
From: 1017517291 <1017517...@qq.com> Sent: Friday, June 19, 2020 10:31 To: user-zh Subject: flink 1.10 on yarn 内存超用,被kill Hi,     社区的大大们好,请教个问题,我最近一个作业在线上运行,运行一天左右就被yarn kill掉了,提示超过内存限制,打印日志如下: java.lang.Exception: [2020-06-19 00:33:57.249]Container [pid=771992,conta

flink 1.10 on yarn ????????????kill

2020-06-18 文章 1017517291
Hi??     ??yarn kill?? java.lang.Exception: [2020-06-19 00:33:57.249]Container [pid=771992,containerID=container_e05_1592035979967_0057_01_06] is running 745472B beyond the 'PHYSICAL' m

?????? Re: flink-1.10 on yarn????????????

2020-05-11 文章 1101300123
??yarn ?? ??2020??5??11?? 18:17??1193216154<1193216...@qq.com> ?? conflog4j --  -- ??: "1101300123"

?????? Re: flink-1.10 on yarn????????????

2020-05-11 文章 1193216154
conflog4j --  -- ??: "1101300123"

回复: Re: flink-1.10 on yarn日志输出问题

2020-05-11 文章 1101300123
我也是被这个日志搞得不行 根本找不到日志在哪;err里面也没有我自己打印的 在2020年5月11日 14:15,guaishushu1...@163.com 写道: Yarn webUI 也查不到日志内容,日志都输出到.err文件里面了,flink和yarn查不到日志。 guaishushu1...@163.com 发件人: LakeShen 发送时间: 2020-05-09 11:18 收件人: user-zh 主题: Re: flink-1.10 on yarn日志输出问题 Yarn 日志的话,直接根据 任务的 Application ID ,去 Yarn 的 Web UI

Re: Re: flink-1.10 on yarn日志输出问题

2020-05-10 文章 guaishushu1...@163.com
Yarn webUI 也查不到日志内容,日志都输出到.err文件里面了,flink和yarn查不到日志。 guaishushu1...@163.com 发件人: LakeShen 发送时间: 2020-05-09 11:18 收件人: user-zh 主题: Re: flink-1.10 on yarn日志输出问题 Yarn 日志的话,直接根据 任务的 Application ID ,去 Yarn 的 Web UI 上面看吧。 Best, LakeShen guaishushu1...@163.com 于2020年5月8日周五 下午3:43写道: > 日志全部

Re: flink-1.10 on yarn日志输出问题

2020-05-08 文章 LakeShen
Yarn 日志的话,直接根据 任务的 Application ID ,去 Yarn 的 Web UI 上面看吧。 Best, LakeShen guaishushu1...@163.com 于2020年5月8日周五 下午3:43写道: > 日志全部输出到.err日志里面了,flink-web也看不到日志有人知道吗? > > -- > guaishushu1...@163.com >

flink-1.10 on yarn日志输出问题

2020-05-08 文章 guaishushu1...@163.com
日志全部输出到.err日志里面了,flink-web也看不到日志有人知道吗? guaishushu1...@163.com