본문 바로가기
개발/HADOOP_SPARK_ETC

Spark Java jar NullPointerException

by 로그인시러 2018. 1. 19.

이런 상황이다.


- spark-2.2.0


- scala 


- java jar import 해서 사용


- 개발환경(intellij) 에서 에러는 없는데, 실제 cluster 에 올리면 에러

  : java jar 안에 특정 싱글톤 객체의 함수 실행시 NULLPOINTEREXCEPTION

  : 잘돌아가는 싱글톤 객체도 있음.


- 왜이럴까 삽질 ... 끝에 ... 원인 파악과 해결


-  원인 : 잘돌아가는 싱글톤 객체와 안돌아가는 싱글톤 객체의 차이는 싱글톤 내부 멤버객체를 생성했느냐 아니냐의 차이.  이유는 모르겠으나 static init() 안에서 무슨 객체를 생성했다면 driver 에서만 들고 있고 실제 worker 노드에서는 안들고 있음.


- 해결 : 그냥 싱글톤 안한닼ㅋㅋ. 아니면 broadcast 해도 될거 같은데 ... 그냥 처리했으므로 패스.


'개발 > HADOOP_SPARK_ETC' 카테고리의 다른 글

spark-shell error : Service 'sparkDriver' failed after 16 retries!  (0) 2017.08.29
Dataset  (0) 2017.07.25
spark transformation 설명-예제 모음  (0) 2017.04.21
hadoop 명령어  (0) 2017.04.12
hbase vs impala  (0) 2017.04.11

댓글