이런 상황이다.
- spark-2.2.0
- scala
- java jar import 해서 사용
- 개발환경(intellij) 에서 에러는 없는데, 실제 cluster 에 올리면 에러
: java jar 안에 특정 싱글톤 객체의 함수 실행시 NULLPOINTEREXCEPTION
: 잘돌아가는 싱글톤 객체도 있음.
- 왜이럴까 삽질 ... 끝에 ... 원인 파악과 해결
- 원인 : 잘돌아가는 싱글톤 객체와 안돌아가는 싱글톤 객체의 차이는 싱글톤 내부 멤버객체를 생성했느냐 아니냐의 차이. 이유는 모르겠으나 static init() 안에서 무슨 객체를 생성했다면 driver 에서만 들고 있고 실제 worker 노드에서는 안들고 있음.
- 해결 : 그냥 싱글톤 안한닼ㅋㅋ. 아니면 broadcast 해도 될거 같은데 ... 그냥 처리했으므로 패스.
'개발 > HADOOP_SPARK_ETC' 카테고리의 다른 글
spark-shell error : Service 'sparkDriver' failed after 16 retries! (0) | 2017.08.29 |
---|---|
Dataset (0) | 2017.07.25 |
spark transformation 설명-예제 모음 (0) | 2017.04.21 |
hadoop 명령어 (0) | 2017.04.12 |
hbase vs impala (0) | 2017.04.11 |
댓글