본문 바로가기

개발/HADOOP_SPARK_ETC30

hadoop 명령어 https://hadoop.apache.org/docs/r2.7.2/hadoop-project-dist/hadoop-common/FileSystemShell.html 2017. 4. 12.
hbase vs impala Editorial information provided by DB-EnginesNameHBase XImpala XDescriptionWide-column store based on Apache Hadoop and on concepts of BigTableAnalytic DBMS for HadoopDatabase modelWide column storeRelational DBMSDB-Engines Ranking Trend ChartScore58.47Rank#15 Overall#2 Wide column storesScore11.23Rank#32 Overall#20 Relational DBMSWebsitehbase.apache.orgwww.cloudera.com/­content/­www/­en-us/­prod.. 2017. 4. 11.
spark on hadoop 1. hadoop 과 spark 다운로드 및 설치 ... (관련 내용은 본블로그에 있음) 2. 하둡설정 및 실행 II. Hadoop과의 연결Spark 설정${SPARK_DIR}/conf/spark-env.sh.template 을 복사하여 같은 경로에 spark-env.sh 파일을 생성합니다. 파일을 열고, 다음 변수를 추가합니다.export HADOOP_CONF_DIR=${HADOOP_DIR}/etc/hadoop Yarn-client와 연결다음 명령어가 정상적으로 수행되는지 확인합니다. 단, 수행하기 이전에 Hadoop 2.5.1 과 Yarn이 정상적으로 수행되고 있어야합니다.$ ${SPARK_DIR}/bin/spark-shell --master yarn-client 중간에 에러 메시지 없이scala> .. 2017. 3. 29.
hbase 설치 [펌] ■ HBase를 완전분산 모드로 설치하기 전에 먼저 Hadoop과 Zookeeper가 설치되어 있어야 한다. Hadoop 완전분산 설치 와 Zookeeper 설치를 참조한다.HBase 설치 대상 서버 정보Host NameIP용도centos01192.168.192.128Master Servercentos02192.168.192.130Region Server 1centos03192.168.192.133Region Server 2centos04192.168.192.132Region Server 3centos05192.168.192.131Region Server 4 ■ HBase 다운로드 http://hbase.apache.org/의 mirror site에서 hbase stable 버전의 다운로드 링크를 복사한.. 2017. 3. 24.