일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 | 31 |
- Catalyst Optimizer
- Spark
- 프로그래머스
- 하둡에코시스템
- 프로그래머스 큰 수 만들기
- kafka 설치
- Spark 최적화
- 하둡2.0
- 하둡1.0
- 스파크
- 데이터파이프라인
- ORACLE문법
- freenom
- 빌드도구
- 실행엔진
- 서버간 복사
- lazy evaluation
- 데이터베이스복사
- 지연연산
- EMR 구조
- 카프카
- 런타임데이터영역
- 프로그래머스힙
- 문맥교환
- 데이터 수집
- Databricks
- 하둡
- 데이터엔지니어링
- AWS Crawler
- ORACLE MSSQL차이
- Today
- Total
목록전체 글 (86)
띵유로그
데이터를 처음 보면 가장 먼저 해야할 행동은 NULL이 있는지 파악하기입니다. 어느 열이라도 NULL이 하나라도 있으면 행전체를 출력 data[data.isna().any(axis=1)] pandas에서 axis 1은 열, axis 0은 행(index)입니다. axis = 1 이니, 어느 열이라도 na가 있으면 해당 index를 반환합니다.
주로 SQL SERVER 를 사용하지만, ORACLE 책이 너무 자세히 쓰여있거 오라클 책으로 공부중이다. 여기서 내부 동작 원리 차이로 문법이 달라지는 경우가 있어 잊지 않기 위해 여기에 기록해둔다. 1. TOP (10) / WHERE ROWNUM
JAVA는 JVM(java virtual machine) 위에서 동작합니다. 그로 인해 OS에 독립적으로 코드를 실행할 수 있습니다. java소스코드(.java)는 바로 기계어로 번역되는 것이 아니라 JVM 이 해석할 수 있는 방식인 java bytecode(.class) 로 변환됩니다. JVM 구조는 아래 그림과 같습니다. JVM 은 크게 CLASS LOADER, 실행엔진, 런타임데이터 영역으로 나뉩니다. 각 구성요소가 어떤 역할을 하는지 알아보기 전에, 소스코드를 JVM 위에 올리는 과정을 먼저 알아보겠습니다. .JAVA 가 JVM 에서 구동되는 과정 1) 소스코드인 .java를 컴파일하여 바이트코드인 .class로 변환합니다. 컴파일 할 때는 javac 명령어를 통해 javac.exe를 실행시킵니다..
SPARK의 DATAFRAME은 비타입형, DATASET은 타입형입니다. DATAFRAME DATAFRAME이 비타입형이라고 하는데에 무리가 있을 수 있겠지만, 포인트는 데이터타입이 런타임에 결정된다는 것입니다. DATAFRAME은 ROW type으로 구성된 DATASET입니다. ROW는 연산에 최적화 된 인메모리 포맷입니다. 가비지컬렉션 등 추가로 관리가 필요한 jvm 의 타입이 아니라 연산이 효율적입니다. DATASET DATASET은 타입형입니다. 컴파일시간에 데이터타입이 결정됩니다. JVM 기반 언어이기 때문에 스칼라, 자바에서만 지원하고 python 등에서는 dataset을 쓸 수 없습니다. dataset을 사용하려면 스칼라-case class /자바 - Bean을 통해서 만들 수 있습니다. 컴..
Spring 프로젝트 중 구글 로그인 기능을 사용할 일이 있었습니다. 그런데 승인된 리디렉션 URI 설정 중 아래와 같은 오류가 떠서 AWS의 퍼블릭 주소 그대로 사용할 수 없게 되었습니다. aws 에서 제공하는 퍼블릭주소가 google에서 지원하지 않는 영역이여서 그런것같다고 판단했습니다. 그래서 Freenom과 Aws Route53을 사용하여 도메인을 바꾸기로 했습니다. Freenom 홈페이지에서 남는 도메인 줍줍하기 Freenom - A Name for Everyone Freenom - A Name for Everyone Cost Price Free Special www.freenom.com 로그인 후 원하는 도메인이 0원인것을 확인하여 결제합니다. 저는 ~~.ga 도메인을 겟했습니다. 그 후 Se..
1. 한국시간으로 변경 sudo rm /etc/localtime sudo ln -s /usr/share/zoneinfo/Asia/Seoul /etc/localtime 2. Hostname 변경 1) LINUX AMI 1 인경우 sudo vim /etc/sysconfig/network HOSTNAME=~~ 편집 2) LINUX AMI 2 인경우 sudo hostnamectl set-hostname freelec-springboot2-webservice.localdomain => hostname 명령어를 통해 정상 수정여부 확인 3. hostname을 변경 한 후에는 /etc/hosts에 등록 필요 sudo vim /etc/hosts curl 등록한 호스트명
cd %userprofile%\.m2\repository for /r %i in (*.lastUpdated) do del %i