목록전체 글 (246)
without haste but without rest
복제 셋(replica set)을 구축하기 위한 단계는 다음과 같다. 1. 각 노드에 몽고 디비 설치 (나는 전부 4.4.5로 버전으로 통일시켰다.) 2. mongod.conf 설정 3. 각 노드에서 몽고디비 실행 4. Primary로 사용할 노드에서 복제 셋 설정 및 실행 1. 몽고 디비 설치 Install MongoDB Community Edition on Linux — MongoDB Manual Install MongoDB > Install MongoDB Community Edition These documents provide instructions to install MongoDB Community Edition for supported Linux systems.For the best insta..
momentjs.com/ Moment.js | Home Format Dates moment().format('MMMM Do YYYY, h:mm:ss a'); moment().format('dddd'); moment().format("MMM Do YY"); moment().format('YYYY [escaped] YYYY'); moment().format(); Relative Time moment("20111031", "YYYYMMDD").fromNow(); moment("20120620", "YYYYMMDD" momentjs.com 1. moment.js 다운로드 후 프로젝트 폴더에 저장 2. html 파일에 import 3. 아래 함수로 utc 시간 kst로 변환 utc 시간 moment 클래스 파라미..
from datetime import datetime, timedelta print('현재 시간부터 5일 뒤') print(time2 + timedelta(days=5)) # 2018-07-28 20:58:59.666626 print('현재 시간부터 3일 전') print(time2 + timedelta(days=-3)) # 2018-07-20 20:58:59.666626 print('현재 시간부터 1일 뒤의 2시간 전') print(time2 + timedelta(days=1, hours=-2)) #2018-07-24 18:58:59.666626
컨테이너 내부에서 아래 도메인은 호스트 ip로 연결한다. host.docker.internal
※ 쉬는 텀 없이 실시간으로 계속 들어오는 경우 사용하기 어려운 코드 dp 알고리즘의 메모이제이션을 응용했다. 현재 수집하는 데이터는 큐 구조로 1시간마다 갱신이 되는데, 새로운 데이터만 주는 것이 아니라 기존 데이터에 갱신된 데이터를 추가해서 보내준다. 따라서 while 문이 돌기 전 빈 딕셔너리를 선언하고 해당 자료구조를 이용해서 중복체크를 한다. if __name__ == "__main__": memoization_dict = {} while True: # 중복 검사 및 추출 res_list = [] for raw in raw_list: # raw_list는 갱신 받은 데이터다. key = raw["serial"] try: if memoization[key]: continue except: res_..
코드가 틀린 곳이 없는데 왜 자꾸 출력이 에상과 다른가 하니 [ [0] * n for _ in range(m) ] 이 아니라 [ [0] * n ] * m 형태로 자료구조를 선언 해두었다. 1. [ [0] * n for _ in range(m) ] 2. [ [0] * n ] * m 2번은 배열 안에 배열들을 선언하는 게 아니라 각각 배열들을 선언한다. 1번은 배열 안에 2차원 배열을 선언한다. 따라서 2번처럼 선언하고 2차원배열에 값을 넣으면 2차원 좌표가 아니라 모든 배열에 동시에 같은 값을 넣게 된다. 아래 코드를 실행 해보면 바로 감이 온다. 출력 해줄때 같은 것처럼 보이는데 전혀 다르다. a = [[0] * 2] * 3 b = [[0] * 2 for _ in range(3)] a[0][0] = 1 ..
Running Airflow in Docker — Airflow Documentation airflow.apache.org Update History 2022.03.04 Apple Silicon - Airfow 2.0.2 버전에서 에러 발생 2.2.4 버전으로 수정 1. 설치 mkidr Airflow-Demo # step 1. yaml 파일 다운로드 curl -LfO 'https://airflow.apache.org/docs/apache-airflow/2.2.4/docker-compose.yaml' # step 2. 기본 설정 적용 docker compose up airflow-init # step 3. 도커 컴포즈 실행 docker compose up -d # step 4. 실행 확인 docker co..
하둡 설정 건드리던 중 클러스터 작동 중에 네임노드 포맷을 해버림 stop-all.sh 명령어 이후 네임노드와 데이터노드들이 꼬여서 실행이 불가능했음 "java.io.IOException: There appears to be a gap in the edit log. We expected txid 266, but got txid 2672" 위와 비슷한 에러 로그 발견 열심히 구글링 했으나 마땅한 방법이 없어보임 하둡 네임노드, 데이터노드 디렉토리 "hadoop-data"에 위치한 파일을 모두 날렸더니 다시 작동은 한다. 데이터도 같이 휘발되므로 백업 필수