[KR] Kubernetes - Monitoring & Logging

CKAD 를 준비하는 선에서 과정에서 정리한 내용으로, 실제로 쿠버네티스에서 로깅과 모니터링과 관련된 내용은 훨씬 더 방대할 수 있습니다. Monitoring 쿠버네티스의 클러스터를 모니터링하고자 한다면, 주로 다음과 같은 데이터를 보고자 함일 것이다. Node 별 리소스 사용 현황 Node 별 Pod의 갯수 Pod 별 리소스 사용 현황 etc … 쿠버네티스는 빌트인 모니터링 기능을 제공하고 있지 않지만, 여러가지 툴이 존재함. Metrics Server Prometheus Elastic Stack Data Dog dynatrace etc … Metrics Server (모니터링 툴 예시) 하나의 클러스터를 기준으로 작동함....

March 20, 2024 · 1 min · Wonyoung Seo

[KR] LangChain 과 RAG 찍먹 후기

최근에 VectorDB 라는 키워드를 접하고 훑어보다, Vector Database → RAG (Retrieval Augmented Generation) → LangChain 의 흐름으로 연관이 있음을 알게 되었고, RAG 튜토리얼을 간단하게 따라해보았다. 참고 튜토리얼 - LangChain: QnA with RAG   테니스GPT 챗GPT가 처음 등장했을 때, 테니스 관련해서 이것저것 물어보며 가지고 놀았던 기억이 있어, 튜토리얼을 기반으로 테니스와 관련된 아주 간단한 QA애플리케이션을 만들어보면 어떨까 했다.   전처리 Loader 테니스와 관련된 문서를 그 자리에서 간략하게 수집했다. 위키파일도 있으며, 동호인 웹사이트에 존재하는 문서도 있기에 모두 txt 파일로 저장했다....

March 18, 2024 · 3 min · Wonyoung Seo

[KR] Kubernetes - Node Selector & Node Affinity

Node Selector와 Node Affinity는 Pod에 제한을 걸어 특정 노드에만 스케줄링 될 수 있도록 하는 설정임 예시) 만일 클러스터 중에 하나의 노드에 GPU가 장착이 되어 있다면 딥러닝 훈련 Pod는 해당 노드에 스케줄링되어 구동되도록 함 NodeSelector 간단하고, 가볍게 하나의 Pod에 적용시킬 수 있는 설정 Node에 레이블 적용하기 kubectl label nodes <node-name> <label-key>=<label-value> 예시) kubectl label nodes node01 size=Large Pod에도 <label-value> 명시하기. Node에 적용된 Label 과 매칭되어 스케줄링 됨....

March 18, 2024 · 2 min · Wonyoung Seo

[KR] Kubernetes - Taints & Tolerance

Taints and Tolerance 특정 노드에 파드의 무작위 스케줄링을 제한하고, 특정 유형의 파드의 스케줄링만 허용할 때 사용되는 설정 노드를 taint (오염) 시켜서 파드가 접근하지 못 하게 한 후, 노드에 적용된 taint에 대한 tolerance(내성) 을 가진 파드만 스케줄링 된다는 개념 Node에 Taint 적용하기 kubectl taint nodes <node-name> <key>=<value>:<taint-effect> 예시) # node1에 taint 적용 kubectl taint nodes node1 app=blue:NoSchedule # taint 제거 kubectl taint nodes node1 app=blue:NoSchedule- taint-effect 의 유형 NoSchedule - 포드가 스케쥴되지 않음 PreferNoSchedule - 해당 노드는 피하지만 보장된 것은 아님 NoExecute - 파드가 스케쥴되지 않으며, 현재 존재하는 파드도 tolerant가 없다면 제외함....

March 17, 2024 · 2 min · Wonyoung Seo