Docker
Kubernetes
Helm
Istio
GitLab CI/CD
GitHub Actions
Jenkins
ArgoCD
Terraform
Ansible
MLflow
DVC
Kubeflow
Prometheus
Grafana
OpenTelemetry
HolmesGPT
Go
Python
Bash
Java
Spring Boot
FastAPI
MySQL
Redis(주) 플래티어
AI 솔루션연구소 아키텍쳐 엔지니어링 파트 · DevOps2026.06.15 ~
기업용 AI 에이전트 솔루션(XGEN)이 안정적으로 동작하도록 서버 인프라를 구축·운영하고, 문제를 빨리 찾아낼 수 있는 모니터링 체계를 만들고 있습니다.
- 배포 파이프라인 실행 시간 51% 단축 (9분 36초 → 4분 44초)
- 단계별 소요 시간을 분석해, 매번 평균 6분 53초를 쓰면서도 결과물을 아무도 사용하지 않던 빌드 단계를 찾아 제거 (Jenkins, Nexus)
- 공유 설정을 쓰는 모든 프로젝트에 기능 영향 없이 한 번에 적용. 오래된 결과물로 빌드될 위험이 있는 부분은 판단해 제외
- AI 에이전트 서비스의 지연·실패 원인 추적 체계 구축
- 서비스 간 요청 흐름을 추적하는 시스템을 도입하고(OpenTelemetry, Jaeger), 기술별 제약을 비교해 구성 방식을 선정
- "어느 단계가 느렸는지, 어디서 실패했는지"를 AI 워크플로우의 단계별로 확인할 수 있게 확장하고, 대시보드와 장애 경보를 구성 (Grafana Tempo)
- 서버 장애 원인 규명 및 재발 방지
- 쿠버네티스 서버의 CPU·메모리 부하 장애를 도구 버그(iptables)로 규명해 해결 (K3s)
- 자동 업데이트로 GPU 드라이버가 어긋나 AI 모델 서빙이 멈춘 장애를 복구하고, 재발 방지책으로 자동 업데이트를 중단
- 단일 서버 구조를 이중화(HA)해 서비스 중단 위험 감소
- Redis·Qdrant를 단일 구성에서 이중화로 전환. 애플리케이션 코드 수정 없이 프록시(HAProxy)가 정상 서버로만 요청을 보내도록 구성
- 클라우드 보안 사고 대응 및 실시간 탐지 체계 구축 (AWS)
- 회사 홈페이지가 스팸 사이트로 연결되던 사고의 원인을 감사 로그로 추적해 복구하고, 과도하게 부여된 계정 권한을 최소 권한 원칙으로 재정비
- 위협 탐지 시 팀 메신저(Teams)로 즉시 알림이 가도록 구성 (GuardDuty). 도입 직후 개발 DB에 대한 악성 IP 접근 시도도 탐지
- 컨테이너 보안 점검 점수 53.8점 → 74점 개선
- 고객사 보안 점검에서 기준 미달이던 서버에 컨테이너 격리·권한 제한 등 보안 설정을 적용 (Docker). 서비스에 영향을 주는 항목은 제외하고 적용
