대용량 로그 분석을 위한 ELK 스택 기반 모니터링 시스템 구축

패션 트렌드 데이터 상품 기획 및 POC

역할 (Role)전략커뮤니케이션팀 / Project Manager
기간 (Period)2021.11 – 2022.10
핵심 성과 (Impact)기술 중심 조직에서 '데이터 상품'이라는 새로운 수익 모델의 가능성 실증
SECTION

1. 프로젝트 진행 배경

"매일 버려지는 수천만 건의 상품 데이터를 자산화할 방법이 없을까?"

회사의 주력 모델인 비전 AI(PXL)는 매일 수천만 건의 패션 상품을 분석하며 방대한 속성 데이터(스타일, 색상, 기장 등)를 생성하고 있었습니다. 하지만 이 데이터는 검색 추천을 위한 연산 과정에서 소모될 뿐, 비즈니스적으로 활용되지 못하고 있었습니다.

따라서 회사는 예전부터 이를 패션 마켓 인사이트로 가공한 서비스를 제공하고 싶어하는 니즈가 있었으며, 이를 위한 극초반 작업까지는 진행한 상태였지만 그 이후의 작업은 핵심 개발자들의 대규모 이탈로 진행되지 못한 상황이었습니다.

이것에 대한 해결을 맡은 저는 “주요 쇼핑몰의 베스트 상품들을 우리 AI로 분석해 모으면, 현재 패션 시장의 거시적 트렌드를 보여주는 데이터 상품이 되지 않을까?"라는 논리로 쓸 줄 아는 범위의 기술과 자원을 활용해 문제를 풀어보기 시작했습니다.

SECTION

2. 당면 문제

"아무런 준비가 되어 있지 않은 환경"

📉 실제 거래 데이터가 없는 환경

가장 난처한 문제는 실제 트렌드를 설명할 수 있는 거래 데이터가 없다는 점이었습니다. 이 문제에 대해서는 회사 내 오너쉽 없이 방치되던 주요 쇼핑몰의 베스트상품 크롤러를 사용하여 잘 팔리는 상품을 수집하는 것으로 대체해야 했습니다.

🌑 전무한 데이터 서비스 경험

아예 이런 종류의 데이터 서비스에 대한 경험이 전사적으로 없는 상태라, 관련 지표를 비롯한 기획적 구상이나 데이터 파이프라인에 대한 고민 역시 전무했습니다. 상품 데이터의 변화에 대한 통계적이고 비즈니스적인 분석을 하려면 자산화부터 다시 해야 하는 상황이었습니다.

🧱 관련 인력과 자원의 부재

데이터 서비스의 경험이 있는 제가 들어오긴 했지만, 실제 내부 개발자들은 흥미는 있어도 본래 진행하는 업무가 있어 불확실한 이 일에 투입될 상황이 아니었습니다. 따라서 자원이 전혀 없는 상태에서 일을 시작했습니다.

SECTION

3. 주요 해결 전략

"있으면 있는 대로, 없으면 없는 대로 스타트업 답게 진행하자."

📐 A. 비즈니스 활용에 최적화된 데이터 모델 설계

  • 관점의 전환: 비전 AI의 분석 결과는 특정 상품의 이미지에서 옷 영역을 추출하고, 여기에 대한 속성을 검출하는 기능을 했습니다. 이렇게 생선된 로그 데이터를 '카테고리별 유행', '가격대별 선호 스타일' 등 비즈니스 지표로 치환하여 데이터 모델링을 수행했습니다.
  • 정합성 확보: 비전 AI에서 검출되는 데이터의 특성을 고려하여 상품에 대한 비즈니스적 설명력이 가장 높은 영역을 선택하는 필터링 지표를 설계하고 데이터 처리 시 반영하여, 상품의 속성을 검출하는 것에 특화되어 있는 비전 AI와 상품들의 경향이 중요한 비즈니스 환경 사이의 괴리를 최소화하였습니다.

🏗️ B. 비용 효율적이고 유연한 데이터 인프라 구축

  • 유휴 장비 활용: 당시 회사는 비전 AI 추천 서버를 On-Premise 환경으로 보유하고 있었습니다. 최초에 제 개인 노트북에서 구축한 환경을 DevOps 동료의 도움을 받아, 유휴 서버 3대로 클러스터링하여 최소한도의 운영 환경을 세팅했습니다. 이를 이용해 클라우드 비용을 절감할 수 있었습니다.
  • 확장성 확보: 향후 쇼핑몰의 실제 구매 데이터나, 대규모의 데이터까지 수용할 수 있도록 유연하고 확장이 용이한 ELK Stack 클러스터 구조로 구성하여 시각화의 편의성을 높이고 미래 사업 기회에 대비했습니다.

📊 C. 직관적인 시각화와 인사이트 도출

  • Kibana 대시보드 구현: 별도의 프론트엔드 개발 없이 Kibana를 활용해 플랫폼별, 카테고리별, 가격대별 트렌드를 즉각적으로 시각화했습니다.
  • 비전 데이터의 시각화: AI가 분석한 '스타일(Lovely, Chic 등)'이나 '패턴', '색상' 데이터를 집계하여 워드 클라우드파이 차트로 구현, 직관적인 비즈니스 인사이트를 제공했습니다.
  • 상호작용 필터링: 가격 범위 슬라이더, 카테고리 필터 등을 적용하여 사용자가 원하는 조건의 시장 현황을 실시간으로 파악할 수 있도록 구현했습니다.
SECTION

4. 의미와 성과

"단순 기술 공급사를 넘어, 데이터 인텔리전스 기업으로서의 가능성을 열다."

💼 데이터 비즈니스 모델의 가능성 실증

이 서비스의 결과물을 기반으로 뽑아낸 트렌드 데이터는 3개 사에 실제 유료로 판매했습니다. 비록 액수는 크지 않았지만 비전 AI에서 생성된 데이터를 가공해 판매하는 데이터 비즈니스의 실현 가능성은 증명될 수 있었습니다.

🗂️ 창사 이래 최초의 자체 데이터 자산 확보

이 프로젝트를 통해 구축된 데이터 처리 기법과 데이터 파이프라인은 사내의 유일한 패션 트렌드 데이터 인프라로 동작했습니다. 임직원들을 통해 대시보드나 CSV의 형태로 출력하여 사용되기도 하고, 비전 AI 기반 큐레이션 서비스의 고도화를 위한 백본 데이터로도 활용되는 등 다각도로 활용되었습니다.

🤝 데이터 접근성의 전사적 제고

엔지니어링 팀의 도움 없이도 사업부서가 직접 데이터를 탐색할 수 있게 되면서, 사업부서와 제품개발부서 간의 사일로 현상이 크게 감소하고 명확한 소통이 가능해졌습니다. 여러 부서의 직원들이 같은 화면을 보고 현황을 점검하고 전략을 고민할 수 있는 환경으로 변화했습니다.