[ 데이터 품질 관리 ] (0) 프롤로그 : 탄생 배경

실시간 데이터 품질 관리 시스템 개발 후기

최근 모니터링 시스템을 운영하면서 겪었던 데이터 품질 문제들을 해결하기 위해 전용 관리 시스템을 개발하게 되었습니다. 왜 이런 품질 관리 시스템을 개발하게 되었는지, 이 프로젝트를 진행하기까지의 의사결정은 어땠는지를 먼저 공유드리겠습니다.

🚨 개발 배경: 데이터 품질 문제의 발견

예상치 못한 Null 값 문제

시스템 모니터링 과정에서 다양한 외부 API로부터 데이터를 수집하던 중, 예상치 못한 null 값이 빈번하게 발생하는 문제를 발견했습니다. 이러한 문제는 단순히 데이터가 없는 것을 넘어서 전체 시스템의 신뢰성에 심각한 영향을 미치고 있었습니다.

데이터 수집 과정에서 발생하는 문제점

외부 API 호출

→

Null 포함 응답

→

오류 미감지

→

대시보드 오류

구체적인 문제점들

• 즉각적인 감지 불가: null 값이 발생해도 개발자가 직접 로그를 확인하기 전까지 알 수 없었습니다
• 연쇄 오류 발생: null 데이터가 저장되면 이후 통계 계산, 차트 렌더링 등에서 연쇄적 오류가 발생했습니다
• 대응 지연: 문제 발생 후 수 시간에서 수 일 후에야 인지되어 대응이 늦어졌습니다
• 데이터 신뢰성 저하: 잘못된 데이터가 누적되어 전체 시스템의 신뢰성이 하락했습니다

기존 모니터링 체계의 한계

기존에는 문제가 발생해도 수동적으로 대응할 수밖에 없는 구조였습니다. 운영팀에서 "대시보드에 이상한 값이 나온다"고 제보하면, 그제서야 개발자가 로그를 확인하고 문제를 파악하는 방식이었습니다.

⚠️ 수동적 대응의 문제점

전체 대응시간이 평균 4-24시간이 소요되었으며, 이 기간 동안 잘못된 데이터가 계속 누적되어 시스템 전체의 신뢰성이 크게 저하되는 상황이 반복되었습니다.

🔍 기존 도구들과의 차별점

왜 새로운 시스템이 필요했는가?

기존에 사용하던 Google Analytics나 Sentry 같은 도구들로는 해결할 수 없는 문제들이 있었습니다. 각 도구들의 한계점을 분석해보겠습니다.

도구	주요 용도	한계점
Google Analytics 4	사용자 행동 분석	백엔드 API 데이터 품질 모니터링 불가, 실시간성 부족
Sentry	예외/에러 추적	Exception 기반으로 "조용한 에러" 감지 불가

"조용한 에러(Silent Error)"의 위험성

가장 치명적인 문제는 "조용한 에러"였습니다. 이는 프로그램이 정상적으로 실행되지만 잘못된 결과를 생성하는 오류로, 기존 모니터링 도구들이 전혀 감지하지 못하는 영역이었습니다.

💡 조용한 에러 예시

// JavaScript에서 발생하는 조용한 에러
const carbonEmission = null;  // API에서 null 반환
const powerGeneration = 1000;
const carbonIntensity = carbonEmission / powerGeneration;  // 0 (잘못된 값!)

// Sentry: 에러 없음으로 판단
// 실제: 잘못된 계산 결과가 대시보드에 표시됨

✅ 새 시스템의 장점

• 실시간 데이터 검증
• 도메인 특화 검증 규칙
• 즉시 Slack 알림
• 통합 모니터링 대시보드

❌ 기존 도구의 한계

• 조용한 에러 미감지
• 범용적 접근으로 특화 부족
• 지연된 알림 시스템
• 분산된 로그 관리

🛠️ 해결 방안과 구현

핵심 기능 설계

1

실시간 데이터 검증
모든 외부 API 응답을 실시간으로 검증하여 null, undefined, NaN 등의 문제 값을 즉시 감지합니다.

2

즉시 알림 시스템
문제가 감지되면 5분 이내에 Slack을 통해 개발팀에 자동으로 알림을 발송합니다.

3

통합 대시보드
모든 API의 데이터 품질 상태를 한눈에 파악할 수 있는 통합 관리 인터페이스를 제공합니다.

4

이력 관리
모든 데이터 품질 이슈를 기록하고 해결/미해결 상태를 체계적으로 관리합니다.

기술 구현 예시

실제 데이터 검증 로직의 핵심 부분을 간단히 소개하면 다음과 같습니다:

// 데이터 품질 검증 함수 예시
function validateApiResponse(data) {
    const validationResults = [];
    
    // Null 값 검증
    for (const [key, value] of Object.entries(data)) {
        if (value === null || value === undefined) {
            validationResults.push({
                field: key,
                issue: 'NULL_VALUE',
                severity: 'HIGH'
            });
        }
    }
    
    // NaN 검증
    Object.entries(data).forEach(([key, value]) => {
        if (typeof value === 'number' && isNaN(value)) {
            validationResults.push({
                field: key,
                issue: 'NaN_VALUE',
                severity: 'CRITICAL'
            });
        }
    });
    
    return validationResults;
}

📈 성과 및 효과

정량적 개선 효과

지표	이전	개선 후	개선율
문제 감지 시간	평균 4-24시간	5분 이내	95% 단축
대응 완료 시간	평균 1-3일	1시간 이내	90% 단축

정성적 개선 효과

• 개발팀 생산성 향상: 반복적인 데이터 검증 작업이 자동화되어 개발에 집중할 수 있게 되었습니다
• 운영팀 신뢰도 향상: 안정적인 데이터 제공으로 운영팀과의 신뢰 관계가 크게 개선되었습니다
• 시스템 안정성 강화: 사전 예방적 관리로 장애 발생률이 현저히 감소했습니다
• 데이터 거버넌스 확립: 체계적인 데이터 품질 관리 프로세스가 정립되었습니다

📊 핵심 성과

가장 중요한 성과는 "조용한 에러 제로화"입니다. 기존 모니터링 도구들이 감지하지 못했던 데이터 품질 문제들을 완벽하게 차단할 수 있게 되었습니다.

---

🎯 결론

이번 데이터 품질 관리 시스템 개발을 통해 단순한 모니터링을 넘어선 도메인 특화 데이터 품질 보증 플랫폼을 구축할 수 있었습니다. 특히 기존 도구들이 감지하지 못하는 "조용한 에러"를 실시간으로 포착하고 대응할 수 있게 된 것이 가장 큰 성과라고 생각합니다.

무엇보다 기존에 있었던 문제를 해결하고자 스스로 업무를 만들어 기획, 디자인, 프론트엔드 개발, 백엔드 개발 등 모든 과정에 혼자 참여하고 주도적으로 성과를 얻어내게 되어 감회가 새롭습니다

"완벽한 코드는 없지만, 완벽한 모니터링은 가능하다. 중요한 것은 문제를 빠르게 발견하고 신속하게 대응하는 것이다."