Skip to Content
Data Engineering런칭 데이터와 계정 식별자를 분석 파이프라인에 연결하기
📊 Data Engineering2022년 9월 12일

런칭 데이터와 계정 식별자를 분석 파이프라인에 연결하기

#e-commerce#nike-korea-migration#data-pipeline#data-engineering
Nike Korea Platform Migration · Series 2 - 글로벌 마이그레이션 준비10 / 10Data Engineering
플랫폼 전환 이후 런칭 데이터를 글로벌 분석에 연결하며, 데이터 형식과 계정 식별자·집계 기준을 함께 확인한 내용을 정리합니다.

한국 플랫폼을 글로벌 플랫폼으로 전환하면서 분석용 데이터도 새 체계에 연결해야 했습니다. SNKRS와 The Draw의 런칭 데이터를 글로벌 분석 파이프라인에 전달하고, 계정 식별자도 기존 데이터와 이어지도록 맞추는 작업이었습니다.

고객 화면이 정상적으로 바뀌더라도 분석에 쓰는 데이터와 집계 기준은 따로 확인해야 했습니다.

런칭 데이터의 집계 기준

런칭 데이터에는 참여와 결과처럼 서로 다른 사건이 포함됩니다. 어떤 데이터를 전달하는지뿐 아니라 무엇을 한 건으로 세는지도 맞춰야 합니다.

예를 들어 참여 수와 참여자 수는 같지 않을 수 있습니다. 이런 차이를 구분하지 않고 필드 이름만 맞추면 원본과 분석 결과의 숫자가 달라졌을 때 원인을 찾기 어렵습니다. 전달하는 데이터의 의미와 집계 기준을 함께 확인해야 했습니다.

글로벌 계정 식별자 연결

기존 플랫폼의 계정 키와 글로벌 계정 식별자는 달랐습니다. 전환 전후 기록을 연결하려면 두 식별자의 관계가 분석 데이터에서도 유지돼야 했습니다.

계정 매핑이 빠지면 같은 사람의 기록을 연결하지 못할 수 있고, 잘못 연결하면 다른 사람의 기록이 섞일 수 있습니다. 서비스의 과거 주문 조회를 위한 계정 연결과 마찬가지로, 데이터를 읽는 쪽에서도 식별자의 의미를 맞춰야 했습니다.

데이터 형식과 상태값 변환

기존 구조와 글로벌 분석에서 기대하는 구조가 달라 변환이 필요했습니다. 이때는 필드의 타입뿐 아니라 상태값이 의미하는 업무 단계도 확인해야 합니다.

시간과 날짜의 기준도 함께 봐야 합니다. 같은 이벤트라도 시간대나 집계 구간이 다르면 일별 건수가 달라질 수 있습니다. 원본과 결과를 비교할 때 이런 조건을 먼저 맞춰야 단순 지연인지 변환 문제인지 구분할 수 있습니다.

연결 이후의 결과 확인

데이터를 전달한 뒤에는 원본 기록과 분석에서 보이는 결과를 비교했습니다. 파이프라인을 거쳐 반영되는 시간도 있어, 아직 처리 중인 데이터를 누락으로 판단하지 않도록 확인할 필요가 있었습니다.

확인할 때는 같은 기간과 같은 대상을 기준으로 건수와 상태를 보고, 차이가 나면 개별 기록까지 따라가는 방식이 필요했습니다. 서비스 전환 이후에도 데이터 연계가 별도 작업으로 남았던 이유입니다.

다음 글에서는 컷오버 직전 확인한 항목을 다룹니다.

Last updated on