8.1 머신러닝 시스템 장애 원인

• 운영상 기대치를 어기는 문제는 감지하기가 보다 쉽다. 보통 시간 초과, 웹 페이지의 404 오류, 메모리 부족 오류, 세그멘테이션 결함 등 운영 중단을 수반하기 때문이다. 반면에 ML 성능상 기대치를 어기는 문제는 프로덕션 환경에서 ML 모델 성능을 측정하고 모니터링해야 하므로 감지하기가 보다 어렵다. 경우에 따라 ML 시스템은 종종 조용히 실패 fail silently한다고 한다.

8.1.1 소프트웨어 시스템 장애

• 소프트웨어 시스템 장애는 ML에 속하지 않는 시스템에서 발생하는 장애이다.

• 몇가지 예시

  의존성 장애	시스템이 의존성을 갖는 소프트웨어 패키지 혹은 코드베이스에 중단이 발생해 시스템이 중단되는 경우이다. 서드 파티가 의존성을 유지 관리할 대 흔히 발생하며, 의존성을 유지 관리하는 서드 파티가 더 이상 존재하지 않는 경우 특히 자주 발생한다.
  배포 실패	배포 오류로 인한 실패이다. 예를 들어, 모델의 현재 버전 대신 실수로 이전 버전 바이너리를 배포하거나 시스템에 특정 파일을 읽거나 쓰는 권한이 없는 경우이다.
  하드웨어 오류	CPU나 GPU처럼 모델 배포에 사용되는 하드웨어가 제대로 작동하지 않는 경우이다.
  다운타임 또는 충돌	시스템 구성 요소가 다른 곳에 있는 서버, 예컨대 AWS나 호스팅 서비스에서 실행되는 경우 해당 서버가 다운되면 시스템도 따라서 다운된다.

8.1.2 머신러닝 한정 장애

• ML 한정 장애는 ML 시스템과 관련된 장애이다. ML 한정 장애는 전체 장애에서 차지하는 비중은 낮지만 탐지하거나 수정하기 어렵고 ML 시스템이 온전히 사용되지 못하게 하므로 ML이 아닌 영역의 장애보다 훨씬 더 위험하다.
• 장애의 종류
  • 데이터 문제 → Chapter 4
  • 하이퍼파라미터 조정 → Chapter 6
  • 훈련과 추론을 위해 개별 파이프라인 두 개를 보유하는 일의 위험 → Chapter 7
  • 프로덕션 환경 데이터가 훈련 데이터와 다른 경우
    • ML 교과 과정에서 먼저 배우는 것 중 하나는 훈련 데이터와 본 적 없는 데이터가 유사한 분포에서 나와야 한다는 점이다. 즉, 본 적 없는 데이터를 훈련 데이터 분포와 동일한 정상 분포stationary distribution에서 추출했다고 가정한다. 본 적 없는 데이터를 다른 분포에서 추출하면 모델이 제대로 일반화되지 않을 수 있다.
    • 이 가정은 대개 올바르지 않다.
      • 이유 1. 실제 데이터에 내재된 분포는 훈련 데이터에 내재된 분포와 같지 않을 수 있다. 훈련 데이터셋이 모델이 프로덕션 환경에서 접할 데이터를 정확하게 표현하도록 큐레이팅하기는 매우 어렵다. 현실 데이터는 다면적이고 많은 경우에 변형이 무한에 가까운 반면 훈련 데이터는 유한하고 데이터셋 생성과 처리에 사용할 수 있는 시간, 연산과 인적 자원에 의해 제한된다. 또 다양한 종류의 선택이나 샘플링 편향이 존재하며, 따라서 현실 데이터가 훈련 데이터와 매우 달라진다. 이러한 데이터 분포의 차이는 다른 유형의 이모티콘 인코딩을 사용하는 현실 데이터처럼 매우 사소한 것에 기인할 수 있다. 이러한 유형의 차이는 훈련-서빙 편향train-serving skew라는 흔한 장애 모드를 야기하는데, 이는 모델이 개발 시에는 훌륭하지만 배포 후 성능이 그다지 좋지 않은 현상이다.
      • 이유 2. 현실 세계는 정상성stationary을 갖지 않는다. 모든 것은 변하며 데이터 분포는 시프트한다. 또 다른 흔한 장애 모드는 모델이 처음 배포될 때는 훌륭하게 작동하지만 시간에 따라 데이터 분포가 변하면서 성능이 저하되는 것이다.
    • 모니터링 대시보드에서 데이터 시프트처럼 보이는 것들은 사실 대부분 내부 오류이다. 그 원인은 ML 시스템의 복잡성과 잘못된 배포 관행이다.
  • 에지 케이스 edge case
    • 에지 케이스란 너무 극단적이어서 모델이 치명적인 실수를 하게 되는 데이터 샘플을 말한다. 에지 케이스는 보통 동일한 분포에서 나온 데이터 샘플이지만, 모델이 잘 작동하지 않는 데이터 샘플 수가 급증했다면 내재된 데이터 분포가 시프트하지 않았나 의심해볼 수 있다.
    • 에지 케이스와 이상치의 차이점
      • 에지 케이스의 구성 요소에 대한 정의는 분야에 따라 다르다. ML은 최근에야 프로덕션 환경에 도입되기 시작했으므로 이제 케이스가 계속 발견되고 있다. 따라서 용어 정의에 논란의 여지가 있다.
      • 이 책에서 이상치란 다른 데이터 포인트와 성질이 크게 다른 데이터 포인트 데이터를 의미한다. 한편 에지 케이스는 성능을 의미하며, 한 가지 예는 다른 데이터 포인트보다 모델 성능이 크게 뒤떨어지는 데이터 포인트이다.
  • 퇴행성 피드백 루프 degenerate feedback loop
    • 피드백 루프는 예측값을 제시한 다음 예측값에 대한 피드백이 되돌아올 때까지 걸리는 시간을 의미한다. 피드백은 자연 레이블을 추출해 모델 성능을 평가하고 다음번 훈련을 반복하는 데 사용 가능하다.
    • 퇴행성 피드백 루프는 예측 자체가 피드백에 영향을 미치고, 이 피드백이 모델의 다음번 반복 학습에 영향을 미칠 때 발생한다. 퇴행성 피드백 루프는 시스템의 출력을 시스템의 미래 입력을 생성하는 데 사용할 때 발생하며, 이것은 시스템의 미래 출력에 다시금 영향을 미친다. 시스템과 사용자의 상호 작용은 때때로 같은 시스템에 대한 훈련 데이터로 사용되므로 퇴행성 피드백 루프가 발생하면서 의도하지 않은 결과를 초래할 수 있다. 퇴행성 피드백 루프는 추천 시스템과 광고 클릭률 예측 등 사용자에게서 획득한 자연 레이블이 존재하는 작업에서 특히 흔하다.
    • 퇴행성 피드백 루프는 인기 있는 영화, 도서 또는 음악이 점점 더 인기를 얻는 이유를 설명하는 한 가지 요소이다. 이 현상은 ‘노출 편향’, ‘인기도 편향’, ‘필터 거품’, 때로는 ‘에코 체임버’등 다양한 용어로 불린다.
    • 퇴행성 피드백 루프 감지
      • 시스템이 오프라인일 때는 퇴행성 피드백 루프를 감지하기 어렵다. 퇴행성 루프틑 사용자 피드백으로 인해 발생하는데 시스템이 온라인 상태가 되기 전까지는, 즉 사용자에게 배포되기 전까지는 사용자가 존재하지 않기 때문이다.
    • 퇴행성 피드백 루프 교정
      1. 무작위화
         1. 퇴행성 피드백 루프로 인해 시간에 따라 시스템 출력이 점차 단조로워질 수 있다. 예측에 무작위화를 도입하면 이런 단조로움을 줄일 수 있다.
         2. 무작위화는 다양성을 개선하는 한편 사용자의 경험을 저하한다. 제품이 항목을 계속 무작위로 보여주면 사용자는 해당 제품에 대한 흥미를 완전히 잃을 수 있다.
      2. 위치 피처 positional feature
         1. 예측값이 보여지는 위치가 피드백에 어떤 식으로든 영향을 미치는 경우 위치 피처를 사용해 위치 정보를 인코딩할 수 있다. 위치 피처는 숫자(ex. 위치가 1,2,3..) 혹은 Bool(ex. 예측값이 첫 번째 위치에 보이는지 여부)이다.

8.2 데이터 분포 시프트

• 데이터 분포 시프트는 지도 학습에서 모델이 동작하는 데이터가 시간에 따라 변하는 현상으로, 이에 따라 모델 예측도 시간이 지날수록 덜 정확해진다. 모델이 훈련된 데이터의 분포를 원본 분포source distribution라고 하며 모델이 추론을 실행하는 데이터의 분포를 대상 분포target distribution라고 한다.

8.2.1 데이터 분포 시프트 유형

• 데이터 분포 시프트는 종종 개념 드리프트concept drift, 공변량 시프트 covariance shift, 때때로 레이블 시프트label shift와 동일한 의미로 사용되지만, 이 세 가지 개념은 데이터 시프트의 하위 유형이다.
• 데이터 시프트를 감지하고 해결하는 효율적인 알고리즘을 개발하려면 시프트 원인을 이해해야 한다.
• 수학적 표기법 정의

  • 모델에 대한 입력 = X, 출력 = Y

  • 지도 학습에서 훈련 데이터는 결합 분포 P(X, Y)의 샘플 집합으로 볼 수 있으며 ML은 일반적으로 P(Y|X)를 모델링한다. 이 결합 분포 P(X, Y)는 두 가지 방식으로 분해된다.

    • P(X, Y) = P(Y|X)P(X)
    • P(X, Y) = P(X|Y)P(Y)
    • P(Y|X)는 입력이 주어졌을 때 출력의 조건부 확률을 나타낸다. P(X)는 입력의 확률 밀도 함수를 나타내며, P(Y)는 출력의 확률 밀도 함수를 나타낸다.

    | 공변량 시프트 Covariate shift | P(X)가 변하지만 P(Y|X)는 동일하게 유지된다. 첫 번째 분해식에 해당한다. | | --- | --- | | 레이블 시프트 Label shift | P(Y)가 변하지만 P(X|Y)는 동일하게 유지된다. 두 번째 분해식에 해당한다. | | 개념 드리프트 Concept drift | P(Y|X)가 변하지만 P(X)는 동일하게 유지된다. 첫 번째 분해식에 해당한다. |

• 공변량 시프트
  • 공변량 시프트는 많이 연구된 데이터 분포 시프트 유형 중 하나이다. 통계학에서 공변량은 주어진 통계적 시행 결과에 영향을 미칠 수 있지만 직접적인 관심 대상은 아닌 독립변수이다.
  • 수학적으로, 공변량 시프트는 P(X)가 변하지만 P(Y|X)는 동일하게 유지되는 경우이다. 즉, 입력의 분포는 변하지만 입력이 주어졌을 때 출력의 조건부 확률은 동일하게 유지된다.
  • 모델 개발 시 데이터 선택 프로세스에 내재된 편향 때문에 공변량 시프트가 발생할 수 있다. 이 편향이 생기는 이유는 특정 클래스의 샘플을 수집하기가 어렵기 때문이다. 공변량 시프트는 샘플 선택 편향 문제와 밀접하게 관련된다.
  • 공변량 시프트는 모델이 좀 더 쉽게 학습할 수 있도록 훈련 데이터를 인위적으로 변경할 때 발생하기도 한다.
  • 공변량 시프트는 모델 학습 프로세스, 특히 능동적 학습 프로세스 때문에 생기기도 한다. 능동적 학습의 정의는 모델을 훈련할 샘플을 무작위로 선택하는 대신 휴리스틱에 따라 해당 모델에 가장 유용한 샘플을 선택하는 방법이다. 즉, 훈련 입력 분포가 실제 입력 분포와 다르게 학습 프로세스에 의해 변경되면서 공변량 시프트가 의도치 않게 동반된다.
  • 프로덕션 환경에서 공변량 시프트는 일반적으로 환경 혹은 애플리케니션 사용 방식이 크게 변함에 따라 발생한다.
  • 실제 입력 분포가 훈련 입력 분포와 어떻게 다를지 미리 알 수 있다면 중요 가중치 조정importance weighting과 같은 기술로 현실 데이터에 대해 잘 작동하도록 모델을 훈련할 수 있다. 중요도 가중치 조정은 두 단계로 구성된다. 실제 입력 분포와 학습 입력 분포 간의 밀도 함수 비율을 추정한 다음, 이 비율에 따라 학습 데이터에 가중치를 부여하고 이 가중치로 ML 모델을 학습한다. 그러나 현실에서는 분포가 어떻게 변할지 미리 알 수 없다.
• 레이블 시프트
  • 레이블 시프트는 P(Y)가 변하지만 P(X|Y)가 동일하게 유지되는 경우를 말하며 사전 시프트, 사전 확률 시프트, 목표 시프트라고도 한다. 출력 분포가 변하지만 주어진 출력에 대한 입력 분포는 동일하게 유지되는 경우로 생각하면 된다.
  • 앞서 살펴본 공변량 시프트는 입력 분포가 변하는 경우이다. 입력 분포가 변하면 출력 분포도 변해 공변량 시프트와 레이블 시프트가 동시에 발생한다. 하지만 공변량 시프트가 반드시 레이블 시프트를 동반하는 것은 아니다.
  • 레이블 시프트는 공변량 시프트와 밀접하게 관련되므로 모델이 감지하고 레이블 시프트에 맞게 조정하는 방법은 공변량 시프트 시의 조정 방식과 비슷하다.
• 개념 드리프트
  • 사후 시프트posterior shift라고도 하는 개념 드리프트concept drift는 입력 분포가 동일하게 유지되지만 정해진 입력에 대한 출력의 조건부 분포가 변하는 경우이다. ‘동일한 입력, 상이한 출력’으로 생각하면 된다.
  • 많은 경우 개념 드리프트는 주기적이거나 계절적이다.