4.1 샘플링

• 샘플링은 ML 워크플로에서 핵심임에도 일반적으로 ML 프로세스에서 그 중요성을 종종 간과하곤 한다.

4.1.1 비확률 샘플링

• 비확률 샘플링은 데이터를 확률이 아닌 기준에 의거해 선택하는 방법

• 비확률 샘플링에서 사용하는 기준

  편의 샘플링 Convenience sampling	데이터 샘플을 가용성에 의거해 선택한다. 사용하기 편해서 인기가 많은 방법이다.
  눈덩이 샘플링
  Snowball sampling	기존 샘플을 기반으로 미래의 샘플을 선택한다.
  판단 샘플링
  Judgement sampling	전문가가 어떤 샘플을 포함할지 결정한다.
  할당 샘플링
  Quota sampling	무작위화randomization 없이 특정 데이터 그룹별 할당량에 의거해 샘플을 선택한다.

  • 확률이 아닌 기준으로 선택한 샘플은 실데이터를 잘 대표하지 못하고 선택 편향이 강하다.

• 비확률 샘플링은 빠르고 편해 프로젝트 초창기에 데이터를 수집하고 업무를 시작하는 단계에 사용할 말하다. 하지만 신뢰성 있는 모델이라면 확률 기반 샘플링을 사용해야 한다.

4.1.2 단순 무작위 샘플링

• 가장 단순한 형태의 무작위 샘플링이라면 모집단의 각 샘플이 선택될 확률이 모두 동일하다.
• 단순 무작위 샘플링은 구현이 쉽다는 장점이 있다. 반면에 단점은 드물게 발생하는 범주의 데이터가 포함되지 않을 수 있다는 점이다.

4.1.3 계층적 샘플링

• 계층적 샘플링 stratified sampling은 모집단을 상이한 성질의 그룹으로 나눈 뒤 각 그룹에 개별적으로 샘플링을 수행해 단순 무작위 샘플링의 단점을 극복한다.
• 계층적 샘플링은 항상 가능하지는 않다는 단점이 있다. 모든 샘플을 원하는 그룹으로 나누는 일 자체가 불가능할 때도 있다. 다중 레이블 작업처럼 한 샘플이 여러 그룹에 속한다면 특히나 까다롭다.

4.1.4 가중 샘플링

• 가중 샘플링 weighted sampling에서는 각 샘플에 가중치가 있고 이를 기반으로 샘플이 선택될 확률이 결정된다.
• 가중 샘플링과 밀접하게 관련된 ML 개념 한 가지는 샘플 가중치sample weight이다. 가중 샘플링은 모델을 훈련할 샘플을 사용하는데 사용하는 반면 샘플 가중치는 훈련 샘플에 ‘가중치’또는 ‘중요도’를 할당하는데 사용한다.