[전공서적] Statistical inference (chapter 1.1 확률 이론의 기초)

챕터 1에 대해서는 결론부터 말씀 드리는게 좋을 듯 합니다. 

확률 이론의 첫걸음은 샘플 공간과 사건의 정의에서 시작됩니다. 이러한 기초 개념을 명확히 이해하면, 이후의 확률 계산과 통계적 추론이 더욱 간단해집니다. 

이 부분은 우리가 약속한 정의를 이렇게 표현할 것이다. 정도로만 인지하고 넘어가셔도 무방할 듯 합니다.

 

확률 이론의 첫걸음: 집합론(Set Theory)

확률 이론은 통계학의 근간을 이루는 학문으로, 데이터를 분석하거나 무작위 현상을 이해하는 데 중요한 역할을 합니다. 이 글에서는 확률 이론의 기초가 되는 집합론(Set Theory)을 살펴보겠습니다.

 

샘플 공간(Sample Space)이란?

샘플 공간은 특정 실험에서 발생할 수 있는 모든 가능한 결과의 집합입니다. 이는 확률 계산의 출발점으로, 우리가 다루는 사건(Event)과 확률을 정의하는 데 사용됩니다.

샘플 공간의 예시

1. 동전 던지기:
   • 결과는 앞면(H) 또는 뒷면(T)이 나올 수 있습니다.
   • 샘플 공간: S={H,T}
2. 시험 점수 관찰:
   • 학생들의 SAT 점수를 측정한다면, 점수 범위는 과 같이 정의됩니다.
   • S={200,210,220,...,800}
3. 반응 시간 측정:
   • 반응 시간을 측정하는 실험의 경우, S=(0,∞) 와 같이 양의 실수 전체가 샘플 공간이 됩니다.

 

샘플 공간의 유형

샘플 공간은 원소의 수에 따라 셀 수 있는 샘플 공간과 셀 수 없는 샘플 공간으로 나뉩니다.

1. 셀 수 있는 샘플 공간 (Countable Sample Space)

• 원소가 유한하거나 정수 집합처럼 셀 수 있는 경우.
• 예: 동전 던지기 , SAT 점수 .

2. 셀 수 없는 샘플 공간 (Uncountable Sample Space)

• 원소가 무한대의 연속적 값을 가지는 경우.
• 예: 반응 시간을 초 단위로 측정할 때 .

 

사건(Event)이란?

사건은 샘플 공간에서 특정 조건을 만족하는 부분집합입니다.
예를 들어, 동전 던지기의 샘플 공간 S={H,T} 에서 앞면이 나오는 경우를 나타내는 사건은 A={H} 로 표현됩니다.

 

집합 연산(Set Operations)

확률 계산에서 중요한 집합 연산에는 다음이 포함됩니다.

1. 합집합 (Union)

• 두 사건 와 의 결과를 모두 포함하는 집합.
• 표기: A∪B
• 예: 앞면 또는 뒷면이 나오는 경우.

2. 교집합 (Intersection)

• 두 사건 와 에 공통으로 속하는 결과의 집합.
• 표기: A∩B
• 예: 특정 조건을 동시에 만족하는 경우.

3. 차집합 (Difference)

• 한 사건에는 포함되지만 다른 사건에는 포함되지 않는 결과의 집합.
• 표기: A−B
• 예: 앞면만 포함된 경우.

 

샘플 공간의 중요성

샘플 공간은 사건을 체계적으로 정리하고 확률을 계산하는 데 필수적인 역할을 합니다. 이를 정확히 정의하면 더 복잡한 확률 문제도 효율적으로 해결할 수 있습니다.

 

정리 1.1.4: 집합 연산의 속성

샘플 공간 S에 정의된 임의의 세 사건 A,B,C 에 대해 다음 속성이 성립합니다:

1. 교환 법칙 (Commutativity):
   • A∪B=B∪A (합집합의 교환 법칙)
   • A∩B=B∩A (교집합의 교환 법칙)
2. 결합 법칙 (Associativity):
   • A∪(B∪C)=(A∪B)∪C
   • A∩(B∩C)=(A∩B)∩C
3. 분배 법칙 (Distributive Laws):
   • A∩(B∪C)=(A∩B)∪(A∩C)A 
   • A∪(B∩C)=(A∪B)∩(A∪C)A 
4. 드모르간 법칙 (DeMorgan's Laws):
   • $(A \cup B)^c = A^c \cap B^c$
     (합집합의 여집합은 각 집합의 여집합의 교집합과 동일)
   • $(A \cap B)^c = A^c \cup B^c$
     (교집합의 여집합은 각 집합의 여집합의 합집합과 동일)

---

기본 정의

• 합집합 (Union): A∪B 는 A 또는 B (혹은 둘 다)에 속하는 모든 원소들의 집합.
• 교집합 (Intersection): A∩B는 A와 B 둘 다에 공통으로 속하는 원소들의 집합.
• 여집합 (Complement): c 는 샘플 공간 S에서 A에 포함되지 않은 모든 원소들의 집합.
• 공집합 (Empty Set): ∅ 은 아무 원소도 포함하지 않는 집합.

---

증명의 개요

• 각 속성은 합집합(∪), 교집합(∩), 여집합(c)의 정의를 기반으로 논리적으로 도출됩니다.
• 예를 들어, 드모르간 법칙은 각 원소가 집합에 포함되는 조건을 논리적으로 분석하여 증명할 수 있습니다.
• 이러한 증명은 베른 다이어그램을 사용해 시각적으로 확인할 수도 있습니다.