احتمال شرطی و استقلال پیشامدها

نگاه کلی: آمار در برابر احتمال

دو علم مکمل یکدیگرند اما جهت حرکت اطلاعات در آن‌ها متفاوت است:

آمار: از نمونه به جامعه حرکت می‌کند — جامعه نامعلوم است و با نمونه‌گیری آن را می‌شناسیم.
احتمال: از جامعه (با ویژگی معلوم) به نمونه حرکت می‌کند — می‌خواهیم رفتار نمونه‌های تصادفی را پیش‌بینی کنیم.

نکته طلایی: آمار یعنی «استنتاج از جزء به کل»؛ احتمال یعنی «پیش‌بینی از کل به جزء».

فضای نمونه و پیشامد

فضای نمونه $S$ ادامهٔ فرمول را افقی ببین: مجموعه همهٔ برآمدهای ممکن یک آزمایش تصادفی.
پیشامد: هر زیرمجموعه از $S$ ادامهٔ فرمول را افقی ببین.
اگر $A \subseteq B$ ادامهٔ فرمول را افقی ببین، رخ دادن $A$ ادامهٔ فرمول را افقی ببین نتیجه می‌دهد $B$ ادامهٔ فرمول را افقی ببین هم رخ داده است.
رخ دادن $A\cap B$ ادامهٔ فرمول را افقی ببین یعنی هر دو رخ داده‌اند؛ رخ دادن $A\cup B$ ادامهٔ فرمول را افقی ببین یعنی حداقل یکی.

اصول و قضایای احتمال

0 \le P(A) \le 1,\qquad P(S)=1

اگر $A\cap B=\emptyset$ ادامهٔ فرمول را افقی ببین (ناسازگار): $P(A\cup B)=P(A)+P(B)$ ادامهٔ فرمول را افقی ببین

قضایای مهم:

P(A')=1-P(A)\qquad P(\emptyset)=0

P(A\cup B)=P(A)+P(B)-P(A\cap B)\qquad P(A-B)=P(A)-P(A\cap B)

اگر $B\subseteq A$ ادامهٔ فرمول را افقی ببین آنگاه $P(A-B)=P(A)-P(B)$ ادامهٔ فرمول را افقی ببین و $P(B)\le P(A)$ ادامهٔ فرمول را افقی ببین.

احتمال غیرهم‌شانس

وقتی برآمدها شانس یکسان ندارند، $P(A)$ ادامهٔ فرمول را افقی ببین برابر مجموع احتمال برآمدهای تشکیل‌دهندهٔ آن است.

مثال: احتمال قهرمانی ۴ تیم $a,b,c,d$ ادامهٔ فرمول را افقی ببین: $P(a)=P(b)=P(c)=x,\ P(d)=2x$ ادامهٔ فرمول را افقی ببین. از $5x=1$ ادامهٔ فرمول را افقی ببین: $x=1/5$ ادامهٔ فرمول را افقی ببین، پس $P(d)=2/5$ ادامهٔ فرمول را افقی ببین.

احتمال شرطی و قوانین وابسته

P(A|B)=\frac{P(A\cap B)}{P(B)}\qquad(P(B)>0)

قانون ضرب: $P(A\cap B)=P(A)\cdot P(B|A)=P(B)\cdot P(A|B)$ ادامهٔ فرمول را افقی ببین

قانون احتمال کل: اگر $B_1,\dots,B_n$ ادامهٔ فرمول را افقی ببین افرازی از $S$ ادامهٔ فرمول را افقی ببین باشند (دوبه‌دو ناسازگار و اجتماعشان $S$ ادامهٔ فرمول را افقی ببین):

P(A)=\sum_{i=1}^{n}P(B_i)\cdot P(A|B_i)

قانون بیز:

P(B_i|A)=\frac{P(B_i)\cdot P(A|B_i)}{\sum_j P(B_j)\cdot P(A|B_j)}

استقلال پیشامدها

P(A\cap B)=P(A)\cdot P(B) \iff A,B\ \text{مستقل}

معادل: $P(A|B)=P(A)$ ادامهٔ فرمول را افقی ببین و $P(B|A)=P(B)$ ادامهٔ فرمول را افقی ببین. اگر $A,B$ ادامهٔ فرمول را افقی ببین مستقل باشند، $A',B$ ادامهٔ فرمول را افقی ببین و $A,B'$ ادامهٔ فرمول را افقی ببین و $A',B'$ ادامهٔ فرمول را افقی ببین نیز مستقل‌اند.

نکتهٔ مهم: ناسازگاری با استقلال یکی نیست! دو پیشامد ناسازگارِ ناتهی هرگز نمی‌توانند مستقل باشند، چون $P(A\cap B)=0$ ادامهٔ فرمول را افقی ببین در حالی که $P(A)\cdot P(B)\neq 0$ ادامهٔ فرمول را افقی ببین.

در انتخاب با جای‌گذاری، انتخاب‌ها همیشه مستقلند؛ در انتخاب بدون جای‌گذاری از جامعهٔ بزرگ می‌توان با تقریب خوبی فرض استقلال کرد.

نمودار درختی و مثال‌های کنکوری

برای مسائل چندمرحله‌ای، نمودار درختی احتمال هر مسیر را از ضرب شاخه‌ها می‌دهد.

مثال بیز: سه صندوق سیب (شمالی ۱۰٪ لکه‌دار، مرکزی ۳٪، جنوبی ۵٪) داریم. صندوقی تصادفی انتخاب و سیبی از آن لکه‌دار درمی‌آید:

P(\text{شمالی}|\text{لکه})=\frac{\frac13\times0.1}{\frac13\times0.1+\frac13\times0.03+\frac13\times0.05}\approx0.556

مثال استقلال: پرتاب هم‌زمان سکه و تاس؛ $P(\text{رو})\cdot P(6)=\frac12\cdot\frac16=\frac1{12}=P(\text{رو}\cap 6)$ ادامهٔ فرمول را افقی ببین — پس مستقل‌اند.

مثال حداقل یک موفقیت: احتمال قبولی زهرا ۰.۹ و ریحانه ۰.۷؛ احتمال قبولی حداقل یکی:

P(A\cup B)=0.9+0.7-(0.9\times0.7)=0.97

جمع‌بندی فرمول‌های طلایی

مفهوم	فرمول
متمم	$P(A')=1-P(A)$ ادامهٔ فرمول را افقی ببین
قانون جمع	$P(A\cup B)=P(A)+P(B)-P(A\cap B)$ ادامهٔ فرمول را افقی ببین
احتمال شرطی	$P(A\|B)=\dfrac{P(A\cap B)}{P(B)}$ ادامهٔ فرمول را افقی ببین
قانون ضرب	$P(A\cap B)=P(A)\cdot P(B\|A)$ ادامهٔ فرمول را افقی ببین
احتمال کل	$P(A)=\sum P(B_i)P(A\|B_i)$ ادامهٔ فرمول را افقی ببین
بیز	$P(B_i\|A)=\dfrac{P(B_i)P(A\|B_i)}{\sum P(B_j)P(A\|B_j)}$ ادامهٔ فرمول را افقی ببین
استقلال	$P(A\cap B)=P(A)\cdot P(B)$ ادامهٔ فرمول را افقی ببین

خلاصه‌ی درسنامه