आज linear algebra से break। Statistics।
यह हिस्सा असली काम से सीधे जुड़ता है, इसलिए मुझे सबसे मज़ा आया।
Problem क्या है
मान लीजिए आपके सामने यह सवाल है: “क्या metro के customers non-metro से कम उम्र में policy खरीदते हैं?”
आपके पास data है। दोनों groups का average निकाल लिया। Metro = 33.8 साल, non-metro = 38.6 साल।
फर्क दिख रहा है। लेकिन सवाल यह है — यह फर्क असली है, या सिर्फ इसलिए दिख रहा है क्योंकि आपने जो 500 customers उठाए वो संयोग से ऐसे निकल आए?
यही statistics का काम है। और इसके लिए test होते हैं।
चार test, चार situations
1. दो groups के average compare करने हैं → t-test
Metro vs non-metro। Male vs female। Urban vs rural।
दो groups, average की तुलना।
2. तीन या ज़्यादा groups के average → ANOVA
चार distribution channels का average। पाँच regions का average claim।
जैसे ही groups तीन या ज़्यादा हुए, t-test छोड़कर ANOVA।
3. एक ही चीज़ को दो बार नापा → paired t-test
यह अलग है, ध्यान दीजिए। वही 50 claims, नया workflow लगाने से पहले और बाद में।
Groups अलग नहीं हैं — एक ही group, दो बार measured।
4. दोनों चीज़ें category हैं → chi-square
“Policy type (health/life/auto)” और “claim approve हुआ या नहीं”।
यहाँ कोई average नहीं है। सिर्फ categories और counts।
याद रखने का तरीका
खुद से दो सवाल पूछिए:
पहला — मैं average compare कर रहा हूँ या categories?
- Average → t-test या ANOVA
- Categories → chi-square
दूसरा — कितने groups?
- दो → t-test
- तीन+ → ANOVA
- एक ही group दो बार → paired t-test
बस। इससे ज़्यादा कुछ नहीं।
अब p-value
Test चलाने पर एक number आता है — p-value। यही पूरा जवाब है।
P-value एक ही सवाल का जवाब देता है:
अगर असल में कोई फर्क नहीं होता, तो ऐसा result मिलने की कितनी संभावना थी?
छोटा p (0.05 से कम) → “ऐसा result तो बिना फर्क के मुश्किल से आता।” मतलब फर्क असली है।
बड़ा p (0.05 से ज़्यादा) → “ऐसा result तो आम बात है।” मतलब कोई सबूत नहीं मिला।
Examples:
- p = 0.002 → फर्क असली है
- p = 0.45 → कुछ नहीं मिला
- p = 0.08 → borderline, लेकिन 0.05 से ऊपर है इसलिए “नहीं”
एक बात जो मुझे ठीक करनी पड़ी
जब p बड़ा आता है, हम कहते हैं “फर्क नहीं मिला” — यह नहीं कहते कि “फर्क नहीं है”।
अंतर बारीक है लेकिन ज़रूरी है।
हो सकता है फर्क हो, लेकिन आपका sample इतना छोटा हो कि पकड़ में न आए। सबूत न मिलना और सबूत का न होना — दो अलग चीज़ें हैं।
Court वाली बात है। “Not guilty” का मतलब “innocent” नहीं होता। मतलब होता है “साबित नहीं हुआ”।
और सबसे ज़रूरी बात
यह वाली मुझे सबसे useful लगी।
मैंने एक chi-square test चलाया — policy type vs claim rejection। p आया 0.00000008। बहुत छोटा। Highly significant।
लेकिन फिर effect size निकाला — 0.18। यानी relationship है, पर बहुत कमज़ोर।
दोनों बातें एक साथ सच थीं।
ऐसा क्यों होता है? क्योंकि बड़े sample में छोटी से छोटी चीज़ भी significant निकल आती है। 1 लाख rows हैं तो 0.2% का फर्क भी p < 0.05 दे देगा। असली है, पर काम की नहीं।
यह रोज़ होता है। कोई dashboard दिखाता है “region significantly affects fraud rate, p = 0.002″। सब हिल जाते हैं। कोई नहीं पूछता कि फर्क कितना बड़ा है। फिर एक पूरी team तीन महीने 0.3% के पीछे लगा दी जाती है।
इसलिए हमेशा दोनों देखिए — p-value और effect size। सिर्फ “significant” कहना लगभग बेकार है।
Report में क्या लिखें
गलत तरीका:
“Region significantly affects claim amount (p = 0.002)”
सही तरीका:
“उस region के claims औसतन ₹18,000 से ₹34,000 ज़्यादा हैं (p = 0.002)”
पहला वाला किसी committee को कुछ नहीं बताता। दूसरा बताता है कि यह चीज़ काम की है या नहीं।
अगली post
यही tests Python में कैसे चलाएँ। Code तीन line का है — असली मेहनत data को सही shape में लाने की है।