04 // इंटरएक्टिव सूत्र संकलन // सांख्यिकीय वितरण, प्रतिगमन और एन्ट्रॉपी सूत्रH(X) = −∑ p_i · log₂(p_i), C = B · log₂(1 + S/N)
शैनन सूचना एन्ट्रॉपी (Shannon Entropy) और चैनल क्षमता सूत्र
बिना डेटा खोए संपीड़न के लिए प्रति प्रतीक न्यूनतम आवश्यक बिट्स H(X) और शोरयुक्त संचार चैनल की अधिकतम क्षमता C के मूल सूत्र।
सूत्र संदर्भ
मुख्य सूत्र
H(X) = −∑ p_i · log₂(p_i), C = B · log₂(1 + S/N)
अन्य रूप
H_binary(p) = −p·log₂(p) − (1−p)·log₂(1−p)
D_KL(P ∥ Q) = ∑ p_i · log₂(p_i / q_i)
चर और इकाइयाँ
| Symbol | Name | Unit |
|---|---|---|
| H | Binary Entropy H(p) | bits / symbol |
| p | Symbol Probability p | 0–1 |
| M | Equiprobable Alphabet Size M (info log₂M) | symbols |
इनपुट और मान
[0–1]
[symbols]
गणना का परिणाम (Binary Entropy H(p))
H =0.811278bits / symbol
सूत्र की जानकारी और आधार
- Claude Shannon (1948) proved H(X) = −∑ p_i log₂(p_i) is the unique continuous, symmetric, additive functional measuring uncertainty up to a logarithmic base factor.
- Base-2 logarithms yield 'bits' (shannons); natural logarithms yield 'nats' (1 nat = 1/ln2 ≈ 1.4427 bits).
हल किए गए उदाहरण
#1: Binary source emitting '1' with probability p = 0.25 and '0' with probability 0.75.
p = 0.251 − p = 0.75
H = −0.25·log₂(0.25) − 0.75·log₂(0.75) = 0.500 + 0.3113
→ H = 0.8113 bits/symbol (compresses ~18.9% below 1 raw bit/symbol)
#2: Shannon-Hartley capacity of a B = 20 MHz wireless channel at SNR = 31 (≈ 14.9 dB).
B = 20 MHzS/N = 31
C = 20 × 10⁶ × log₂(1 + 31) = 20 × 10⁶ × 5
→ C = 100 Mbps theoretical error-free limit
क्या यह टूल आपके लिए उपयोगी रहा?
अक्सर पूछे जाने वाले प्रश्न (FAQ)
शैनन सूचना एन्ट्रॉपी (Shannon Entropy) और चैनल क्षमता सूत्र ऑनलाइन टूल कैसे काम करता है?+
अपने मान दर्ज करें या स्लाइडर समायोजित करें—यह टूल आपके ब्राउज़र में तुरंत शैनन सूचना एन्ट्रॉपी (Shannon Entropy) और चैनल क्षमता सूत्र (सूत्र: H(X) = −∑ p_i · log₂(p_i), C = B · log₂(1 + S/N)) की गणना और विज़ुअलाइज़ेशन करता है। बिना डेटा खोए संपीड़न के लिए प्रति प्रतीक न्यूनतम आवश्यक बिट्स H(X) और शोरयुक्त संचार चैनल की अधिकतम क्षमता C के मूल सूत्र।
क्या मैं शैनन सूचना एन्ट्रॉपी (Shannon Entropy) और चैनल क्षमता सूत्र के परिणाम डाउनलोड या प्रिंट कर सकता हूँ?+
हाँ, आप तुरंत उच्च-रिज़ॉल्यूशन SVG, PNG, CSV डाउनलोड कर सकते हैं या वर्कशीट प्रिंट कर सकते हैं।
क्या मैं शैनन सूचना एन्ट्रॉपी (Shannon Entropy) और चैनल क्षमता सूत्र में उदाहरण डेटा साफ़ करके शून्य से शुरू कर सकता हूँ?+
हाँ, टूल के ऊपर दिए गए क्लीयर बटन पर क्लिक करके आप सभी इनपुट खाली कर सकते हैं और कभी भी सैंपल डेटा वापस लोड कर सकते हैं।