通信工学概論
Introduction to Communication Engineering
後半第３回講義資料
Second part, Lecture notes 3
連続的な事象の確率
Probability Theory on Continuous Events
豊橋技術科学大学
Toyohashi University of Technology
電気・電子情報工学系
Department of Electrical and Electronic Information Engineering
准教授 竹内啓悟
Associate Professor Keigo Takeuchi
例２.３.１
Example 2.3.1
矢を的に向かって投げたときに、矢の先端が的の 中心点に当たる確率を答えよ。ただし、矢の先端は 的と一点で接するものとする。
Answer the probability with which, in throwing an arrow toward the target, the arrowhead hits the center point of the target. Assume that the arrowhead touches a point on the target.
名手の投げた矢の先端は、的の中心点を中心とする微小円盤上で一様 分布すると仮定する。中心点に当たる確率を𝑝 > 0とすると、円盤内の他 の点に当たる確率も𝑝である。すると、円盤上に点は無限にあるので、微 小円盤内の点に当たる確率の総和が１を超えてしまう。したがって、的の 中心に当たる確率は𝑝 = 0である。
Suppose that, with uniform probability, the arrowhead thrown by an expert player hits a point inside a small disk of which the center is the center point of the target. Assume that the arrowhead hits the center point with probability 𝑝 > 0. Then, the summation of probabilities with which the arrowhead hits points inside the small disk is above 1 because the small disk contains an infinite number of points. Thus, the answer is 𝑝 = 0.
背理法による証明(Proof by contradiction)
連続確率変数の定義(Definition of continuous random variables)
連続確率変数𝑋がすべての区間[𝑎, 𝑏]に含まれる確率を定義すればよい。
Sufficient to define a probability with which a continuous random variable 𝑋 is contained in any interval [𝑎, 𝑏].
連続確率変数では、点ではなく、集合に入る確率を議論する。
For continuous random variables, we discuss an inclusion probability not at a point but inside a set.
定義の方針(Definition direction)
ℙ 𝑋 ∈ 𝑎, 𝑏 =?
例２.３.２(Example 2.3.2)
確率は自由に割り当てられるわけではない。
The probabilities cannot be necessarily set freely.
定義ℙ 𝑋 < 0 = 1/3とℙ 𝑋 ≥ 0 = 1/3の問題点を指摘せよ。
Point out a problem in the definitions ℙ 𝑋 < 0 = 1/3 and ℙ 𝑋 ≥ 0 = 1/3.
ℙ 𝑋 ∈ −∞, ∞ = ℙ 𝑋 < 0 + ℙ 𝑋 ≥ 0 = 2
3 < 1.
加法性(Additivity)
ℙ 𝑋 ∈ 𝑎 , 𝑏 ∪ 𝑐, 𝑑 = ℙ 𝑋 ∈ 𝑎, 𝑏 + ℙ 𝑋 ∈ 𝑐, 𝑑 for 𝑏 < 𝑐
全事象の発生確率が１にならない。(The occurrence probability of all events is not 1.)
例２.３.３(Example 2.3.3)
定義ℙ 𝑋 ∈ [0, 1] = 2/3とℙ 𝑋 ∈ [0, 2] = 1/3の問題点を指摘せよ。
Point out a problem in the definitions ℙ 𝑋 ∈ [0, 1] = 2/3 and ℙ 𝑋 ∈ [0, 2] = 1/3.
ℙ 𝑋 ∈ 1, 2 = ℙ 𝑋 ∈ 0, 2 − ℙ 𝑋 ∈ 0, 1 = −1
3 < 0 単調性
Monotonicity
ℙ 𝑋 ∈ 𝑎, 𝑏 ≤ ℙ(𝑋 ∈ 𝑐, 𝑑 )
区間[𝑎, 𝑏]が区間[𝑐, 𝑑]に含まれるならば、
If the interval [𝑎, 𝑏] is included in the interval [𝑐, 𝑑],
（累積）分布関数
(Cumulative) distribution function 𝑃𝑋 𝑥 = ℙ(𝑋 ≤ 𝑥)
• 𝑃𝑋(𝑥)は単調非減少
• lim
𝑥→∞𝑃𝑋(𝑥) = 1
𝑃𝑋(𝑥) is monotonically non-decreasing.
• lim
𝑥→−∞𝑃𝑋(𝑥) = 0
確率密度関数(Probability density function)
𝑃𝑋(𝑥) = න
−∞
𝑥
𝑝𝑋 𝑥′ 𝑑𝑥′
連続確率変数の定義(Definition of continuous random variables)
以下を満たす関数𝑝𝑋を連続確率変数𝑋の確率密度関数と呼ぶ。
A function 𝑝𝑋 satisfying the following is called the probability density function of a continuous random variable 𝑋.
連続確率変数𝑋は、次ページにまとめる性質を満たす確率密度関数 を与えることで定義される。
A continuous random variable 𝑋 is defined via a probability density function that satisfies properties presented in the next page.
意味(Meaning)
連続確率変数𝑋が、区間[𝑎, 𝑏]に入る確率は以下の積分で与えられる。
A continuous random variable 𝑋 is included in the interval [𝑎, 𝑏] with probability given in the following integral:
ℙ 𝑋 ∈ 𝑎, 𝑏 = න
𝑎 𝑏
𝑝𝑋 𝑥 𝑑𝑥
正規化(Normalization)
න
−∞
∞
𝑝𝑋 𝑥 𝑑𝑥 = 1 非負性(Non-negativity)
𝑝𝑋 𝑥 ≥ 0
∵ 微分積分学の基本定理から、(From the fundamental theorem of calculus)
𝑃𝑋′ 𝑥 = 𝑝𝑋 𝑥 ≥ 0
不等式は分布関数の単調非減少性から従う。
The inequalityis because the distribution function is monotonically non-decreasing.
∵ 性質 lim
𝑥→∞𝑃𝑋 𝑥 = 1から、(From the property lim
𝑥→∞𝑃𝑋 𝑥 = 1)
1 = lim
𝑥→∞𝑃𝑋(𝑥) = න
−∞
∞
𝑝𝑋 𝑥 𝑑𝑥
連続確率変数の期待値(Expectation of a continuous random variable)
区間(−∞, ∞)を𝑁個の区間に分割し、𝑋が(𝑥𝑛, 𝑥𝑛+1]に入る確率を𝑝𝑛とする。
Decompose (−∞, ∞)into 𝑁 intervals and let 𝑝𝑛 denote the probability with which 𝑋 is included in 𝑥𝑛, 𝑥𝑛+1 .
−∞, ∞ = 𝑥1, 𝑥2 ∪ 𝑥2, 𝑥3 ∪ ⋯ ∪ (𝑥𝑁, 𝑥𝑁+1),
−∞ = 𝑥1 < 𝑥2 < ⋯ < 𝑥𝑁+1 = ∞,
決定論的な関数𝑓と連続確率変数𝑋に対して、期待値𝔼[𝑓(𝑋)]は以下で定義される。
For a deterministic function 𝑓 and a continuous random variable 𝑋, the expectation 𝔼[𝑓(𝑋)] is defined as
𝔼 𝑓 𝑋 = න
−∞
∞
𝑓 𝑥 𝑝𝑋 𝑥 𝑑𝑥 定義の意義(Significance of the definition)
𝑓 𝑥 = 𝑥として、定義は離散の場合の自然な拡張になっていることを確認する。
Let 𝑓 𝑥 = 𝑥 and confirm that the definition is a natural generalization of the discrete case.
𝑝𝑛 = න
𝑥𝑛 𝑥𝑛+1
𝑝𝑋 𝑥 𝑑𝑥 𝑋の期待値を上下から近似する離散確率変数を
それぞれ𝑋𝑁と𝑋𝑁とする。
Let 𝑋𝑁 and 𝑋𝑁 denote discrete random variables that approximate the expectation of 𝑋 from above and below, respectively.
ℙ 𝑋𝑁 = 𝑥𝑛 = 𝑝𝑛, ℙ 𝑋𝑁 = 𝑥𝑛+1 = 𝑝𝑛,
𝔼 𝑋𝑁 ≤ 𝔼 𝑋𝑁
𝑁→∞lim 𝔼 𝑋𝑁 = lim
𝑁→∞𝔼 𝑋𝑁 = 𝔼[𝑋]
𝔼 𝑋𝑁 =
𝑛=1 𝑁
𝑥𝑛 𝑝𝑛 ≥
𝑛=1 𝑁
𝑥𝑛 𝑝𝑛min 𝑥𝑛+1 − 𝑥𝑛 → න
−∞
∞
𝑥𝑝𝑋 𝑥 𝑑𝑥 = 𝔼[𝑋]
すべての𝑛に対して、𝑥𝑛+1 − 𝑥𝑛 → 0となる極限𝑁 → ∞で以下を確認する。
Confirm the following in the limit 𝑁 → ∞, where 𝑥𝑛+1 − 𝑥𝑛 → 0 holds for any 𝑛.
𝑝𝑛min = min
𝑥∈ 𝑥𝑛,𝑥𝑛+1 𝑝𝑋 𝑥 とする。(Let 𝑝𝑛min = min
𝑥∈ 𝑥𝑛,𝑥𝑛+1 𝑝𝑋 𝑥 .)
𝑥 ∈ (𝑥𝑛, 𝑥𝑛+1]に対して𝑝𝑛 ≥ 𝑝𝑛min(𝑥𝑛+1 − 𝑥𝑛)なので、
For 𝑥 ∈ (𝑥𝑛, 𝑥𝑛+1], we have 𝑝𝑛 ≥ 𝑝𝑛min(𝑥𝑛+1 − 𝑥𝑛). Thus,
同様に、 𝑝𝑛max = max
𝑥∈ 𝑥𝑛,𝑥𝑛+1 𝑝𝑋 𝑥 とすると、
Similarly, let 𝑝𝑛max = max
𝑥∈ 𝑥𝑛,𝑥𝑛+1 𝑝𝑋 𝑥 . Then,
𝔼 𝑋𝑁 =
𝑁
𝑥𝑛+1 𝑝𝑛 ≤
𝑁
𝑥𝑛+1 𝑝𝑛max 𝑥𝑛+1 − 𝑥𝑛 → න
−∞
∞
𝑥𝑝𝑋 𝑥 𝑑𝑥 = 𝔼[𝑋] ∎
一様確率変数の平均(Mean of a uniform random variable)
確率密度関数が以下を満たす一様確率変数𝑋の平均を計算せよ。
Compute the mean of a uniform random variable 𝑋 of which the probability density function satisfies
𝑝𝑋 𝑥 = ൝ 𝑏 − 𝑎 −1 for 𝑥 ∈ [𝑎, 𝑏]
0 otherwise
𝔼 𝑋 = න
∞
∞
𝑥𝑝𝑋 𝑥 𝑑𝑥 = න
𝑎
𝑏 𝑥
𝑏 − 𝑎 𝑑𝑥 = 𝑥2 2 𝑏 − 𝑎
𝑎 𝑏
= 𝑏2 − 𝑎2
2(𝑏 − 𝑎) = 𝑎 + 𝑏 2 解答(Answer)
指数確率変数𝑋の平均を計算せよ。(Compute the mean of an exponential random variable 𝑋.)
𝑝𝑋 𝑥 = ቊ𝑒−𝑥 for 𝑥 ≥ 0 0 otherwise
ラプラス確率変数𝑋の平均を計算せよ。(Compute the mean of a Laplace random variable 𝑋.)
𝑝𝑋 𝑥 = 1
2𝑒−|𝑥| for 𝑥 ∈ (−∞, ∞)
