lecture34
TRANSCRIPT
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 1
MODULE 6
RANDOM VECTOR AND ITS JOINT DISTRIBUTION
LECTURE 34
Topics
6.10.2 Transformation of Variables Technique
6.10.2.1 Distribution of Order Statistics
6.10.2.2 Distribution of Normalized Spacingโs of Exponential Distribution
For finding the probability distributions of functions of a random vector of absolutely
continuous type we have the following theorem.
Theorem 10.2.2
Let ๐ = ๐1, โฆ , ๐๐ be a random vector of absolutely continuous type with a joint p.d.f.
๐๐ โ and support ๐๐ = ๐ฅ โ โ๐ : ๐๐ ๐ฅ > 0 . Let ๐1, โฆ , ๐๐ be open subset of โ๐ such
that ๐๐ โฉ ๐๐ = ๐, if ๐ โ ๐, and ๐๐ = ๐๐๐๐=1 . Suppose that โ๐ : โ๐ โ โ , ๐ = 1, โฆ , ๐, are ๐
Borel functions such that on each ๐๐ , โ = โ1 , โฆ , โ๐ : ๐๐ โ โ๐ is one-to-one with inverse
transformation โ๐โ1 ๐ก = โ1,๐
โ1 ๐ก , โฆ , โ๐ ,๐โ1 ๐ก say , ๐ = 1, โฆ , ๐ . Further suppose that
โ๐ ,๐โ1 ๐ก , ๐ = 1, โฆ , ๐, ๐ = 1, โฆ , ๐, have continuous partial derivatives and the Jacobian
determinants
๐ฝ๐ =
๐โ1,๐โ1 ๐ก
๐๐ก1โฏ
๐โ1,๐โ1 ๐ก
๐๐ก๐
๐โ2,๐โ1 ๐ก
๐๐ก1โฏ
๐โ2,๐โ1 ๐ก
๐๐ก๐โฎ
๐โ๐ ,๐โ1 ๐ก
๐๐ก1
โฎโฏ
โฎ๐โ๐ ,๐
โ1 ๐ก
๐๐ก๐
โ 0, ๐ = 1, โฆ , ๐.
Define โ ๐๐ = โ ๐ฅ = โ1 ๐ฅ , โฆ , โ๐ ๐ฅ โ โ๐ : ๐ฅ โ ๐๐ , ๐ = 1, โฆ , ๐ and ๐๐ =
โ๐ ๐1, โฆ , ๐๐ , ๐ = 1, โฆ , ๐ . Then the random vector ๐ = ๐1, โฆ , ๐๐ is of absolutely
continuous type with joint p.d.f.
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 2
๐๐ ๐ก = ๐๐ โ1,๐โ1 ๐ก , โฆ , โ๐ ,๐
โ1 ๐ก ๐ฝ๐
๐
๐ =1
๐ผโ ๐ ๐ ๐ก . โ
We shall not provide the proof of the above theorem. The idea of the proof of the above
theorem is similar to that of Theorem 2.2, Module 3. In the proof of the theorem, the joint
distribution function of ๐ is written in the form of multiple integrals which are simplified
by making change of variables using change of variable Theorem of multivariable
calculus.
The following corollary is immediate from Theorem 10.2.2.
Corollary 10.2.1
Let ๐ = ๐1, โฆ , ๐๐ be a random vector of absolutely continuous type with a joint p.d.f.
๐๐ โ and support ๐๐ = ๐ฅ โ โ๐ : ๐๐ ๐ฅ > 0 , an open set in โ๐ . Suppose that โ๐ : โ๐ โ
โ, ๐ = 1, โฆ , ๐, are ๐ Borel functions such that โ = โ1, โฆ , โ๐ : ๐๐ โ โ๐ is one-to-one
with inverse transformation โโ1 ๐ก = (โ1โ1 ๐ก , โฆ , โ๐
โ1 ๐ก ) (say). Further suppose that
โ๐โ1, ๐ = 1, โฆ , ๐, have continuous partial derivatives and the Jacobian determinant
๐ฝ =
๐โ1โ1 ๐ก
๐๐ก1โฏ
๐โ1โ1 ๐ก
๐๐ก๐
๐โ2โ1 ๐ก
๐๐ก1โฏ
๐โ2โ1 ๐ก
๐๐ก๐โฎ
๐โ๐โ1 ๐ก
๐๐ก1
โฏ๐โ๐
โ1 ๐ก
๐๐ก๐
โ 0.
Define โ ๐๐ = โ ๐ฅ = โ1 ๐ฅ , โฏ , โ๐ ๐ฅ ) โ โ๐ : ๐ฅ โ ๐๐ and ๐๐ = โ๐ ๐1, โฆ , ๐๐ , ๐ =
1, โฆ , ๐. Then the random vector ๐ = ๐1, โฆ , ๐๐ is of absolutely continuous type with
joint p.d.f.
๐๐ ๐ก = ๐๐ โ1โ1 ๐ก , โฏ , โ๐
โ1 ๐ก ๐ฝ ๐ผโ ๐๐ ๐ก . โ
Remark 10.2.1
Let ๐ = ๐1, โฆ , ๐๐ be a random vector of absolutely continuous type with joint p.d.f. ๐๐
and let ๐๐ = ๐ฅ โ โ๐ : ๐๐ ๐ฅ > 0 .Suppose that we are interested in finding the joint
probability distribution of random vector ๐ = ๐1, โฆ , ๐๐ = โ1 ๐ , โฆ , โ๐ ๐ ), where
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 3
๐ โ 1, โฆ , ๐ and โ๐ : โ๐ โ โ, ๐ = 1, โฆ , ๐, are some Borel functions. For this we shall
define ๐ โ ๐ additional auxiliary Borel functions โ๐ : โ๐ โ โ, ๐ = ๐ + 1, โฆ , ๐, such that
the transformation โ = โ1 , โฆ , โ๐ : ๐๐ โ โ๐ , satisfies the assumptions of Theorem
10.2.2/Corollary 10.2.1. Then an application of Theorem 10.2.2/Corollary 10.2.1 will
provide the joint p.d.f. ๐๐ ๐ก1, โฆ , ๐ก๐ of ๐ = ๐1, โฆ , ๐๐ from which marginal joint p.d.f.
of ๐ = ๐1, โฆ , ๐๐ is obtained by integrating out unwanted variables ๐ก๐+1, โฆ , ๐ก๐ in
๐๐ ๐ข1, โฆ , ๐ข๐ , ๐ก๐+1, โฆ , ๐ก๐ .
Example 10.2.8
Let ๐1 and ๐2 be independent and identically distributed random variables with common
p.d.f.
๐ ๐ฅ =
1
2, if โ 2 < ๐ฅ < โ1
1
6, if 0 < ๐ฅ < 3
0, otherwise
.
Find the p.d.f. of ๐1 = ๐1 + ๐2 .
Solution. The joint p.d.f. of ๐ = ๐1, ๐2 is given by
๐๐ ๐ฅ1, ๐ฅ2 = ๐ ๐ฅ1 ๐ ๐ฅ2
=
1
4, if ๐ฅ1, ๐ฅ2 โ โ2, โ1 ร โ2, โ1
1
12, if ๐ฅ1, ๐ฅ2 โ โ2, โ1 ร 0, 3 โช 0, 3 ร โ2, โ1 .
1
36, if ๐ฅ1, ๐ฅ2 โ 0, 3 ร 0, 3
0, otherwise
Define the auxiliary random variable ๐2 = ๐1 . We have
๐๐ = ๐ฅ = ๐ฅ1, ๐ฅ2 โ โ2: ๐๐ ๐ฅ1, ๐ฅ2 > 0
= ๐1 โช ๐2 โช ๐3 โช ๐4,
where ๐1 = โ2, โ1 2, ๐2 = โ2, โ1 ร 0, 3 , ๐3 = 0, 3 ร โ2, โ1 and ๐4 =
0, 3 2. Let โ = โ1, โ2 : โ2 โ โ2 be defined by
โ1 ๐ฅ1, ๐ฅ2 = ๐ฅ1 + ๐ฅ2 and โ2 ๐ฅ1, ๐ฅ2 = ๐ฅ1 , ๐ฅ = ๐ฅ1, ๐ฅ2 โ โ2 .
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 4
Then ๐1 = โ1 ๐1, ๐2 , ๐2 = โ2 ๐1, ๐2 , ๐๐ โฉ ๐๐ = ๐, ๐ โ ๐ and on each ๐๐ , ๐ = 1, 2, 3, 4,
โ = โ1, โ2 : ๐๐ โ โ2 is one-to-one. Under the notation of Theorem 10.2.2 we have
โ1,1โ1 ๐ก = โ๐ก2, โ2,1
โ1 ๐ก = ๐ก2 โ ๐ก1, ๐ฝ1 = 0 โ1
โ1 1 = โ1;
โ1,2โ1 ๐ก = โ๐ก2, โ2,2
โ1 ๐ก = ๐ก1 โ ๐ก2 , ๐ฝ2 = 0 โ11 โ1
= 1;
โ1,3โ1 ๐ก = ๐ก2, โ2,3
โ1 ๐ก = ๐ก2 โ ๐ก1 , ๐ฝ3 = 0 1
โ1 1 = 1;
โ1,4โ1 ๐ก = ๐ก2, โ2,4
โ1 ๐ก = ๐ก1 โ ๐ก2 , ๐ฝ4 = 0 11 โ1
= โ1;
โ ๐1 = ๐ก1, ๐ก2 โ โ2: โ2 < โ๐ก2 < โ1 , โ2 < ๐ก2 โ ๐ก1 < โ1
= ๐ก1, ๐ก2 โ โ2: ๐ก2 + 1 < ๐ก1 < ๐ก2 + 2, 1 < ๐ก2 < 2 ;
โ ๐2 = ๐ก1, ๐ก2 โ โ2: โ2 < โ๐ก2 < โ1, 0 < ๐ก1 โ ๐ก2 < 3
= ๐ก1, ๐ก2 โ โ2: ๐ก2 < ๐ก1 < ๐ก2 + 3, 1 < ๐ก2 < 2 ;
โ ๐3 = ๐ก1, ๐ก2 โ โ2: 0 < ๐ก2 < 3 , โ2 < ๐ก2 โ ๐ก1 < โ1
= ๐ก1, ๐ก2 โ โ2: ๐ก2 + 1 < ๐ก1 < ๐ก2 + 2, 0 < ๐ก2 < 3
and
โ ๐4 = ๐ก1, ๐ก2 โ โ2: 0 < ๐ก2 < 3 ,0 < ๐ก1 โ ๐ก2 < 3
= ๐ก1, ๐ก2 โ โ2: ๐ก2 < ๐ก1 < ๐ก2 + 3, 0 < ๐ก2 < 3 .
Consequently the joint p.d.f. of ๐ = ๐1, ๐2 is given by
๐๐ ๐ก1, ๐ก2 = ๐๐ โ1,๐โ1 ๐ก , โ2,๐
โ1 ๐ก ๐ฝ๐ ๐ผโ ๐๐ (๐ก)
4
๐ =1
= ๐๐ โ๐ก2, ๐ก2โ๐ก1 ๐ผโ ๐1 ๐ก + ๐๐ โ๐ก2, ๐ก1โ๐ก2 ๐ผโ ๐2 ๐ก
+๐๐ ๐ก2, ๐ก2โ๐ก1 ๐ผโ ๐3 (๐ก) + ๐๐ ๐ก2, ๐ก1โ๐ก2 ๐ผโ ๐4 (๐ก)
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 5
=
1
36, if ๐ก2 < ๐ก1 < ๐ก2 + 1, 0 < ๐ก2 < 1
1
12+
1
36, if ๐ก2 + 1 < ๐ก1 < ๐ก2 + 2, 0 < ๐ก2 < 1
1
36, if ๐ก2 + 2 < ๐ก1 < ๐ก2 + 3, 0 < ๐ก2 < 1
1
12+
1
36, if ๐ก2 < ๐ก1 < ๐ก2 + 1, 1 < ๐ก2 < 2
1
4+
1
12+
1
12+
1
36, if ๐ก2 + 1 < ๐ก1 < ๐ก2 + 2, 1 < ๐ก2 < 2
1
12+
1
36, if ๐ก2 + 2 < ๐ก1 < ๐ก2 + 3, 1 < ๐ก2 < 2
1
36, if ๐ก2 < ๐ก1 < ๐ก2 + 1, 2 < ๐ก2 < 3
1
12+
1
36, if ๐ก2 + 1 < ๐ก1 < ๐ก2 + 2, 2 < ๐ก2 < 3
1
36, if ๐ก2 + 2 < ๐ก1 < ๐ก2 + 3, 2 < ๐ก2 < 3
0, otherwise
=
1
36, if 0 < ๐ก1 < 2, max 0, ๐ก1 โ 1 < ๐ก2 < min 1, ๐ก1
or 2 < ๐ก1 < 4, max 0, ๐ก1 โ 3 < ๐ก2 < min 1, ๐ก1 โ 2
or 2 < ๐ก1 < 4, max 2, ๐ก1 โ 1 < ๐ก2 < min 3, ๐ก1
or 4 < ๐ก1 < 6, max 2, ๐ก1 โ 3 < ๐ก2 < min 3, ๐ก1 โ 2
1
9, if 1 < ๐ก1 < 3, max 0, ๐ก1 โ 2 < ๐ก2 < min 1, ๐ก1 โ 1
or 1 < ๐ก1 < 3, max 1, ๐ก1 โ 1 < ๐ก2 < min 2, ๐ก1
or 3 < ๐ก1 < 5, max 1, ๐ก1 โ 3 < ๐ก2 < min 2, ๐ก1 โ 2
or 3 < ๐ก1 < 5, max 2, ๐ก1 โ 2 < ๐ก2 < min 3, ๐ก1 โ 1 4
9, if 2 < ๐ก1 < 4, max 1, ๐ก1 โ 2 < ๐ก2 < min 2, ๐ก1 โ 1
0, otherwise
.
Then the marginal p.d.f. of ๐1 is given by
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 6
๐๐1 ๐ก1 = ๐๐
โ
โโ
๐ก1, ๐ก2 ๐๐ก2, ๐ก1 โ โ.
For ๐ก1 โ 0, 1
๐๐1 ๐ก1 =
min 1, ๐ก1 โ max 0, ๐ก1 โ 1
36
=๐ก1
36;
for ๐ก1 โ 1, 2
๐๐1 ๐ก1 =
min 1, ๐ก1 โ max 0, ๐ก1 โ 1
36+
min 1, ๐ก1 โ 1 โ max 0, ๐ก1 โ 2
9
+min 2, ๐ก1 โ max 1, ๐ก1 โ 1
9
=7๐ก1 โ 6
36;
for ๐ก1 โ 2, 3
๐๐1 ๐ก1 =
min 1, ๐ก1 โ 2 โ max 0, ๐ก1 โ 3
36+
min 3, ๐ก1 โ max 2, ๐ก1 โ 1
36
+min 1, ๐ก1 โ 1 โ max 0, ๐ก1 โ 2
9+
min 2, ๐ก1 โ max 1, ๐ก1 โ 1
9
+4 min 2, ๐ก1 โ 1 โ max 1, ๐ก1 โ 2
9
=5๐ก1 โ 6
18;
for ๐ก1 โ 3, 4
๐๐1 ๐ก1 =
min 1, ๐ก1 โ 2 โ max 0, ๐ก1 โ 3
36+
min 3, ๐ก1 โ max 2, ๐ก1 โ 1
36
+min 2, ๐ก1 โ 2 โ max 1, ๐ก1 โ 3
9+
min 3, ๐ก1 โ 1 โ max 2, ๐ก1 โ 2
9
+4 min 2, ๐ก1 โ 1 โ max 1, ๐ก1 โ 2
9
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 7
=24 โ 5๐ก1
18;
for ๐ก1 โ 4, 5
๐๐1 ๐ก1 =
min 3, ๐ก1 โ 2 โ max 2, ๐ก1 โ 3
36+
min 2, ๐ก1 โ 2 โ max 1, ๐ก1 โ 3
9
+min 3, ๐ก1 โ 1 โ max 2, ๐ก1 โ 2
9
=36 โ 7๐ก1
36;
and, for ๐ก1 โ 5, 6
๐๐1 ๐ก1 =
min 3, ๐ก1 โ 2 โ max 2, ๐ก1 โ 3
36
=6 โ ๐ก1
36.
Therefore the p.d.f. of ๐1 = ๐1 + ๐2 is given by
๐๐1(๐ก1) =
๐ก1
36, if 0 < ๐ก1 < 1
7๐ก1 โ 6
36, if 1 < ๐ก1 < 2
5๐ก1 โ 6
18, if 2 < ๐ก1 < 3
24 โ 5๐ก1
18, if 3 < ๐ก1 < 4
36 โ 7๐ก1
36, if 4 < ๐ก1 < 5
6 โ ๐ก1
36, if 5 < ๐ก1 < 6
0, otherwise
. โ
6.10.2.1 Distribution of Order Statistics
Example 10.2.9
Let ๐1, โฆ , ๐๐ be a random sample of absolutely continuous type random variables having
a common p.d.f. ๐ โ , the common distribution function ๐น(โ ) and a common support
๐ = ๐ฅ โ โ: ๐ ๐ฅ > 0 , an open set in โ. Let ๐1:๐ , โฆ , ๐๐:๐ denote the order statistics of
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 8
๐1, โฆ , ๐๐ , i.e.,๐๐:๐ = r-th smallest of ๐1, โฆ , ๐๐ , ๐ = 1, โฆ , ๐. For notational convenience,
let ๐๐ = ๐๐:๐ , ๐ = 1, โฆ , ๐.
(i) Find an expression for the joint distribution function of ๐ = ๐1, โฆ , ๐๐ . Hence find
the joint p.d.f. of ๐;
(ii) Find the joint p.d.f. of ๐ directly using Theorem 10.2.2;
(iii) Using (ii), find the marginal p.d.f. of ๐๐ , ๐ = 1, โฆ , ๐;
(iv) Using (ii), find the marginal joint p.d.f. of ๐๐ , ๐๐ , where 1 โค ๐ < ๐ โค ๐.
Proof. The joint p.d.f. of ๐ = ๐1, โฆ , ๐๐ is given by
๐๐ ๐ฅ1, โฆ , ๐ฅ๐ = ๐๐๐(๐ฅ๐)
๐
๐=1
= ๐ ๐ฅ๐
๐
๐=1
, ๐ฅ = ๐ฅ1, โฆ , ๐ฅ๐ โ โ๐ .
Let ๐๐ = ฮ 1
, โฏ ,ฮ ๐ !
denote the set of all permutations of 1, โฆ , ๐ ; here for ๐ โ
1, โฆ , ๐! ,ฮ ๐
= ฮ ๐ , 1 , โฆ ,ฮ ๐ , ๐ is a permutation of 1, โฆ , ๐ .
(i) Since ๐1, โฆ , ๐๐ is a random sample we have
๐1, โฆ , ๐๐ =๐
๐ฮ ๐ , 1 , โฆ , ๐ฮ ๐ , ๐
, ๐ โ 1, โฆ , ๐! . (10.2.1)
Also since ๐ = ๐1, โฆ , ๐๐ is of absolutely continuous type (as ๐1, โฆ , ๐๐ are of
absolutely continuous type) we have ๐ ๐๐ = ๐๐ , for some ๐ โ ๐ = 0. Therefore
๐
๐ !
๐=1
๐ฮ ๐ , 1 < โฏ < ๐ฮ ๐ , ๐
= 1.
Then, for ๐ฆ = ๐ฆ1, โฆ , ๐ฆ๐ โ โ๐ ,
๐น๐ ๐ฆ = ๐ ๐1:๐ โค ๐ฆ1, โฆ , ๐๐ :๐ โค ๐ฆ๐
= ๐
๐ !
๐=1
๐1:๐ โค ๐ฆ1, โฆ , ๐๐ :๐ โค ๐ฆ๐ , ๐ฮ ๐ , 1 < โฏ < ๐ฮ ๐ , ๐
= ๐
๐ !
๐=1
๐ฮ ๐ , 1 โค ๐ฆ1, โฆ , ๐ฮ ๐ , ๐
โค ๐ฆ๐ , ๐ฮ ๐ , 1 < โฏ < ๐ฮ ๐ , ๐
= ๐
๐ !
๐=1
๐1 โค ๐ฆ1, โฆ , ๐๐ โค ๐ฆ๐ , ๐1 < โฏ < ๐๐ (using (10.2.1))
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 9
= ๐! ๐ ๐1 โค ๐ฆ1, โฆ , ๐๐ โค ๐ฆ๐ , ๐1 < โฏ < ๐๐
= โฏ
๐ฆ1
โโ
๐!
๐ฆ๐
โโ
๐ ๐ฅ๐
๐
๐=1
๐ผ๐ด ๐ฅ ๐๐ฅ๐ โฏ๐๐ฅ1,
where ๐ด = ๐ฅ โ โ๐ : โโ < ๐ฅ1 < โฏ < ๐ฅ๐ < โ .
It follows that ๐ is of absolutely continuous type with p.d.f.
๐๐ ๐ฆ = ๐! ๐ ๐ฆ๐
๐
๐=1
๐ผ๐ด ๐ฆ
= ๐! ๐ ๐ฆ๐
๐
๐=1
, if โ โ < ๐ฆ1 < โฏ < ๐ฆ๐ < โ
0, otherwise
.
(ii) Since ๐ is of absolutely continuous type we may, without loss of generality,
take ๐๐ โ ๐ฅ โ โ๐ : ๐ฅ๐ โ ๐ฅ๐ , โ๐ โ ๐, ๐, ๐ โ 1, โฆ , ๐ . Then ๐๐ = ๐๐๐ !๐=1 ,
where ๐๐ = ๐ฅ โ ๐๐ : ๐ฅฮ ๐ , 1 < โฏ < ๐ฅฮ ๐ , ๐
, ๐ = 1, โฆ , ๐! . Define โ๐ : โ๐ โ โ
by โ๐ ๐ฅ = ๐-th smallest of ๐ฅ1, โฆ , ๐ฅ๐ , ๐ = 1, โฆ , ๐ and โ = โ1, โฆ , โ๐ . Then
โ: ๐๐ โ โ๐ is not one-to-one (for each ๐ฆ โ โ ๐๐ = โ ๐ก : ๐ก โ ๐๐ , there are
๐! pre-images). However, on each ๐๐ , ๐ = 1, โฆ , ๐!, โ: ๐๐ โ โ๐ is one-to-one
with inverse transformation โ๐โ1 ๐ฆ = โ1,๐
โ1 ๐ฆ , โฆ , โ๐ ,๐โ1 ๐ฆ =
๐ฆฮ ๐ , 1 โ1 , โฆ , ๐ฆฮ ๐ , ๐
โ1 , where ฮ ๐
โ1 = ฮ ๐ , 1 โ1 , โฆ ,ฮ ๐ , ๐
โ1 , ๐ = 1, โฆ , ๐! is the inverse
permutation of ฮ ๐. Under the notation of Theorem 10.2.2 each row and each
column of the Jacobian determinant ๐ฝ๐ contains one, and only one, non-zero
element which is 1. Therefore ๐ฝ๐ = ยฑ 1, ๐ = 1, โฆ , ๐! . Also โ ๐๐ =
๐ฆ โ ๐๐ : โ โ < ๐ฆ1 < โฏ < ๐ฆ๐ < โ = ๐ต, say, ๐ = 1, โฆ , ๐. Therefore the joint
p.d.f. of ๐ is given by
๐๐ ๐ฆ = ๐๐
๐ !
๐=1
๐ฆฮ ๐ , 1 โ1 , โฆ , ๐ฆฮ ๐ , ๐
โ1 ๐ฝ๐ ๐ผโ ๐๐ ๐ฆ
= ๐
๐
๐=1
๐ฆฮ ๐ , ๐ โ1
๐ !
๐=1
๐ผ๐ต ๐ฆ .
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 10
Since ฮ ๐ , 1 โ1 , โฆ ,ฮ ๐ , ๐
โ1 = 1, โฆ , ๐ , we have
๐ ๐ฆฮ ๐ , ๐ โ1
๐
๐=1
= ๐ ๐ฆ๐
๐
๐=1
, โ๐ฆ โ ๐ต.
Consequently
๐๐ ๐ฆ = ๐ ๐ฆ๐
๐
๐=1
๐ !
๐=1
๐ผ๐ต ๐ฆ
= ๐! ๐ ๐ฆ๐
๐
๐=1
๐ผ๐ต ๐ฆ
= ๐! ๐ ๐ฆ๐
๐
๐=1
, if โ โ < ๐ฆ1 < โฏ < ๐ฆ๐ < โ
0, otherwise
, ๐ฆ โ ๐๐ .
(iii) The marginal p.d.f of ๐๐ ๐ = 1, โฆ , ๐ is given by
๐๐๐ ๐ฆ = โฏ
โ
โโ
โฏ
โ
โโ
โ
โโ
๐๐
โ
โโ
๐ฆ1, โฆ , ๐ฆ๐โ1๐ฆ, ๐ฆ๐+1, โฆ , ๐ฆ๐ ๐๐ฆ๐
๐
๐=1๐โ ๐
= โฏ
๐ฆ๐
๐ฆ
โ
๐ฆ
โฏ
๐ฆ๐โ1
โโ
๐ฆ
โโ
๐ฆ๐+2
๐ฆ
๐!
๐ฆ2
โโ
๐ ๐ฆ๐
๐
๐=1๐โ ๐
๐ ๐ฆ ๐๐ฆ๐
๐
๐=1๐โ ๐
=๐!
(๐ โ 1)! (๐ โ ๐)! ๐น ๐ฆ ๐โ1 1 โ ๐น ๐ฆ ๐โ๐๐ ๐ฆ , โ โ < ๐ฆ < โ,
since โซ ๐ ๐ก ๐
โโ๐๐ก = ๐น ๐ and โซ ๐ ๐ก
โ
๐๐๐ก = 1 โ ๐น ๐ , ๐, ๐ โ โ.
(iv) As in (iii) we have
๐๐๐ ,๐๐ ๐ฅ, ๐ฆ = โฏ
โ
โโ
๐!
โ
โโ
๐๐ ๐ฆ1, โฆ , ๐ฆ๐โ1, ๐ฅ, ๐ฆ๐+1, โฆ๐ฆ๐ โ1, ๐ฆ, ๐ฆ๐ +1, โฆ๐ฆ๐ ๐๐ฆ๐
๐
๐=1๐โ ๐ ,๐
= โฏ
๐ฆ๐
๐ฆ
โ
๐ฆ
โฏ
๐ฆ๐ โ1
๐ฅ
๐ฆ
๐ฅ
๐ฆ๐ +2
๐ฆ
โฏ
๐ฆ๐โ1
โโ
๐ฅ
โโ
๐ฆ๐+2
๐ฅ
๐!
๐ฆ2
โโ
๐ ๐ฆ๐
๐
๐=1๐โ ๐ ,๐
๐ ๐ฅ ๐ ๐ฆ ๐๐ฆ๐
๐
๐=1๐โ ๐ ,๐
, if ๐ฅ < ๐ฆ
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 11
=๐!
๐ โ 1 ! ๐ โ ๐ โ 1 ! ๐ โ ๐ ! ๐น ๐ฅ ๐โ1 ร
๐น ๐ฆ โ ๐น ๐ฅ ๐ โ๐โ1 1 โ ๐น ๐ฆ ๐โ๐ ๐ ๐ฅ ๐ ๐ฆ , if โ โ < ๐ฅ < ๐ฆ < โ.
Clearly ๐๐๐ ,๐๐ ๐ฅ, ๐ฆ = 0, if ๐ฅ โฅ ๐ฆ.
Therefore,
๐๐ ,๐ ๐ฅ, ๐ฆ
=
๐!
๐ โ 1 ! ๐ โ ๐ โ 1 ! ๐ โ ๐ ! ๐น ๐ฅ ๐โ1 ๐น ๐ฆ โ ๐น ๐ฅ ๐ โ๐โ1 1 โ ๐น ๐ฆ ๐โ๐ ๐ ๐ฅ ๐ ๐ฆ ,
if โ โ < ๐ฅ < ๐ฆ < โ
0, otherwise
.โ
6.10.2.2 Distribution of Normalized Spacingโs of Exponential Distribution
Example 10.2.10
Let ๐1, โฆ , ๐๐ be a random sample from Exp ๐ distribution, where ๐ > 0. Let ๐1:๐ โค
โฏ โค ๐๐:๐ denote the order statistics of ๐1, โฆ , ๐๐ . Define ๐1 = ๐ ๐1:๐ , ๐๐ =
๐ โ ๐ + 1 ๐๐:๐ โ ๐๐โ1:๐ , ๐ = 2, โฆ , ๐ . Show that ๐1, โฆ , ๐๐ are independent and
identically distributed Exp ๐ random variables.
Solution. The common p.d.f. of random variables ๐1, โฆ , ๐๐ is
๐ ๐ฆ = 1
๐๐โ
๐ฆ
๐ , if ๐ฆ > 0
0, otherwise
.
For notational convenience, let ๐๐ = ๐๐โถ๐ , ๐ = 1, โฆ , ๐. Then, by Example 10.2.9, a joint
p.d.f. of ๐ = ๐1, โฆ , ๐๐ is
๐๐ ๐ฆ = ๐! ๐ ๐ฆ๐
๐
๐=1
, if 0 < ๐ฆ1 < ๐ฆ2 < โฏ < ๐ฆ๐ < โ
0, otherwise
= ๐!
๐๐๐โ
๐ฆ๐๐1=1
๐ , if 0 < ๐ฆ1 < ๐ฆ2 < โฏ < ๐ฆ๐ < โ
0, otherwise
.
The support of ๐๐ โ is ๐๐ = ๐ฆ โ โ๐ : 0 < ๐ฆ1 < ๐ฆ2 < โฏ < ๐๐ < โ . Consider the
transformation โ = โ1, โฆ , โ๐ : โ๐ โ โ๐ , where โ1 ๐ฆ = ๐๐ฆ1, โ๐ ๐ฆ = ๐ โ ๐ +
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 12
1 ๐ฆ๐ โ ๐ฆ๐โ1 , ๐ = 2, โฆ , ๐. Then ๐1 = โ1 ๐ and ๐๐ = โ๐ ๐ , ๐ = 2, โฆ , ๐ . Clearly the
transformation โ: ๐๐ โ โ๐ is one-to-one with inverse transformation โโ1 =
โ1โ1, โฆ , โ๐
โ1 , where for ๐ง โ โ ๐๐ ,
โ1โ1 ๐ง =
๐ง1
๐
โ2โ1 ๐ง =
๐ง1
๐+
๐ง2
๐ โ 1
โฎ
โ๐โ1 ๐ง =
๐ง1
๐+
๐ง2
๐ โ 1+ โฏ +
๐ง๐
๐ โ ๐ + 1=
๐ง๐
๐ โ ๐ + 1
๐
๐ =1
โฎ
โ๐โ1 ๐ง =
๐ง1
๐+
๐ง2
๐ โ 1+ โฏ +
๐ง๐โ1
2+
๐ง๐
1=
๐ง๐
๐ โ ๐ + 1
๐
๐ =1
.
The Jacobian determinant of the transformation is
๐ฝ =
๐โ1โ1
๐๐ง1 ๐โ1
โ1
๐๐ง2 โฏ
๐โ1โ1
๐๐ง๐
๐โ2โ1
๐๐ง1 ๐โ2
โ1
๐๐ง2 โฏ
๐โ2โ1
๐๐ง๐
โฎ๐โ๐
โ1
๐๐ง1 ๐โ๐
โ1
๐๐ง2 โฏ
๐โ๐โ1
๐๐ง๐
=
1
๐ 0 0 โฏ 0
1
๐
1
๐ โ 1 0 โฏ 0
1
๐
1
๐ โ 1
1
๐ โ 2 โฏ 0
โฎ1
๐
1
๐ โ 1
1
๐ โ 2 โฏ 1
=1
๐! .
Also
NPTEL- Probability and Distributions
Dept. of Mathematics and Statistics Indian Institute of Technology, Kanpur 13
๐ง = ๐ง1, ๐ง2, โฆ , ๐ง๐ โ โ ๐๐ โ โ1โ1 ๐ง , โฆ , โ๐
โ1 ๐ง โ ๐๐
โ 0 <๐ง1
๐<
๐ง1
๐+
๐ง2
๐< โฏ <
๐ง1
๐+
๐ง2
๐+ โฏ +
๐ง๐
๐< โ
โ ๐ง๐ > 0, ๐ = 1, โฆ๐.
Therefore โ ๐๐ = 0,โ ๐ and the joint p.d.f. of ๐ is given by
๐๐ ๐ง = ๐๐ โ1โ1 ๐ง , โฆ , โ๐
โ1 ๐ง ๐ฝ ๐ผโ ๐๐ ๐ง
= ๐!
๐๐๐โ
1
๐ โ๐
โ1 ๐ง ๐1=1 ร
1
๐!ร ๐ผ 0,โ ๐ ๐ง .
We have, for ๐ง โ 0,โ ๐ ,
โ๐โ1 ๐ง
๐
๐=1
= ๐ง๐
๐ โ ๐ + 1
๐
๐ =1
๐
๐=1
= ๐ง๐
๐ โ ๐ + 1
๐
๐=๐
๐
๐ =1
= ๐ง๐
๐
๐ =1
.
Since ๐ผ 0,โ ๐ ๐ง = ๐ผ 0,โ ๐ง๐ ๐๐=1 , we have
๐๐ ๐ง = 1
๐๐โ
๐ง๐๐ ๐ผ 0,โ ๐ง๐
๐
๐=1
.
It follows that ๐1, โฆ , ๐๐ are independent and identically distributed Exp(๐) random
variables. โ