· 2009-04-24 · c03ed25.doc 8/7/2003 3:47 pm 2 if we are interested in predicting a cluster mean...
TRANSCRIPT
C03ed25.doc 8/7/2003 3:47 PM 1
Expressions for the MSE of Predictors in Balanced Two Stage Predictors of Realized Random Cluster Means With Response Error
(This develops the MSE for more general predictors than in c03ed20.doc) Ed Stanek
Introduction We outline the development of the MSE of predictors of realized cluster means in a balanced mixed model. Similar developments was given in c03ed20.doc and c03ed11.doc. Other developments were given in c02ed29.doc and c02ed30.doc. The document c03ed11.doc develops such expressions without response error. We use the expressions for the predictors given in c02ed31v8.doc. We begin with equation (3.2) from c02ed31v8.doc given by
( ) ( )( )
** * * * * *ˆ 1
n I M mI nm I t n I m t nm I II NM nm I
N n MT Y k Y kρ ρ
−
−−
⊗′ ′ + − ⊗ + + +
P Y 1g 1 P Y 1 P Y g 1 0=
or ( ) ( )
( ) ( ) ( )
* * * *
* * * *1, 2,
ˆ 1I nm I t n I m t nm I
II I n I M m II In M m N n M
T Y k
Y k Y
ρ ρ
−− −
′ + − ⊗ + ′ ′+ + ⊗ +
g 1 P Y 1 P Y
g 1 P Y 1 g 1
=.
Note that ( ) * *M m mn I n I M mm
− ×−
⊗ = ⊗
JP Y P Y 1 and * *m
n I n I mm ⊗ = ⊗
JP Y P Y 1 . As a result,
( ) ( )( )
( )
* * * *ˆ 1
M m mnNM nm nmnm m
I t n t nm I II I
N n M nm
mT k knm m nm
ρ ρ
− ×
− ×
− ×
⊗ ′ ′+ − ⊗ + + +
JJ PJ J
g P P Y g Y
0
=
. We express this as ( ) *ˆI II IP ′ ′ ′ ′+g A g B Y=
where ( ) *1nm mt n t nmk
nm mρ ρ
′ = + − ⊗ +
J JA P P and
( )( )
( )
*
M m mnNM nm nm
N n M nm
mknm
− ×
− ×
− ×
⊗ ′ = +
JJ P
B
0
.
C03ed25.doc 8/7/2003 3:47 PM 2
If we are interested in predicting a cluster mean where mI iI M
′′ ′= ⊗
1g e and
M m MII iI iIIM M
−′ ′ ′ ′ ′= ⊗ ⊗
1 1g e e and we are interested in positions where i n≤ so that
iII′ =e 0 , then we can simplify the predictor. Using these expressions, we simplify
( )
( )( )
( )
* *
* *
ˆ 1m nm miI t n t nm I
M m mnNM nm nmM m M
iI iII I
N n M nm
T kM nm m
mkM M nm
ρ ρ
− ×
− ×−
− ×
′ ′ ⊗ + − ⊗ +
⊗′ ′ ′ ′+ ⊗ ⊗ +
1 J Je P P Y
JJ P1 1
e e Y
0
=
to
( ) ( ) ( )* * * * * * * *ˆ 1t t i im M mT Y k Y Y Y k Y YM M
ρ ρ − + + − − + + − =
noting that * * *m nm nmiI I I
m m YM nm M nm M′ ′ ′ ⊗ = =
1 J 1e Y Y ,
( )* * * *m m miI n I iI n I i
m m Y YM m M m M′ ′ ′ ′⊗ ⊗ = ⊗ = −
1 J 1e P Y e P Y ,
m m n m m m n m miI nm iI iI iI iI iI n
m mM M n M m M n M m M m′ ′ ′ ′ ′ ′ ′ ′ ′ ′ ′ ′⊗ = ⊗ − ⊗ = ⊗ − ⊗ = ⊗
1 1 J 1 J 1 J 1 1e P e e e e e P
(and hence ( )* *miI nm i
m Y YM M′ ′ ⊗ = −
1e P ),
( ) * *NM nm nmM m MiI iII I
M m YM M nm M
− ×− ′ ′ − ′ ′⊗ ⊗ =
J1 1e e Y , and
( )
( )
( )
( )
* *
* * *
M m mn M m mM m M mM
iI iII I iI n I
N n M nm
miI n I i
mM M M m
M m M m Y YM m M
− ×
− ×− −
− ×
⊗ ′ ′′ ′ ′ ′⊗ ⊗ = ⊗ ⊗
′− − ′= ⊗ = −
JJP1 11
e e Y e P Y
0
1e P Y
.
This agrees with previous expressions. ..
C03ed25.doc 8/7/2003 3:47 PM 3
General Expressions for the MSE when there is Response Error
We wish to predict the expected value given by ( ) II II
II
P ′ ′=
Yg g
Y by
( ) *ˆI II IP ′ ′ ′ ′+g A g B Y= . As a result, ( )( )
*
ˆI
I II I II I
II
P P ′ ′ ′ ′ ′ ′− = + − −
Yg A g B g g Y
Y. We
express ( )( ) ( ) nmI II I II I II
NM nm−
′ − ′ ′′ ′ ′ ′ ′ ′+ − − = ′ −
A I 0g A g B g g g g B 0 I . As a result,
( )*
ˆI
nmI II I
NM nmII
P P−
′ − ′ ′− = ′ −
Y0A I
g g YIB 0
Y, and .
Now from c02ed29.doc (p. 6,7,8, and 10), ,
,
var I I III
II I IIII
=
V VYV VY
, where
( )2 *I e nm n m nmN
σσ σ2
2= + ⊗ −V I I J J , ( )
( )( )
*,
n M m mII I NM nm nm
N n M nmNσσ
2− ×2
− ×
− ×
⊗ = −
I JV J
0
, and ( )
( ) ( )
( ) ( )( )
* 2n M m n M m N n M
II NM nm e NM nmN n MN n M n M m
Nσσ σ
− 2− × −2− −
−− × −
⊗ = − + ⊗
I J 0V J I
0 I J. Also, from
c02ed31v6.doc (p17), 1 2 3
* *,
,
, ,
varI I I I II
I I I I II
II II I II I II
ξ ξ ξ
=
Y V V VY V V VY V V V
where * 2I I nmσ= +V V I . We
express this as 1 2 3
*,
2,
, ,
varI I I I II nm
I I I I II
II II I II I II
ξ ξ ξ σ
= +
Y V V V I 0 0Y V V V 0 0 0Y V V V 0 0 0
.
As a result,
( )
( )
1 2 3
1 2 3
*
ˆvar
varI
InmI II I nm
IINM nmII NM nm
P Pξ ξ ξ
ξ ξ ξ−
−
− =
′ − ′ ′ − ′ − −
Y A B gA I 0g g Y I 0 gB 0 I
Y 0 I
or
C03ed25.doc 8/7/2003 3:47 PM 4
( )
( )
( )
1 2 3
,
,
, ,
2
ˆvar
I I I IIInm
I II I I I II nmIINM nm
II I II I II NM nm
nmnm
I II nmNM nm
NM nm
P Pξ ξ ξ
σ
−−
−−
− =
′ − ′ ′ − ′ − −
′ − ′ ′+ − ′ − −
V V V A B gA I 0g g V V V I 0 gB 0 I
V V V 0 I
I 0 0 A BA I 0
g g 0 0 0 I 0B 0 I
0 0 0 0 I
I
II
gg
.
Now
( ) ( ) ( )
( ) ( )
,
,
, ,
,
, , ,
I I I IInm
I I I II nmNM nm
II I II I II NM nm
nm I nm I nm I IInm
I II I I II I I II IINM nm
nm I nm n
−−
−
′ − − = ′ − −
′ ′ ′ − − − − = ′ ′ ′− − − − ′ ′− − −
V V V A BA I 0
V V V I 0B 0 I
V V V 0 I
A BA I V A I V A I V
I 0B V V B V V B V V
0 I
A I V A I A I( )( )( )( )
,
, , ,
m I I II
I II I nm I II I I II II
−
′ ′ ′− − − − +
V B V
B V V A I B V B V B B V V
.
We simplify this expression using
( )
( )
( ) ( )
*
*
*
1
1
1 1
nm mt n t nm
nm m nmt n t nm t
m nmt nm t n t
knm m
knm m nm
km nm
ρ ρ
ρ ρ ρ
ρ ρ ρ
′ = + − ⊗ +
= + − ⊗ + − = + − ⊗ + −
J JA P P
J J JP I
J JI P
,
so that
( ) ( )
( )
( )
*
*
*
1 1
1
1
m nmnm t nm nm t n t
m nmt nm n
mt n nm
km nm
km nm
km
ρ ρ ρ
ρ
ρ
′ − = − + − ⊗ + −
= − − + ⊗ +
= − ⊗ −
J JA I I I P
J JI P
JP P
or
( ) *1 mnm t n nmk
mρ
′ − = − ⊗ −
JA I P P .
C03ed25.doc 8/7/2003 3:47 PM 5
We refer to results in c03ed23.doc for some details. Using
( )2 *I e nm n m nmN
σσ σ2
2= + ⊗ −V I I J J ,
( ) ( )
( ) ( ) ( )
( ) ( ) ( ) ( )
( )
* 2
* * *
2 * * *
2
1
1 1
1 1
1
mnm I t n nm e nm
m mt n nm n m t n nm nm
m mt e n nm t n n m nm n m
t e
km
k km m N
k km m
k
ρ σ
σρ σ ρ
ρ σ ρ σ
ρ σ
22
2
′ − = − ⊗ −
+ − ⊗ − ⊗ − − ⊗ − = = − ⊗ − + − ⊗ ⊗ − ⊗ =
= −
JA I V P P I
J JP P I J P P J
J JP P P I J P I J
( ) ( ) ( )
( ) ( ) ( )( )
( ) ( )( )
* * *
2 * * *
2 * * * 2
1
1 1 1
1 1
m nn nm t n m n m m
mt e n nm t n m
mt e n e nm
km n
k km
k m km
ρ σ
ρ σ ρ σ
ρ σ σ σ
2
2
2
⊗ − + − ⊗ − ⊗ − ⊗ = = − ⊗ − + − − ⊗ =
= − + − ⊗ −
J JP P P J I J J
JP P P J
JP P
. Then ( ) ( )
( ) ( )( )
( ) ( )( )
( ) ( )( )
( )
2 2 * * * 2 *
2* 2 * * * 2
2 2 * * * 2
2 2
1 1
1 1
1 1
1
nm I nm
m mt e n e nm n nm
m mt e n e nm n
mt e n nm e nm
t e
k m k km m
k k m km m
k m km
k
ρ σ σ σ
ρ σ σ σ
ρ σ σ σ
ρ σ
2
2
2
′ ′− − =
− + − ⊗ − ⊗ −
= − + − ⊗ − ⊗
− − + − ⊗ −
= −
A I V A I
J JP P P P
J JP P P
JP P P
( )( )
( ) ( )( ) ( )
*2 * * * * 2
2 22 * * * 2
1
1 1 1
me n
mt e n t e nm
m k k km
k m km
σ σ
ρ σ σ ρ σ
2
2
+ − − ⊗ − − + − ⊗ + −
JP
JP P
which simplifies (see c03ed23.doc for details) to
C03ed25.doc 8/7/2003 3:47 PM 6
( ) ( ) ( ) ( ) ( )
( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
( ) ( ) ( ) ( )
2 2 * * *
2 22 * * * 2
2 22 * * * 2 * * * 2
2 2 * * * 2 * * 2
1 1
1 1
1 1 1
1 1
mnm I nm t e n
mt e n t e nm
mt e e n t e nm
t e e e
m k km
m k mm
m k k m k mm
m k k m k m
ρ σ σ
ρ σ σ σ ρ σ
ρ σ σ σ σ σ ρ σ
ρ σ σ σ σ σ
2
2 2
2 2 2
2 2
′ ′− − = − + − ⊗ − − + − ⊗ + −
= − + − − + + ⊗ + −
= − + − − + + +
JA I V A I P
JP P
JP P
( ) ( )
( ) ( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
2* 2 2
2 22 * * * * 2
22 2* 2 * 2
1
1 1 1 1
1 1 1
me n t e nm
m mt e n t e n nm
mt e n t e n m
m
m k k km m
k mm
σ σ ρ σ
ρ σ σ ρ σ
ρ σ σ ρ σ
2
2
2
− ⊗ + − = − + − − + ⊗ − − ⊗ −
= − − + ⊗ + − ⊗
JP P
J JP P P
JP I P
or
( ) ( ) ( ) ( ) ( ) ( ) ( )22 2* 2 * 21 1 1mnm I nm t e n t e n mk m
mρ σ σ ρ σ2 ′ ′− − = − − + ⊗ + − ⊗
JA I V A I P I P
. We can express this equivalently as
( ) ( ) ( ) ( ) ( ) ( )22 2* * * * 2 21 1 2 1mnm I nm t e n t e nmk m k k
mρ σ σ ρ σ2 ′ ′− − = − − + − ⊗ + −
JA I V A I P P
. Next, we evaluate the expression for ( )( ),nm I I II′ − −A I V B V . First (note the error
in c03ed23.doc), since ( ) ( )
( )*nm NM nm m M m
n nm N n Mk
nm m× − × −
× −
= + ⊗
J JB P 0 ,
( ) ( ) ( )
( )2 * * 2 *nm NM nm m M m
I e e n nm N n M
nmm k mN nm mσσ σ σ σ
2× − × −2 2
× −
= + − + + ⊗
J JV B P 0 .
Also, since ( )
( ) ( )*
,m M m
I II n nm N n M nm NM nmm
m Nσσ
2× −2
× − × −
= ⊗ −
JV I 0 J , then
C03ed25.doc 8/7/2003 3:47 PM 7
( ) ( ) ( )
( )
( )
( )
( )
( ) ( ) ( ) ( )
( )
2 * * 2 *,
*
2 * * 2 *
nm NM nm m M mI I II e e n nm N n M
m M m nm NM nmn nm N n M
nm NM nm m M me e n nm N n M
nmm k mN nm m
nmmm N nm
m k mnm m
σσ σ σ σ
σσ
σ σ σ σ
2× − × −2 2
× −
2× − × −2
× −
× − × −2 2
× −
− = + − + + ⊗ − ⊗ +
= + + + ⊗
J JV B V P 0
J JI 0
J JP 0
( )
( )* m M m
n nm N n Mm
mσ × −2
× −
− ⊗
JI 0
or
( ) ( ) ( ) ( )
( )
( )
( )
2 * * 2 *,
*
nm NM nm m M mI I II e e n nm N n M
m M mn nm N n M
m k mnm m
mm
σ σ σ σ
σ
× − × −2 2
× −
× −2
× −
− = + + + ⊗
− ⊗
J JV B V P 0
JI 0
. Using these results,
C03ed25.doc 8/7/2003 3:47 PM 8
( )( ) ( )( ) ( )
( ) ( ) ( )
( )
( ) ( )
( )
2 * *,
* 2 * *
* *
1
1
1
nm NM nmmnm I I II t e n nm
m M mmt e n nm n nm N n M
m M mmt n nm n nm N n M
m km nm
k m km m
m km m
ρ σ σ
ρ σ σ
σ ρ
× −2
× −2
× −
× −2
× −
′ − − = − + ⊗ −
+ − + ⊗ − ⊗ − − ⊗ − ⊗
JJA I V B V P P
JJP P P 0
JJP P I 0
( ) ( ) ( )
( )
( )
( )
( ) ( )
( )
( )
* 2 * *
* *
1
1
m M m m M mmt e n n nm nnm N n M nm N n M
m M m m M mmt n n nm nnm N n M nm N
k m km m m
m km m m
ρ σ σ
σ ρ
× − × −2
× − × −
× − × −2
× − ×
=
= + − + ⊗ ⊗ − ⊗
− − ⊗ ⊗ − ⊗
J JJP P 0 P P 0
J JJP I 0 P I 0
( )
( ) ( ) ( )
( )
( )
( )
( ) ( )
( )
( )
( )
* 2 * *
* *
1
1
n M
m M m m M mt e n nnm N n M nm N n M
m M m m M mt n nm nnm N n M nm N n M
k m km m
m km m
ρ σ σ
σ ρ
−
× − × −2
× − × −
× − × −2
× − × −
= + − + ⊗ − ⊗
− − ⊗ − ⊗
J JP 0 P 0
J JP 0 P I 0
. Now ( )
( )
( )
( )
m M m m M mnm n nnm N n M nm N n Mm m
× − × −
× − × −
⊗ = ⊗
J JP I 0 P 0 so that
C03ed25.doc 8/7/2003 3:47 PM 9
( )( )
( ) ( ) ( )
( )
( )
( )
( ) ( )
( )
( )
( )
,
* 2 * *
* *
1
1
nm I I II
m M m m M mt e n nnm N n M nm N n M
m M m m M mt n nnm N n M nm N n M
k m km m
m km m
ρ σ σ
σ ρ
× − × −2
× − × −
× − × −2
× − × −
′ − − =
+ − + ⊗ − ⊗
− − ⊗ − ⊗
A I V B V
J JP 0 P 0
J JP 0 P 0
( ) ( ) ( )
( )
( ) ( )
( )
( ) ( ) ( ) ( )
( )
* 2 * *
* *
* * 2 * *
1 1
1 1
1 1
m M mt e n nm N n M
m M mt n nm N n M
m M mt e n nm N n M
k m km
m km
k k m mm
ρ σ σ
σ ρ
ρ σ σ σ
× −2
× −
× −2
× −
× −2 2
× −
= + − + − ⊗
− − − ⊗
= − − + − ⊗
JP 0
JP 0
JP 0
or ( )( )
( )( ) ( ) ( )
( )
,
* * 2 * *1 1
nm I I II
m M mt e n nm N n Mk k m m
mρ σ σ σ × −2 2
× −
′ − − =
= − − + − ⊗
A I V B V
JP 0
.
Finally, we evaluate , ,I II I I II II′ ′− − +B V B V B B V V . Since
( ) ( )
( )*nm NM nm m M m
n nm N n Mk
nm m× − × −
× −
= + ⊗
J JB P 0 and
( ) ( ) ( )
( )2 * * 2 *nm NM nm m M m
I e e n nm N n M
nmm k mN nm mσσ σ σ σ
2× − × −2 2
× −
= + − + + ⊗
J JV B P 0 ,
C03ed25.doc 8/7/2003 3:47 PM 10
( )( )
( )
( )
( ) ( )( )
( )
( )
2 * *
* 2 * *
M m mnNM nm nm nm NM nm
I e
N n M nm
M m mnNM nm nm m M m
e n
N n M nm
nm mm kN nm nm
mk m knm m
σσ σ
σ σ
− ×2
− × × −2
− ×
− ×
− × × −2
− ×
⊗ ′ = + − +
⊗ + + + ⊗
JJ JP
B V B
0
JJ JP
P
0( )
( ) ( )( )
( )
( ) ( ) ( ) ( )
2 * *2 2 *
nm N n M
M mNM nm n nm N n M
e e
N n M n M m N n M N n M
nm mm k mN nmσσ σ σ σ
× −
−2
−2 2 × −
− × − − × −
⊗
= + − + +
0
JJ P 0
0 0
.
Also, since ( )
( )( )
*,
n M m mII I NM nm nm
N n M nmNσσ
2− ×2
− ×
− ×
⊗ = −
I JV J
0,
( )
( )( )
( )
( )
( )( )
( )
( )
( )( )
*,
* *
*
n nm NM nmM m mII I NM nm nm
N n M nm
n m M mM m mnNM nm nm nm N n M
N n M nm
n N nnM m M
N nm
kN m
n n
σσ
σσ
σ
2× −− ×2
− ×
− ×
2× −− ×2
− × × −
− ×
× −2 − −
⊗ = −
⊗ + − ⊗
⊗ ⊗=
JI JV B J
0
JI JJ P 0
0
JJJ J
( )
( ) ( ) ( ) ( )
( ) ( ) ( )
( ) ( ) ( ) ( )( )
* *n M m n M m N n M
m MNM nm
N n M n M m N n M N n MN n M n M m N n M N n M
kNσσ
2− − × −2×−
− × − − × −− × − − × −
⊗ + −
P J 0J
0 00 0
since ( )
( ) ( ) ( )1n NM nm n M m NM nmmn M m m n m n
× − − × −×
− ×
⊗ ⊗ =
J JJI J , and
( )
( )( )
m M mn n n M mM m m m
× −
−− ×
⊗ ⊗ = ⊗
JI J P P J . Finally, combining terms,
C03ed25.doc 8/7/2003 3:47 PM 11
( ) ( )( )
( )
( ) ( ) ( ) ( )
( )( )
( )
( ) ( ) ( ) ( )
( ) ( ) ( )
( )
, ,
2 * *2 2 *
* * *2
I II I I II II
M mNM nm n nm N n M
e e
N n M n M m N n M N n M
n N nn n M m n M m N n MM m M m M
N n MN n M n M m N n M N n M
nm mm k mN nm
kn n
σσ σ σ σ
σ σ
−2
−2 2 × −
− × − − × −
× − − − × −2 2− − ×
− ×− × − − × −
′ ′− − + =
⊗
= + − + +
⊗ ⊗ ⊗
− −
B V B V B B V V
JJ P 0
0 0
JJ P J 0J J00 0 ( ) ( ) ( )
( )
( ) ( ) ( )
( )
( ) ( ) ( )
( )( ) ( )
( ) ( )( )
* *
2
2
n M m N n M N n M
NM nm
nM m n M mn M m N n M n M m N n M
N n MN n n N n M n M m
M M m N n M N n M
NM nm e NM nm
N
n
n
N
σ
σ σ
σ σ
− − × −
2
−
− −− × − − × −2 2
−− × − × −
× − − × −
2
− −
+
⊗ ⊗ − + ⊗ ⊗
− +
0
J
JJ 0 I J 0
J 0 I JJ 0
J I
or
( ) ( ) ( )( )
( )
( ) ( ) ( ) ( )
( )( )
( )
( ) ( ) ( ) ( )
( ) ( ) ( )
( )
, ,
2 * *2 2 * * *
*
2
I II I I II II
M mNM nm n nm N n M
e e
N n M n M m N n M N n M
nn N n M mn n M m N n M
M m M m M
N n nN n M n M m N n M N n M M
mm k m k mnm
nn n
n
σ σ σ σ σ
σ
−−2 2 2 × −
− × − − × −
× − − − × −2 − − ×
− ×− × − − × − ×
′ ′− − + =
⊗
= + + + −
⊗ ⊗ ⊗
− + ⊗
B V B V B B V V
JJ P 0
0 0
JJ J 0JJ J
J0 0 J
( ) ( ) ( )
( )( ) ( )
( ) ( )( )
* 2
M m N n M N n M
n M m n M m N n M
e NM nmN n MN n M n M m
σ σ
− − × −
− − × −2−
−− × −
⊗ + + ⊗
0
I J 0I
0 I J
We use these expression to summarize the expression for ( ) ( ) ( )( )( )( )
,
, , ,
nm I nm nm I I II
I II I nm I II I I II II
′ ′− − − −
′ ′ ′− − − − +
A I V A I A I V B V
B V V A I B V B V B B V V. The corresponding terms are
given by
( ) ( ) ( ) ( ) ( ) ( ) ( )22 2* 2 * 21 1 1mnm I nm t e n t e n mk m
mρ σ σ ρ σ2 ′ ′− − = − − + ⊗ + − ⊗
JA I V A I P I P
,
C03ed25.doc 8/7/2003 3:47 PM 12
( )( )
( )( ) ( ) ( )
( )
,
* * 2 * *1 1
nm I I II
m M mt e n nm N n Mk k m m
mρ σ σ σ × −2 2
× −
′ − − =
= − − + − ⊗
A I V B V
JP 0
and
( ) ( ) ( )( )
( )
( ) ( ) ( ) ( )
( )( )
( )
( ) ( ) ( ) ( )
( ) ( ) ( )
( )
, ,
2 * *2 2 * * *
*
2
I II I I II II
M mNM nm n nm N n M
e e
N n M n M m N n M N n M
nn N n M mn n M m N n M
M m M m M
N n nN n M n M m N n M N n M M
mm k m k mnm
nn n
n
σ σ σ σ σ
σ
−−2 2 2 × −
− × − − × −
× − − − × −2 − − ×
− ×− × − − × − ×
′ ′− − + =
⊗
= + + + −
⊗ ⊗ ⊗
− + ⊗
B V B V B B V V
JJ P 0
0 0
JJ J 0JJ J
J0 0 J
( ) ( ) ( )
( )( ) ( )
( ) ( )( )
* 2
M m N n M N n M
n M m n M m N n M
e NM nmN n MN n M n M m
σ σ
− − × −
− − × −2−
−− × −
⊗ + + ⊗
0
I J 0I
0 I J
.
Simplifying Terms for ( ) ( )nm I nm′ ′− −A I V A I We express
( ) ( ) ( ) ( ) ( ) ( ) ( )22 2* 2 * 21 1 1mnm I nm t e n t e n mk m
mρ σ σ ρ σ2 ′ ′− − = − − + ⊗ + − ⊗
JA I V A I P I P
as
( ) ( ) ( ) ( ) ( ) ( ) ( )
( ) ( ) ( ) ( ) ( ) ( )
22 2* 2 * 2
2 22 22 * * *
1 1 1
1 1 1 1
mnm I nm t e n t e n m
mt e n n m t n m
k mm
k km
ρ σ σ ρ σ
ρ σ ρ σ
2
2
′ ′− − = − − + ⊗ + − ⊗
= − − ⊗ + ⊗ + − − ⊗
JA I V A I P I P
JP I P P J
. Now
( ) ( )
( )
( ) ( )
2*
*2 *
*2 *
1
2
2
mn n m
m m m n m mn n n n m n
m n mn n m
km
k km m m n m m
k km n m
− ⊗ + ⊗ =
= ⊗ − ⊗ + ⊗ − ⊗ + ⊗ − ⊗
= − ⊗ + ⊗ − ⊗
JP I P
J J J J J JP P I I I I
J J JP I I
.
Simplifying Terms for ( )( ),nm I I II′ − −A I V B V
C03ed25.doc 8/7/2003 3:47 PM 13
We express ( )( )
( )( ) ( ) ( )
( )
,
* * 2 * *1 1
nm I I II
m M mt e n nm N n Mk k m m
mρ σ σ σ × −2 2
× −
′ − − =
= − − + − ⊗
A I V B V
JP 0
using ( ) ( )* 2 * * * 2 * *1e ek m m k k mσ σ σ σ σ2 2 2+ − = + − as
( )( ) ( ) ( ) ( )( ) ( )
22* * * *
, 1 1 1enm I I II t n m M m nm N n M
k k kmσ
ρ σ 2
× − × −
′ − − = − − + − ⊗ A I V B V P J 0
. Simplifying Terms for , ,I II I I II II′ ′− − +B V B V B B V V We express this as
C03ed25.doc 8/7/2003 3:47 PM 14
( )( ) ( ) ( )
( ) ( ) ( ) ( )
( )( )
( )
( ) ( ) ( ) ( )
( ) ( ) ( )
( ) ( ) ( )
, ,
2 *
*2 2 * * *
*
1
2
I II I I II II
n M m n N n M m M
e
N n n M M m N n M N n M
M mn nm N n M
e
N n M n M m N n M N n M
n M m n N n M m M
N n M n M m N n M
mnm
mk m k m
n
σ σ
σ σ σ
σ
− × − − ×2
− × × − − × −
−
2 2 × −
− × − − × −
2 − × − − ×
− × − −
′ ′− − + =
⊗ ⊗ = + ⊗
⊗
+ + −
⊗ ⊗−
B V B V B B V V
J J J J
J J J
JP 0
0 0
J J J J
0 0( )
( ) ( ) ( )
( ) ( ) ( ) ( )
( )( ) ( )
( ) ( )( )
( )( ) ( ) ( )
( ) ( ) ( ) ( )
* 2
2 *
*
1
1
n M m n M m N n M
N n M N n n M M m N n M N n M
n M m n M m N n M
e NM nmN n MN n M n M m
n M m n N n M m M
e
N n n M M m N n M N n M
mnm
km
σ σ
σ σ
− − × −
× − − × × − − × −
− − × −2−
−− × −
− × − − ×2
− × × − − × −
⊗ + ⊗ ⊗ + + ⊗
⊗ ⊗ = + ⊗
+
J J 0
J J 0
I J 0I
0 I J
J J J J
J J J
( )( ) ( )
( ) ( ) ( ) ( )
( )( ) ( )
( ) ( ) ( ) ( )
( ) ( ) ( )
( ) ( ) ( ) ( )
( ) ( )
2 2 * * *
*2 2 * * *
*
2
1 2
n M m nm N n M
e
N n M n M m N n M N n M
n M m nm N n M
e
N n M n M m N n M N n M
n nM m M mn N n M m M n M m
N n M n M m N n M N n M
m k m
k m k mnm
n
σ σ σ
σ σ σ
σ
− × −2 2
− × − − × −
− × −2 2
− × − − × −
2 − −× − − × −
− × − − × −
⊗ + −
⊗ − + −
⊗ ⊗ ⊗ − +
I J 0
0 0
J J 0
0 0
J J J J J J 0
0 0( )
( ) ( ) ( ) ( )
( )( ) ( )
( ) ( )( )
* 2
N n M
N n n M M m N n M N n M
n M m n M m N n M
e NM nmN n MN n M n M m
σ σ
× −
− × × − − × −
− − × −2−
−− × −
⊗ ⊗ + + ⊗
J J 0
I J 0I
0 I J
or equivalently as
C03ed25.doc 8/7/2003 3:47 PM 15
( )
( ) ( )
( )( ) ( )
( )( ) ( )
( )
, ,
2 *
2 *
*2 2 * * **
* *
2 *
2 **
11
1 2
11
I II I I II II
e
e
e n M m n N n M m M
e
eN n n M M m N
mnm m
nmk m k mnm
nn n
mnm m
nmn
σ σσ σ
σ σ σσ
σ σ
σ σσ σ
σ
2
2
2 2− 2 × − − ×
2 2
2
22 − × × −
′ ′− − + =
+ + − + − ⊗ ⊗ − − −= + ⊗ + −
B V B V B B V V
J J J J
J J J( ) ( )
( )( ) ( )
( ) ( )
*2 2 * * *
*
*
2
1 2
n M N n M
en M m nm N n M
N n MN n M n M m
e NM nm
k m k mm
σ σ σ
σ
σ
σ
− × −
2 2
− × −2
2−− × −
−
+ − ⊗ + +
⊗ +
I J 0
0 I J
I. Now
( ) ( )
( )( )
( )( ) ( )
( ) ( ) ( )
( ) ( )( ) ( )
( ) ( ) ( )
* *2 * *2 2 * * *
* * *2 * *2
2 * *2 * *
2*2 * *2 *
2*2 * * * *
2*2 * * *
1 1 2
1 2 21
1 11 2 1
11 1 2 1
11 1 1 2 1
11 1 1
e e
e
e
e
e
e
m k m k mnm nm n n
km knm n n
m k knm n
k k knm n
k k k knm n
k k knm n
σ σσ σ σ σ σ
σ σσ σ
σ σ σ
σσ
σσ
σσ
2 22 2 2
2 22
2 2
2
2
2
+ − + − − − =
= + − + −
= + − + −
= − + − + −
= − + − + − −
= − + − +
( ) ( ) ( )
( ) ( )( )
2*2 * * *
2*2 * * *
2
11 1 1 2
11 1 1
e
e
k k knm n
k k knm n
σσ
σσ
2
2
−
= − + − + −
= − + − − or
C03ed25.doc 8/7/2003 3:47 PM 16
( ) ( )
( ) ( )
* *2 * *2 2 * * *
22*2 * *
1 1 2
11 1
e e
e
m k m k mnm nm n n
k knm n
σ σσ σ σ σ σ
σσ
2 22 2 2
2
+ − + − − − =
= − − −
.
Also,
( )2* *
2 * 2 *1 1 1 ee em
nm n nm n n nmσσ σσ σ σ σ
2 22 2+ − = + − = ,
and
( ) ( )
( )
*2 2 * * * * *2 2 * *2 *
2*2 2 * *
1 12 2 1
1 1
e e
e
k m k m k k km m
k km
σ σ σ σ σ σ
σ σ
2 2 2 2
2
+ − + = + − +
= + −.
As a result, the first term simplifies to
( )
( ) ( )
( )( ) ( )
( )( ) ( )
( )( ) ( )
2 *
2 *
*2 2 * * **
* *
2 *
2 **
11
1 2
11
e
e
e n M m n N n M m M
e
eN n n M M m N n M N n M
mnm m
nmk m k mnm
nn n
mnm m
nmn
σ σσ σ
σ σ σσ
σ σ
σ σσ σ
σ
2
2
2 2− 2 × − − ×
2 2
2
22 − × × − − × −
+ + − + − ⊗ ⊗ − − −
+ ⊗ + −
J J J J
J J J
( ) ( ) ( ) ( ) ( )
( ) ( )( )
( ) ( )
2 22*2 * *
22 *
11 1
1
e en M m n N n M m M
eeN n n M M m N n M N n M
k knm n nm
mnm nm
σ σσ
σσ σ
2− × − − ×
2
− × × − − × −
− − − ⊗ ⊗
= ⊗ +
J J J J
J J J
while the second term reduces to
( )( ) ( )
( ) ( )
( ) ( ) ( )
( ) ( )
*2 2 * * *
*
*
2*2 2 * *
*
1 2
1 1
en M m nm N n M
N n MN n M n M m
e n M m nm N n M
N n MN n M n M m
k m k mm
k km
σ σ σ
σ
σ
σ σ
σ
2 2
− × −2
2−− × −
2− × −
2−− × −
+ − ⊗ =+
⊗ + − ⊗ = ⊗
I J 0
0 I J
I J 0
0 I J
.
As a result,
C03ed25.doc 8/7/2003 3:47 PM 17
( ) ( ) ( ) ( ) ( )
( ) ( )( )
( ) ( )
( ) ( ) ( )
( ) ( )
, ,
2 22*2 * *
22 *
2*2 2 * *
*
11 1
1
1 1
I II I I II II
e en M m n N n M m M
eeN n n M M m N n M N n M
e n M m nm N n M
N n MN n M n M m
k knm n nm
mnm nm
k km
σ σσ
σσ σ
σ σ
σ
2− × − − ×
2
− × × − − × −
2− × −
2−− × −
′ ′− − + =
− − − ⊗ ⊗
+ ⊗ + + − ⊗ + ⊗
B V B V B B V V
J J J J
J J J
I J 0
0 I J
2e NM nmσ −I
or
( ) ( ) ( )
( ) ( )
( ) ( ) ( )
( ) ( )
( ) ( ) ( )
( )
, ,
*2 22* *
*
2
*2 22* *
1 1
1
I II I I II II
en M m nm N n M
N n MN n M n M m
n M m n N n M m Me
N n MN n n M M m
en M m nm N n M
N n M n
kk
n m
n
nm
kk
m
σσ
σ
σ
σσ
2− × −
2
−− × −
− × − − ×
−− × × −
2− × −
− ×
′ ′− − + =
− + − ⊗
+ ⊗
⊗ ⊗ ⊗ ⊗
+ − ⊗
B V B V B B V V
J J 0
0 J J
J J J J
J J J J
I J 0
0( )
( ) ( ) ( )
( ) ( )
2
*
*2 22* *
2
*
1
e NM nm
N n MM m
en M m nm N n M
NM nme NM nm
N nN n MN n M n M m
kk
mnm
n
σσ
σσ
σ
σ
−2
−−
2− × −
−−
2 −−− × −
+ ⊗
+ − ⊗ = + + + ⊗
II J
P J 0J
IJ
0 I J
. Summary of Results In summary,
( ) ( ) ( ) ( ) ( ) ( ) ( )
( ) ( ) ( )
222 2* 2
22 * *
1 1 1
1 1
enm I nm t n m t e n m
t n m
km
k
σρ ρ σ
ρ σ 2
′ ′− − = − − ⊗ + − ⊗
+ − − ⊗
A I V A I P J I P
P J,
C03ed25.doc 8/7/2003 3:47 PM 18
( )( )( )( )
( )( )( ) ( )
2* *
,2* *
1 1
1 1
et
nm I I II n m M m nm N n M
t
k km
k
σρ
ρ σ× − × −
2
− − ′ − − = ⊗ + − −
A I V B V P J 0 , and
( ) ( ) ( )
( ) ( )
( ) ( )
( ) ( ) ( )
( ) ( )
( ) ( ) ( )
, ,
*2 22* *
*
22
1
I II I I II II
en M m nm N n M
N nN n MN n M n M m
n nM m M mnm N n M nm N n Me
eM MN n N nN n M n M m N n M n M m
kk
m
n
nm
σσ
σ
σσ
2− × −
2 −−− × −
− −× − × −
− −− × − − × −
′ ′− − + =
+ − ⊗
= + ⊗ ⊗ ⊗
+ ⊗ ⊗
B V B V B B V V
P J 0
J0 I J
I I 0 J J J
0 I I J J J
As a result, ( ) ( ) ( )( )( )( )
( ) ( ) ( )
( ) ( ) ( )
( ) ( )
( )( )( )( )
( ) ( )
( ) ( )
,
, , ,
222 *
2* *
22 * *
2* *2 2
* *
1 11 1
1 11 11
1 1
nm I nm nm I I II
I II I nm I II I I II II
et n m
et
t n m n m M m nm N n M
tt e n m
et
km
k kmk
k
k k
σρ
σρ
ρ σρ σρ σ
σρ
2
× − × −2
′ ′− − − −
′ ′ ′− − − − + =
− − ⊗
− − + − − ⊗ ⊗ + − − + − ⊗
− −
A I V A I A I V B V
B V V A I B V B V B B V V
P J
P J P J 0
I P
( )( )( )
( )( )
( )
( )
( )
( ) ( ) ( ) ( )
( )
*2 2
2* *22
2
2* * 2
*
22
2
1
1 1
e
n M m
en e n M mM m m nm N n M
t en M m
N nN n M
ee MN nN n M nm N n M n M m
eMN n
km
k
mnm
k
nm
n
nm
nm
σ
σσ
σρ σ σ
σ
σσ
σ
−2
−− × × −2
−
2 −−
−− × − × −
−
⊗ + − ⊗ + ⊗ + − − + ⊗ + ⊗
+ ⊗
+ ⊗
P J
P J I I J
J J
JI J
0 J I I
J J
. We express this as
C03ed25.doc 8/7/2003 3:47 PM 19
( ) ( ) ( )( )( )( )
( ) ( ) ( ) ( )( )( ) ( )
( ) ( )( )
( ) ( )( ) ( )
( )
,
, , ,
2 22 * *
2 2* * *
1 1 1 1
1 1 1
nm I nm nm I I II
I II I nm I II I I II II
t n m t n m M m nm N n M
t n n M mM m m nm N n M
N n M nm
k k
k k
ρ ρ
σ ρ
× − × −
2−− × × −
− ×
′ ′− − − −
′ ′ ′− − − − +
+ − − ⊗ + − − ⊗ = + − − ⊗ + − ⊗
A I V A I A I V B V
B V V A I B V B V B B V V
P J P J 0
P J P J 0
0( ) ( ) ( )
( ) ( ) ( ) ( )( )( ) ( )
( ) ( )( ) ( )( ) ( )
( ) ( ) ( ) ( )
( ) ( )( )
22 * * *
2* * *2
2
2
1 1 1 1
1 1
1
N n MN n M n M m
t n m t n m M m nm N n M
et n n M mM m m nm N n M
N n MN n M nm N n M n M m
t n m nm n M m
e
k k k
k k km
ρ ρ
σρ
ρ
σ
−− × −
× − × −
−− × × −
−− × − × −
× −
− − ⊗ − − ⊗
+ − − ⊗ ⊗
− ⊗
+
0 0
P J P J 0
P J P J 0
0 0 0
I P 0( )
( )
( )
( )( )
( ) ( ) ( ) ( )
( ) ( )
( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
22
2 2* 2
1
nm N n M
n M m
n M m nm nm N n Mn M m
N n MN n M nm N n M n M m
nm nm n M m nm N n M
ee n M mn M m nm nm N n M
e N n eN n M e MN n N nN n M nm N n M n M m
nm
nm
nm n nm
σσ
σ σσ σ
× −
−
− × × −−
−− × − × −
× − × −
−− × × −
2 −− − −− × − × −
⊗
+ ⊗
+
+ ⊗ + ⊗ +
0
I I0 0
J J
0 0 0
0 0 0
0 0 J
J0 J I J I I J M
⊗
J
Evaluation and Simplification of 2σ′ ′
′ ′
A A A BB A B B
Finally, we evaluate
C03ed25.doc 8/7/2003 3:47 PM 20
2 2
2
nmnm
nm nmNM nm
NM nm NM nm
σ σ
σ
−− −
′ ′− − = − ′ ′− − − ′ ′
= ′ ′
I 0 0 A B A BA I 0 A 0 0
0 0 0 I 0 I 0B 0 I B 0 0
0 0 0 0 I 0 I
A A A BB A B B
. Now
( ) ( )
( )
( ) ( )
( )
* *
*
* *
*
1 1
1
1 1
1
nm m nm mt n t nm t n t nm
nm nm mt n t nm
m nm mt n t n t nm
nm mt nm t n
k knm m nm m
knm nm m
k km nm m
knm m
ρ ρ ρ ρ
ρ ρ
ρ ρ ρ
ρ ρ
′ = + − ⊗ + + − ⊗ +
= + − ⊗ + + − ⊗ + − ⊗ +
+ + − ⊗
J J J JA A P P P P
J J JP P
J J JP P P
J JP P
( ) ( )
( )
( ) ( )
* *
*
* * 2
1 1
1
1 1 2
t nm
nm
mt t t n
mt t n t t nm
nm mt t t n t nm
nm
k km
km
k knm m
ρ
ρ ρ ρ
ρ ρ ρ ρ
ρ ρ ρ ρ
+
=
+ − − + ⊗ + − ⊗ +
= + − − + ⊗ +
P
J
JP
JP P
J JP P
or
( ) ( )2 * *1 2 1 m nmt nm t t t nk k
m nmρ ρ ρ ρ ′ = + − + − ⊗ +
J JA A P P .
Also,
( ) ( ) ( )
( ) ( ) ( )
( )
( ) ( ) ( ) ( )
( )
*
* *
* *
1 1
1 1
1 1
nm NM nmm nmt nm t n t
m M mm nmt nm t n t n nm N n M
nm NM nm m M mt t t t n nm N n M
km nm nm
k km nm m
k knm m
ρ ρ ρ
ρ ρ ρ
ρ ρ ρ ρ
× −
× −
× −
× − × −
× −
′ = + − ⊗ + −
+ + − ⊗ + − ⊗ = + − + + − ⊗
JJ JA B I P
JJ JI P P 0
J JP 0
( ) ( ) ( )
( )* *1nm NM nm m M m
t t n nm N n Mk k
nm mρ ρ× − × −
× −
= + + − ⊗
J JP 0
,
C03ed25.doc 8/7/2003 3:47 PM 21
or
( ) ( )
( )
( )* *1 m M m nm NM nmt t n nm N n M
k km nm
ρ ρ × − × −
× −
′ = + − ⊗ +
J JA B P 0 .
Finally,
( ) ( ) ( )
( )
( )
( )
( ) ( )
( )
( )( )
*
* *
*2
NM nm nm nm NM nm m M mn nm N n M
M m mn nm NM nm m M m
n nm N n M
N n M nm
M mNM nm n nm N
knm nm m
mk knm m
mknm
− × × − × −
× −
− ×
× − × −
× −
− ×
−−
×
′ = + ⊗
⊗ + + ⊗
⊗= +
J J JB B P 0
JJ JP
P 0
0
JJ P 0
( )
( ) ( ) ( ) ( )
n M
N n M n M m N n M N n M
−
− × − − × −
0 0
,
or ( )( )
( )
( ) ( ) ( ) ( )
*2
M mNM nm n nm N n M
N n M n M m N n M N n M
mknm
−−
× −
− × − − × −
⊗
′ = +
JJ P 0
B B0 0
.
To summarize,
( ) ( )( ) ( )
( )
2 2
2* *
* *
2
11 2 1
nmnm
nmNM nm
NM nm
m M mt nmt t n nm N n M
mt t t n
nm NM nnm
k km
k km
nm
σ σ
ρρ ρ
ρ ρ ρ
σ
−−
× −
× −
× −
′ ′′ − − = ′ ′′ − −
+ − ⊗ + − + − ⊗
++
=
I 0 0 A B A A A BA I 00 0 0 I 0 B A B BB 0 I0 0 0 0 I
JP P 0J
PJ
J ( )
( )( )
( )
( )
( )( )
( )
( ) ( ) ( ) ( )
* *
*2
1
m
M m mn
M mt tNM nm n nm N n M
N n M nm
N n M n M m N n M N n M
NM nm nm
nm
mk kmk
nm
nm
ρ ρ
− ×
−−
× −− ×
− × − − × −
− ×
⊗ + − ⊗ +
+
JP
JJ P 0
00 0
J
or
C03ed25.doc 8/7/2003 3:47 PM 22
( ) ( )( ) ( )
( )
( )
2 2
2
* ** *
2
* *
11 2 1
1
nmnm
nmNM nm
NM nm
t nmm M m
t t nm nm N n Mt t t n
t t
k kmk k
m
k k
σ σ
ρρ ρ
ρ ρ ρ
σ
ρ ρ
−−
× −
× −
′ ′′ − − = ′ ′′ − −
+ − ⊗ + − + − ⊗
=
+ −
I 0 0 A B A A A BA I 00 0 0 I 0 B A B BB 0 I0 0 0 0 I
P JP 0J
P
( )
( )
( )
( )
( ) ( ) ( ) ( )
*2
2
M m m M mn n nm N n M
N n M n M m N n M N n MN n M nm
NM
m mk
nmσ
− × −
× −
− × − − × −− ×
⊗ ⊗
+
J JP P 0
0 00
J
. We express this as
( ) ( ) ( ) ( )( ) ( )
( )( ) ( )( ) ( )
( ) ( ) ( ) ( ) ( )
2
* * * *
2* * *2
2
2
1 2 1 1
1
t t t n m t t n m M m nm N n M
t t n n M mM m m nm N n M
N n M nm N n M n M m N n M N n M
t nm nm n M
k k k k
k k km
σ
ρ ρ ρ ρ ρ
σ ρ ρ
ρ
σ
× − × −
−− × × −
− × − × − − × −
× −
′ ′ = ′ ′
+ − + − ⊗ + − ⊗ = + − ⊗ ⊗
A A A BB A B B
P J P J 0
P J P J 0
0 0 0
P 0( ) ( )
( ) ( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
2
m nm N n M
NM
n M m nm n M m n M m nm N n M
N n M nm N n M n M m N n M N n M
nmσ
× −
− × − × − × −
− × − × − − × −
+
0J
0 0 0
0 0 0
or since ( ) ( )* * * * * *2 * *1 1t t t t tk k k k k k k kρ ρ ρ ρ ρ + − = + − = + − and
( ) ( ) ( ) ( )( )( )
( )
* * * *2
* *2 *2 2 *2
*2 * *2 2 *2
1 2 1 2 1 1 1
2 1 2
2 1 2
t t t t t t t
t t t t
t t t t
k k k k
k k k k
k k k k
ρ ρ ρ ρ ρ ρ ρ
ρ ρ ρ ρ
ρ ρ ρ ρ
+ − + − = − + − − = − + − +
= + − − +
.
Then,
C03ed25.doc 8/7/2003 3:47 PM 23
( ) ( ) ( )( ) ( )
( )( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
( )( ) ( )
2
* * *
2* *
2*2
2 1 2 1
1
t t n m n m M m nm N n M
t n n M mM m m nm N n M
N n M nm N n M n M m N n M N n M
n m n m M m nm N n M
n M
k k k
k km
km
σ
ρ ρ
σρ
σ
× − × −
−− × × −
− × − × − − × −
× − × −
−
′ ′ = ′ ′
− − + ⊗ − ⊗ = − ⊗
⊗ ⊗
+ ⊗
A A A BB A B B
P J P J 0
P J 0 0
0 0 0
P J P J 0
P J( ) ( )( ) ( )
( ) ( ) ( ) ( ) ( )
( ) ( )
( ) ( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
2
2 2
n M mm m nm N n M
N n M nm N n M n M m N n M N n M
t nm nm n M m nm N n M
NM
n M m nm n M m n M m nm N n M
N n M nm N n M n M m N n M N n M
nm
ρ
σ σ
−× × −
− × − × − − × −
× − × −
− × − × − × −
− × − × − − × −
⊗
+
P J 0
0 0 0
P 0 0J
0 0 0
0 0 0
or since ( ) ( )( )* * *2 1 2 2 1t t t tk k kρ ρ ρ ρ− − + = − − − ,
C03ed25.doc 8/7/2003 3:47 PM 24
( )( ) ( )
( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
( )
( )( )( ) ( )
( ) ( ) ( )
( )
2
22 *
2* *
2
1
n m nm n M m nm N n M
t n M mn M m nm nm N n M
N n M nm N n M n M m N n M N n M
t n m n m M m nm N n M
t n n M mM m m nm N n M
N n M nm N
km
k km
σ
σρ
ρ
σρ
× − × −
−− × × −
− × − × − − × −
× − × −
−− × × −
− ×
′ ′ = ′ ′
⊗
= −
− ⊗ ⊗
− ⊗
A A A BB A B B
P J 0 0
0 0 0
0 0 0
P J P J 0
P J 0 0
0 0( ) ( ) ( ) ( )
( )( ) ( )
( ) ( )( ) ( )
( ) ( ) ( ) ( ) ( )
( ) ( )
( ) ( ) ( ) ( )
2*2
2
2
n M n M m N n M N n M
n m n m M m nm N n M
n n M mM m m nm N n M
N n M nm N n M n M m N n M N n M
t nm nm n M m nm N n M
n M m nm n M m n M m nm N n M
N
kmσ
ρ
σ
− × − − × −
× − × −
−− × × −
− × − × − − × −
× − × −
− × − × − × −
−
⊗ ⊗ + ⊗ ⊗
0
P J P J 0
P J P J 0
0 0 0
P 0 0
0 0 0
0( ) ( ) ( ) ( ) ( )
2 NM
n M nm N n M n M m N n M N n M
nmσ
× − × − − × −
+
J
0 0
. Summary
C03ed25.doc 8/7/2003 3:47 PM 25
( ) ( ) ( )( )( )( )
( )
( ) ( ) ( )( ) ( )
( )( ) ( )( ) ( )
( ) ( ) ( ) ( )
,
, , ,
2
2* *
1 1
1 1
nm I nm nm I I II
I II I nm I II I I II II
t n m t n m M m nm N n M
t n n M mM m m nm N n M
N n MN n M nm N n M n M m
e
k
ρ ρ
σ ρ
σ
× − × −
2−− × × −
−− × − × −
′ ′− − − −
′ ′ ′− − − − +
+ − ⊗ − ⊗ = − − ⊗ ⊗
+
A I V A I A I V B V
B V V A I B V B V B B V V
P J P J 0
P J P J 0
0 0 0
( ) ( ) ( ) ( )( )( ) ( )
( ) ( )( ) ( )( ) ( )
( ) ( ) ( ) ( )
( ) ( )( ) ( )
( )
( )
( )( )
22 * * *
2* * *2
2
2
1 1 1 1
1 1
1
1
t n m t n m M m nm N n M
t n n M mM m m nm N n M
N n MN n M nm N n M n M m
t n m nm n M m nm N n M
n M m
e n M m nm nm N n Mn M m
N
k k k
k k km
nm
ρ ρ
ρ
ρ
σ
× − × −
−− × × −
−− × − × −
× − × −
−
− × × −−
− − ⊗ − − ⊗ − − ⊗ ⊗
− ⊗
⊗+
+ ⊗
P J P J 0
P J P J 0
0 0 0
I P 0 0
I I0 0
J J
0( ) ( ) ( ) ( )
( ) ( )
( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
2
2 2* 2
N n Mn M nm N n M n M m
nm nm n M m nm N n M
en M mn M m nm nm N n M
e N n eN n M e M MN n N nN n M nm N n M n M m
nm
nm n nm
σ
σ σσ σ
−− × − × −
× − × −
−− × × −
2 −− − −− × − × −
+ + ⊗ + ⊗ + ⊗
0 0
0 0 0
0 0 J
J0 J I J I I J J
and
C03ed25.doc 8/7/2003 3:47 PM 26
( )( ) ( )
( ) ( ) ( )
( ) ( ) ( ) ( ) ( )
( )
( )( )( ) ( )
( ) ( ) ( )
( )
2
22 *
2* *
2
1
n m nm n M m nm N n M
t n M mn M m nm nm N n M
N n M nm N n M n M m N n M N n M
t n m n m M m nm N n M
t n n M mM m m nm N n M
N n M nm N
km
k km
σ
σρ
ρ
σρ
× − × −
−− × × −
− × − × − − × −
× − × −
−− × × −
− ×
′ ′ = ′ ′
⊗
= −
− ⊗ ⊗
− ⊗
A A A BB A B B
P J 0 0
0 0 0
0 0 0
P J P J 0
P J 0 0
0 0( ) ( ) ( ) ( )
( )( ) ( )
( ) ( )( ) ( )
( ) ( ) ( ) ( ) ( )
( )
( ) ( ) ( )
( ) ( )
2*2
2
2
2
n M n M m N n M N n M
n m n m M m nm N n M
n n M mM m m nm N n M
N n M nm N n M n M m N n M N n M
t n m
t nm n M m nm N n Mn m
n M m nm n M m n M
km
nm
σ
ρ
ρ
σ
− × − − × −
× − × −
−− × × −
− × − × − − × −
× − × −
− × − ×
⊗ ⊗ + ⊗ ⊗
⊗
− ⊗
0
P J P J 0
P J P J 0
0 0 0
I I0 0
J J
0 0( ) ( )
( ) ( ) ( ) ( ) ( )
( )( ) ( )
( )( )
( )
( ) ( ) ( )( )
2
m nm N n M
N n M nm N n M n M m N n M N n M
n m n m M m nm N n M
n n M mM m m nm N n M
N n MN n n M m N n n M M m
nmσ
− × −
− × − × − − × −
× − × −
−− × × −
−− × × − × × −
⊗ ⊗
+ ⊗ ⊗ ⊗ ⊗ ⊗
0
0 0 0
J J J J 0
J J J J 0
J J J J J J
Special Cases
C03ed25.doc 8/7/2003 3:47 PM 27
We now consider a special case of this expression where terms simply. The
special case has mI iI M
′′ ′= ⊗
1g e and M m M
II iI iIIM M−′ ′ ′ ′ ′= ⊗ ⊗
1 1g e e . We assume that we
are interested in positions where i n≤ so that iII′ =e 0 . Then
( ) ( ) ( ) ( ) ( )( )( )( )
( )
1 2 3
,
, , ,
2
ˆvarnm I nm nm I I II I
I IIIII II I nm I II I I II II
II II
II
P Pξ ξ ξ
σ
′ ′− − − − ′ ′− = ′ ′ ′− − − − + ′ ′ ′ ′+ ′ ′
A I V A I A I V B V gg g gB V V A I B V B V B B V V
A A A B gg g B A B B g
. Now 1iI n iI
nn− ′ =
e P e , 1iI iI′ =e e , and 1iI n iI′ =e J e . Then
( ) ( ) ( ) ( )( )( )( )
( ) ( ) ( ) ( ) ( )
( ) ( ) ( )( ) ( )
,
, , ,
2 2 2* * 2
222 * 2 * * *2
2
1 1 1 2 1
1 1 1 1 2 1 1
nm I nm nm I I II II II
III II I nm I II I I II II
t t
et t
n k m m M m M mnn k m k k m M m k Mn mM
σ ρ ρ
σρ ρ
2
′ ′− − − − ′ ′ ′ ′ ′− − − − +
− − − + − − + − − = + − − + − − − + −
A I V A I A I V B V gg g gB V V A I B V B V B B V V
( )
( )
2
22e
m
M mM m
nmσ
− + − +
or
( ) ( ) ( ) ( )( )( )( )
( ) ( ) ( )
( )( ) ( )
( ) ( )
,
, , ,
2 2* *
2 2* *2
2
1 1 1
1 1 1 1
1
nm I nm nm I I II II II
III II I nm I II I I II II
t
et
e
n k m M mnn k m k M mn mM
M mM m
nm
σ ρ
σρ
σ
2
′ ′− − − − ′ ′ ′ ′ ′− − − − + − − − + − − = + − − + −
− + − +
A I V A I A I V B V gg g gB V V A I B V B V B B V V
.
We simplify this using the fact that ( )( ) ( )
( ) ( )
* * * * * *
* *
1 1
1
t t t
t
k m k M m mk m k m m Mk mk
m k M k f
ρ ρ ρ
ρ
− − + − = − + − + −
= − + −
to
C03ed25.doc 8/7/2003 3:47 PM 28
( ) ( ) ( ) ( )( )( )( )
( ) [ ]
( ) ( )
( )
,
, , ,
22 22* * * *
2
* *
1 11 1
1 1
1 1
nm I nm nm I I II II II
III II I nm I II I I II II
et t t
e
n nk f k k f f fn n m
f nf fnmn kn
σσ ρ ρ ρ
σ
σ
2
2
′ ′− − − − ′ ′ ′ ′ ′− − − − + − − = − − + + − + −
+ − + −
− = −
A I V A I A I V B V gg g gB V V A I B V B V B B V V
[ ] ( ) ( )
( ) ( )
22 22 *
2
11 1 1
1 1 1
et t t
e
nf k f fn m
f f nnm
σρ ρ ρ
σ
− − + − − −
+ − + −
. The second term reduces to
( )
( ) ( ) ( )
( ) ( )
2
22 * 2
2* * 2
22*2 2
2
22 2 2
22
1
11 2 2
1 1 2
II II
II
t
t t
tt
nk mm n
nk k m m M mm n
nk m m M m M mm nM
m mnm
Mnm
σ
σρ
σρ ρ
σ
ρσ ρ
σ
′ ′ ′ ′ = ′ ′ − −
− + − − + − − = + + − + − − +
A A A B gg g B A B B g
.
Now ( ) ( )
( )
2 2 22 2 2 2 2t t
t
m m M m m m mM mm
mM m M m
ρ ρ
ρ
− + − = − + −
= + −
and hence
C03ed25.doc 8/7/2003 3:47 PM 29
( )
( ) ( )
( ) ( )
2
22 * 2
2* *
222*2 2
2 22 2 2 2
2
1
111
1 2
II II
II
t
t t
tt
t
nk mm n
nk k mM m M mm n
nM k m m M m M mm n
m m Mnm nm
k
σ
σρ
σρ ρ
σ
ρ σσ ρ
ρ
′ ′ ′ ′ = ′ ′ − − − + − + − = − + + − + − − +
−
=
A A A B gg g B A B B g
( ) ( )
( ) ( )
2* 2
2* *
2*2
2 22 2
2 * 2
* *2 2
*2
2 2
1
11 1
1
1
1 11
t t
t
t
t t
t
n fm n
nk k f f fm n
nkm n
nfm n nm
k f
k k f f fnm n nmk
f
σ
σρ ρ
σ
σ σρ
ρ
ρ ρσ σ
ρ
−
− + − + − − +
− +
− + − + − − = + + +
.
Now ( ) ( )
( ) ( )( )( ) ( ) ( )( )
( ) ( )
2 * 2 * * *2 2 2
* * *2 *2
* * * *2
* * *2
1 1
1 1 1 1
1 1 1 1
1 1 1
t t t t
t t t t
t t t
t t t
k f k k f f f k f
f k f k f k f f k
f f k k k f k
f k f k f k
ρ ρ ρ ρ
ρ ρ ρ ρ ρ
ρ ρ ρ
ρ ρ ρ
− + − + − + + =
= − + + − − + − + + =
= − + − + − + =
= − + + − +
.
Then
( )( ) ( )
2
2 2* * * *21 1 1
II II
II
t t tn f k f k k f k
m n nm
σ
σ σρ ρ ρ
′ ′ ′ ′ = ′ ′ − = − + + − + +
A A A B gg g B A B B g
.
In summary, the MSE simplifies to
C03ed25.doc 8/7/2003 3:47 PM 30
( ) ( ) ( ) ( ) ( ) ( )( )( )
( )( ) [ ] ( )
1 2 3
,
, , ,
2
22 2* * *
ˆvar
1 11 1 1
nm I nm nm I I II II II
III II I nm I II I I II II
II II
II
et t
P P
n nk f k fn n m
ξ ξ ξ
σ
σσ ρ ρ2
′ ′− − − − ′ ′− = ′ ′ ′− − − − + ′ ′ ′ ′+ = ′ ′
− − = − − + −
A I V A I A I V B V gg g gB V V A I B V B V B B V V
A A A B gg g B A B B g
( ) ( ) ( )
( ) ( )
22
2 2* * * *2
1 1 1 1
1 1 1
et
t t t
f f f nnm
n f k f k k f km n nm
σρ
σ σρ ρ ρ
− − + − + −
− + − + + − + + which Checks (numerically- see c03MSEcheck.xls) with the result on page 7 of c03ed20.doc!