42 ךותמ 1 דומע ,סרוקה םוכיס ,םייארקא תותוא 044202 לוגסה...

42
044202 אותות אקראיים, סיכום הקורס, עמוד1 מתוך42 il . co . technion . www 7 200 © אבי בנדל אותות אקראיים044202 סיכום הקורסwww.technion.co.il הפתק הסגול הפתק הסגול

Upload: others

Post on 31-Aug-2019

28 views

Category:

Documents


0 download

TRANSCRIPT

42 מתוך 1 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

אותות אקראיים

044202

סיכום הקורס

www.technion.co.il

הפתק הסגולהפתק הסגול

42 מתוך 2 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

תוכן עניינים

3........................................................................................................................................חזרה על הסתברות 4.....................................................................................................................................משתנים אקראיים

6............................................................................................................................................וקטור אקראי 7..................................................................................................................................וקטור אקראי גאוסי

8............................................................................................................משתנים אקראיים ווקטורים אקראיים 8.......................................................................................................................................הגדרות בסיסיות

12........................................................................................................................א"העתקות לינאריות של ו 13.........................................................................................................................וקטורים אקראיים גאוסיים

14........................................................................................................................................................שערוך 14.....................................................................................................................................שערוך אופטימלי 14.........................................................................................................................................שערוך ליניארי 14.......................................................................................................................................המקרה הגאוסי 15......................................................................................................................................עיקרון ההשלכה

16......................................................................................................................תהליכים אקראיים בזמן בדיד 17........................................................................................................................................שרשראות מרקוב

20......................................................................................................................תהליכים אקראיים בזמן רציף 21......................................................................................................................מומנטים של תהליך אקראי

23.................................................................................................מעבר תהליכים אקראיים במערכות לינאריות 23..................................................................................................................א כללי במערכת גרעין"מעבר ת 23...................................................................................זמןר דרך מערכת ליניארית קבועה ב"א סמ"מעבר ת

25.........................................................................................................................צפיפות הספק ספקטרלית 26.................................................................................................................................סינון לינארי אופטימלי

29........................................................................................................................................................רעשים 30.........................................................................................................................................רעשים תרמים

Shot Noise(..........................................................................................................................32(רעש דיודה 34......................................................................................................................................................נספחים

34..................................................................................................................................טורי טיילור ידועים 34.............................................................................................................................זהויות טריגונומטריות

35........................................................................................................................התמרת פורייה בזמן רציף

Z...............................................................................................................................................37התמרת 40.........................................................................................................................התמרת פורייה בזמן בדיד

42 מתוך 3 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

חזרה על הסתברות :מורגן-חוקי דה

1 1 1 1

C Cn n n n

C C

k k k k

k k k k

A A A A= = = =

= = ∩ ∪ ∪ ∩

הסתברות מותנית–גדרה ה

|A B

A BB

∩≜P

PP

):Bayes(נוסחת בייס

| |A

A B B AB

=P

P PP

:נוסחת ההסתברות הכוללת

0 0

|n n n

n n

B A A B B∞∞

= =

= Ω ⇒ =∑∪ P P P

חוסר תלות סטטיסטית–הגדרה

A,מאורעות B כאשר) ים סטטיסטיתתלוי- בלתי(ס "יקראו בת:

A B A B∩ =P P P

:משתנים אקראיים בדידים מוכרים

)µ(תוחלת פונקצית הסתברות סימון הסבר; כינוישונות

)2σ( הערות

; ברנוליהצלחה בניסוי

( )Bern p , 1

, 0

p n

q n

= = p pq 1q p−≜

;בינומיk הצלחות

nמתוך ניסויים

( ),Bin n p

0,1,2,...,

k n k

np q

k

k n

− =

np npq

קטן אזי pו , גדולnכאשר

ניתן לקרב

( ) ( ),Bin n p Pois np≈

;גיאומטריתk כשלונות

עד הצלחה ראשונה בניסויים

( )Geom p

1

1,2, 3,...

kpq

k

=

1

p 2

q

p

) פואסונית )Pois λ !0,1,2,...

k

ek

k

λ λ−

= λ λ

( ) ( )

( )1 2

1 2

Pois Pois

Pois

λ λ

λ λ

+

= +

) נומית- מולטי ),Mult n p

11

!

! !i

nx

i

in

np

x x =⋅ ⋅ ⋅ ∏ iX inpµ =

42 מתוך 4 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

:משתנים אקראיים רציפים מוכרים

פונקצית צפיפות סימון כינויתוחלת

)µ( שונות

)2σ( הערות

) מעריכית )Exp λ

, 0

0, 0

0

xe x

x

λλ

λ

− > ≤>

1

λ

2

1

λ

!k k

km

λ=

גאוסיאנית )תנורמאלי(

סטנדרטית( )0,1N

21

21

2

x

− 0 1

( )2

2 1

2 1 !!

0

k

k

m k

m +

= −

=

גאוסיאנית )תנורמאלי(

כללית( )2,N µ σ

21

21

2

x

e

µ

σ

πσ

− − µ 2σ

)עבור )2~ ,X N µ σ ו

( )~ 0,1Z Nמתקיים :

( )b

P X b P Zµ

σ

− ≤ = ≤

] אחידה ],U a b [ ]

[ ]

1, ,

0, ,

x a bb a

x a b

∈ − ∉

2

b a+

( )2

12

b a−

גאמה( )

( )

,

,

Gamma r

r

λ

λΓ

( )1

1 !

rr xx e

r

λλ − −

r

λ

2

r

λ

r פעמים קונבולוציה של

( )Exp λעם עצמו

משתנים אקראיים :פונקצית התפלגות

( ) ( ) ( ) ( ),X X X

dF x P X x f x F x

dx≤ =≜

:צפיפות של סכום משתנים אקראיים היא קונבולוציה בין הצפיפויות שלהם

( ) ( ) ( ) ( ) ( )*X U V U V U Vf x f u f v f u f x u du

= +

−∞

= −∫≜

:תכונות

( ) ( ) ( )

( ) ( ) ( )

( ) ( ) ( )

1 2 1 2

, , ,

, , ,

r s r s

Pois Pois Pois

Bin n p Bin m p Bin n m p

λ λ λ

λ λ λ λ

Γ + Γ = Γ +

+ = +

+ = +

:תכונת חוסר הזיכרון

( ) ( ) ( )

( ) ( ) ( )

~ |

~ |

X Geom p P X n k X n P X k

X Exp P X s t X t P X sλ

⇒ > + > = >

⇒ > + > = >

התוחלת תוחלת–הגדרה

תוחלת של משתנה אקראי בדיד

[ ] ( )N

n

E N n p n∞

=−∞

⋅∑≜

תוחלת של משתנה אקראי רציף

[ ] ( )XE X x f x dx

−∞

⋅∫≜

42 מתוך 5 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

:תוחלת של פונקציה של משתנה: הרחבת המושג)עבור משתנה אקראי בדיד ופונקציה )f x:

( )[ ] ( ) ( )N

n

E f N f n p n∞

=−∞

⋅∑≜

)עבור משתנה אקראי רציף ופונקציה )h x:

( )[ ] ( ) ( )XE h x h x f x dx

−∞

= ⋅∫

תכונות התוחלת ותוצאות נוספות

a,עבור : ליניאריות .1 bקבועים דטרמיניסטים :

[ ] [ ] [ ]E aX bY aE X bE Y+ = +

:נוסחת התוחלת הכוללת .2

[ ] [ ] ( ) ( )| | C CE A E A B P B E A B P B = +

:משפט ההחלקה .3

[ ] [ ]|E X E E X Y =

X,אם .4 Y אז, )חסרי קורלציהאו אפילו רק ( בלתי תלויים

[ ] [ ] [ ]E XY E X E Y= ⋅

:Xא "לכל מ .5

[ ] ( )( )0 0

1 XE X X x dx F x dx

∞ ∞

= < = −∫ ∫P

מומנט–הגדרה

( )k k

k Xm E X x f x dx

−∞

= ∫≜

)מומנטים של )2~ 0,Z N σ:

[ ]( ) !!, 21 3 ... 1 , 2

0, 2 10, 2 1

nn

nn n kn n k

E Zn kn k

σσ ⋅ =⋅ ⋅ ⋅ ⋅ − = = = = += +

שונות–הגדרה

[ ]( ) [ ]( )2 22 2var XX E X E X E X E Xσ = − = − ≜

):לא אקראי( קבוע דטרמיניסטי cכאשר , תכונות השונות( )

( )

( ) ( )

2

2 2

var 0

var var

var var 2 cov , var 2X XY Y

c

cX c X

X Y X X Y Y σ σ σ

=

=

+ = + + = + +

סטיית התקן–הגדרה

varX Xσ ≜ )פונקציה אופיינית ( פונקציה יוצרת מומנטים–הגדרה

( ) ( ) ( )0ksX k

X X kM s Ee M EX m⇒ = =≜

:בישב'אי שוויון צ

2

2 2

1,X b X a

b a

σµ µ σ− > ≤ − > ≤P P

:אי שוויון ינסן

( )[ ] [ ]( )E h X h E X≥

42 מתוך 6 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

וקטור אקראי ראי וקטור אק–הגדרה

:ומסומן, רכיביו הם משתנים אקראייםn הוא וקטור אשר כל nוקטור אקראי ממימד

( )1 2, ,..., nX X X X=

):של אחד המשתנים(ניתן לחשב את פונקצית הצפיפות השולית , מצפיפות משותפת של שני משתנים

( ) ( ),X XYf x f x y dy

−∞

= ∫

ם"אי תלות קיימת אם

( ) ( ) ( ),XY X Yf x y f x f y=

)אי תלות בין רכיבי וקטור ),X Y לא יכולה להתקיים אם התמך של ( ),XYf x yלא מלבני .

:התפלגות מותנית

( ) ( )( )

( )( )

( )| |

,| |XY X

XY Y XBayes

Y Y

f x y f xf x y f y x

f y f y=≜

:נוסחת הצפיפות הכוללת

( ) ( ) ( )| |X XY Yf x f x y f y dy

−∞

= ∫

):ווריאנס- קו(שונות בין שני משתנים אקראיים

( ) [ ]( ) [ ]( ) [ ] [ ] [ ]cov ,XY X Y E X E X Y E Y E XY E X E Yσ = − − = − ≜

a,עבור , תכונות הקווריאנס bקבועים דטרמיניסטים :

( )

( ) ( )

( ) ( )

2cov , var

cov , cov ,

cov , cov ,

XX X X

X a Y X Y

aX b Y a X Y

σ= =

+ =

+ =

):מקדם המתאם(קורלציה

, 1XYXY XY

X Y

σρ ρ

σ σ= ≤

:תכונות

( )

, ,

, ,

, ,

X Y Y X

aX Y X Y

X cY X Y

sign a

ρ ρ

ρ ρ

ρ ρ+

=

==

42 מתוך 7 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

וקטור אקראי גאוסי

Xעבור וקטור אקראי גאוסי כללי

הצפיפות המשותפת היא,

( ) ( ) ( )( ) 11exp

2

T

Xf x C x xµ µ−= − − Σ −

µכאשר

.)תמיד סימטרית( מטריצת הקווריאנס Σו , הוא וקטור התוחלות :ועבור מקרה פרטי של שלושה משתנים

( ) ( )

12

2, ,

2

1, , exp

2

X XY XZX

X Y Z X Y Z XY Y YZ Y

ZXZ YZ Z

x

f x y z C x y z y

z

σ σ σ µ

µ µ µ σ σ σ µ

µσ σ σ

− − = ⋅ − − − − − −

X מימד הוקטור kבהינתן

הואCהקבוע ,

( ) 11 1

exp22

T

kC µ µ

π

−= − ΣΣ

חזאים ):Xפונקציה של (X בעזרת Yהאופטמלי של ) משערך(החזאי

[ ]ˆ |optY E Y X=

):Xפונקציה ליניארית של (X בעזרת Yהליניארי האופטמלי של ) משערך(החזאי

( )( )

2

cov ,ˆlinopt

X

X YY X EX EY

σ= − +

.משתנים בלתי מתואמים הם גם בלתי תלויים, במשפחה הגאוסית .החזאי האופטמלי הוא החזאי הליניארי האופטמלי, במשפחה הגאוסית

WLLN(החוק החלש של המספרים הגדולים Weak Lawof LargeNumbers−(:

1יהיו 2, ,..., NX X Xל "ראיים מפולגים באופן זהה ובת משתנים אק

)IID Independent Indentically Distributed−( , בעלי תוחלתµ . נסמן1

n

n i

i

S X=

אזי לכל , ∑=

0ε >:

lim 0n

n

S

nµ ε

→∞

− > = P

nSXחוק זה אומר כי אם נגדיר , בעצםn

)אזי , = ) ( )lim Xn

f x xδ µ→∞

= −

CLT(משפט הגבול המרכזי Central LimitTheorem−:(

1יהיו 2, ,..., NX X Xל " משתנים אקראיים מפולגים באופן זהה ובת

)IID Independent Indentically Distributed−( , בעלי תוחלתµ 2 ושונותσ . נסמן1

n

n i

i

S X=

אזי, ∑=

( )2

lim n

n

S na a

n

µ

σ→∞

− ≤ = Φ P

) פונקצית ההתפלגות של Φכאשר )0,1N.

42 מתוך 8 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

משתנים אקראיים ווקטורים אקראיים בסיסיותהגדרות

):כלומר אחד מהם או שניהם אולי סקלר, נווניםאולי מ(בין שני וקטורים , ההגדרה הכללית של קווריאנס

( ) ( )( )cov ,T

X Y E X EX Y EY − − ≜

) ווקטור אקראי Xקווריאנס בין משתנה אקראי )1 2, ,...,T

nY Y Y Y=:

( ) ( )( ) ( )( )( ) ( ) ( )( )

( ) ( )( ) ( )

( )

( )

( )

1 1 2 2

1 2

11 1

2 2 2

cov ,

cov , cov , cov ,

cov ,

cov ,cov ,

cov ,

T

n n

n

T

n n n

X Y E X EX Y EY E X EX Y EY Y EY Y EY

Y X Y X Y X

Y XY EY

Y EY Y XY X E Y EY X EX E X EX

Y EY Y X

− − = − − − −

=

− − − − = − = −

≜ ⋯

≜⋮ ⋮

)אקראי ווקטור קווריאנס בין )1 2, ,...,T

mX X X X=קראי ווקטור א( )1 2, ,...,T

nY Y Y Y=:

( ) ( )( ) ( )

( )( )

( )( )

1 1

2 2

1 1 2 2

1 1 1 1

cov ,T

n n

m m

m m n nm n

X EX

X EXX Y E X EX Y EY E Y EY Y EY Y EY

X EX

X EX Y EY

X EX Y EY×

− − − − = − − − − − − = − −

≜ ⋯⋮

X,בין שני משתנים אקראיים ) מקדם מתאם(מקדם קורלציה Y:

( ),

cov ,, 1

var varX Y

X Y

X Yρ ρ ≤≜

)מטריצת המומנטים מסדר שני של וקטור אקראי )1 2, ,...,T

nX X X X=:

( )

[ ] [ ]

[ ] [ ]

[ ]

21 1 2 11

22 2 1 2 2

1 2

21

n

nT

n

nn n

E X E X X E X XX

X E X X E X E X XE X X E X X X

X E X X E X

⋅ = =

⋱⋯

⋮ ⋮ ⋱ ⋱ ⋮

⋯ ⋯

42 מתוך 9 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

)של וקטור אקראי XΛמטריצת הקווריאנס )1 2, ,...,T

nX X X X=:

( ) ( )( )

( )

( ) ( )( ) ( )( )

( )( ) ( )

( )( ) ( )

1 1

2 2

1 1 2 2

2

1 1 1 1 2 2 1 1

2

2 2 1 1 2 2

1 1

cov , varT

n n

n n

n n

n n n n

X X X E X EX X EX

X EX

X EXE X EX X EX X EX

X EX

X EX X EX X EX X EX X EX

X EX X EX X EXE

X EX X EX X EX

= − − − − = ⋅ − − − −

− − − − −

− − −=

− − −

⋯⋮

⋱ ⋮

⋮ ⋱ ⋱ ⋮

⋯ ⋯

( ) ( )( ) ( )( )

( )( ) ( )

( )( ) ( )

2

2

1 1 1 1 2 2 1 1

2

2 2 1 1 2 2

2

1 1

n n

n n n n

E X EX E X EX X EX E X EX X EX

E X EX X EX E X EX

E X EX X EX E X EX

− − − − − − − − = − − −

⋱ ⋮

⋮ ⋱ ⋱ ⋮

⋯ ⋯

( ) ( )

( )

( )

1 1 2

2 1 2

1

var cov , cov ,

cov , var

cov , var

n n

n n

X X X X X

X X X

X X X

=

⋱ ⋮

⋮ ⋱ ⋱ ⋮

⋯ ⋯

אי תלות סטטיסטית –הגדרה

X,משתנים אקראיים Yיימיםם אחד מהתנאים הבאים מתק"אם) בלתי תלויים סטטיסטית(ס "יקראו בת:

α,לכל .1 β מתקיים , ( , ) ( ) ( )X Y X YF F Fα β α β= ⋅;

A,לכל .2 B ∈ ℝ מתקיים ,X AY B X A Y B∈ ∈ = ∈ ⋅ ∈P P P;

f,לכל שתי פונקציות .3 g מתקיים ( ) ( )[ ] ( ) ( )[ ]E f X g Y E f X Eg Y⋅ = ⋅.

אי תלות ליניארית –הגדרה

X, אקראיים משתנים Yכאשראו חסרי קורלציה , )בלתי תלויים ליניארית(ל "יקראו בת:

( )cov , 0X Y EXY EXEY= − =

,כלומר , גם מקדם הקורלציה יתאפס, במקרה זה 0X Yρ =.

הסתברות מותנית –הגדרה

כאשר , B במאורע A של מאורע הסתברות מותנית 0B ≠P:

|A B

A BB

∩≜P

PP

42 מתוך 10 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

)Bayes(נוסחת בייס

| |A

A B B AB

=P

P PP

X Y נוסחת בייס המתאימה

) רציף רציף )( )

( )( )| || |X

XY Y X

Y

f xf x y f y x

f y=

בדיד בדיד

| |X x

X x Y y Y y X xY y

== = = = =

=P

P PP

רציף בדיד ( )( )

| ||

Y X

Y

f y xX x Y y X x

f y= = = =P P

התפלגות מותנית–הגדרה

:Y בהנתן משתנה אקראי Xההתפלגות המותנית של משתנה אקראי :בדיד Yעבור

( ) |

,| |XY

X x Y yF x y X x Y y

Y y

≤ =≤ = =

=≜

PP

P

: רציףYעבור

( ) |

0 0

,| lim | limXY

X x y Y yF x y X x y Y y

y Y yε ε

εε

ε+ +→ →

≤ ≤ ≤ +≤ ≤ ≤ + =

≤ ≤ +≜

PP

P

צפיפות מותנית– הגדרה

)אם קיימת פונקציה )| |Y X

Ff y x

y

∂=∂

כך ש

( ) ( )| || |

y

Y X Y XF y x f x dθ θ

−∞

= ∫

) -אומרים ש )| |Y Xf y xותנית של הינה הצפיפות המY בהינתןX.

)הפונקציה, כמו כן )| |Y Xf y x את חוק בייס מקיימת:

( )( )( )

,

|

,| X Y

Y X

X

f x yf y x

f x=

תוחלת מותנית –הגדרה

)אם קיים פילוג סגולי מותנה )| |Y Xf y xלהגדרת התוחלת באופן דומה אזי:

[ ] ( )|| |Y XE Y X x yf y x dy

−∞

= ∫≜

פונקצית האינדיקטור–הגדרה נגדירAעבור המאורע

1,1

0, 1A

A

A

−≜

P

P

]ואז ] 1AE A= P

טענות

]מתקיים , Xא "ולכל מAלכל מאורע .1 ] 1 | |AE X P A X=

Yאם .2 c=) c אז )) לא אקראי( קבוע דטרמיניסטי[ ] [ ] [ ]| , |E Y X c E X Y E X= =.

a,אם : לינאריות .3 b דטרמיניסטים אזי [ ] [ ] [ ]| | |E aY bZ X aE Y X bE Z X+ = +.

Y, אם .4 Zא המקיימים " מY Z≥ אזי [ ] [ ]| |E Y X E Z Xβ β= ≥ =.

5. ( )[ ] ( )|E h X X h X=.

42 מתוך 11 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

g,אם .6 h פונקציות כלשהן אזי( ) ( )[ ] ( ) ( )[ ], | , |E g X h X Y X g X E h X Y X=.

X,אם .7 Yס אזי "א בת"מ[ ] [ ]|E Y X E Y=.

] :משפט ההחלקה .8 ] [ ]|E Y E E Y X = .

]: המוכללמשפט ההחלקה .9 ] [ ]| ,E X Y E E X Y Z Y =

10. ( ) ( )[ ] ( ) ( )[ ] ( ) ( ), , | ,E g X h X Y E E g X h X Y X E g X E h X Y X = =

אם .11 1

n

i iX

= אזי, iidא " מ

1

|n

i i

i

sE X X s

n=

= =

אישתנה אקרטרנספורמציה של מ

)א עם פונקצית צפיפות" מXיהי )Xf x ופונקציה( )g t .אם ( )Y g X=אזי

( )( )

( )( )( ) 1: '

XY

x g x y x g y

f xf y

g x −= =

= ∑

) המקיימים xכאשר הסכימה היא על כל )g x y=.

טרנספורמציה של וקטור אקראי

)יהי וקטור אקראי ),X Yותהי הטרנספורמציה

( ) ( ) ( )( ), , , ,w z h x y g x y=

: מתקייםיאז

( )( )

( )( )

,

,,( , )

( , ): ,( , )

,, X Y

ZWx s z wz g x y

x y y t z ww h x y

f x yf z w

J = = ==

= ∑

כאשר

)קיימת הטרנספורמציה ההפוכה .1 ) ( ) ( )( ), , , ,x y s z w t z w=.

): היעקוביאן הוא .2 ),W

Z Z

X YJ x y

W

X Y

∂ ∂∂ ∂∂ ∂∂ ∂

)פונקציה יוצרת מומנטים ( של משתנה אקראי פונקציה אופיינית–הגדרה

אזי הפונקציה האופיינית שלו היא, Xיהי משתנה אקראי

( ) ( )jXt jxt

X Xt E e e f x dxϕ

−∞

= ∫≜

1jכאשר −≜.

)נה אלא התמרת פורייה של פונקצית הצפיפות נשים לב שהפונקציה האופיינית אי )Xf x.

פונקציה אופיינית משתנה אקראי

( )~X Pois λ ( ) ( )1 jte

X t eλ

ϕ− −=

( )2~ ,X N µ σ ( )2 21

2j t

X t eµ σ

ϕ−

=

42 מתוך 12 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

א"העתקות לינאריות של ו :הבאהנביט במערכת הפשוטה

התכונות המתקבלות של אות המוצא כניסה יציאה תכונה

EY תוחלת AEX b= + EX

T שונות

Y XA AΛ = Λ XΛ

) מומנט שני ) ( )T T T T T T TE YY AE XX A A EX b b EX A bb = + + + TE XX

) פונקציה אופיינית )0 ( ) T

Y Xb Aϕ ν ϕ ν= ⇒ = ( )Xϕ ν

טענות

0Tx מתקיים xשלילית מוגדרת אם לכל - תקרא איCמטריצה סימטרית .1 Cx ≥.

0Cלמטריצה .2 TC: ע לפי" יש פירוק לע≤ U U= Λ , כאשרΛע האלכסונית ו " מטריצת העU המטריצה

1המקיימת , היוניטרית המלכסת TU U− =.

)De-correlation (הלבנה

X כך שאברי Aנחפש מטריצה דטרמיניסטית . YΛ בעל מטריצת קווריאנס Yיהי וקטור אקראי AY= יהיו

X תקיים Xכלומר מטריצת הקווריאנס של , חסרי קורלציה IΛ =.

הפתרון המתקבל הוא1

2 TA U−

= Λ

.YΛ המטריצה היוניטרית המלכסנת את Uכאשר

X Y AX b= + Σ

A

b

42 מתוך 13 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

וקטורים אקראיים גאוסיים

.א גאוסים"כמה תוצאות מעניינות עבור מ, ראשית

)אם )2~ 0,X N σ אזי

[ ]( ) !!, 21 3 ... 1 , 2

0, 2 10, 2 1

nn

nn n kn n k

E Xn kn k

σσ ⋅ =⋅ ⋅ ⋅ ⋅ − = = = = += +

)אם )2~ ,X N µ σאזי

( )24 23EX EX=

, משתנים גאוסים 4עבור , ,X Y Z W 0 בעלי תוחלת:

[ ] [ ] [ ] [ ] [ ] [ ] [ ]E XYZW E XY E ZW E XZ E YW E XW E YZ= + +

) ג"וא(וקטור אקראי גאוסי –הגדרה

)אקראי וקטור )1 2, ,...,T

nX X X X= שהפונקציה האופיינית שלו היא מהצורה

( )1

2T Tj

X eµ ν ν ν

ϕ ν− Λ

=

,1כאשר , ייקרא וקטור אקראי גאוסי varn n nEX Xµ × ×= Λ =.

1נאמר כי 2, ,..., nX X Xהם גאוסים במשותף .

n לא סינגולרית ממימד Λאם n×אז

( )( )

( ) ( ) 11 1exp

22

T

Xn

f x x xµ µπ

−= − − Λ −Λ

:נסמן את הוקטור האקראי הגאוסי כך

( )~ ,X N µ Λ

טענות

)א "ו .1 )1 2, ,...,T

nX X X X=ם כל צירוף של איבריו הוא משתנה אקראי גאוסי"ג אמ" הוא וא.

.ג הוא משתנה אקראי גאוסי"כל צירוף ליניארי של רכיבי וא .2

אם .31

2

XY

X

= . הוא בעצמו גאוסי2X בהינתן 1Xאזי חוק הפילוג המותנה של , ג" וא

Yג אזי גם " ואXאם כלומר . ג"ג הוא גם וא"כל צירוף ליניארי של וא .4 AX b= A, כאשר, ג" וא+ b

.דטרמיניסטים

.ל בזוגות"ג שרכיביו בת" ואX -ניח שנ .5

:לפיכך מתקיים ( , ) 0n kn k Cov X X∀ ≠ ונקבל. תהיה אלכסוניתΛ ולכן המטריצה =

2

1 1 1 1 1

2

1 1

1 1( ) exp exp

2 2

1exp ( )

2 n

N N N N N

X n n n nk k n n n nn

n n k n n

N N

n n n nn X n

n n

j m j m

jm

ϕ ν ν ν λ ν ν ν λ

ν ν λ ϕ ν

= = = = =

= =

= − = − =

= − =

∑ ∑∑ ∑ ∑

∏ ∏

.אי תלות לינארית שקולה לאי תלות סטטיסטית, וסים במשותףעבור משתנים גא: מסקנה

Y -ג ו" ואXאם .6 AX=י העתקה לינארית " ניתן לקבל עZ DY= , הלבנה (ת"ג שרכיביו ב"וא( .

t, כלומרYΛנת של היא מטריצה מלכסD המטריצה

z YD DΛ = Λאלכסונית .

X,אם .7 Yאזי , גאוסים במשותף( )|Var X Y c= ,כלומר קבוע.

ס"צירוף ליניארי של משתנים אקראיים גאוסיים הינה משתנה אקראי גאוסי רק כאשר המשתנים בת .8

ס הם "א גאוסים בת" מn, כלומר.ג"אזי זהו וא, ס"א גאוסים והם בת"א הינם כולם מ" רכיביו של ואם .9 .ס"א גאוסים במשותף אינים חייבים להיות בת"נזכיר כי מ. גאוסים במשותף

42 מתוך 14 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

שערוך אופטימלישערוך

)וקטור אקראי אלו בתוצאות ונשים מדידות אקראיות n נבצע. משתנה אקראיYיהי )1 2, ,...,T

nX X X X=.

.Y את שערךנ ממדידות אלו

)אם משערך כללי כלשהו הוא )Xϕ ,אזי שגיאת השערוך היא

( )Y Xε ϕ= −

גיאה הריבועית הממוצעת היאוהש

( )( )22E E Y Xε ϕ = −

.הריבועית הממוצעתלמינימום את השגיאה אנו נחפש משערך אופטימלי כזה שיביא

ˆ או Yנסמן אותו , מסתבר שלא מסובך למצוא משערך כזהoptY ,י הביטוי"והוא נתון ע:

[ ]ˆ ˆ |optY Y E Y X= =

ליניארישערוך אנו עדיין מעוניינים לשערך (ולכן אנו מסתפקים בחישוב משערך ליניארי, כ קשה לחשב את המשערך האופטימלי"בד

) מדידות הנמצאות בוקטור האקראיn מתוך Yאת המשתנה האקראי )1 2, ,...,T

nX X X X=( . המערך הליניארי

)כלומר מהצורה , האופטימלי הוא המשערך הליניארי )1

nlin

opt i i

i

X X bϕ α=

= המביא למינימום את שגיאת ∑+

השערוך הריבועית

( )( )22 lin

optE E Y Xε ϕ = −

:י"המשערך הליניארי האופטימלי נתון ע

( ) ( )1

1 1ˆ cov ,lin

opt Xn nY EY Y X X EX−

× ×= + ⋅ Λ ⋅ −

כאשר

( ) ( ) ( )( )11

cov , cov , cov , nn

Y X Y X Y X×

= ⋯ ⋯

: היאXומטריצת הקווריאנס של וקטור

( )

1 1 2 1

2 1 2

1

2, ,

2,

2,

var

n

n n

X X X X X

X X X

X

X X Xn n

X

σ σ σ

σ σ

σ σ×

Λ =

⋱ ⋮≜

⋮ ⋱ ⋱ ⋮

⋯ ⋯

אזי ישנה תלות בין המדידות ולכן ניתן לשערך ללא המדידות התלויות , סינגולריתXΛאם מתקבלת מטריצה

.במדידות אחרות

הינו X בהינתן המשתנה האקראי Y המשערך האופטימלי של המשתנה האקראי,נזכיר כי במקרה הסקלרי

[ ]ˆ |optY E Y X=

:י הנוסחה הפשוטה" נתון עהמשערך הלינארי האופטימליו

( )( )

cov ,ˆvar

lin

opt

Y XY EY X EX

X= + −

גאוסירה הקהמ בנושא השערוך אנו מגלים כי המשערך הליניארי האופטימלי שווה. ים אקראיים גאוסיםאנו מאוד אוהבים משתנ

ייתן את השיערוך Xא " בהינתן מYא"לכן כל הטיפול הקודם בשיערוך ליניארי של מ. למשערך האופטימלי

X,כאשר , X על סמך Yהאופטימלי של Y כלומר (גאוסים במשותף( ),X Yוקטור אקראי גאוסי .(

)נקבל כי כאשר , n ממימד X בהנתן וקטור Yא "כלומר שערוך אופטימלי של מ, עבור המקרה הכללי יותר ),Y X

הואX על סמך Yאזי המשערך האופימלי של , וקטור אקראי גאוסי

( ) ( )( ) ( )1

1 1ˆ ˆ cov , varlin

opt opt n nn nY Y EY Y X X X EX

× ××= = + ⋅ ⋅ −

42 מתוך 15 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

עיקרון ההשלכהˆאם

optYהוא המשערך האופטימלי של Yהוקטור בהינתן Xשגיאת השערוך אזי ˆoptY Yε ניצבת לכל ≜−

כלומר, פונקציה של המדידות

( )[ ] ( ) ( )ˆ 0optE g X E Y Y g Xε = − =

.g לכל פונקציה חסומה

)כאשר בוחרים (מעקרון ההשלכה ) ˆoptg X Y=( ,ניתן לקבל כי

( ) 22 2 2ˆ ˆmin min opt optMMSE E E Y Y EY EYε

= = − = −

linˆנוכל לומר כי אם , עבור המשערך הליניאריoptY האופטימלי של הליניארי הוא המשערךY בהינתן הוקטור X אזי

linˆשגיאת השערוך optY Yε כלומר, של המדידותליניארית ניצבת לכל פונקציה ≜−

( )[ ] ( ) ( )1

ˆ ˆ 0n

lin

lin opt i i

i

E g X E Y Y X bε α=

= − + = ∑

)אם ),X Yאזי , גאוסים במשותף|Z X Y=כלומר, גם גאוסי

( )( )2

22| 2

1,

2XYf e

α µ

σα βπσ

−−

=

כאשר

[ ] ( )( )

( )( )22

cov ,|

var

cov ,var 1

var var

X YE X Y EX Y EY

Y

X YX

X Y

µ

σ

= = + −

= −

42 מתוך 16 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

תהליכים אקראיים בזמן בדיד

תהליך אקראי בזמן בדיד– הגדרה]תהליך אקראי בזמן בדיד ]X n , 1 2N n N≤ .א"של מ) סופית או אינסופית( הינו סדרה ≥

]: נסמן ],X n ω אוnX או ( )X n.

תוהגדר

0ω "גורם המזל" את המתקבלת כאשר מקפיאים, n, הזמןפונקציה של .1 ω=ומקבלים [ ]0,X n ω , כלומר

.מסתכלים על ארוע מסוים בכל ציר הזמן

2. [ ]0,X n ω - 0 הערך של הפונקציה האקראית בנקודהω.

3. [ ]0,X n ω -0 המשתנה האקראי בזמןn.

חוק הפילוג של תהליך אקראי –הגדרה

דרות עבור סדרות זמנים סופיות המוגפונקציות הפילוג הינו אוסף כל חוק הפילוג של תהליך אקראי 1מהצורה 2, ,..., Nn n n:

( ) [ ] [ ] [ ] 1 2, ,..., 1 2 1 1 2 2, ,..., , ,...,

Nn n n N N NF P X n X n X nα α α α α α= ≤ ≤ ≤

ולכל סדרה Nלכל 1

N

i in

= ולכל סדרה

1

N

i iα

= .

סטציונריות–הגדרה

]תהליך ]X nקרא תהליך סטציונרי אם לכל נk שלמים ולכל סדרה 1

N

i in

=ולכל סדרה

1

N

i iα

= מתקיים,

( ) ( )1 2 1 2, ,..., 1 2 , ,..., 1 2, ,..., , ,...,

N Nn n n N n k n k n k NF Fα α α α α α+ + +=

הגדרות נוספות

:תוחלת של תהליך אקראי •

( ) [ ][ ]X n E X nµ ≜

:פונקצית האוטוקורלציה •

( ) [ ] [ ]1 2 1 2,XR n n E X n X n ≜

:פונקצית הקווריאנס •

( ) [ ] [ ]( ) [ ] [ ]( )( ) ( ) ( )

1 2 1 1 2 2

1 2 1 2

,

,

X

X X X

K n n E X n EX n X n EX n

R n n n nµ µ

− − = −

תהליכים אקראיים שימושיים

רעש לבן בזמן בדיד]א "של מ סדרהרעש לבן הוא ]X n שהם iid.

)הילוך אקראי(הילוך שיכור ]אם ]X nאזי הילוך אקראי מוגדר כלהלן, הוא רעש לבן:

[ ]

[ ] [ ] [ ] [ ]1

0 0

1n

i

Y

Y n Y n X n X i=

= = − + =∑

תהליך אקראי גאוסי

]תהליך ]X n יקרא גאוסי אם לכל סדרת זמנים 1

k

i in

=]הוקטור , ] [ ] [ ]( )1 2, ,... kX n X n X n הוא וקטור

.אקראי גאוסי

42 מתוך 17 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

ארגודיות–הגדרה ]יהי ]X nלכל פונקציה חסומה אם . תהליך סטציונריg 1 בk 0k משתנים ולכל + : מתקיים<

[ ] [ ] [ ]( ) [ ] [ ] [ ]( )1lim , 1 ,..., 0 , 1 ,...,

2 1

N

Nn N

g X n X n X n k E g X X X kN→∞

=−

+ + = + ∑

]אז נאמר כי ]X nהליך ארגודי הוא ת.

. תהליך ארגודיXאם הממוצע האמפירי מתכנס לתוחלת אז אומרים ש , אינטאיטיבית : הוא ארגודי אם מתקייםXתהליך סטציונרי , החד ממדיעבור המקרה

[ ]( ) [ ]( )[ ]1lim

2 1

N

Nn N

g X n E g X nN→∞

=−

=+ ∑

]:דוגמאות לתהליכים ארגודיים ]X n c≡ ,[ ]X n תהליך iid.

]: דוגמא לתהליך לא ארגודי ]X n Y= , כאשרYמשתנה אקראי כלשהו .

שרשראות מרקוב

)שרשרת מרקוב( תהליך מרקוב –הגדרה

]הי י ]X nאם לכל . תהליך אקראיn k> ו 1, , ,...,n n n ki j j j− :מתקיים −

[ ] [ ] [ ] [ ]

[ ] [ ] 11 | , 1 ,...,

1 |

n n n k

n

X n i X n j X n j X n k j

X n j X n j

− −+ = = − = − =

= + = =

P

P

.אז נקרא לתהליך שרשרת מרקוב

הסתברות המעבר–הגדרה להסתברות

[ ] [ ] 1 |jip X n i X n j+ = =≜ P

]כאשר ל , i למצב jב ממצ) בצעד יחיד(נקרא הסתברות המעבר ]X n קראנו מצב התהליך ברגע n. .n, נשים לב שהסתברות זו יכולה להיות גם תלויה בזמן

: צעדיםkת מעבר ב ניתן להרחיב את ההגדרה להסתברו( ) [ ] [ ] |k

jip X n k i X n j+ = =≜ P

שרשרת מרקוב הומוגנית–הגדרה

כלומר , j למצב iהסתברות המעבר ממצב לשרשרת מרקוב המקיימת כי

[ ] [ ] 1 |ijp X n j X n i+ = =≜ P

.נקרא שרשרת הומוגנית, ןאינה תלויה בזמאך , כדי לתאר שרשרת מרקוב הומוגנית" שרשרת סטציונרית" לעיתים נראה בספרות את המונח –הערה

.מונח זה מטעה מכיוון ששרשרת מרקוב הומוגנית אינה חייבת להיות תהליך אקראי סטציונרי

מטריצה הסתברויות המעבר–הגדרה

) המכילה באיבר טרציהמ, עבור תהליך מרקוב הומוגני ),i j את הסתברות המעבר ממצב i למצב j:

11 12 1

21 22

,

1

n

ij i j

n nn

p p p

p pP p

p p

= =

⋱ ⋮

⋮ ⋱ ⋱ ⋮

⋯ ⋯

:ים צעדkניתן להרחיב את הגדרת המטריצה להיות מטריצת המעבר ב , כמו הסתברויות המעבר

( ) ( )

( ) ( ) ( )

( ) ( )

( ) ( )

11 12 1

21 22

,

1

k k k

n

k k

k k

iji j

k k

n nn

p p p

p pP p

p p

= =

⋱ ⋮

⋮ ⋱ ⋱ ⋮

⋯ ⋯

), שימו לב )kijpאלא סימון של מעבר ב , אינו העלאה בחזקהkצעדים .

42 מתוך 18 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

של שרשרת מרקובים מרחב המצב–הגדרה

קבוצה זו יכולה להיות .Sומסומנת , זוהי הקבוצה שאיבריה הם כל המצבים האפשריים של השרשרת .או אינסופית ובת ומניה, סופית

)וקטור פילוג ( וקטור הסתברויות בזמן–הגדרה

עבור סדרת המצבים , עבור תהליך מרקוב הומוגני 1

N

k ki

= : הרב מימדי הבאנגדיר את וקטור ההסתברויות

( ) ( ) ( ) ( )( ) ( )1 2

1 2

, ,...,

( ) , ( ) ,..., ( )

ki i i

k

n n n n

X n i X n i X n i

ν ν ν ν=

= = =≜ P P P

.nבזמן , זה נקרא גם וקטור הפילוג של השרשרתרה שווקטור .נדגיש שזהו וקטור שורה

i,ערכי : הערה j) לאו דווקא שלמים) מצבי התהליך.

טענות

.תהליך מרקובי נשאר מרקובי גם אם הופכים את ציר הזמן .1

)כלומר הוקטור , ה סטוכסטיתמטריצת הסתברויות המעבר הינה מטריצ .2 )1,1,...,1T

, הוא וקטור עצמי שלה

סכום כל שורה , אינטואיטיבית. (1סכום איברי כל שורה הוא , או במילים אחרות. 1עם ערך עצמי , מצד ימיןiם ההסתברויות להגיע ממצב הוא סכוiלמצב כלשהוא (

.י דיאגרמת מעברים"או ע, י מטריצת הסתברויות המעבר"וב הומוגנית יכולה להיות מוגדרת עקשרשרת מר .3

): קולמוגורוב) אנדרי(-פמן'נוסחת צ .4 ) ( ) ( )n m n m

ij ik kj

k

p p p+ =∑) kהמצבים בין עובר על כל i ל j ,באופן ). כולל

הנוסחה היא , מטריצי( ) ( ) ( )n m n m n mP P P P P+ = =.

)י " ניתנת עn ברגעמרקוב פונקצית ההסתברות של תהליך .5 ) ( ) ( )1 0 nn n P Pν ν ν= − נשים לב . =

.ורהשזהו וקטור ש) י הפילוג" עתמכאן ניתן להסיק כי חוק הפילוג של שרשרת מרקובית הומוגנית נקבע חד משמעי )0νי " וע

.Pמטריצת המעברים

קצת על מרחב המצבים של שרשרת מרקוב

כך ש nאם קיים j מוביל למצב iנאמר שמצב ( )

0n

ijp iנסמן . < j→.

i,הצבים , i מוביל ל j וגם j מוביל ל iאם jונסמן , ו מקושריםאריק יi j↔.

.גם אם אין קשת מעבר עצמית, מקושר לעצמוiכל מצב :יחס שקילות הוא יחס שמקיים

i: רפלקסיביות .1 i↔

i: סימטריות .2 j j i↔ ⇒ ↔

i,: טרנזיטיביות .3 j j k i k↔ ↔ ⇒ ↔

.iכל המצבים המקושרים למצב : iקבוצת קשירות של מצב

קבוצה סגורה–הגדרה . קבוצה סגורהAאזי נקרא לקבוצה , A מוביל רק למצבים בקבוצה Aאם כל מצב בקבוצה

.לא נראה חצים יוצאים מקבוצה סגורה, בדיאגראמאת המצבים, לכן מצב נשנה–הגדרה

כלומר ישנה הסתברות , שהוא-יו מתימובטח שנחזור אל, i נקרא נשנה כאשר אם מתחילים ממצב iמצב . להגיע אליו שוב בזמן כלשהוא לפחות פעם אחת1ששוה

מצב חולף–הגדרה .מצב שאינו נשנה נקרא חולף

, jם לכל " חולף אםiמצב ). א"זהו מ (iכמספר הפעמים שתהליך מבקר במצב iNנגדיר : הגדרה שקולה

(0)iE N X j = <∞

שרשרת חולפת–הגדרה

שבא כל המצבים חולפים תקרא שרשרת חולפתמרקוב שרשרת שרשרת פריקה–הגדרה

.פריקה-שרשרת זו נקראת אי, אחרת. ריקהשרשרת מרקוב שלה יותר מקבוצה סגורה אחת נקראת שרשרת פ

42 מתוך 19 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

פילוג סטציונרי–הגדרה אם) או פילוג אינווריאנטי( נקרא פילוג סטציונרי νפילוג , עבור שרשרת מרקובית

( ) ( )0 nν ν ν ν= ⇒ =

טענות

.כל המצבים נשנים, ות סגורהבקבוצת קשיר. כל המצבים הם נשנים או כולם חולפים, בקבוצת קשירות .1 .כל המצבים חולפים, בקבוצת קשירות לא סגורה

ם " הוא נשנה אםiמצב .2( )

1

n

ii

n

p∞

=

= ∞∑

Pνם " סטציונרי אםνפילוג , עבור שרשרת מרקובית הומוגנית .3 ν=) יר כי וקטור הפילוג הוא שוב נזכ

)(יש לכפול משמאל , ואכן כדי לחשב את הפילוג של המצב הבא, וקטור שורה ) ( )1n n Pν ν+ את ) =

).הפילוג הנוכחי במטריצת המעברים

)אם הפילוג ההתחלתי .4 )0νאזי השרשרת ההומוגנית היא תהליך אקראי סטציונרי, הוא פילוג סטציונרי.

, )indecomposable (פריקה- אם השרשרת היא אי. לכל שרשרת מרקוב הומוגנית סופית ישנו פילוג סטציונרי .5 .ערכי פילוג סטציונרי זה שונים מאפס רק עבור מצבים נשנים. אזי פילוג זה הוא יחיד

.כלומר יש בה לפחות מצב נשנה אחד, ת מספר סופי של מצבים אינה חולפתשרשרת מרקובית בעל .6

של מצבים ) אולי ריקה(וקבוצה נוספת , ניתנת לפירוק למספר סופי של קבוצות סגורותסופיתכל שרשרת .7יתכן שאין אף , מספר קבוצות הקשירות לא בהכרח סופי, של מצביםמניה-ברבשרשרת עם מספר . חולפים

.ת בעלת יותר ממצב אחד ויתכן שאין אף מצב נשנהקבוצת קשירו

42 מתוך 20 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

תהליכים אקראיים בזמן רציף

תהליך אקראי בזמן רציף–הגדרה

aתהליך אקראי בקטע זמן t b≤ יסומן ≥ ,tX a t b≤ ) או ≥ ) , ,X t a t bω ≤ כפונקציה של . ≥

0tכלומר עבור זמן קבוע , התהליך הוא משתנה אקראי, ω "מזל"פרמטר ה t=א" מ נקבל ( )0,X t ω.

0ωעבור פרמטר מזל נתון ω= , בקטע זמןa t b≤ )של הזמן דטרמיניסטית נקבל פונקציה , ≥ )0,X t ω .

.פונקציה זו תקרא פונקצית מדגם. פונקציה זו לא חייבת להיות רציפהa,כאן bיכולים להיות גם אינסופיים .

חוק הפילוג של תהליך אקראי בזמן רציף– הגדרה

) ,הפילוג של תהליך אקראי בזמן רציףחוק )X t, הוא אוסף כל הפונקציות

( ) ( ) ( ) 1 2, ,..., 1 1 1,..., ,...,

nt t t n n nF X t X tα α α α= ≤ ≤P

,...,1ולכל nלכל nt t 1 ו,..., nα α.

הליך אקראימומנטים של ת התוחלת

( ) ( )[ ]X t E X tµ =

פונקצית האוטוקורלציה

( ) ( ) ( )1 2 1 2,XR t t E X t X t =

פונקצית הקווריאנס

( ) ( ) ( )( ) ( ) ( ) ( )1 2 1 2 1 2 1 2, cov , ,X X X XK t t X t X t R t t t tµ µ= = −

תהליך מנייה–הגדרה

)מניה תהליך )N tואינו יורד, הוא תהליך אקראי המקבל ערכים שלמים .

)נניח כי אם )0 0N ) אז = )N t בקטע שקרו מונה מספר אירועים[ ]0,t.

:תכונות תהליך מנייה פשוט

1. ( ) 0N t ≥.

2. ( )N t ∈ ℕ.

sאם .3 t> אז ( ) ( )N s N t≥.

sאם .4 t> אז ( ) ( )N s N t− בקטע מונה את מספר האירועים[ ],s t.

תהליך פואסון –הגדרה :אם λתהליך מנייה יקרא תהליך פואסון עם פרמטר קצב

1. ( )0 0N =.

.תוספות בקטעי זמן זרים בלתי תלויות .2

3. ( ) ( ) ( )1N t t N t t o tλ+∆ − = = ∆ + ∆P.

4. ( ) ( ) ( )2N t t N t o t+∆ − ≥ = ∆P

)ר כאש ) ( )f oε ε= פירושו 0

( )lim 0

f

ε

ε

ε→=

:הגדרה שקולה

:אםλתהליך מנייה יקרא תהליך פואסון עם פרמטר קצב

1. ( )0 0N =

.תוספות בקטעי זמן זרים בלתי תלויות .2

כלומר, sλ מפולג פואסונית עם פרמטר sמספר הארועים בכל אינטרוול באורך .3

( ) ( ) ( )

, 0,1,2,...!

n

s sN t s N t n e n

n

λ λ−+ − = = =P

42 מתוך 21 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

של תהליך פואסוןמומנטים :תוחלת

( )N t tµ λ= :מומנט שני

( ) ( )22E N t t tλ λ = +

:אוטוקורלציה

21 2 1 2 1 2( , ) min ,NR t t t t t tλ λ= +

:תהליך פואסוןתכונה של

( ) ( )[ ]( ) ( )21mod2 0 1

2N t N t e λ ττ −+ − = = +P

תהליך טלגרף)תהליך )X t טלגרף עם פרמטר ייקרא תהליךλ מקיים את שלושת התכונות הבאותאם הוא:

)בכל רגע נתון • )X t בהסתברות שווה−1 או +1 מקבל את הערכים .

י" נתון עτמספר חילופי הסימן בקטע זמן באורך •

( ) ( ) ( ) ( )( )

0!

0 0

k

t s t se k

X t X s k k

k

λ λ− − − ≥− = = <

P

.מספר חילופי הסימן בקטעים זרים בלתי תלוי סטטיסטית • :תכונה של תהליך טלגרף

( ) ( ) ( )211

2X t X t e λ ττ −= + = +P

ףירצא בזמן " מרקוביות של ת–רה הגד

)א "ת )X t מרקובי אם לכל t , ולכלn , 1ולכל סדרת זמנים 2 ... nt t t t< < < <

( ) ( ) ( ) ( ) ( ) ( ) 1 1 1 1, ,..., |n n n n n nX t X t X t X t X t X tα α α α α α− −≤ = = = = ≤ =P P

,...,1לכל ,nα α α 1זמנים ולכל סדרת 2, ,..., nt t t.

טענות

)אם .1 )1N t ו ( )2N t1א פואסונים אם קצבים " תλ 2 וλאזי , בהתאמה( ) ( ) ( )3 1 2N t N t N t= א " ת+

1פואסוני עם פרמטר 2λ λ+.

.תהליך פואסון הוא מרקובי .2

.λמעריכית עם פרמטר הוא משתנה אקראי המפולג λבקצב הפרש זמני הקפיצות של תהליך פואסון .3

מומנטים של תהליך אקראי)א "קורלציה של ת-אוטו .1 )X t

( ) ( ) ( )1 2 1 2,XR t t E X t X t ≜

)א "קורלציה בין ת-קרוס .2 )X tא " לת( )Y t

( ) ( ) ( )1 2 1 2,XYR t t E X t Y t ≜

:קווריאנס .3

( ) ( ) ( )( ) ( ) ( )( )1 2 1 1 2 2 1 2 1 2, ( , ) ( ) ( )X X X XK t t E X t EX t X t EX t R t t t tµ µ − − = − ≜

סטציונריות –הגדרה

)א "ת )X t 1 יקרא סטציונרי אם לכל,..., , ,nt t nτ א "של הוהפילוג חוק( ) ( )( )1 ,..., nX t X tτ τ+ +

,כלומר. τלא תלוי ב

( ) ( ) ( ) ( ) ( ) ( )1 11 2 1 2,..., ,...,

, ,..., , ,...,n nn nX t X t X t X t

F Fτ τ

α α α α α α+ +=

SSS(א סטציונרי במובן הצר "נאמר שהת Strict SenseStationary−(

42 מתוך 22 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

סטציונריות במובן הרחב–הגדרה )א "ת )X t אם) ר"סמ( יקרא סטציונרי במובן הרחב

): תוחלתו לא תלויה בזמן • )X t constµ =.

): פונקצית האוטוקורלציה שלו תלוייה רק בערך המוחלט של הפרש הזמנים • ) ( )2 1 2 1,X XR t t R t t= −

.)כלומר זוהי פונקציה זוגית(

WSS(א סטציונרי במובן הרחב "כעת נאמר שהת WideSenseStationary−(

:ר"תכונות פונקצית אוטוקורלציה של תהליך סמ

1. ( ) ( )2 0 ( )X XE X t R R τ = ≥

2. ( ) ( )X XR Rτ τ= −

סטציונריות במובן הרחב במשותף–הגדרה

)שני תהליכים אקראיים )X t ו ( )Y tר ובנוסף" כל אחד מהם הוא סמר במשותף אם" יקראו סמ

( ) ( )1 2 2 1,XY XYR t t R t t= −

ואז

( ), ( ) ( )XY XY YXR t t R Rτ τ τ+ = = −

התלות אינה בערכו המוחלט של הפרש –ר "א סמ"נדגיש את ההבדל בין פונקצית אוטוקורלציה של ת . זוגית איזה פונקציהXYRכלומר , τהזמנים

סטציונריות במשותף –הגדרה

)א "ת ) ( ),X t Y t יקראו תהליכים סטציונרים במשותף אם לכל n 1 ולכל,..., nt t החוק של הוקטור

,2n מימדמ

( ) ( ) ( ) ( )( )1 1,..., , ,...,n nX t X t Y t Y tτ τ τ τ+ + + +

.τ -לא תלוי ב

:א סטציונרים במשותף"תכונות ת

1. ( ) , ( )X X Y Yt tµ µ µ µ≡ ≡ .

1 מימדי- הדוהפילוג .2 2( ( ), ( ))X t Y tτ τ+ .τ - לא תלוי ב+

3. , 1 2 , 1 2 , 1 2 , 1 2( , ) ( , ) ( , 0) ( )X Y X Y X Y X YR t t R t t R t t R t tτ τ+ + = = − = −

תהליך אקראי גאוסי –הגדרה

)הליך ת )X tסדרת זמנים יקרא גאוסי אם לכל 1

k

i it

=)הוקטור , ) ( ) ( )( )1 2, ,..., kX t X t X t הוא וקטור

.אקראי גאוסי

ותטענ

)אם .1 )X t אזי הוא תהליך סטציונרי במובן הרחב) והמומנטים מסדר ראשון ושני סופי( תהליך סטציונרי.

.י פונקצית התוחלת ופונקצית האוטוקורלציה"אזי חוק ההסתברות שלו נקבע ע, אוסיא ג" תtXאם .2

.סטציונריר הינו "א גאוסי סמ"ת .3

לדוגמא, פעולות לינאריות על תהליכים גאוסיים מייצרות תהליכים גאוסיים .4

( )10

( ) , ( ) ( ) , ( ) , ( ) , limi

t t

t t t i t i i t t

i

X Xdg t X g t X h t X g t X t t g t X dt X

dt

ε

αε ε

++ + →

−+ − =∑ ∫

42 מתוך 23 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

מערכות לינאריותב אקראייםמעבר תהליכים

במערכת גרעיןא כללי "מעבר ת

)כאשר ),g t θהתגובה בזמן t לכניסת הלם בזמן θ.

ולכן

( ) ( ) ( ),Y t X g t dθ θ θ

−∞

= ∫

ואז

( )[ ] ( ) ( ) ( ) ( )[ ] ( ) ( )

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )

( ) ( ) ( ) ( ) ( ) ( ) ( )

( ) ( ) ( ) ( )

1 2 1 2 1 2 1 2

1 2 1 2

1 2

, , ,

, , , ,

, , ,

, ,

X

XY X

Y

E Y t E X g t d E X g t d g t d

R t t E X t Y t E X t X g t d R t g t d

R t t E Y t Y t E X g t d X g t d

E X X g t g t d d

θ θ θ θ θ θ µ θ θ θ

θ θ θ θ θ θ

θ θ θ η η η

θ η θ η θ η

∞ ∞ ∞

−∞ −∞ −∞

∞ ∞

−∞ −∞

∞ ∞

−∞ −∞

−∞

= = =

= = = = = =

=

∫ ∫ ∫

∫ ∫

∫ ∫

( ) ( ) ( )1 2, , ,XR g t g t d dθ η θ η θ η

∞ ∞ ∞

−∞ −∞−∞

= ∫ ∫ ∫ ∫

ארית קבועה בזמן ליני דרך מערכתר"א סמ"תמעבר

)כאשר )h t θ− התגובה בזמן t לכניסת הלם בזמן θ.

ולכן

( ) ( ) ( )Y t X h t dθ θ θ

−∞

= −∫

ואז

יציבה , מערכת קונבולוציהBIBOדטרמניסטית

( )h t θ−

( )Y t( )X t

, )ליניארית( מערכת גרעין דטרמניסטית

( ),g t θ

( )Y t( )X t

42 מתוך 24 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

( )[ ] ( ) ( ) ( ) ( )[ ] ( ) ( )

( ) ( ) ( )[ ] ( ) ( ) ( )

( ) ( )

( ) ( ) ( )( )

( ) ( ) ( )[ ] ( ) ( ) ( ) ( )

0

,

*

,

X X

XY

X

X X t

Y

E Y t E X h t d E X h t d h t d H

R t t E X t Y t E X t X h t d

R t h t d

R h d R h t

R t t E Y t Y t E X h t d X h t d

E X

τ

θ θ θ θ θ θ µ θ θ µ

τ τ θ τ θ θ

θ τ θ θ

θ τ θ θ

τ τ θ θ θ η τ η η

∞ ∞ ∞

−∞ −∞ −∞

−∞∞

−∞∞

=−∞

∞ ∞

−∞ −∞

= − = − = − =

+ = + = + −

= − + −

= − =

+ = + = − + −

=

∫ ∫ ∫

∫ ∫

( ) ( ) ( ) ( )

( ) ( )

( ) ( ) ( )2

( )

0

X

Y X

X h t h t d d

R h t h t d d

R S f H f df

θ η θ τ η η θ

η θ θ τ η η θ

∞ ∞

−∞−∞∞ ∞

−∞−∞∞

−∞

− + −

= − − + −

=

∫ ∫

∫ ∫

תכונות

)תהליך הכניסה .1 )X t והמוצא( )Y t ר במשותף"סמ הם תהליכים.

): הספק ממוצע ביציאה .2 ) ( )2 2( ) (0)out Y XP E Y t R S f H f df

−∞

= = = ∫

התמרת פוריה –תזכורת

)הי ת )X t אם. תדטרמניסטיפונקציה ( )X t dt

−∞

:יה של האותאזי נגדיר את התמרת פורי, ∫∞>

( ) ( )

( ) ( )

2

1 2

ˆ ( )

ˆ ˆ( )

j ft

j ft

X f X t X t e dt

X t X f X f e df

π

π

∞−

−∞∞

−∞

= =

= =

F

F

תכונות

)אם .1 )X t ממשי אזי ( ) *ˆ ( )X t X f− =F

: התמרה של קונבולוציה .2 ˆ ˆ( ) ( ) ( ) ( )X t h d X f h fθ θ θ∞

−∞− =∫F

):הזזה בזמן .3 ) 2 ˆ( )ifX t e X fπ ττ+ =F

משפט פרסבל –תזכורת

* *1 2 1 2

ˆ ˆ( ) ( ) ( ) ( )X t X t dt X f X f df∞ ∞

−∞ −∞

=∫ ∫

42 מתוך 25 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

ספקטרליתהספק יפות צפ) נניח ש ) ( ),X t Y tר במשותף בעלי ממוצעים אפס"סמא " ת.

) ר"א סמ" תהספקטרלית שלההספק צפיפות )X tכהתמרת פורייה של פונקצית האוטוקורלציה מוגדרת :

( ) ( )X XS f R τ≜ F

)א"ת שלהמצטלבת הספקטרלית צפיפות ההספק ) ( ),X t Y t כהתמרת פורייה של פונקצית מוגדרתר במשותף "סמ :הקרוסקורלציה

( ) ( )XY XYS f R τ≜ F

) אם )Y tמתקבל מ ( )X tמעבר במערכת י" ע LTI בעלת פונקצית תמסורת ( )H f:

אזי

( ) ( ) ( )

( ) ( ) ( )2

XY X

Y X

S f S f H f

S f S f H f

=

=

:והספק היציאה הכולל

( ) ( ) ( ) ( ) ( )2 1

00Y X Y YP S f df S f H f df S f R

ττ

∞ ∞−

=−∞ −∞

= = = = =∫ ∫ F

XSתכונות של 1. XR ממשית וסימטרית ולכן XSימטרית ממשית וס.

2. ( ) 0XS f .f לכל ≤

מתקיים, 0בעלי תוחלת , ר במשותף חסרי קורלציה"עבור שני תהליכים סמ .3( ) ( ) ( )X Y X YR R Rτ τ τ+ = +

:בתחום התדר, ואז .4

( ) ( ) ( )X Y X YS f S f S f+ = +

.ג" תא יוצרLTI העובר במערכת ג"תא .5

0EXעד כה טיפלנו במקרה ש 0EXנבדוק מה קורה לגבי . = ≠. ) נביט ב ) ( )X t c Y t= 0EYכאשר , + לכן נקבל. קבוע דטרמיניסטיc ו =

( ) ( )[ ] ( )( ) ( )( ) ( ) ( )[ ]

( ) ( ) ( )

2

2

2

( )

( )

X

Y

X Y

R E X t X t E c Y t c Y t c E Y t Y t

c R

S f S f c f

τ τ τ τ

τ

δ

= + = + + + = + + = +

= +

( ) ( ),h t H f ( )X t ( )Y t

42 מתוך 26 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

סינון לינארי אופטימלי

)אנו משדרים אות )X t . בדרך מתווסף אות רעש לא רצוי( )n t . לכן במקלט מתקבל האות( ) ( ) ( )r t X t n t= + .

)אנו רוצים לתכנן מסנן )H fכך שיציאתו ,( )X t ,תהיה קרובה ככל הניתן לאות המקורי ששודר ,( )X t.

: בתור ההפרש בין האות ששודר לבין האות שהצלחנו להפיק מהמסנןשגיאהנגדיר את הˆ( ) ( ) ( )t X t X tε = −

כלומר נחפש –מובן המוכר לנו משערוך משתנים ווקטורים אקראיים ב, אנו נחפש את המסנן הליניארי האופטימלי :MMSE, המביא למינימום את השגיאה הריבועית הממוצעת, מסנן אופטימלי ליניארי

( ) ( )( )22 ˆE E X t X tε = −

)אנו נניח בטיפול כי ) ( ),X t r t0חלת חסרי קורלציה ובעלי תו, ר" סמ.

), ניתן לראות כי אות השגיאה )tε ,הוא מוצא של מערכת ליניארית:

ואז

( ) ( ) ( ) ( )( ) ( )*t X t X t n t h tε = − +

:נשרטט את המערכת בצורה שונהכעת

ואז כמובן

( ) ( ) ( ) ( ) ( ) ( )

( ) ( ) ( )( ) ( )

* *

*

t X t X t h t n t h t

X t X t n t h t

ε = − −

= − +

ולכן

( ) ( ) ( ) ( ) ( ) ( )

( ) ( ) ( ) ( ) ( ) ( )

( ) ( ) ( )( ) ( ) ( )

* *

* * *

* *

t X t X t h t n t h t

X t t X t h t n t h t

X t t h t n t h t

ε

δ

δ

= − −

= − −

= − −

) בין הקורלציהומחוסר )X t ל ( )n t השגיאה הריבועית הממוצעת היא מקבלים כי

( )2 22 ( ) 1 ( ) ( ) ( )X nE t S f H f df S f H f dfε

∞ ∞

−∞ −∞ = − + ∫ ∫

( )n t

( )X t( )X t( )H f

+

Σ+

( )tε

( )H f

Σ−

+

( )n t

( )X t

( )X t( )H fΣ

+

+

Σ

+

( )tε

( )r t

( )n t

( )X t

( )X t( )H fΣ

+

+

42 מתוך 27 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

)ניתן להחליף את ) במישור המרוכב(משיקולים גיאומטריים )H f ב ( )H fי גזירה " ואז למצוא את המינימום ע

הוא, )Wiener(שנקרא מסנן וינר , בסוף מקבלים כי המסנן האופטימלי. והשוואה לאפס

( )( )

( ) ( )X

opt

X n

S fH f

S f S f=

+

הוא) המינימלית(הממוצעת ואז הביטוי לשגיאה הריבועית

( ) ( )( ) ( )

2 2 ( ) ( )min

( ) ( )opt

X n

H f H fX n

S f S fMSE E t E t df

S f S fε ε

=−∞

= = = +∫

)י כך שנעביר את האות המשודר "ניתן להכליל מסנן זה ע )X t במסנן כלשהוא ( )D fהסכמה . לפני שידורו

:היא הבאה, הכוללת את חישוב השגיאה, המתאימה למצב זה

:הבאבמקרה זה נקבל את מסנן וינר

( )( )

( ) ( )( )X

opt

X n

S fH f D f

S f S f=

+

ואז הביטוי לשגיאה הריבועית המינימלית הוא

( ) ( )( ) ( )

( )2 2 2( ) ( )min

( ) ( )opt

X n

H f H fX n

S f S fMSE E t E t D f df

S f S fε ε

=−∞

= = = +∫

), כזכור). עקרון הניצבות( עקרון ההשלכה –ניתן לפתור בעיה זו בגישה שונה ) ( ) ( )r t X t n t= הוא אות הדגימה +

)טבול ברעש , של האות המשודר )n t .באופן כללי התואם את הסכמה

נכתוב

( ) ( ) ( )[ ] ( ) ( ) ( ) ( )2

22 *E E X t r t h t E X t r t hε θ δ θ θ θ

∞ ∞

−∞ −∞

= − = − − − ∫ ∫

)כאשר )h t של המסנן להלם התגובה.

: נקבל שהמסנן האופטימלי מקייםsלומר לכל כ, )r (ניצבת למדידות) ε(עקרון ההשלכה קובע כי השגיאה

( )n t

( )X t

( )X t( )H f Σ

+

( )tε

( )r t

( )n t

( )X t

( )X t( )H fΣ

+

+

Σ

+

( )tε

( )D f

42 מתוך 28 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

( ) ( )

( ) ( )

( )[ ] ( )[ ]

( ) ( ),

( ) ( ) ( ) 0

( ) ( ) ( ) ( ) 0

( ) ( ) ( ) ( )

( ) ( )

opt

opt

opt

r X r opt

E X t d r t h d r s

E X t r s d r s r t h d

E X t r s d E r s r t h d

R t s d R t s h d

τ δ τ τ τ τ τ

τ δ τ τ τ τ τ

τ δ τ τ τ τ τ

τ δ τ τ τ τ τ

∞ ∞

−∞ −∞

∞ ∞

−∞ −∞∞ ∞

−∞ −∞∞ ∞

−∞ −∞

− − − = − − − =

− = −

− − = − −

∫ ∫

∫ ∫

∫ ∫

∫ ∫

י התמרת פורייה על שני האגפים נקבל"וע

( ) ( )

( ) ( ) ( )

( )( )( )

,

,

,

( )r X r opt

r X r opt

r X

opt

r

R t s R t s h d

S f S f H f

S fH f

S f

τ τ τ τ

−∞

− − = − − =

⇒ =

∫F F

חנו כי לא הנ, בנוסף. מכיוון שאינה מניחה חוסר קורלציה בין האות המשודר לרעש המתווסף, וזו תוצאה כללית יותר)הדגימה היא הסכום ) ( ) ( )r t X t n t= הבא לידי ביטוי בצפיפויות , אלא יכול להתקיים כאן קשר כללי יותר, +

.ההספק

42 מתוך 29 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

עשיםר רעש לבן –הגדרה

: מתקייםובוראשר ע, 0עם תוחלת , תהליך אקראי סטציונרי במובן הרחב לבן הינושרע

( )

( ) ( )

0

0

nS f N

R Nτ δ τ

=

=

רעש לבן גאוסי–הגדרה

)ג "זהו תא )X t כ נבחר "בד, צפיפות ספקטרלית קבועהםע( ) 0

2X

NS f =.

Wiener-Paleyמשפט

אם 2

log ( )

1

S fdf

f

−∞<∞

)ביציאתו , ל" אזי קיים מסנן סיבתי כך שאם בכניסתו ר∫+ )S f.

של רעש לבןאינטגרלים

)יהי )n t 0אות רעש לבן בעל צפיפות הספק ספקטרליתN. יהיו ( ) ( )1 2, ,...h t h t פונקציות דטרמניסטיות עם

)2 כלומר, אנרגיות סופיות )ih t dt

−∞

את המשתנה האקראינגדיר .∫∞>

( ) ( )i iX n t h t dt∞

−∞= ∫

:אזי מתקיים

( ) ( ) ( ) ( )[ ] ( )[ ] ( )

( ) ( ) ( ) ( ) ( ) ( ) ( ) ( )

( ) ( ) ( ) ( ) ( )

( )0

0

( ) ( )

( ) ( )

i i i i

i j i j i j

i j n i j

i j

EX E n t h t dt E n t h t dt E n t h t dt

E X X E n s h s ds n h d E n s h s n h dsd

E n s h s n h dsd R s h s h dsd

N s h s h dsd

θ θ θ θ θ θ

θ θ θ θ θ θ

δ θ θ θ

∞ ∞ ∞

−∞ −∞ −∞

∞ ∞ ∞ ∞

−∞ −∞ −∞ −∞∞ ∞ ∞ ∞

−∞ −∞ −∞ −∞∞

−∞

= = = = = =

= = −

= −

∫ ∫ ∫

∫ ∫ ∫ ∫

∫ ∫ ∫ ∫

∫ 0

0

( ) ( )

( ) ( )

i j

i j

N h h d

N h h d

θ θ θ

θ θ θ

∞ ∞

−∞ −∞∞

−∞

=

=

∫ ∫∫

1 -נתבונן ב 2( , )X X : ועם מטריצת קווריאנס , 0א עם תוחלת "ו:

21 1 2

21 2 2

EX EX X

EX X EX

Λ =

2 2 2 21 0 1 2 0 2

1 2 0 1 2

( ) ( )

( ) ( )

EX N h d EX N h d

EX X N h h d

θ θ θ θ

θ θ θ

∞ ∞

−∞ −∞∞

−∞

= =

=

∫ ∫∫

)כי ידוע אם , בנוסף )n tא גאוסי אזי " תiXכלומר, גאוסים במשותף ( )1 2,X Xג" וא.

)ם " אמ2X -ת ב" ב1X: כמו כן מתקיים ) ( )1 2 0h h dθ θ θ∞

−∞=∫

42 מתוך 30 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

רוחב סרט אפקטיבי לרעש :יאלי לא אידLPFנביט במסנן

אם נגדיר

2

2

( )

2 ( )

H f dfF

H f

−∞∆ =∫

,

שיעביר את אותו ∆F אידיאלי בעל רוחב פס LPFאזי נוכל להגדיר , כאשר המונה הוא הספק היציאה של רעש לבן .ור כניסת רעש לבןעב, אידיאלי- הספק היציאה כמו המסנן הלא

רעשים תרמים

)Nyquistרעש (רעש נגד

:טענות

.רת הפסדים איננה יוצרת רעשסרשת ח .1

)רעש הנגד הוא רעש לבן .2 ) 2n BS f K TR=.

:טענות

( )H f

F∆

f

נגד פיסיקלי

( )n t

נמישיווי משקל תרמודי

42 מתוך 31 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

ניתן להסיק כי

1: בחיבור בטור .1 1 2 21 2

1 2

, eff eff

RT RTR R R T

R R

+= + =

+

): מקבילבחיבור ב .2 ) 1 2 1 1 2 21 2

1 2 1 2

|| ,eff eff

RR RT RTR R R T

R R R R

+= = =

+ +

2.

2

2

1

2

( ) ( )

( ) ( ) ( ) ( )

( ) ( )

1( ) ( ) 2 ,

v i

i v

V t i t R

EV t V t R Ei t i t

S f R S f

S f S f kTG G RR

τ τ

=

+ = +

=

= = =

'משפט ג

2n

1n

1 1,R T

1 2R R+

( )1 1 2 22n BS k RT RT= +

2 2,R T

1 1,R T 2 2,R T

( )

2 21 1 2 2 2 1

2

1 2

2n B

TRR T R RS k

R R

+=

+

R ( )i t

R

( )v t

( ) 2vS f kTR=

( ) 2iS f kTG=

42 מתוך 32 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

)Shot Noise (רעש דיודה

טענה

כעת נגריל באופן בלתי . [T,0]ת מספר הקפיצות באינטרוול הוא ייצג א. Tλ עם פרמטר Kא פואסוני "אם נגריל מ

.ל הוא תהליך פואסון"אזי התהליך האקראי הנ. [T,0] על אחידיםא " מkתלוי

.כעת נעבור למעגל חשמלי הכולל דיודה ומטרתנו תהיה למצוא את רעש הדיודה

. דרך הדיודה0I קבועאת מטען האלקטרון ונניח שאנו מזרימים זרם q נסמן ב

, ומטען האלקטרון היה אפס אזי הצפיפות הספקטרלית של הזרם 0Iלו היה זורם זרם קבוע •

20( ) ( )S f I fδ=

,פה לקבלאם ניקח בחשבון את מטען האלקטרון אזי נצ •

20( ) ( ) ( )nS f I f S fδ= +

)מטרתנו לחשב את )nS f) רעש הדיודה(

) משרה במעגל זרם t=0אלקטרון הנפלט בזמן )ei t , ולכן:

( )eq i t dt∞

−∞= ∫

0 יפלטו בממוצע Tבקטע הזמן /I T qמאחר והאלקטרונים נפלטים מאיזורים שונים בקטודה סביר . נים אלקטרו ,לכן. להניח שתהליך פליטת האלקטרונים הוא תהליך פואסון, לכן, נוכל. להניח שיש אי תלות בין זמני הפליטה

1

( ) ( )K

e k

k

I t i t t=

= −∑

:כך שמתקיים

kt -א אחידים של " מ[0,T].

K –אסון עם פרמטר א פו" מTλ . 0,קצב פליטת האלקטרוניםI

qλ =.

,נמצא את המומנט הראשון

0

00

1

1( ) ( ) ( ) [ ]

K T

e k eErgodicityk

q q IEI t E E i t t K E K i t d E K T I

T T T qθ θ

=

= − = ⋅ − = = ⋅ ⋅ = ∑ ∫

,נמצא את המומנט השני

0I

סיביתרשת פהכוללת סלילים

.נגדים וקבלים,( ) ( ) ( )

in in inZ f R f iX f= +

( ) 2 ( )v in

S f kTR f=

42 מתוך 33 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

1 1

1

2

20 0 0

2

2

( ) [ ( ) ( )] [ ( ) ( )]

( ) ( ) ( ) ( )

1 1( ) ( ) ( ) ( ) ( ) ( )

( )( ) ( )

K K

e k e j

k j

K

e k e k e k e j

k k j

T T T

e e e e

e e

R E I t I t E i t t i t t

E i t t i t t E i t t i t t

EK i t i t d E K K i t i t d dT T

EK E K Ki i d q

T T

τ τ τ

τ τ

τ θ θ θ τ θ η θ η

τ θ θ θ

= =

= ≠

−∞

= + = + − − =

= + − − + + − − =

= + − − + − + − − =

−= + +

∑ ∑

∑ ∑

∫ ∫ ∫

∫ 2

2 2

0

( ) ( )

( ) ( ) ( )e e

E K K T

EK T

IR i t i t

q

λ

λ

τ τ

− =

=

= +∫

,ולכן

2 *00

20 0

( ) ( ) ( ) ( )

, ( ) ( )

for the low frequency ( ) (0)

( ) ( )

e e

e e

e e

I

IS f I f G f G f

q

where G f i t

G f G q

S f I f I q

δ

δ

= +

=

≈ =

= +

F

)0: הינורעש הדיודהלכן )nS f I q=1המקיים , בקירוב התדר הנמוךfτ ≪.

42 מתוך 34 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

נספחים

טורי טיילור ידועים

0 !

nx

n

xe

n

=

=∑ ( ) ( ) 1

1

ln 1 1n

n

n

xx

n

∞+

=

+ = − ⋅∑ ( )( )

2

0

cos 12 !

nn

n

xx

n

=

= −∑ ( )( )

2 1

0

sin 12 1 !

nn

n

xx

n

+∞

=

= −+∑

0

1

1n

n

xx

=

=− ∑

:ומהם ניתן לפתח

( )2

2

0

1!

nnx

n

xe

n

∞−

=

= −∑ ( ) ( )2 1

0

arctan 12 1

nn

n

xx

n

+∞

=

= −+∑ ( )

1

ln 1n

n

xx

n

=

− − =∑

( )

2

0

cosh2 2 !

x x n

n

e e xx

n

− ∞

=

+=∑≜

( )

2 1

0

sinh2 2 1 !

x x n

n

e e xx

n

− +∞

=

−=

+∑≜

זהויות טריגונומטריות

sin sin 2 sin cos2 2

α β α βα β

±± =

( ) ( )sin sinsin cos

2

θ ϕ θ ϕθ ϕ

+ + −=

cos cos 2 cos cos2 2

α β α βα β

+ −+ =

( ) ( )cos cossin sin

2

θ ϕ θ ϕθ ϕ

− − +=

cos cos 2 sin sin2 2

α β α βα β

+ −− = −

( ) ( )cos coscos cos

2

θ ϕ θ ϕθ ϕ

+ + −=

( )sin sin cos sin cosα β α β β α± = ± sin2 2 sin cost t t=

( )cos cos cos sin sinα β α β α β± = ∓ 2 2cos cos sinz z z= −

42 מתוך 35 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

התמרת פורייה בזמן רציף עות ידות פורייהוהתמר

התמרת פורייה אות בזמן רציף

( )tδ 1

( )0t tδ − 02j fte π−

1 ( )fδ

( )k

t kTδ∞

=−∞

−∑ 1

k

kf

T Tδ

=−∞

− ∑

02jk f t

k

k

a e π∞

=−∞∑ ( )0k

k

a f kfδ∞

=−∞

−∑

02j f te π ( )0f fδ −

( )0cos 2 f tπ ( ) ( )( )0 0

1

2f f f fδ δ− + +

( )0sin 2 f tπ ( ) ( )( )0 0

1

2f f f f

jδ δ− − +

,( )1

01

1

02

t T

x t TT t

<= < ≤

)וכן . ) ( )0x t T x t+ = ( )

( )0 10

2 sin 21

2 k

f kTf kf

k

πδ

π

=−∞

−∑

( )0 00

sin2sinc 2

f tf t

t

ω ππ

π π=

0

0

1

0

f f

f f

< >

( ) 00

0

sin2sinc 2

2

f tf t

f t

ππ

π=

0

0

0

1

2

0

f ff

f f

< >

( ) ( )( )12 1u t sign t= +

( )

( )

1 1, 0

2 2

1, 0

2

f fj f

f f

δπ

δ

+ ≠ =

( )ate u t− ( )1

, Re 02

aa j fπ

>+

( )atte u t− ( )

( )2

1, Re 0

2a

a j fπ>

+

( )( )

1

1 !

natt

e u tn

−−

( )( )

1, Re 0

2n a

a j fπ>

+

( )

1 0

0 0

1 0

t

sign t t

t

>= =− <

1, 0

0, 0

fj f

f

π

≠ =

0

00

k t t

t t

< > ( )0 02 sinc 2kt ftπ

nt ( )( )

2

n

njfδ

π

( ) ( )( )*t

x d x u tτ τ

−∞

=∫ ( )

( ) ( )1

2 2

X ff X f

j fδ

π+

42 מתוך 36 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

2

22

t

e σ−

( )22 22 exp

2

fσ πσ π

תכונות של התמרת פורייה

התמרת פורייה אות בזמן רציף תכונה

) ליניאריות ) ( )ax t by t+ ( ) ( )aX f bY f+

) )דואליות (סימטריה )X t ( )x f−

) )Scaling(מתיחה וכיווץ ),x at a ∈ ℝ 1X

a a

ω

) הזזה בזמן )0x t t− 0 ( )j te Xω ω−

) רהזזה בתד )0j te x tω ( )0 0,X ω ω ω− ∈ ℝ

) cosמכפלה ב ) ( )0cosx t tω ( ) ( )( )0 0

1

2X Xω ω ω ω− + +

) sinמכפלה ב ) ( )0sinx t tω ( ) ( )( )0 0

1

2X X

jω ω ω ω− − +

) בזמןקונבולוציה ) ( )x t y t∗ ( ) ( )X Yω ω⋅

) קונבולוציה בתדר ) ( )x t y t⋅ ( ) ( )1

2X Yω ωπ

) גזירה בזמן )n

n

dx t

dt ( ) ( )

nj Xω ω

) אינטגרציה בזמן )

t

x dτ τ

−∞∫ ( ) ( ) ( )

10X X

jω π δ ω

ω+

) גזירה בתדר )tx t ( )d

j Xd

ωω

( ) ( )*x t x t=) אות ממשי(

( ) ( )

( ) ( )

( ) ( )

( ) ( )

( ) ( )

Re Re

Im Im

arg arg

X X

X X

X X

X X

X X

ω ω

ω ω

ω ω

ω ω

ω ω

∗ = −

= −

= − −

= −

= − −

( ) ( )*x t x t= − ( ) ( )*X Xω ω=) התמרת ממשית(

( ) ( )x t x t= − ( ) ( )X Xω ω= −

( ) ( )x t x t= − − ( ) ( )X Xω ω= − −

דואליותעקרון ה

)נסמן את התמרת פורייה של אות )x t:( ) ( )x t X f=F ,אזי:

( ) ( )X t x f= −F

42 מתוך 37 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

Zהתמרת

תצדדי- דוZ התמרת –הגדרה ) עבור אותות בזמן בדיד,צדדית-דו המקבילה להתמרת לפלס: (צדדית- דוZהתמרת

( ) [ ] [ ] ,n

n

X z Z x n x n z z∞

=−∞

= ∈∑≜ ℂ

צדדית- חדZ התמרת –הגדרה ) עבור אותות בזמן בדיד,צדדית- חדהמקבילה להתמרת לפלס: (צדדית- חד Zהתמרת

( ) [ ] [ ]

0

,n

n

X z Z x n x n z z∞

−+ +

=

= ∈∑≜ ℂ

Z ,ROCתחום ההתכנסות של התמרת RegionOf Convergence− ,הוא התחום בו מתקיים

[ ] [ ]n n

n n

x n z x n z∞ ∞

− −

=−∞ =−∞

= <∞∑ ∑

: הפוכהZהתמרת חישוב

[ ] ( ) 11( ) ,

2k

C

x n z X z dz C ROC X zjπ

−= ⊆∫

1zאם מעגל היחידה : זהאזי פשוט יותר לבצע את האינטגרציה על מעגל, שייך לתחום ההתכנסות=

[ ] ( )2

0

1

2j jnx n X e e d

π

θ θ θπ

= ∫

0zכלומר מעגל כללי ברדיוס , 0rועבור r= , המוכל בROC:

[ ] ( )2

0 0

0

1

2n j jnx n r X r e e d

π

θ θ θπ

= ∫

:למציאת התמרה הפוכהנוספות שיטות

טור חזקות של האות •

פירוק לשברים חלקיים •

)שימוש בנוסחת הבינום של ניוטון • )0

mn n m n

n

ma b a b

n−

=

+ = ∑

] עבור אות בזמן בדיד ]x n ,נגדיר את דגימת ההלמים שלו( ) ( ) ( )c

k

x t x k t kδ∞

=−∞

= כלומר נביט באת בזמן (∑−

]רציף בו בכל נקודה ש ]x nאז ניתן לקבל ו, )ם אחרים האות הרציף הוא זהותית אפסובזמני, ישנו הלם, היה מוגדר

:)האות הבדיד( של סדרת המספרים Zלהתמרת ) דגימת הלמים( בין התמרת לפלס של האות הרציף הקשראת

( ) ( ) [ ] ( ) sc z eL x t s Z x n z ==.

42 מתוך 38 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

ידועותZהתמרות

תחום התכנסות Zהתמרת אות בזמן בדיד

[ ]1, 0

0, 0

nn

== ≠ 1 z ∈ ℂ

[ ]1,

0,

n mn m

n mδ

=− = ≠ mz−

\ 0 , 0

, 0

\ , 0

m

z m

m

>∈ = ∞ <

[ ]1, 0

0, 0

nu n

n

≥= <

1

1

1 1

z

z z− =− −

1z >

[ ]1u n− − − 1

1

1 1

z

z z− =− −

1z <

[ ]na u n 1

1

1

z

az z a− =− −

,z a a> ∈ ℂ

[ ]1na u n− − − 1

1

1

z

az z a− =− −

,z a a< ∈ ℂ

[ ]nna u n ( ) ( )

1

2 211

az az

z aaz

−=

−− ,z a a> ∈ ℂ

[ 1]nna u n− − − ( ) ( )

1

2 211

az az

z aaz

−=

−− ,z a a< ∈ ℂ

[ ] [ ]0cos n u nΩ

20

20

cos

2 cos 1

z z

z z

− Ω− Ω +

1z >

[ ] [ ]0sin n u nΩ

02

0

sin

2 cos 1

z

z z

Ω− Ω +

1z >

[ ] [ ]0cosnr n u nΩ

20

2 20

cos

2 cos

z rz

z rz r

− Ω− Ω +

z r>

[ ] [ ]0sinnr n u nΩ

02 2

0

sin

2 cos

rz

z rz r

Ω− Ω +

z r>

[ ]sin2

nu n

π

2 1

z

z +

[ ]cos2

nu n

π

2

2 1

z

z +

[ ]n ba u n b− − 1 b

b z zz

z a z a

−− =

− −

[ ]1 1na u n− − 1

z a− ,z a a> ∈ ℂ

[ ]1na u n−− − 1

z a− ,z a a< ∈ ℂ

42 מתוך 39 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

Zתכונות התמרת

תחום התכנסות Zהתמרת אות בזמן בדיד

[ ]x n ( )X z XROC

[ ]y n ( )Y z YROC

[ ] [ ], ,ax n bx n a b+ ∈ ℂ ( ) ( )aX z bY z+ לפחות

X YROC ROC∩

:צדדית- בהתמרה דו( ) 0nX z z−

[ ]0x n n−

:צדדית- בהתמרה חד

[ ] ( ) ( )

[ ] ( ) ( )

[ ] ( ) ( )

[ ] ( ) ( )

1

0

1

1

1 0

1 1

kk k m

m

kk k m

m

Z y n k z Y z z y m z

Z y n k z Y z z y m z

Z y n zY z zy

Z y n z Y z y

−−

+ +=

− −+ +

=

+ +

−+ +

+ = −

− = − −

+ = −⇒ − = + −

XROC

0zבתוספת אולי של =

[ ]0j ne x nω ( )0jX e zω− XROC

[ ]na x n ( )1X a z− רדיוסי ההתכנסות מוכפלים ב

a

[ ]x n− ( )1X z− רדיוס ההתכנסות הוא ההופכי

של הרדיוס המקורי

[ ],

0,

x r n rk

else

= ( )kX z

רדיוס ההתכנסות הוא רדיוס 1המקורי בחזקת

k

[ ] [ ]*x n y n ( ) ( )X z Y z לפחות

X YROC ROC∩

[ ]n

k

x k=−∞∑ ( )

1

1

1X z

z−−

לפחות : 1XROC z z∩ >

[ ]x n∗ ( )*X z−

[ ]nx n ( )d

z X zdz

− XROC

[ ] [ ]x n y n

[ ] [ ]1x n x n− −

[ ]n

k

x k=−∞∑

[ ]nx n

[ ]x nממשי ( ) ( )

( ) ( )

*

*

*

*

X z X z

X z X z+ +

=

=

42 מתוך 40 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

ן בדידזמהתמרת פורייה ב :(Discrete Time Fourier Transform)זמן בדיד התמרת פורייה ב –הגדרה

]עבור אות בזמן בדיד ]x n ,נגדיר את התמרת פורייה בזמן בדיד:

( ) [ ] ,j n

n

X x n e∞

− Ω

=−∞

Ω = Ω ∈∑ ℝ

י"את ההתמרה ההפוכה נחשב ע

[ ] ( )1

2j nx n X e d

π

ππ

Ω

= Ω Ω∫

:תוצאות/הערות

של Zהתמרת פורייה בזמן בדיד קיימת כאשר התמרת , פן דואלי להתמרת לפלס ופורייה בזמן בדידבאו .11zעבור ) מתכנסת(האות קיימת :Zהתמרת ZX התמרת פורייה בזמן בדיד ו FXכאשר , ואז, =

( ) ( )j

F ZX X z e ΩΩ = =

.2πהתמרת פורייה בזמן בדיד מחזורית במחזור של .2

.ם האות בדיד"התמרת פורייה של אות היא מחזורית אם .3

.ם האות ממשי"אם) זוגית(התמרת פורייה של אות היא סימטרית .4

]כאשר האות .5 ]x nמתקיים , ממשי( ) ( )*X X−Ω = Ω , כלומר ניתן לשחזר את האות[ ]x n רק על סמך

)ידיעת )X Ω בקטע[ ]0,π.

): של התמרת פורייה בזמן בדיד2π-י שימוש במחזוריות"וע(משפטי פרסבל המתאימים .6

[ ] ( ) ( )

[ ] [ ] ( ) ( ) ( ) ( )

22 22

0

2

* * *

0

1 1

2 2

1 1

2 2

n

n

x n X d X d

x n y n X Y d X Y d

π π

π

π π

π

π π

π π

=−∞ −

=−∞ −

= Ω Ω = Ω Ω

= Ω Ω Ω = Ω Ω Ω

∑ ∫ ∫

∑ ∫ ∫

)עבור אות רציף , הקשר בין התמרת פורייה בזמן בדיד להתמרת פורייה בזמן רציף .7 )cx t שנדגם לאות בדיד

]י "ע ] ( )cx n x nT=הוא :

[ ] ( ) ( ) ( )1j cz e

s jT

Z x n z L x t sT

Ω= Ω=

=

42 מתוך 41 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

ייה בזמן בדיד ידועותהתמרות פור

התמרת פורייה בזמן בדיד אות בזמן בדיד

[ ]1, 0

0, 0

nn

== ≠ 1

[ ]0n nδ − 0j ne− Ω

[ ]1, 0

0, 0

nu n

n

≥= < ( )

12

1 jk

ke

πδ π∞

− Ω=−∞

+ Ω−− ∑

0j ne ω ( )02 2k

kπ δ ω π∞

=−∞

Ω− −∑

0cos nω ( ) ( )0 02 2k

k kπ δ ω π δ ω π∞

=−∞

Ω− − + Ω+ −∑

0sin nω ( ) ( )0 02 2k

k kj

πδ ω π δ ω π

=−∞

Ω− − − Ω+ −∑

1 ( )2 2k

kπ δ π∞

=−∞

Ω−∑

( )k

n kTδ∞

=−∞

−∑ 2 2

k

k

T T

π πδ

=−∞

Ω− ∑

sinsinc , 0

n n

n

α α αα π

π π π

= < <

1, 2 2

0, 2 2k

k k

k k

π π α

π α π π

=−∞

≤ Ω ≤ + + < Ω ≤ +∑

42 מתוך 42 עמוד, סיכום הקורס, אותות אקראיים 044202

il.co.technion.www 7200 ©אבי בנדל

תכונות התמרת פורייה בזמן בדיד

התמרת פורייה בזמן בדיד אות בזמן בדיד

[ ]x n ( )X Ω

[ ]y n ( )Y Ω

[ ] [ ], ,ax n bx n a b+ ∈ ℂ ( ) ( )aX bYΩ + Ω

[ ]0x n n− ( ) 0j nX e− ΩΩ

[ ]0j ne x nω ( )0X ωΩ−

[ ]x n∗ ( )*X −Ω

[ ] [ ]*x n y n ( ) ( )X YΩ Ω

[ ] [ ]x n y n ( ) ( )2

1

2X s Y s ds

ππ

Ω−∫

[ ] [ ]1x n x n− − ( ) ( )1 je X− Ω− Ω

[ ]n

k

x k=−∞∑ ( ) ( ) ( )

12

1 jk

X X ke

π δ π∞

− Ω=−∞

Ω + Ω Ω−− ∑

[ ]nx n ( )d

j Xd

ΩΩ

[ ]x nממשי

( ) ( )

( ) ( )

( ) ( )

( ) ( )

( ) ( )

*

Re Re

Im Im

arg arg

X X

X X

X X

X X

X X

Ω = −Ω Ω = −Ω Ω = − −Ω Ω = −Ω Ω = − −Ω