aaabook_9500toc
TRANSCRIPT
-
8/7/2019 aaabook_9500toc
1/10
Chebyshev and Fourier Spectral Methods
Second Edition
John P. Boyd
University of Michigan
Ann Arbor, Michigan 48109-2143
email: [email protected]://www-personal.engin.umich.edu/jpboyd/
2000
DOVER Publications, Inc.
31 East 2nd StreetMineola, New York 11501
1
-
8/7/2019 aaabook_9500toc
2/10
Dedication
To Marilyn, Ian, and Emma
A computation is a temptation that should be resisted as
long as possible. J. P. Boyd, paraphrasing T. S. Eliot
i
-
8/7/2019 aaabook_9500toc
3/10
Contents
PREFACE x
Acknow ledgments xiv
Errata and Extended-Bibliography xvi
1 Introduction 1
1.1 Series exp an sion s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 First Exam ple . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.3 C om p ar iso n w it h fi nit e elem en t m et ho d s . . . . . . . . . . . . . . . . . . . . 4
1.4 C om p ar iso ns w it h Fin it e D iffer en ces . . . . . . . . . . . . . . . . . . . . . . . 6
1.5 Parallel Com pu ters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.6 C hoice of ba sis fu n ction s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.7 Bou nd ary con dition s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.8 N o n-In ter p ola tin g a nd P seu d osp ect ra l . . . . . . . . . . . . . . . . . . . . . . 12
1.9 N onlin earity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131.10 Tim e-d ep en d en t p rob lem s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
1.11 FA Q: Fr eq u en tly A sk ed Q u es tio ns . . . . . . . . . . . . . . . . . . . . . . . . 16
1.12 T he Ch rysalis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2 Chebyshev & Fourier Series 19
2.1 In trod uction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.2 Fou rier series . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
2.3 O rd ers of Con vergen ce . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.4 Con vergen ce Ord er . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.5 A ssu m ption of Eq ual Er ror s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.6 D ar bou xs Pr in cip le . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.7 W hy Ta ylor Ser ies Fa il . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 352.8 Loca tion of Sin gu la rities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.8.1 Corner Singularit ies & Compatibility Conditions . . . . . . . . . . . 37
2.9 FA CE: In teg ra tio n-b y-P ar ts Bo un d . . . . . . . . . . . . . . . . . . . . . . . . 41
2.10 Asymptotic Calculation of Fourier Coefficients . . . . . . . . . . . . . . . . . 45
2.11 C on v er ge nce Th eo ry : C h eb ys he v P oly n om ia ls . . . . . . . . . . . . . . . . . 46
2.12 La st C oeffi cien t Ru le-o f-Th u m b . . . . . . . . . . . . . . . . . . . . . . . . . . 50
2.13 Convergence Theory for Legendre Polynomials . . . . . . . . . . . . . . . . . 51
2.14 Q u asi-Sin u so id a l Ru le o f Th u m b . . . . . . . . . . . . . . . . . . . . . . . . . 54
2.15 Wit ch o f A gn esi Ru leo fTh u m b . . . . . . . . . . . . . . . . . . . . . . . . . 56
2.16 Bo u nd a ry La yer Ru le-o f-Th u m b . . . . . . . . . . . . . . . . . . . . . . . . . 57
ii
-
8/7/2019 aaabook_9500toc
4/10
CONTENTS iii
3 Galerkin & Weighted Residual Methods 61
3.1 M ea n Weig ht ed Re sid u a l M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . 61
3.2 C om p le ten ess a nd Bo un d ar y C on d it io ns . . . . . . . . . . . . . . . . . . . . 643.3 In ner Prod u ct & O rth og on ality . . . . . . . . . . . . . . . . . . . . . . . . . . 65
3.4 Galerkin Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
3.5 In tegr ation -by -P ar ts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
3.6 Ga ler kin M eth od : Ca se Stu d ies . . . . . . . . . . . . . . . . . . . . . . . . . . 70
3.7 Separation-of-Variables & the Galerkin Method . . . . . . . . . . . . . . . . . 76
3.8 H eisen berg M atr ix Mech an ics . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
3.9 Th e Ga ler kin Meth od Tod ay . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
4 Interpolation, Collocation & All That 81
4.1 Introd uction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
4.2 Poly nom ial in ter polation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
4.3 G au s sia n In t eg ra tio n & P se u d os p ect ra l G rid s . . . . . . . . . . . . . . . . . . 86
4.4 P se u d os p ect ra l Is G ale rk in M et ho d v ia Q u a d ra tu r e . . . . . . . . . . . . . . 894.5 Pseu d osp ectral Errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
5 Cardinal Functions 98
5.1 Introd uction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98
5.2 W hit ta ker C ar d in al o r Sin c Fu n ct io ns . . . . . . . . . . . . . . . . . . . . . 99
5.3 Tr ig on om et ric In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
5.4 C ar d in a l Fu n ct io n s fo r O rt h og on a l P oly n om ia ls . . . . . . . . . . . . . . . . 104
5.5 Tr an sfo rm a tio ns a nd In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . 107
6 Pseudospectral Methods for BVPs 109
6.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
6.2 Ch oice of Ba sis Set . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
6.3 Boundary Conditions: Behavioral & Numerical . . . . . . . . . . . . . . . . . 1096.4 Bou n da ry -Bord er in g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111
6.5 Basis Recom bin ation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.6 Tr an sfi nit e In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114
6.7 Th e C ar d in al Fu n ct io n Ba sis . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
6.8 Th e In ter pola tion Gr id . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116
6.9 C om p u t in g Ba sis Fu n ct io n s & D er iv at iv es . . . . . . . . . . . . . . . . . . . . 116
6.10 H ig her D im en sio ns: In d exin g . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
6.11 H ig her D im en sion s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120
6.12 C or ner Sin gu la rities . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120
6.13 Matrix m eth od s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
6.14 C heckin g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
6.15 Su m mary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123
7 Linear Eigenvalue Problems 127
7.1 Th e N o-Br ain Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 127
7.2 Q R/ Q Z Algorith m . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
7.3 Eig en va lu e Ru le-of-Th u mb . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
7.4 Fo u r Kin d s o f St u rm -Lio u ville P ro ble m s . . . . . . . . . . . . . . . . . . . . . 134
7.5 C rit er ia fo r Re je ct in g Eig en v alu e s . . . . . . . . . . . . . . . . . . . . . . . . . 137
7.6 Sp u riou s Eig en va lu es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139
7.7 Red u cin g t he C on d it io n N u m ber . . . . . . . . . . . . . . . . . . . . . . . . . 142
7.8 Th e Pow er Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
7.9 In ver se Pow er Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
-
8/7/2019 aaabook_9500toc
5/10
iv CONTENTS
7.10 C om b in in g G lo ba l & Lo ca l M et h od s . . . . . . . . . . . . . . . . . . . . . . . 149
7.11 D et ou r in g in to th e C om p lex P la ne . . . . . . . . . . . . . . . . . . . . . . . . 151
7.12 Com mon Errors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 155
8 Symmetry & Parity 159
8.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
8.2 Parity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
8.3 M od ify in g t he G rid to Exp lo it P ar it y . . . . . . . . . . . . . . . . . . . . . . . 165
8.4 O th er D iscr et e Sy m met ries . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
8.5 A xis ym m e tr ic & A p p le -Slicin g M od e ls . . . . . . . . . . . . . . . . . . . . . . 170
9 Explicit Time-Integration Methods 172
9.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
9.2 Sp a tia lly -Va ry in g C oe ffi cie nt s . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
9.3 Th e Sh am rock Pr in cip le . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
9.4 Lin ear an d N on lin ea r . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1789.5 Exa mp le: Kd V Eq ua tion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179
9.6 Im p licit ly -Im p licit : RLW & Q G . . . . . . . . . . . . . . . . . . . . . . . . . . 181
10 Partial Summation, the FFT and MMT 183
10.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
10.2 P a rtia l Su m mation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184
10.3 Th e Fa st Fo u rie r Tr an sfo rm : Th eo ry . . . . . . . . . . . . . . . . . . . . . . . 187
10.4 M at rix M u lt ip lica tio n Tr an sfo rm . . . . . . . . . . . . . . . . . . . . . . . . . 190
10.5 C os ts o f t h e Fa st Fo u rie r Tr an sfo rm . . . . . . . . . . . . . . . . . . . . . . . . 192
10.6 Generalized FFTs and Multipole Methods . . . . . . . . . . . . . . . . . . . . 195
10.7 O ff-G rid In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198
10.8 Fast Fourier Transform: Practical Matters . . . . . . . . . . . . . . . . . . . . 200
10.9 Su mm ary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200
11 Aliasing, Spectral Blocking, & Blow -Up 202
11.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 202
11.2 A lia sin g a n d Eq u alit y-o n -t h e-G rid . . . . . . . . . . . . . . . . . . . . . . . . 202
11.3 2 h -Wa ve s a n d Sp e ct ra l Blo ck in g . . . . . . . . . . . . . . . . . . . . . . . . 205
11.4 Aliasing Instability: History and Remedies . . . . . . . . . . . . . . . . . . . 210
11.5 Dealiasing and the Orszag Two-Thirds Rule . . . . . . . . . . . . . . . . . . . 211
11.6 Energy-Conserving: Constrained Interpolation . . . . . . . . . . . . . . . . . 213
11.7 Energy-Conserving Schemes: Discussion . . . . . . . . . . . . . . . . . . . . 214
11.8 A lia sin g In st ab ilit y: Th eo ry . . . . . . . . . . . . . . . . . . . . . . . . . . . . 216
11.9 Su mm ary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218
12 Implicit Schemes & the Slow Manifold 22212.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222
12.2 D is p er sio n a n d A m p lit u d e Er ro rs . . . . . . . . . . . . . . . . . . . . . . . . . 224
12.3 Errors & CFL Limit for Explicit Schemes . . . . . . . . . . . . . . . . . . . . . 226
12.4 Im p licit Tim e -M ar ch in g A lg or it h m s . . . . . . . . . . . . . . . . . . . . . . . 228
12.5 Sem i-Im p licit M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229
12.6 Sp e ed -Re d u ct io n Ru le -o f-Th u m b . . . . . . . . . . . . . . . . . . . . . . . . . 230
12.7 Slo w M an ifo ld : M et eo ro lo gy . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
12.8 Slo w M an ifo ld : D efi n it io n & Exa m p le s . . . . . . . . . . . . . . . . . . . . . . 232
12.9 N u m e rica lly -In d u ce d Slo w M an ifo ld s . . . . . . . . . . . . . . . . . . . . . . 236
12.10In itializ ation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
-
8/7/2019 aaabook_9500toc
6/10
CONTENTS v
12.11The Method of Multiple Scales(Baer-Tribbia) . . . . . . . . . . . . . . . . . . 241
12.12 N on lin ea r G aler kin M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
12.13Weaknesses of the Nonlinear Galerkin Method . . . . . . . . . . . . . . . . . 245
12.14 Tr ack in g t he Slo w M an ifo ld . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248
12.15Three Parts to Multiple Scale Algorithms . . . . . . . . . . . . . . . . . . . . 249
13 Splitting & Its Cousins 252
13.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252
13.2 Fr act io n al St ep s fo r D iffu s io n . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
13.3 Pitfalls in Split ting, I: Boundary Conditions . . . . . . . . . . . . . . . . . . . 256
13.4 Pitfalls in Split ting, II: Consistency . . . . . . . . . . . . . . . . . . . . . . . . 258
13.5 O p er at or Th eo ry o f Tim e -St ep p in g . . . . . . . . . . . . . . . . . . . . . . . . 259
13.6 H ig h O rd er Sp littin g . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261
13.7 Sp lit tin g a n d Flu id M ech a n ics . . . . . . . . . . . . . . . . . . . . . . . . . . . 262
14 Semi-Lagrangian Advection 265
14.1 C on ce p t o f a n In t eg ra tin g Fa ct or . . . . . . . . . . . . . . . . . . . . . . . . . 265
14.2 M is u se o f In t eg ra tin g Fa ct or M et h od s . . . . . . . . . . . . . . . . . . . . . . 267
14.3 Semi-Lagrangian Advection: Introduction . . . . . . . . . . . . . . . . . . . . 270
14.4 A d v ect io n & M et ho d o f C ha ra ct er is tics . . . . . . . . . . . . . . . . . . . . . 271
14.5 Three-Level, 2D Order Semi-Implicit . . . . . . . . . . . . . . . . . . . . . . . 273
14.6 Mu ltip ly -U pstrea m SL . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275
14.7 N umerical Il lustrations & Superconvergence . . . . . . . . . . . . . . . . . . 277
14.8 Tw o -Lev el SL/ SI A lg or it hm s . . . . . . . . . . . . . . . . . . . . . . . . . . . 280
14.9 Noninterpolating SL & Numerical Diffusion . . . . . . . . . . . . . . . . . . 281
14.10 Off-G rid In ter p ola tio n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283
14.10.1 Off-Grid Interpolation: Generalities . . . . . . . . . . . . . . . . . . . 283
14.10.2 Sp ect ra l O ff-g rid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284
14.10.3 Low-order Polynomial Interpolation . . . . . . . . . . . . . . . . . . . 284
14.10.4 McGregors Taylor Series Scheme . . . . . . . . . . . . . . . . . . . . 286
14.11 H ig her O rd er SL M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286
14.12History and Relationships to Other Methods . . . . . . . . . . . . . . . . . . 286
14.13Su m mary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 289
15 Matrix-Solving Methods 290
15.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290
15.2 St at io n ar y O n e-St ep It er at io n s . . . . . . . . . . . . . . . . . . . . . . . . . . . 291
15.3 P re co n d it io n in g : Fin it e D iffe re nce . . . . . . . . . . . . . . . . . . . . . . . . 293
15.4 Computing Iterates: FFT/ Matrix Multiplication . . . . . . . . . . . . . . . . 297
15.5 A lt er na tiv e P reco nd it io ner s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29915.6 Raising the Order Through Preconditioning . . . . . . . . . . . . . . . . . . . 301
15.7 Mu ltig rid : A n O ver view . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301
15.8 M RR Meth od . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 304
15.9 Delves-Freeman Block-and-Diagonal Iteration . . . . . . . . . . . . . . . . . 307
15.10Recursions & Formal Integration: Constant Coefficient ODEs . . . . . . . . . 312
15.11 D ir ect M et h od s fo r Se p ar ab le P DEs . . . . . . . . . . . . . . . . . . . . . . . 314
15.12Fast Iterations for Almost Separable PDEs . . . . . . . . . . . . . . . . . . . . 317
15.13Positive Definite and Indefinite Matrices . . . . . . . . . . . . . . . . . . . . . 318
15.14 Pr eco nd it io ned N ew t on Flo w . . . . . . . . . . . . . . . . . . . . . . . . . . . 320
15.15Su m ma ry & Prov er bs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 322
-
8/7/2019 aaabook_9500toc
7/10
vi CONTENTS
16 Coordinate Transformations 323
16.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 323
16.2 P ro gr am m in g C heb ys hev M et ho d s . . . . . . . . . . . . . . . . . . . . . . . . 32316.3 Th eo ry o f 1-D Tr an sfo rm a tio n s . . . . . . . . . . . . . . . . . . . . . . . . . . 325
16.4 In fi nit e a n d Se m i-In fi nit e In t er va ls . . . . . . . . . . . . . . . . . . . . . . . . 326
16.5 Maps for Endpoint & Corner Singularit ies . . . . . . . . . . . . . . . . . . . . 327
16.6 Two-Dimensional Maps & Corner Branch Points . . . . . . . . . . . . . . . . 329
16.7 Periodic Problems & the Arctan/ Tan Map . . . . . . . . . . . . . . . . . . . . 330
16.8 A d ap tive Meth od s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 332
16.9 Almost-Equispaced Kosloff/ Tal-Ezer Grid . . . . . . . . . . . . . . . . . . . . 334
17 Methods for Unbounded Intervals 338
17.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 338
17.2 D om ain Tru n ca tion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339
17.2.1 Domain Truncation for Rapidly-decaying Functions . . . . . . . . . . 339
17.2.2 Domain Truncation for Slowly-Decaying Functions . . . . . . . . . . 340
17.2.3 Doma in Trun cation for Time-Depend ent Wave Propaga tion:
Sp on ge Layers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 340
17.3 W h it ta ke r C ar d in a l o r Sin c Fu n ct io n s . . . . . . . . . . . . . . . . . . . . . 341
17.4 H er mite fu n ction s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 346
17.5 Semi-Infinite Interval: Laguerre Functions . . . . . . . . . . . . . . . . . . . . 353
17.6 N e w Ba sis Se ts v ia C h an g e o f C oo rd in a te . . . . . . . . . . . . . . . . . . . . 355
17.7 Rational Chebyshev Fun ctions: TBn . . . . . . . . . . . . . . . . . . . . . . . 356
17.8 Behavioral versus Numerical Boundary Conditions . . . . . . . . . . . . . . 361
17.9 Strategy for Slowly Decaying Functions . . . . . . . . . . . . . . . . . . . . . 363
17.10Nu merical Examples: Rational Chebyshev Functions . . . . . . . . . . . . . 366
17.11Semi-Infinite Interval: Rational Ch ebyshev TLn . . . . . . . . . . . . . . . . 369
17.12Nu merical Examples: Chebyshev for Semi-Infinite Interval . . . . . . . . . . 37017.13Strategy: Oscillatory, Non-Decaying Functions . . . . . . . . . . . . . . . . . 372
17.14 We id e m an -C lo ot Sin h M ap p in g . . . . . . . . . . . . . . . . . . . . . . . . . . 374
17.15Su mm ary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377
18 Spherical & Cylindrical Geometry 380
18.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 380
18.2 Polar, Cylindrical, Toroidal, Spherical . . . . . . . . . . . . . . . . . . . . . . 381
18.3 A p p aren t Sin gu la rity a t t he P ole . . . . . . . . . . . . . . . . . . . . . . . . . 382
18.4 P ola r C oo rd in a te s: P ar it y Th eo re m . . . . . . . . . . . . . . . . . . . . . . . . 383
18.5 Ra d ia l Ba sis Se ts a n d Ra d ia l G rid s . . . . . . . . . . . . . . . . . . . . . . . . 385
18.5.1 One-Sided Jacobi Basis for the Radial Coordinate . . . . . . . . . . . 387
18.5.2 Boundary Value & Eigenvalue Problems on a Disk . . . . . . . . . . . 389
18.5.3 Unbou nd ed Domains Includ ing the Origin in Cylind rical Coordinates 39018.6 A nn u lar D om ain s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 390
18.7 Sp h er ica l C oo rd i na te s: A n O v er vie w . . . . . . . . . . . . . . . . . . . . . . . 391
18.8 The Parity Factor for Scalars: Sphere versus Torus . . . . . . . . . . . . . . . 391
18.9 Parity II: Horizontal Velocities & Other Vector Components . . . . . . . . . . 395
18.10The Pole Problem: Spherical Coordinates . . . . . . . . . . . . . . . . . . . . 398
18.11 Sp h er ica l H a r m on ics : In tr od u ct io n . . . . . . . . . . . . . . . . . . . . . . . . 399
18.12 Le ge nd r e Tr an sfo rm s a n d O th er So rr ow s . . . . . . . . . . . . . . . . . . . . 402
18.12.1 FFT in Longitude/ MMT in Latitude . . . . . . . . . . . . . . . . . . . 402
18.12.2 Substitutes and Accelerators for the MMT . . . . . . . . . . . . . . . . 403
18.12.3 P ar it y a n d Le ge nd r e Tr an sfo rm s . . . . . . . . . . . . . . . . . . . . . 404
-
8/7/2019 aaabook_9500toc
8/10
CONTENTS vii
18.12.4 Hurrah for Matrix/ Vector Multiplication . . . . . . . . . . . . . . . . 404
18.12.5 Re d u ce d G rid an d O th er Tr ick s . . . . . . . . . . . . . . . . . . . . . . 405
18.12.6 Schuster-Dilts Triangular Matrix Acceleration . . . . . . . . . . . . . 40518.12.7 Generalized FFT: Multipoles and All That . . . . . . . . . . . . . . . . 407
18.12.8 Su m mary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 407
18.13 Eq u ia rea l Reso lu t io n . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 408
18.14Spherical Harmonics: Limited-Area Models . . . . . . . . . . . . . . . . . . . 409
18.15 Sp h e rica l H a r m on ics a n d P h ys ics . . . . . . . . . . . . . . . . . . . . . . . . . 410
18.16 Asy m pt ot ic A p p ro xim at io ns, I . . . . . . . . . . . . . . . . . . . . . . . . . . 410
18.17 As ym p t ot ic A p p ro xim a tio n s, II . . . . . . . . . . . . . . . . . . . . . . . . . . 412
18.18 So ft w ar e: Sp h er ica l H a r mo n ics . . . . . . . . . . . . . . . . . . . . . . . . . . 414
18.19 Se m i-Im p licit : Sh a llo w Wa te r . . . . . . . . . . . . . . . . . . . . . . . . . . . 416
18.20Fronts and Topography: Smoothing/ Filters . . . . . . . . . . . . . . . . . . . 418
18.20.1 Fro nt s a nd To po gr ap h y . . . . . . . . . . . . . . . . . . . . . . . . . . 418
18.20.2 M ech a nics o f Filt er in g . . . . . . . . . . . . . . . . . . . . . . . . . . . 419
18.20.3 Sp h er ica l sp lin es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 420
18.20.4 Filter O rd er . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 422
18.20.5 Filtering with Spatially-Variable Order . . . . . . . . . . . . . . . . . 423
18.20.6 Topographic Filtering in Meteorology . . . . . . . . . . . . . . . . . . 423
18.21 Re so lu t io n o f Sp e ct ra l M od e ls . . . . . . . . . . . . . . . . . . . . . . . . . . . 425
18.22 Ve ct or H a r m on ics & H o u g h Fu n ct io n s . . . . . . . . . . . . . . . . . . . . . . 428
18.23Radial/ Vertical Coordinate: Spectral or Non-Spectral? . . . . . . . . . . . . . 429
18.23.1 Basis for Axial Coordinate in Cylind rical Coordinates . . . . . . . . . 429
18.23.2 Axial Basis in Toroidal Coordinates . . . . . . . . . . . . . . . . . . . 429
18.23.3 Vertical/ Radial Basis in Spherical Coordinates . . . . . . . . . . . . . 429
18.24Stellar Convection in a Spherical Annu lus: Glatzmaier (1984) . . . . . . . . . 430
18.25Non-Tensor Grids: Icosahedral, etc. . . . . . . . . . . . . . . . . . . . . . . . . 431
18.26 Ro be rt Ba sis fo r t he Sp h er e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43318.27Parity-Modified Latitudinal Fourier Series . . . . . . . . . . . . . . . . . . . . 434
18.28Projective Filtering for Latitudinal Fourier Series . . . . . . . . . . . . . . . . 435
18.29 Sp e ct ra l Ele m en t s o n t h e Sp h er e . . . . . . . . . . . . . . . . . . . . . . . . . . 437
18.30 Sp h e rica l H a r m on ics Be sie ge d . . . . . . . . . . . . . . . . . . . . . . . . . . . 438
18.31Elliptic and Elliptic Cylinder Coordinates . . . . . . . . . . . . . . . . . . . . 439
18.32Su m mary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 440
19 Special Tricks 442
19.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 442
19.2 Sid eba nd Tru n cation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 443
19.3 Special Basis Functions, I: Corner Singularities . . . . . . . . . . . . . . . . . 446
19.4 Special Basis Functions, II: Wave Scattering . . . . . . . . . . . . . . . . . . . 448
19.5 We ak ly N o n lo ca l So lit ar y Wa ve s . . . . . . . . . . . . . . . . . . . . . . . . . 45019.6 Ro ot -Fin d in g b y C h eb ys he v P oly n om ia ls . . . . . . . . . . . . . . . . . . . . 450
19.7 H ilber t Tr an sfor m . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 453
19.8 Sp e ct ra lly -A ccu r at e Q u ad r a tu r e M et h od s . . . . . . . . . . . . . . . . . . . . 454
19.8.1 Introduction: Gaussian and Clenshaw-Curtis Quadrature . . . . . . 454
19.8.2 C len sh aw -C u rt is A d ap tiv ity . . . . . . . . . . . . . . . . . . . . . . . 455
19.8.3 Mech an ics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 456
19.8.4 Integration of Periodic Functions and the Trapezoidal Rule . . . . . . 457
19.8.5 Infinite Intervals and the Trapezoidal Rule . . . . . . . . . . . . . . . 458
19.8.6 Sin gu la r In tegr an d s . . . . . . . . . . . . . . . . . . . . . . . . . . . . 458
19.8.7 Se ts a nd So lit ar ies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 460
-
8/7/2019 aaabook_9500toc
9/10
viii CONTENTS
20 Symbolic Calculations 461
20.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 461
20.2 Strategy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 462
20.3 E xam ples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 465
20.4 Su m m ar y a nd O p en P ro blem s . . . . . . . . . . . . . . . . . . . . . . . . . . . 472
21 The Tau-Method 473
21.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 473
21.2 -A p p ro xim a tio n fo r a Ra tio n al Fu n ct io n . . . . . . . . . . . . . . . . . . . . 474
21.3 D iffer en tia l Eq u at io ns . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 476
21.4 C an on ica l P oly no mia ls . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 476
21.5 N o men clatu re . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 478
22 D omain D ecomposition Methods 479
22.1 I ntrod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 479
22.2 N o tation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480
22.3 C on n ect in g t h e Su b d om a in s: P at ch in g . . . . . . . . . . . . . . . . . . . . . . 480
22.4 We ak C ou p lin g o f Ele m en ta l So lu t io n s . . . . . . . . . . . . . . . . . . . . . . 481
22.5 Va ria tio na l P rin cip les . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 484
22.6 C ho ice o f Ba sis & G rid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 485
22.7 Patching versus Variational Formalism . . . . . . . . . . . . . . . . . . . . . . 486
22.8 M atr ix In ver sion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 487
22.9 Th e In flu en ce M at rix M et ho d . . . . . . . . . . . . . . . . . . . . . . . . . . . 488
22.10Two-Dimensional Mappings & Sectorial Elements . . . . . . . . . . . . . . . 491
22.11 Prosp ectu s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 492
23 Books and Review s 494
A A Bestiary of Basis Functions 495
A.1 Trigonometric Basis Functions: Fourier Series . . . . . . . . . . . . . . . . . . 495
A.2 Chebyshev Polynomials: Tn(x) . . . . . . . . . . . . . . . . . . . . . . . . . . 497
A.3 Chebyshev Polynomials of the Second Kind: Un(x) . . . . . . . . . . . . . . 499
A.4 Legendre Polynomials: Pn(x) . . . . . . . . . . . . . . . . . . . . . . . . . . . 500
A .5 Gegen ba uer P oly nom ia ls . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 502
A.6 Herm ite Polynomials: Hn(x) . . . . . . . . . . . . . . . . . . . . . . . . . . . 505
A.7 Rational Chebyshev Functions: TBn(y) . . . . . . . . . . . . . . . . . . . . . 507
A.8 Laguerre Polynomials: Ln(x) . . . . . . . . . . . . . . . . . . . . . . . . . . . 508
A.9 Rational Chebyshev Functions: TLn(y) . . . . . . . . . . . . . . . . . . . . . 509
A.10 Graphs of Convergence Domains in the Complex Plane . . . . . . . . . . . . 511
B D irect Matrix-Solvers 514
B.1 M atr ix Fa ctor iza tion s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 514
B.2 Ban ded Matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 518
B.3 M at rix-o f-M at rices Th eo rem . . . . . . . . . . . . . . . . . . . . . . . . . . . . 520
B.4 Block-Banded Elimination: the Lindzen-Kuo Algorithm . . . . . . . . . . 520
B.5 Blo ck a nd Bo rd ered M at rice s . . . . . . . . . . . . . . . . . . . . . . . . . . 522
B.6 Cyclic Banded Matrices (Periodic Boundary Conditions) . . . . . . . . . . . 524
B.7 Partin g sh ots . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 524
-
8/7/2019 aaabook_9500toc
10/10
CONTENTS ix
C N ew ton Iteration 526
C.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 526
C.2 Exam ples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 529C.3 Eig en va lu e P rob lem s . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 531
C.4 Su mm ary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 534
D The Continuation Method 536
D.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 536
D.2 Exam ples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 537
D .3 In it ia liz at io n St ra teg ies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 538
D.4 Lim it Poin ts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 542
D .5 Bifu rca tion p oin ts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 544
D .6 P se ud o arclen gt h C on tin u at io n . . . . . . . . . . . . . . . . . . . . . . . . . . 546
E Change-of-Coordinate D erivative Transformations 550
F Cardinal Functions 561
F.1 In trod u ction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 561
F.2 G en er al Fo u rie r Se rie s: En d p o in t G rid . . . . . . . . . . . . . . . . . . . . . . 562
F.3 Fo u rie r C os in e Se rie s: En d p o in t G rid . . . . . . . . . . . . . . . . . . . . . . . 563
F.4 Fo u rie r Sin e Se rie s: En d p o in t G rid . . . . . . . . . . . . . . . . . . . . . . . . 565
F.5 C os in e C ar d in a l Fu n ct io n s: In t er io r G rid . . . . . . . . . . . . . . . . . . . . 567
F.6 Sin e C ar d in a l Fu n ct io ns : In t er io r G rid . . . . . . . . . . . . . . . . . . . . . . 568
F.7 Sinc(x): W hit ta ker ca rd in al fu n ct io n . . . . . . . . . . . . . . . . . . . . . . . 569F.8 C h eb ys he v G au s s-Lo ba tt o ( En d p o in ts ) . . . . . . . . . . . . . . . . . . . . 570
F.9 Chebyshev Polynomials: Interior or Roots Grid . . . . . . . . . . . . . . . 571
F.10 Legendre Polynomials: Gauss-Lobatto Grid . . . . . . . . . . . . . . . . . . . 572
G Transformation of D erivative Boundary Conditions 575
Glossary 577
Index 586
References 595