algorithms for communications systems and their applications (wiley-2002)

1316

Upload: fedemone

Post on 18-Apr-2015

253 views

Category:

Documents


11 download

TRANSCRIPT

Algorithms for Communications Systems and their Applications

Algorithms for Communications Systems and their Applications

Nevio Benvenuto University of Padova, Italy

Giovanni Cherubini IBM Zurich Research Laboratory, Switzerland

Copyright c 2002

John Wiley & Sons Ltd, The Atrium, Southern Gate, Chichester, West Sussex PO19 8SQ, England Telephone (C44) 1243 779777

Email (for orders and customer service enquiries): [email protected] Visit our Home Page on www.wileyeurope.com or www.wiley.com Reprinted with corrections March 2003 All Rights Reserved. No part of this publication may be reproduced, stored in a retrieval system or transmitted in any form or by any means, electronic, mechanical, photocopying, recording, scanning or otherwise, except under the terms of the Copyright, Designs and Patents Act 1988 or under the terms of a licence issued by the Copyright Licensing Agency Ltd, 90 Tottenham Court Road, London W1T 4LP, UK, without the permission in writing of the Publisher. Requests to the Publisher should be addressed to the Permissions Department, John Wiley & Sons Ltd, The Atrium, Southern Gate, Chichester, West Sussex PO19 8SQ, England, or emailed to [email protected], or faxed to (C44) 1243 770571. Neither the author(s) nor John Wiley & Sons, Ltd accept any responsibility or liability for loss or damage occasioned to any person or property through using the material, instructions methods or ideas contained herein, or acting or refraining from acting as a result of such use. The author(s) and Publisher expressly disclaim all implied warranties, including merchantability of tness for any particular purpose. Designations used by companies to distinguish their products are often claimed as trademarks. In all instances where John Wiley & Sons is aware of a claim, the product names appear in initial capital or capital letters. Readers, however, should contact the appropriate companies for more complete information regarding trademarks and registration.

Other Wiley Editorial Ofces John Wiley & Sons Inc., 111 River Street, Hoboken, NJ 07030, USA Jossey-Bass, 989 Market Street, San Francisco, CA 94103-1741, USA Wiley-VCH Verlag GmbH, Boschstr. 12, D-69469 Weinheim, Germany John Wiley & Sons Australia Ltd, 33 Park Road, Milton, Queensland 4064, Australia John Wiley & Sons (Asia) Pte Ltd, 2 Clementi Loop #02-01, Jin Xing Distripark, Singapore 129809 John Wiley & Sons Canada Ltd, 22 Worcester Road, Etobicoke, Ontario, Canada M9W 1L1 Wiley also publishes its books in a variety of electronic formats. Some content that appears in print may not be available in electronic books.

British Library Cataloguing in Publication Data A catalogue record for this book is available from the British Library ISBN 0-470-84389-6A Produced from L TEX les supplied by the authors, processed by Laserwords Private Limited, Chennai, India Printed and bound in Great Britain by Biddles Ltd, Guildford and Kings Lynn This book is printed on acid-free paper responsibly manufactured from sustainable forestry in which at least two trees are planted for each one used for paper production.

To Adriana, and to Antonio, Claudia, and Mariuccia

Contents

Preface Acknowledgements 1 Elements of signal theory 1.1 Signal space : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Properties of a linear space : : : : : : : : : : : : : : : : Inner product : : : : : : : : : : : : : : : : : : : : : : : 1.2 Discrete signal representation : : : : : : : : : : : : : : : : : : : : The principle of orthogonality : : : : : : : : : : : : : : Signal representation : : : : : : : : : : : : : : : : : : : GramSchmidt orthonormalization procedure : : : : : : 1.3 Continuous-time linear systems : : : : : : : : : : : : : : : : : : : 1.4 Discrete-time linear systems : : : : : : : : : : : : : : : : : : : : : Discrete Fourier transform (DFT) : : : : : : : : : : : : The DFT operator : : : : : : : : : : : : : : : : : : : : : Circular and linear convolution via DFT : : : : : : : : : Convolution by the overlap-save method : : : : : : : : : IIR and FIR lters : : : : : : : : : : : : : : : : : : : : 1.5 Signal bandwidth : : : : : : : : : : : : : : : : : : : : : : : : : : The sampling theorem : : : : : : : : : : : : : : : : : : Heaviside conditions for the absence of signal distortion 1.6 Passband signals : : : : : : : : : : : : : : : : : : : : : : : : : : : Complex representation : : : : : : : : : : : : : : : : : : Relation between x and x .bb/ : : : : : : : : : : : : : : : Baseband equivalent of a transformation : : : : : : : : : Envelope and instantaneous phase and frequency : : : : 1.7 Second-order analysis of random processes : : : : : : : : : : : : : 1.7.1 Correlation : : : : : : : : : : : : : : : : : : : : : : : : : : Properties of the autocorrelation function : : : : : : : : 1.7.2 Power spectral density : : : : : : : : : : : : : : : : : : : : Spectral lines in the PSD : : : : : : : : : : : : : : : : : Cross-power spectral density : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

xxix xxxi 1 1 1 3 4 6 6 8 13 17 19 20 21 23 25 28 30 32 33 33 34 42 43 44 45 46 46 47 48

viii

Contents

1.8

1.9 1.10 1.11

1.12

1.13

Properties of the PSD : : : : : : : : : : : : : : : PSD of processes through linear transformations : PSD of processes through ltering : : : : : : : : 1.7.3 PSD of discrete-time random processes : : : : : : : Spectral lines in the PSD : : : : : : : : : : : : : PSD of processes through ltering : : : : : : : : Minimum-phase spectral factorization : : : : : : 1.7.4 PSD of passband processes : : : : : : : : : : : : : PSD of the quadrature components of a random process : : : : : : : : : Cyclostationary processes : : : : : : : : : : : : : The autocorrelation matrix : : : : : : : : : : : : : : : : : : Denition : : : : : : : : : : : : : : : : : : : : : Properties : : : : : : : : : : : : : : : : : : : : : Eigenvalues : : : : : : : : : : : : : : : : : : : : Other properties : : : : : : : : : : : : : : : : : : Eigenvalue analysis for Hermitian matrices : : : Examples of random processes : : : : : : : : : : : : : : : Matched lter : : : : : : : : : : : : : : : : : : : : : : : : Matched lter in the presence of white noise : : Ergodic random processes : : : : : : : : : : : : : : : : : : 1.11.1 Mean value estimators : : : : : : : : : : : : : : : : Rectangular window : : : : : : : : : : : : : : : Exponential lter : : : : : : : : : : : : : : : : : General window : : : : : : : : : : : : : : : : : : 1.11.2 Correlation estimators : : : : : : : : : : : : : : : : Unbiased estimate : : : : : : : : : : : : : : : : : Biased estimate : : : : : : : : : : : : : : : : : : 1.11.3 Power spectral density estimators : : : : : : : : : : Periodogram or instantaneous spectrum : : : : : Welch periodogram : : : : : : : : : : : : : : : : Blackman and Tukey correlogram : : : : : : : : Windowing and window closing : : : : : : : : : Parametric models of random processes : : : : : : : : : : : ARMA. p; q/ model : : : : : : : : : : : : : : : MA(q) model : : : : : : : : : : : : : : : : : : : AR(N ) model : : : : : : : : : : : : : : : : : : : Spectral factorization of an AR(N ) model : : : : Whitening lter : : : : : : : : : : : : : : : : : : Relation between ARMA, MA and AR models : 1.12.1 Autocorrelation of AR processes : : : : : : : : : : 1.12.2 Spectral estimation of an AR.N / process : : : : : : Some useful relations : : : : : : : : : : : : : : : AR model of sinusoidal processes : : : : : : : : Guide to the bibliography : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

48 49 50 50 51 52 53 54 54 56 63 63 63 63 64 65 67 73 74 76 78 80 81 82 82 82 83 84 84 85 86 86 90 90 91 91 94 94 94 96 98 99 101 102

Contents

ix

Bibliography : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : 1.A Multirate systems : : : : : : : : : : 1.A.1 Fundamentals : : : : : : : : 1.A.2 Decimation : : : : : : : : : 1.A.3 Interpolation : : : : : : : : : 1.A.4 Decimator lter : : : : : : : 1.A.5 Interpolator lter : : : : : : : 1.A.6 Rate conversion : : : : : : : 1.A.7 Time interpolation : : : : : : Linear interpolation : : : : Quadratic interpolation : : 1.A.8 The noble identities : : : : : 1.A.9 The polyphase representation Efcient implementations : 1.B Generation of Gaussian noise : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

103 104 104 104 106 109 110 112 113 116 116 118 118 119 120 127 129 129 130 132 134 135 135 136 140 140 141 142 143 144 145 146 147 148 149 149 150 150 151 152 152 153 154 155 157

2 The Wiener lter and linear prediction 2.1 The Wiener lter : : : : : : : : : : : : : : : : : : : : : : : : Matrix formulation : : : : : : : : : : : : : : : : : Determination of the optimum lter coefcients : : The principle of orthogonality : : : : : : : : : : : Expression of the minimum mean-square error : : : Characterization of the cost function surface : : : : The Wiener lter in the z-domain : : : : : : : : : 2.2 Linear prediction : : : : : : : : : : : : : : : : : : : : : : : : Forward linear predictor : : : : : : : : : : : : : : Optimum predictor coefcients : : : : : : : : : : : Forward prediction error lter : : : : : : : : : : Relation between linear prediction and AR models First and second order solutions : : : : : : : : : : 2.2.1 The LevinsonDurbin algorithm : : : : : : : : : : : Lattice lters : : : : : : : : : : : : : : : : : : : : 2.2.2 The DelsarteGenin algorithm : : : : : : : : : : : : 2.3 The least squares (LS) method : : : : : : : : : : : : : : : : Data windowing : : : : : : : : : : : : : : : : : : : Matrix formulation : : : : : : : : : : : : : : : : : Correlation matrix : : : : : : : : : : : : : : : : Determination of the optimum lter coefcients : : 2.3.1 The principle of orthogonality : : : : : : : : : : : : : Expressions of the minimum cost function : : : : : The normal equation using the T matrix : : : : : : Geometric interpretation: the projection operator : : 2.3.2 Solutions to the LS problem : : : : : : : : : : : : : Singular value decomposition of T : : : : : : : : : Minimum norm solution : : : : : : : : : : : : : :

x

Contents

Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : : : : : : : : 2.A The estimation problem : : : : : : : : : : : : : : : : : The estimation problem for random variables MMSE estimation : : : : : : : : : : : : : : : Extension to multiple observations : : : : : : MMSE linear estimation : : : : : : : : : : : MMSE linear estimation for random vectors : 3

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

158 159 159 159 159 160 161 162 165 166 166 168 169 170 171 173 173 175 175 175 177 178 179 180 183 184 186 186 187 187 188 189 189 191 191 197 198 199 201 202 203 203 203 204 205

Adaptive transversal lters 3.1 Adaptive transversal lter: MSE criterion : : : : : : : : : : : : : : 3.1.1 Steepest descent or gradient algorithm : : : : : : : : : : : Stability of the steepest descent algorithm : : : : : : : : Conditions for convergence : : : : : : : : : : : : : : : : Choice of the adaptation gain for fastest convergence : : Transient behavior of the MSE : : : : : : : : : : : : : : 3.1.2 The least mean-square (LMS) algorithm : : : : : : : : : : Implementation : : : : : : : : : : : : : : : : : : : : : : Computational complexity : : : : : : : : : : : : : : : : Canonical model : : : : : : : : : : : : : : : : : : : : : Conditions for convergence : : : : : : : : : : : : : : : : 3.1.3 Convergence analysis of the LMS algorithm : : : : : : : : Convergence of the mean : : : : : : : : : : : : : : : : : Convergence in the mean-square sense (real scalar case) Convergence in the mean-square sense (general case) : : Basic results : : : : : : : : : : : : : : : : : : : : : : : : Observations : : : : : : : : : : : : : : : : : : : : : : : Final remarks : : : : : : : : : : : : : : : : : : : : : : : 3.1.4 Other versions of the LMS algorithm : : : : : : : : : : : : Leaky LMS : : : : : : : : : : : : : : : : : : : : : : : : Sign algorithm : : : : : : : : : : : : : : : : : : : : : : Sigmoidal algorithm : : : : : : : : : : : : : : : : : : : Normalized LMS : : : : : : : : : : : : : : : : : : : : : Variable adaptation gain : : : : : : : : : : : : : : : : : LMS for lattice lters : : : : : : : : : : : : : : : : : : : 3.1.5 Example of application: the predictor : : : : : : : : : : : : 3.2 The recursive least squares (RLS) algorithm : : : : : : : : : : : : Normal equation : : : : : : : : : : : : : : : : : : : : : Derivation of the RLS algorithm : : : : : : : : : : : : : Initialization of the RLS algorithm : : : : : : : : : : : : Recursive form of E min : : : : : : : : : : : : : : : : : : Convergence of the RLS algorithm : : : : : : : : : : : : Computational complexity of the RLS algorithm : : : : : Example of application: the predictor : : : : : : : : : : 3.3 Fast recursive algorithms : : : : : : : : : : : : : : : : : : : : : : 3.3.1 Comparison of the various algorithms : : : : : : : : : : :

Contents

xi

Block adaptive algorithms in the frequency domain : : : : : : : : : 3.4.1 Block LMS algorithm in the frequency domain: the basic scheme : : : : : : : : : : : : : : : : : : : : : : : : Computational complexity of the block LMS algorithm via FFT : : : : : : : : : : : : : : : 3.4.2 Block LMS algorithm in the frequency domain: the FLMS algorithm : : : : : : : : : : : : : : : : : : : : : : Computational complexity of the FLMS algorithm : : : : : Convergence in the mean of the coefcients for the FLMS algorithm : : : : : : : : : : : : 3.5 LMS algorithm in a transformed domain : : : : : : : : : : : : : : : 3.5.1 Basic scheme : : : : : : : : : : : : : : : : : : : : : : : : : On the speed of convergence : : : : : : : : : : : : : : : : 3.5.2 Normalized FLMS algorithm : : : : : : : : : : : : : : : : : 3.5.3 LMS algorithm in the frequency domain : : : : : : : : : : : 3.5.4 LMS algorithm in the DCT domain : : : : : : : : : : : : : : 3.5.5 General observations : : : : : : : : : : : : : : : : : : : : : 3.6 Examples of application : : : : : : : : : : : : : : : : : : : : : : : 3.6.1 System identication : : : : : : : : : : : : : : : : : : : : : Linear case : : : : : : : : : : : : : : : : : : : : : : : : : Finite alphabet case : : : : : : : : : : : : : : : : : : : : : 3.6.2 Adaptive cancellation of interfering signals : : : : : : : : : : General solution : : : : : : : : : : : : : : : : : : : : : : : 3.6.3 Cancellation of a sinusoidal interferer with known frequency 3.6.4 Disturbance cancellation for speech signals : : : : : : : : : : 3.6.5 Echo cancellation in subscriber loops : : : : : : : : : : : : : 3.6.6 Adaptive antenna arrays : : : : : : : : : : : : : : : : : : : : 3.6.7 Cancellation of a periodic interfering signal : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 3.A PN sequences : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Maximal-length sequences : : : : : : : : : : : : : : : : : CAZAC sequences : : : : : : : : : : : : : : : : : : : : : Gold sequences : : : : : : : : : : : : : : : : : : : : : : : 3.B Identication of a FIR system by PN sequences : : : : : : : : : : : 3.B.1 Correlation method : : : : : : : : : : : : : : : : : : : : : : Signal-to-estimation error ratio : : : : : : : : : : : : : : : 3.B.2 Methods in the frequency domain : : : : : : : : : : : : : : : System identication in the absence of noise : : : : : : : : System identication in the presence of noise : : : : : : : 3.B.3 The LS method : : : : : : : : : : : : : : : : : : : : : : : : Formulation using the data matrix : : : : : : : : : : : : : Computation of the signal-to-estimation error ratio : : : : 3.B.4 The LMMSE method : : : : : : : : : : : : : : : : : : : : : 3.B.5 Identication of a continuous-time system : : : : : : : : : : 3.4

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

205 206 206 207 209 211 211 212 214 214 214 215 216 216 216 217 220 221 222 224 224 225 226 227 229 233 233 233 235 236 239 239 241 242 242 243 244 246 246 249 251

xii

Contents

4

Transmission media 4.1 Electrical characterization of a transmission system : : : : : Simplied scheme of a transmission system : : : Characterization of an active device : : : : : : : Conditions for the absence of signal distortion : : Characterization of a 2-port network : : : : : : : Measurement of signal power : : : : : : : : : : 4.2 Noise generated by electrical devices and networks : : : : : Thermal noise : : : : : : : : : : : : : : : : : : : Shot noise : : : : : : : : : : : : : : : : : : : : : Noise in diodes and transistors : : : : : : : : : : Noise temperature of a two-terminal device : : : Noise temperature of a 2-port network : : : : : : Equivalent-noise models : : : : : : : : : : : : : Noise gure of a 2-port network : : : : : : : : : Cascade of 2-port networks : : : : : : : : : : : : 4.3 Signal-to-noise ratio (SNR) : : : : : : : : : : : : : : : : : SNR for a two-terminal device : : : : : : : : : : SNR for a 2-port network : : : : : : : : : : : : Relation between noise gure and SNR : : : : : 4.4 Transmission lines : : : : : : : : : : : : : : : : : : : : : : 4.4.1 Fundamentals of transmission line theory : : : : : : Ideal transmission line : : : : : : : : : : : : : : Non-ideal transmission line : : : : : : : : : : : : Frequency response : : : : : : : : : : : : : : : : Conditions for the absence of signal distortion : : Impulse response of a non-ideal transmission line Secondary constants of some transmission lines : 4.4.2 Cross-talk : : : : : : : : : : : : : : : : : : : : : : Near-end cross-talk : : : : : : : : : : : : : : : : Far-end cross-talk : : : : : : : : : : : : : : : : : 4.5 Optical bers : : : : : : : : : : : : : : : : : : : : : : : : : Description of a ber-optic transmission system : 4.6 Radio links : : : : : : : : : : : : : : : : : : : : : : : : : : 4.6.1 Frequency ranges for radio transmission : : : : : : Radiation masks : : : : : : : : : : : : : : : : : : 4.6.2 Narrowband radio channel model : : : : : : : : : : Equivalent circuit at the receiver : : : : : : : : : Multipath : : : : : : : : : : : : : : : : : : : : : 4.6.3 Doppler shift : : : : : : : : : : : : : : : : : : : : : 4.6.4 Propagation of wideband signals : : : : : : : : : : Channel parameters in the presence of multipath : Statistical description of fading channels : : : : : 4.6.5 Continuous-time channel model : : : : : : : : : : : Power delay prole : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

255 255 255 257 259 259 262 263 263 265 265 265 266 267 268 270 272 272 273 274 275 275 276 279 279 282 282 283 286 288 290 291 292 294 295 296 296 299 299 303 305 307 307 309 310

Contents

xiii

Doppler spectrum : : : : : : : : : : : : : : : : : : : Doppler spectrum models : : : : : : : : : : : : : : : Shadowing : : : : : : : : : : : : : : : : : : : : : : Final remarks : : : : : : : : : : : : : : : : : : : : : 4.6.6 Discrete-time model for fading channels : : : : : : : : Generation of a process with a pre-assigned spectrum 4.7 Telephone channel : : : : : : : : : : : : : : : : : : : : : : : : 4.7.1 Characteristics : : : : : : : : : : : : : : : : : : : : : : Linear distortion : : : : : : : : : : : : : : : : : : : Noise sources : : : : : : : : : : : : : : : : : : : : : Non-linear distortion : : : : : : : : : : : : : : : : : Frequency offset : : : : : : : : : : : : : : : : : : : Phase jitter : : : : : : : : : : : : : : : : : : : : : : Echo : : : : : : : : : : : : : : : : : : : : : : : : : : 4.8 Transmission channel: general model : : : : : : : : : : : : : : Power amplier (HPA) : : : : : : : : : : : : : : : : Transmission medium : : : : : : : : : : : : : : : : : Additive noise : : : : : : : : : : : : : : : : : : : : : Phase noise : : : : : : : : : : : : : : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 5 Digital representation of waveforms 5.1 Analog and digital access : : : : : : : : : : : : : : : : : 5.1.1 Digital representation of speech : : : : : : : : : : Some waveforms : : : : : : : : : : : : : : : : Speech coding : : : : : : : : : : : : : : : : : : The interpolator lter as a holder : : : : : : : : Sizing of the binary channel parameters : : : : 5.1.2 Coding techniques and applications : : : : : : : : 5.2 Instantaneous quantization : : : : : : : : : : : : : : : : : 5.2.1 Parameters of a quantizer : : : : : : : : : : : : : 5.2.2 Uniform quantizers : : : : : : : : : : : : : : : : Quantization error : : : : : : : : : : : : : : : : Relation between 1, b and sat : : : : : : : : Statistical description of the quantization noise Statistical power of the quantization error : : : Design of a uniform quantizer : : : : : : : : : Signal-to-quantization error ratio : : : : : : : : Implementations of uniform PCM encoders : : 5.3 Non-uniform quantizers : : : : : : : : : : : : : : : : : : Three examples of implementation : : : : : : : 5.3.1 Companding techniques : : : : : : : : : : : : : : Signal-to-quantization error ratio : : : : : : : : Digital compression : : : : : : : : : : : : : : : Signal-to-quantization noise ratio mask : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

311 313 313 314 315 316 318 318 319 319 319 319 321 321 322 322 326 326 326 328 331 331 332 332 337 338 340 341 344 344 346 347 350 350 352 353 354 357 358 359 360 364 365 366

xiv

Contents

5.4

5.5

5.6

5.7

5.8

Optimum quantizer in the MSE sense : : : : : : : : : : : : Max algorithm : : : : : : : : : : : : : : : : : : : : : : Lloyd algorithm : : : : : : : : : : : : : : : : : : : : : : Expression of 3q for a very ne quantization : : : : : : Performance of non-uniform quantizers : : : : : : : : : Adaptive quantization : : : : : : : : : : : : : : : : : : : : : : : : General scheme : : : : : : : : : : : : : : : : : : : : : : 5.4.1 Feedforward adaptive quantizer : : : : : : : : : : : : : : : Performance : : : : : : : : : : : : : : : : : : : : : : : : 5.4.2 Feedback adaptive quantizers : : : : : : : : : : : : : : : : Estimate of s .k/ : : : : : : : : : : : : : : : : : : : : : Differential coding (DPCM) : : : : : : : : : : : : : : : : : : : : : 5.5.1 Conguration with feedback quantizer : : : : : : : : : : : 5.5.2 Alternative conguration : : : : : : : : : : : : : : : : : : 5.5.3 Expression of the optimum coefcients : : : : : : : : : : : Effects due to the presence of the quantizer : : : : : : : 5.5.4 Adaptive predictors : : : : : : : : : : : : : : : : : : : : : Adaptive feedforward predictors : : : : : : : : : : : : : Sequential adaptive feedback predictors : : : : : : : : : Performance : : : : : : : : : : : : : : : : : : : : : : : : 5.5.5 Alternative structures for the predictor : : : : : : : : : : : All-pole predictor : : : : : : : : : : : : : : : : : : : : : All-zero predictor : : : : : : : : : : : : : : : : : : : : : Pole-zero predictor : : : : : : : : : : : : : : : : : : : : Pitch predictor : : : : : : : : : : : : : : : : : : : : : : APC : : : : : : : : : : : : : : : : : : : : : : : : : : : : Delta modulation : : : : : : : : : : : : : : : : : : : : : : : : : : 5.6.1 Oversampling and quantization error : : : : : : : : : : : : 5.6.2 Linear delta modulation (LDM) : : : : : : : : : : : : : : : LDM implementation : : : : : : : : : : : : : : : : : : : Choice of system parameters : : : : : : : : : : : : : : : 5.6.3 Adaptive delta modulation (ADM) : : : : : : : : : : : : : Continuously variable slope delta modulation (CVSDM) ADM with second-order predictors : : : : : : : : : : : : 5.6.4 PCM encoder via LDM : : : : : : : : : : : : : : : : : : 5.6.5 Sigma delta modulation (6DM) : : : : : : : : : : : : : : : Coding by modeling : : : : : : : : : : : : : : : : : : : : : : : : : Vocoder or LPC : : : : : : : : : : : : : : : : : : : : : : RPE coding : : : : : : : : : : : : : : : : : : : : : : : : CELP coding : : : : : : : : : : : : : : : : : : : : : : : Multipulse coding : : : : : : : : : : : : : : : : : : : : : Vector quantization (VQ) : : : : : : : : : : : : : : : : : : : : : : 5.8.1 Characterization of VQ : : : : : : : : : : : : : : : : : : : Parameters determining VQ performance : : : : : : : : : Comparison between VQ and scalar quantization : : : : 5.3.2

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

366 369 370 371 374 377 377 379 380 381 382 385 386 389 391 392 393 394 394 398 398 398 399 399 400 401 404 404 407 408 408 410 411 412 412 413 413 414 415 416 417 417 418 418 420

Contents

xv

Optimum quantization : : : : : : : : : : : : : : : Generalized Lloyd algorithm : : : : : : : : : : 5.8.3 LBG algorithm : : : : : : : : : : : : : : : : : : Choice of the initial codebook : : : : : : : : : Description of the LBG algorithm with splitting Selection of the training sequence : : : : : : : 5.8.4 Variants of VQ : : : : : : : : : : : : : : : : : : Tree search VQ : : : : : : : : : : : : : : : : : Multistage VQ : : : : : : : : : : : : : : : : : Product code VQ : : : : : : : : : : : : : : : : 5.9 Other coding techniques : : : : : : : : : : : : : : : : : : Adaptive transform coding (ATC) : : : : : : : Sub-band coding (SBC) : : : : : : : : : : : : : 5.10 Source coding : : : : : : : : : : : : : : : : : : : : : : : 5.11 Speech and audio standards : : : : : : : : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : 5.8.2

: : : : : : : : : : : : : : : : : : : : : : : : procedure : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

421 422 424 425 426 426 429 429 430 430 432 433 433 433 434 435 437 437 439 440 440 442 445 447 449 449 450 452 454 454 455 456 458 459 461 465 470 472 474 475 477 477 478

6 Modulation theory 6.1 Theory of optimum detection : : : : : : : : : : : : : : : : : : Statistics of the random variables fwi g : : : : : : : : Sufcient statistics : : : : : : : : : : : : : : : : : : Decision criterion : : : : : : : : : : : : : : : : : : : Theorem of irrelevance : : : : : : : : : : : : : : : : Implementations of the maximum likelihood criterion Error probability : : : : : : : : : : : : : : : : : : : 6.1.1 Examples of binary signalling : : : : : : : : : : : : : : Antipodal signals ( D 1) : : : : : : : : : : : : : : Orthogonal signals ( D 0) : : : : : : : : : : : : : : Binary FSK : : : : : : : : : : : : : : : : : : : : : : 6.1.2 Limits on the probability of error : : : : : : : : : : : : Upper limit : : : : : : : : : : : : : : : : : : : : : : Lower limit : : : : : : : : : : : : : : : : : : : : : : 6.2 Simplied model of a transmission system and denition of binary channel : : : : : : : : : : : : : : : : : : : : : : : : Parameters of a transmission system : : : : : : : : : Relations among parameters : : : : : : : : : : : : : 6.3 Pulse amplitude modulation (PAM) : : : : : : : : : : : : : : : 6.4 Phase-shift keying (PSK) : : : : : : : : : : : : : : : : : : : : Binary PSK (BPSK) : : : : : : : : : : : : : : : : : Quadrature PSK (QPSK) : : : : : : : : : : : : : : : 6.5 Differential PSK (DPSK) : : : : : : : : : : : : : : : : : : : : 6.5.1 Error probability for an M-DPSK system : : : : : : : : 6.5.2 Differential encoding and coherent demodulation : : : : Binary case (M D 2, differentially encoded BPSK) : Multilevel case : : : : : : : : : : : : : : : : : : : :

xvi

Contents

AM-PM or quadrature amplitude modulation (QAM) : : : : : : : : : : Comparison between PSK and QAM : : : : : : : : : : : : : 6.7 Modulation methods using orthogonal and biorthogonal signals : : : : 6.7.1 Modulation with orthogonal signals : : : : : : : : : : : : : : : Probability of error : : : : : : : : : : : : : : : : : : : : : : Limit of the probability of error for M increasing to innity 6.7.2 Modulation with biorthogonal signals : : : : : : : : : : : : : : Probability of error : : : : : : : : : : : : : : : : : : : : : : 6.8 Binary sequences and coding : : : : : : : : : : : : : : : : : : : : : : Optimum receiver : : : : : : : : : : : : : : : : : : : : : : 6.9 Comparison between coherent modulation methods : : : : : : : : : : : Trade-offs for QAM systems : : : : : : : : : : : : : : : : : Comparison of modulation methods : : : : : : : : : : : : : 6.10 Limits imposed by information theory : : : : : : : : : : : : : : : : : Capacity of a system using amplitude modulation : : : : : : Coding strategies depending on the signal-to-noise ratio : : : Coding gain : : : : : : : : : : : : : : : : : : : : : : : : : : Cut-off rate : : : : : : : : : : : : : : : : : : : : : : : : : : 6.11 Optimum receivers for signals with random phase : : : : : : : : : : : ML criterion : : : : : : : : : : : : : : : : : : : : : : : : : Implementation of a non-coherent ML receiver : : : : : : : Error probability for a non-coherent binary FSK system : : : Performance comparison of binary systems : : : : : : : : : 6.12 Binary modulation systems in the presence of at fading : : : : : : : : Diversity : : : : : : : : : : : : : : : : : : : : : : : : : : : 6.13 Transmission methods : : : : : : : : : : : : : : : : : : : : : : : : : : 6.13.1 Transmission methods between two users : : : : : : : : : : : : Three methods : : : : : : : : : : : : : : : : : : : : : : : : 6.13.2 Channel sharing: deterministic access methods : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 6.A Gaussian distribution function and Marcum function : : : : : : : : : : 6.A.1 The Q function : : : : : : : : : : : : : : : : : : : : : : : : : 6.A.2 The Marcum function : : : : : : : : : : : : : : : : : : : : : : 6.B Gray coding : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 6.C Baseband PPM and PDM : : : : : : : : : : : : : : : : : : : : : : : : Signal-to-noise ratio : : : : : : : : : : : : : : : : : : : : : 6.D Walsh codes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 6.6 7 Transmission over dispersive channels 7.1 Baseband digital transmission (PAM systems) : : Transmitter : : : : : : : : : : : : : : : Transmission channel : : : : : : : : : : Receiver : : : : : : : : : : : : : : : : : Power spectral density of a PAM signal : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

480 485 486 486 489 492 493 494 496 498 499 502 502 503 504 506 508 509 509 510 512 516 519 520 521 522 522 523 523 525 527 527 527 529 531 532 532 536 539 539 539 541 542 543

Contents

xvii

7.2

Passband digital transmission (QAM systems) : : : : : : : : : Transmitter : : : : : : : : : : : : : : : : : : : : : : Power spectral density of a QAM signal : : : : : : : Three equivalent representations of the modulator : : Coherent receiver : : : : : : : : : : : : : : : : : : : 7.3 Baseband equivalent model of a QAM system : : : : : : : : : 7.3.1 Signal analysis : : : : : : : : : : : : : : : : : : : : : : Signal-to-noise ratio : : : : : : : : : : : : : : : : : 7.3.2 Characterization of system elements : : : : : : : : : : Transmitter : : : : : : : : : : : : : : : : : : : : : : Transmission channel : : : : : : : : : : : : : : : : : Receiver : : : : : : : : : : : : : : : : : : : : : : : : 7.3.3 Intersymbol interference : : : : : : : : : : : : : : : : : Discrete-time equivalent system : : : : : : : : : : : Nyquist pulses : : : : : : : : : : : : : : : : : : : : Eye diagram : : : : : : : : : : : : : : : : : : : : : : 7.3.4 Performance analysis : : : : : : : : : : : : : : : : : : Symbol error probability in the absence of ISI : : : : Matched lter receiver : : : : : : : : : : : : : : : : 7.4 Carrierless AM/PM (CAP) modulation : : : : : : : : : : : : : 7.5 Regenerative PCM repeaters : : : : : : : : : : : : : : : : : : : 7.5.1 PCM signals over a binary channel : : : : : : : : : : : Linear PCM coding of waveforms : : : : : : : : : : Overall system performance : : : : : : : : : : : : : 7.5.2 Regenerative repeaters : : : : : : : : : : : : : : : : : : Analog transmission : : : : : : : : : : : : : : : : : Digital transmission : : : : : : : : : : : : : : : : : : Comparison between analog and digital transmission Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 7.A Line codes for PAM systems : : : : : : : : : : : : : : : : : : 7.A.1 Line codes : : : : : : : : : : : : : : : : : : : : : : : : Non-return-to-zero (NRZ) format : : : : : : : : : : : Return-to-zero (RZ) format : : : : : : : : : : : : : : Biphase (B- ) format : : : : : : : : : : : : : : : : : Delay modulation or Miller code : : : : : : : : : : : Block line codes : : : : : : : : : : : : : : : : : : : Alternate mark inversion (AMI) : : : : : : : : : : : 7.A.2 Partial response systems : : : : : : : : : : : : : : : : : The choice of the PR polynomial : : : : : : : : : : : Symbol detection and error probability : : : : : : : : Precoding : : : : : : : : : : : : : : : : : : : : : : : Error probability with precoding : : : : : : : : : : : Alternative interpretation of PR systems : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

544 544 546 547 548 549 550 552 553 553 553 555 556 556 559 562 565 565 567 568 571 571 572 573 575 576 577 578 581 583 583 583 583 584 584 585 585 586 587 590 594 596 597 599

xviii

Contents

7.B Computation of Pe for some cases of interest 7.B.1 Pe in the absence of ISI : : : : : : : 7.B.2 Pe in the presence of ISI : : : : : : Exhaustive method : : : : : : : : Gaussian approximation : : : : : Worst-case limit : : : : : : : : : : Saltzberg limit : : : : : : : : : : GQR method : : : : : : : : : : : 7.C Coherent PAM-DSB transmission : : : : : : General scheme : : : : : : : : : : Transmit signal PSD : : : : : : : Signal-to-noise ratio : : : : : : : 7.D Implementation of a QAM transmitter : : : 7.E Simulation of a QAM system : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

602 602 604 604 605 605 606 607 608 608 609 609 611 613 619 619 620 620 622 626 627 628 630 633 635 638 639 642 644 645 645 646 648 648 649 649 655 655 657 657 658 659 662 663

8 Channel equalization and symbol detection 8.1 Zero-forcing equalizer (LE-ZF) : : : : : : : : : : : : : : : : : 8.2 Linear equalizer (LE) : : : : : : : : : : : : : : : : : : : : : : 8.2.1 Optimum receiver in the presence of noise and ISI : : : Alternative derivation of the IIR equalizer : : : : : : Signal-to-noise ratio : : : : : : : : : : : : : : : : 8.3 LE with a nite number of coefcients : : : : : : : : : : : : : Adaptive LE : : : : : : : : : : : : : : : : : : : : : 8.4 Fractionally spaced equalizer (FSE) : : : : : : : : : : : : : : : Adaptive FSE : : : : : : : : : : : : : : : : : : : : : 8.5 Decision feedback equalizer (DFE) : : : : : : : : : : : : : : : Adaptive DFE : : : : : : : : : : : : : : : : : : : : : Design of a DFE with a nite number of coefcients Design of a fractionally spaced DFE (FS-DFE) : : : Signal-to-noise ratio : : : : : : : : : : : : : : : : Remarks : : : : : : : : : : : : : : : : : : : : : : : : 8.6 Convergence behavior of adaptive equalizers : : : : : : : : : : Adaptive LE : : : : : : : : : : : : : : : : : : : : : Adaptive DFE : : : : : : : : : : : : : : : : : : : : : 8.7 LE-ZF with a nite number of coefcients : : : : : : : : : : : 8.8 DFE: alternative congurations : : : : : : : : : : : : : : : : : DFE-ZF : : : : : : : : : : : : : : : : : : : : : : : : DFE-ZF as a noise predictor : : : : : : : : : : : : : DFE as ISI and noise predictor : : : : : : : : : : : : 8.9 Benchmark performance for two equalizers : : : : : : : : : : : Performance comparison : : : : : : : : : : : : : : : Equalizer performance for two channel models : : : 8.10 Optimum methods for data detection : : : : : : : : : : : : : : 8.10.1 Maximum likelihood sequence detection : : : : : : : : Lower limit to error probability using the MLSD criterion : : : : : : : : : : :

: : : : :

Contents

xix

The Viterbi algorithm (VA) : : : : : : : : : : : : : : : : : : : Computational complexity of the VA : : : : : : : : : : : : : : 8.10.2 Maximum a posteriori probability detector : : : : : : : : : : : : Statistical description of a sequential machine : : : : : : : : : The forward-backward algorithm (FBA) : : : : : : : : : : : : Scaling : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Likelihood function in the absence of ISI : : : : : : : : : : : Simplied version of the MAP algorithm (Max-Log-MAP) : : Relation between Max-Log-MAP and Log-MAP : : : : : : : : 8.11 Optimum receivers for transmission over dispersive channels : : : : : : Ungerboecks formulation of the MLSD : : : : : : : : : : : : 8.12 Error probability achieved by MLSD : : : : : : : : : : : : : : : : : : : Computation of the minimum distance : : : : : : : : : : : : : 8.13 Reduced state sequence detection : : : : : : : : : : : : : : : : : : : : : Reduced state trellis diagram : : : : : : : : : : : : : : : : : : RSSE algorithm : : : : : : : : : : : : : : : : : : : : : : : : : Further simplication: DFSE : : : : : : : : : : : : : : : : : : 8.14 Passband equalizers : : : : : : : : : : : : : : : : : : : : : : : : : : : : 8.14.1 Passband receiver structure : : : : : : : : : : : : : : : : : : : : Joint optimization of equalizer coefcients and carrier phase offset : : : : : : : : : : : : : : Adaptive method : : : : : : : : : : : : : : : : : : : : : : : : 8.14.2 Efcient implementations of voiceband modems : : : : : : : : : 8.15 LE for voiceband modems : : : : : : : : : : : : : : : : : : : : : : : : : Detection of the training sequence : : : : : : : : : : : : : : : Computations of the coefcients of a cyclic equalizer : : : : : Transition from training to data mode : : : : : : : : : : : : : Example of application: a simple modem : : : : : : : : : : : 8.16 LE and DFE in the frequency domain with data frames using cyclic prex 8.17 Numerical results obtained by simulations : : : : : : : : : : : : : : : : QPSK transmission over a minimum phase channel : : : : : : QPSK transmission over a non-minimum phase channel : : : : 8-PSK transmission over a minimum phase channel : : : : : : 8-PSK transmission over a non-minimum phase channel : : : 8.18 Diversity combining techniques : : : : : : : : : : : : : : : : : : : : : : Antenna arrays : : : : : : : : : : : : : : : : : : : : : : : : : Combining techniques : : : : : : : : : : : : : : : : : : : : : Equalization and diversity : : : : : : : : : : : : : : : : : : : Diversity in transmission : : : : : : : : : : : : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 8.A Calculus of variations and receiver optimization : : : : : : : : : : : : : 8.A.1 Calculus of variations : : : : : : : : : : : : : : : : : : : : : : : Linear functional : : : : : : : : : : : : : : : : : : : : : : : : Quadratic functional : : : : : : : : : : : : : : : : : : : : : :

663 667 668 668 670 673 674 675 677 678 680 682 686 691 691 694 695 697 698 700 701 703 705 706 707 709 709 710 713 713 715 716 716 717 718 719 722 722 726 731 731 731 731 732

xx

Contents

8.A.2 Receiver optimization : : : : : : : : : : : : : : 8.A.3 Joint optimization of transmitter and receiver : : 8.B DFE design: matrix formulations : : : : : : : : : : : : 8.B.1 Method based on correlation sequences : : : : : 8.B.2 Method based on the channel impulse response and i.i.d. symbols : : : : : : : : : : : : : : : : 8.B.3 Method based on the channel impulse response and any symbol statistic : : : : : : : : : : : : : 8.B.4 FS-DFE : : : : : : : : : : : : : : : : : : : : : 8.C Equalization based on the peak value of ISI : : : : : : 8.D Description of a nite state machine (FSM) : : : : : : :

: : : :

: : : :

: : : :

: : : :

: : : :

: : : :

: : : :

: : : :

: : : :

735 739 741 741 744 746 747 749 751 753 753 755 755 755 755 756 757 759 760 764 769 770 771 771 773 773 775 777 779 780 780 781 781 782 783 786 788 793 795 795 795

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

9 Orthogonal frequency division multiplexing 9.1 OFDM systems : : : : : : : : : : : : : : : : : : : : : : : : 9.2 Orthogonality conditions : : : : : : : : : : : : : : : : : : : : Time domain : : : : : : : : : : : : : : : : : : : : Frequency domain : : : : : : : : : : : : : : : : : z-transform domain : : : : : : : : : : : : : : : : : 9.3 Efcient implementation of OFDM systems : : : : : : : : : OFDM implementation employing matched lters : Orthogonality conditions in terms of the polyphase components : : : : : OFDM implementation employing a prototype lter 9.4 Non-critically sampled lter banks : : : : : : : : : : : : : : 9.5 Examples of OFDM systems : : : : : : : : : : : : : : : : : Discrete multitone (DMT) : : : : : : : : : : : : : Filtered multitone (FMT) : : : : : : : : : : : : : : Discrete wavelet multitone (DWMT) : : : : : : : : 9.6 Equalization of OFDM systems : : : : : : : : : : : : : : : : Interpolator lter and virtual subchannels : : : : : Equalization of DMT systems : : : : : : : : : : : Equalization of FMT systems : : : : : : : : : : : : 9.7 Synchronization of OFDM systems : : : : : : : : : : : : : : 9.8 Passband OFDM systems : : : : : : : : : : : : : : : : : : : Passband DWMT systems : : : : : : : : : : : : : Passband DMT and FMT systems : : : : : : : : : Comparison between OFDM and QAM systems : : 9.9 DWMT modulation : : : : : : : : : : : : : : : : : : : : : : Transmit and receive lter banks : : : : : : : : : : Approximate interchannel interference suppression Perfect interchannel interference suppression : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

10 Spread spectrum systems 10.1 Spread spectrum techniques : : : : : : : : : : : : : : : : : : : : : : : : 10.1.1 Direct sequence systems : : : : : : : : : : : : : : : : : : : : : :

Contents

xxi

Classication of CDMA systems : : : : : : : : : Synchronization : : : : : : : : : : : : : : : : : : 10.1.2 Frequency hopping systems : : : : : : : : : : : : : Classication of FH systems : : : : : : : : : : : 10.2 Applications of spread spectrum systems : : : : : : : : : : 10.2.1 Anti-jam communications : : : : : : : : : : : : : : 10.2.2 Multiple-access systems : : : : : : : : : : : : : : : 10.2.3 Interference rejection : : : : : : : : : : : : : : : : 10.3 Chip matched lter and rake receiver : : : : : : : : : : : : Number of resolvable rays in a multipath channel Chip matched lter (CMF) : : : : : : : : : : : : 10.4 Interference : : : : : : : : : : : : : : : : : : : : : : : : : Detection strategies for multiple-access systems : 10.5 Equalizers for single-user detection : : : : : : : : : : : : : Chip equalizer (CE) : : : : : : : : : : : : : : : : Symbol equalizer (SE) : : : : : : : : : : : : : : 10.6 Block equalizer for multiuser detection : : : : : : : : : : : 10.7 Maximum likelihood multiuser detector : : : : : : : : : : : Correlation matrix approach : : : : : : : : : : : Whitening lter approach : : : : : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

802 804 804 806 807 808 810 811 811 811 813 816 818 818 818 819 820 823 823 824 824 827 828 830 830 830 833 836 837 837 838 839 842 843 845 846 849 851 854 857 859 861 862 862

11 Channel codes 11.1 System model : : : : : : : : : : : : : : : : : : : : : : : : : : : : 11.2 Block codes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 11.2.1 Theory of binary codes with group structure : : : : : : : : Properties : : : : : : : : : : : : : : : : : : : : : : : : : Parity check matrix : : : : : : : : : : : : : : : : : : : : Code generator matrix : : : : : : : : : : : : : : : : : : Decoding of binary parity check codes : : : : : : : : : : Cosets : : : : : : : : : : : : : : : : : : : : : : : : : : : Two conceptually simple decoding methods : : : : : : : Syndrome decoding : : : : : : : : : : : : : : : : : : : : 11.2.2 Fundamentals of algebra : : : : : : : : : : : : : : : : : : Modulo q arithmetic : : : : : : : : : : : : : : : : : : : Polynomials with coefcients from a eld : : : : : : : : The concept of modulo in the arithmetic of polynomials Devices to sum and multiply elements in a nite eld : : Remarks on nite elds : : : : : : : : : : : : : : : : : : Roots of a polynomial : : : : : : : : : : : : : : : : : : Minimum function : : : : : : : : : : : : : : : : : : : : Methods to determine the minimum function : : : : : : Properties of the minimum function : : : : : : : : : : : 11.2.3 Cyclic codes : : : : : : : : : : : : : : : : : : : : : : : : : The algebra of cyclic codes : : : : : : : : : : : : : : : :

xxii

Contents

Properties of cyclic codes : : : : : : : : : : : : : : : : Encoding method using a shift register of length r : : Encoding method using a shift register of length k : : Hard decoding of cyclic codes : : : : : : : : : : : : : Hamming codes : : : : : : : : : : : : : : : : : : : : : Burst error detection : : : : : : : : : : : : : : : : : : 11.2.4 Simplex cyclic codes : : : : : : : : : : : : : : : : : : : Relation to PN sequences : : : : : : : : : : : : : : : : 11.2.5 BCH codes : : : : : : : : : : : : : : : : : : : : : : : : An alternative method to specify the code polynomials BoseChaudhuriHocquenhem (BCH) codes : : : : : : Binary BCH codes : : : : : : : : : : : : : : : : : : : ReedSolomon codes : : : : : : : : : : : : : : : : : : Decoding of BCH codes : : : : : : : : : : : : : : : : Efcient decoding of BCH codes : : : : : : : : : : : : 11.2.6 Performance of block codes : : : : : : : : : : : : : : : : 11.3 Convolutional codes : : : : : : : : : : : : : : : : : : : : : : : : 11.3.1 General description of convolutional codes : : : : : : : : Parity check matrix : : : : : : : : : : : : : : : : : : : Generator matrix : : : : : : : : : : : : : : : : : : : : Transfer function : : : : : : : : : : : : : : : : : : : : Catastrophic error propagation : : : : : : : : : : : : : 11.3.2 Decoding of convolutional codes : : : : : : : : : : : : : Interleaving : : : : : : : : : : : : : : : : : : : : : : : Two decoding models : : : : : : : : : : : : : : : : : : Viterbi algorithm : : : : : : : : : : : : : : : : : : : : Forward-backward algorithm : : : : : : : : : : : : : : Sequential decoding : : : : : : : : : : : : : : : : : : : 11.3.3 Performance of convolutional codes : : : : : : : : : : : 11.4 Concatenated codes : : : : : : : : : : : : : : : : : : : : : : : : Soft-output Viterbi algorithm (SOVA) : : : : : : : : : 11.5 Turbo codes : : : : : : : : : : : : : : : : : : : : : : : : : : : : Encoding : : : : : : : : : : : : : : : : : : : : : : : : The basic principle of iterative decoding : : : : : : : : The forward-backward algorithm revisited : : : : : : : Iterative decoding : : : : : : : : : : : : : : : : : : : : Performance evaluation : : : : : : : : : : : : : : : : : 11.6 Iterative detection and decoding : : : : : : : : : : : : : : : : : 11.7 Low-density parity check codes : : : : : : : : : : : : : : : : : : Encoding procedure : : : : : : : : : : : : : : : : : : : Decoding algorithm : : : : : : : : : : : : : : : : : : : Example of application : : : : : : : : : : : : : : : : : Performance and coding gain : : : : : : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

864 869 870 871 872 875 875 877 878 878 880 883 885 887 891 899 900 903 905 906 907 910 912 913 913 915 915 917 919 921 921 924 924 929 930 939 941 943 946 948 948 953 954 956 960

Contents

xxiii

11.A Nonbinary parity check codes : : : : : : : : : : : : : Linear codes : : : : : : : : : : : : : : : : Parity check matrix : : : : : : : : : : : : : Code generator matrix : : : : : : : : : : : Decoding of nonbinary parity check codes : Coset : : : : : : : : : : : : : : : : : : : : Two conceptually simple decoding methods Syndrome decoding : : : : : : : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

960 961 962 963 964 964 965 965 967 968 968 970 970 973 975 980 985 987 990 990 993 995 996 999 999 1002 1002 1003 1007 1008 1009 1012 1018 1025 1027 1027 1029 1031 1032 1034 1035 1036 1040

12 Trellis coded modulation 12.1 Linear TCM for one- and two-dimensional signal sets : : : : 12.1.1 Fundamental elements : : : : : : : : : : : : : : : : : Basic TCM scheme : : : : : : : : : : : : : : : : : Example : : : : : : : : : : : : : : : : : : : : : : : 12.1.2 Set partitioning : : : : : : : : : : : : : : : : : : : : 12.1.3 Lattices : : : : : : : : : : : : : : : : : : : : : : : : 12.1.4 Assignment of symbols to the transitions in the trellis 12.1.5 General structure of the encoder/bit-mapper : : : : : Computation of dfree : : : : : : : : : : : : : : : : 12.2 Multidimensional TCM : : : : : : : : : : : : : : : : : : : : Encoding : : : : : : : : : : : : : : : : : : : : : : Decoding : : : : : : : : : : : : : : : : : : : : : : 12.3 Rotationally invariant TCM schemes : : : : : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 13 Precoding and coding techniques for dispersive channels 13.1 Capacity of a dispersive channel : : : : : : : : : : : : : 13.2 Techniques to achieve capacity : : : : : : : : : : : : : : Bit loading for OFDM : : : : : : : : : : : : : Discrete-time model of a single carrier system : Achieving capacity with a single carrier system 13.3 Precoding and coding for dispersive channels : : : : : : : 13.3.1 TomlinsonHarashima (TH) precoding : : : : : : 13.3.2 TH precoding and TCM : : : : : : : : : : : : : : 13.3.3 Flexible precoding : : : : : : : : : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

14 Synchronization 14.1 The problem of synchronization for QAM systems : : : : : : 14.2 The phase-locked loop : : : : : : : : : : : : : : : : : : : : : 14.2.1 PLL baseband model : : : : : : : : : : : : : : : : : Linear approximation : : : : : : : : : : : : : : : : 14.2.2 Analysis of the PLL in the presence of additive noise Noise analysis using the linearity assumption : : : 14.2.3 Analysis of a second-order PLL : : : : : : : : : : : : 14.3 Costas loop : : : : : : : : : : : : : : : : : : : : : : : : : :

xxiv

Contents

14.3.1 PAM signals : : : : : : : : : : : : : : : : : : : : : : : : 14.3.2 QAM signals : : : : : : : : : : : : : : : : : : : : : : : 14.4 The optimum receiver : : : : : : : : : : : : : : : : : : : : : : : Timing recovery : : : : : : : : : : : : : : : : : : : : Carrier phase recovery : : : : : : : : : : : : : : : : : 14.5 Algorithms for timing and carrier phase recovery : : : : : : : : : 14.5.1 ML criterion : : : : : : : : : : : : : : : : : : : : : : : : Assumption of slow time varying channel : : : : : : : 14.5.2 Taxonomy of algorithms using the ML criterion : : : : : Feedback estimators : : : : : : : : : : : : : : : : : : Early-late estimators : : : : : : : : : : : : : : : : : : 14.5.3 Timing estimators : : : : : : : : : : : : : : : : : : : : : Non-data aided : : : : : : : : : : : : : : : : : : : : : Non-data aided via spectral estimation : : : : : : : : : Data-aided and data-directed : : : : : : : : : : : : : : Data- and phase-directed with feedback: differentiator scheme : : : : : : : : : : : : Data- and phase-directed with feedback: Mueller & Muller scheme : : : : : : : : : Non-data aided with feedback : : : : : : : : : : : : : 14.5.4 Phasor estimators : : : : : : : : : : : : : : : : : : : : : Data- and timing-directed : : : : : : : : : : : : : : : : Non-data aided for M-PSK signals : : : : : : : : : : : Data- and timing-directed with feedback : : : : : : : : 14.6 Algorithms for carrier frequency recovery : : : : : : : : : : : : 14.6.1 Frequency offset estimators : : : : : : : : : : : : : : : : Non-data aided : : : : : : : : : : : : : : : : : : : : : Non-data aided and timing-independent with feedback : Non-data aided and timing-directed with feedback : : : 14.6.2 Estimators operating at the modulation rate : : : : : : : : Data-aided and data-directed : : : : : : : : : : : : : : Non-data aided for M-PSK : : : : : : : : : : : : : : : 14.7 Second-order digital PLL : : : : : : : : : : : : : : : : : : : : : 14.8 Synchronization in spread spectrum systems : : : : : : : : : : : 14.8.1 The transmission system : : : : : : : : : : : : : : : : : Transmitter : : : : : : : : : : : : : : : : : : : : : : : Optimum receiver : : : : : : : : : : : : : : : : : : : : 14.8.2 Timing estimators with feedback : : : : : : : : : : : : : Non-data aided: non-coherent DLL : : : : : : : : : : : Non-data aided MCTL : : : : : : : : : : : : : : : : : Data- and phase-directed: coherent DLL : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : :

: : : : : : : : : : : : : : :

: : : : : : : : : : : : : : :

: : : : : : : : : : : : : : :

1040 1042 1044 1046 1050 1051 1051 1051 1051 1053 1055 1055 1055 1057 1059 1062 1064 1065 1066 1066 1066 1067 1068 1069 1069 1071 1071 1072 1073 1073 1074 1074 1074 1074 1075 1076 1076 1077 1077 1081 1083 1083 1086

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

15 Self-training equalization 15.1 Problem denition and fundamentals : : : : : : : : : : : : : : : : : : : Minimization of a special function : : : : : : : : : : : : : : :

Contents

xxv

15.2 Three algorithms for PAM systems : : : : : : : : : : : : : The Sato algorithm : : : : : : : : : : : : : : : : BenvenisteGoursat algorithm : : : : : : : : : : Stop-and-go algorithm : : : : : : : : : : : : : : Remarks : : : : : : : : : : : : : : : : : : : : : : 15.3 The contour algorithm for PAM systems : : : : : : : : : : Simplied realization of the contour algorithm : : 15.4 Self-training equalization for partial response systems : : : The Sato algorithm for partial response systems : Contour algorithm for partial response systems : 15.5 Self-training equalization for QAM systems : : : : : : : : The Sato algorithm for QAM systems : : : : : : 15.5.1 Constant modulus algorithm : : : : : : : : : : : : : The contour algorithm for QAM systems : : : : Joint contour algorithm and carrier phase tracking 15.6 Examples of applications : : : : : : : : : : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : : : : : : : : : : 15.A On the convergence of the contour algorithm : : : : : : : :

: : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

1090 1090 1091 1092 1092 1093 1095 1096 1096 1098 1100 1100 1101 1102 1104 1106 1111 1113 1113 1115 1116 1117 1118 1119 1120 1121 1124 1128 1131 1136 1137 1142 1145 1145 1145 1145 1146 1152 1156 1158

16 Applications of interference cancellation 16.1 Echo and nearend cross-talk cancellation for PAM systems : Cross-talk cancellation and full duplex transmission Polyphase structure of the canceller : : : : : : : : Canceller at symbol rate : : : : : : : : : : : : : : Adaptive canceller : : : : : : : : : : : : : : : : : Canceller structure with distributed arithmetic : : : 16.2 Echo cancellation for QAM systems : : : : : : : : : : : : : 16.3 Echo cancellation for OFDM systems : : : : : : : : : : : : : 16.4 Multiuser detection for VDSL : : : : : : : : : : : : : : : : : 16.4.1 Upstream power back-off : : : : : : : : : : : : : : : 16.4.2 Comparison of PBO methods : : : : : : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

17 Wired and wireless network technologies 17.1 Wired network technologies : : : : : : : : : : : : : : : : : : : : : 17.1.1 Transmission over unshielded twisted pairs in the customer service area : : : : : : : : : : : : : : : : : : : : : : : : : Modem : : : : : : : : : : : : : : : : : : : : : : : : : : Digital subscriber line : : : : : : : : : : : : : : : : : : 17.1.2 High speed transmission over unshielded twisted pairs in local area networks : : : : : : : : : : : : : : : : : : : : 17.1.3 Hybrid ber/coaxial cable networks : : : : : : : : : : : : : Ranging and power adjustment for uplink transmission : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

xxvi

Contents

17.2 Wireless network technologies : : : : : : : 17.2.1 Wireless local area networks : : : Medium access control protocols 17.2.2 MMDS and LMDS : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : 17.A Standards for wireless systems : : : : : : 17.A.1 General observations : : : : : : : Wireless systems : : : : : : : : Modulation techniques : : : : : Parameters of the modulator : : Cells in a wireless system : : : 17.A.2 GSM standard : : : : : : : : : : : System characteristics : : : : : : Radio subsystem : : : : : : : : GSM-EDGE : : : : : : : : : : : 17.A.3 IS-136 standard : : : : : : : : : : 17.A.4 JDC standard : : : : : : : : : : : 17.A.5 IS-95 standard : : : : : : : : : : : 17.A.6 DECT standard : : : : : : : : : : 17.A.7 HIPERLAN standard : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : :

1161 1162 1164 1165 1167 1170 1170 1171 1171 1171 1171 1172 1172 1172 1175 1177 1177 1180 1180 1182 1185 1189 1189 1189 1190 1190 1191 1192 1192 1192 1194 1196 1197 1198 1198 1198 1200 1201 1202 1203 1203 1203 1207 1207

18 Modulation techniques for wireless systems 18.1 Analog front-end architectures : : : : : : : : : : : : : : : : : Conventional superheterodyne receiver : : : : : : : Alternative architectures : : : : : : : : : : : : : : Direct conversion receiver : : : : : : : : : : : : : Single conversion to low-IF : : : : : : : : : : : : Double conversion and wideband IF : : : : : : : : 18.2 Three non-coherent receivers for phase modulation systems : 18.2.1 Baseband differential detector : : : : : : : : : : : : : 18.2.2 IF-band (1 Bit) differential detector (1BDD) : : : : : Performance of M-DPSK : : : : : : : : : : : : : : 18.2.3 FM discriminator with integrate and dump lter (LDI) 18.3 Variants of QPSK : : : : : : : : : : : : : : : : : : : : : : : 18.3.1 Basic schemes : : : : : : : : : : : : : : : : : : : : : QPSK : : : : : : : : : : : : : : : : : : : : : : : : Offset QPSK or staggered QPSK : : : : : : : : : : Differential QPSK (DQPSK) : : : : : : : : : : : : =4-DQPSK : : : : : : : : : : : : : : : : : : : : 18.3.2 Implementations : : : : : : : : : : : : : : : : : : : : QPSK, OQPSK, and DQPSK modulators : : : : : =4-DQPSK modulators : : : : : : : : : : : : : : 18.4 Frequency shift keying (FSK) : : : : : : : : : : : : : : : : : 18.4.1 Power spectrum of M-FSK : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : :

Contents

xxvii

Power spectrum of non-coherent binary FSK : : Power spectrum of coherent M-FSK : : : : : : : 18.4.2 FSK receivers and corresponding performance : : : Coherent demodulator : : : : : : : : : : : : : : Non-coherent demodulator : : : : : : : : : : : : Limiter-discriminator FM demodulator : : : : : : 18.5 Minimum shift keying (MSK) : : : : : : : : : : : : : : : : 18.5.1 Power spectrum of continuous-phase FSK (CPFSK) 18.5.2 The MSK signal viewed from two perspectives : : Phase of an MSK signal : : : : : : : : : : : : : MSK as binary CPFSK : : : : : : : : : : : : : : MSK as OQPSK : : : : : : : : : : : : : : : : : Complex notation of an MSK signal : : : : : : : 18.5.3 Implementations of an MSK scheme : : : : : : : : 18.5.4 Performance of MSK demodulators : : : : : : : : : MSK with differential precoding : : : : : : : : : 18.5.5 Remarks on spectral containment : : : : : : : : : : 18.6 Gaussian MSK (GMSK) : : : : : : : : : : : : : : : : : : 18.6.1 GMSK via CPFSK : : : : : : : : : : : : : : : : : 18.6.2 Power spectrum of GMSK : : : : : : : : : : : : : 18.6.3 Implementation of a GMSK scheme : : : : : : : : Conguration I : : : : : : : : : : : : : : : : : : Conguration II : : : : : : : : : : : : : : : : : : Conguration III : : : : : : : : : : : : : : : : : 18.6.4 Linear approximation of a GMSK signal : : : : : : Performance of GMSK demodulators : : : : : : Performance of a GSM receiver in the presence of multipath : : : : : : : : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : : : : : : : : : : 18.A Continuous phase modulation (CPM) : : : : : : : : : : : : Alternative denition of CPM : : : : : : : : : : Advantages of CPM : : : : : : : : : : : : : : : 19 Design of high speed transmission systems over unshielded twisted pair cables 19.1 Design of a quaternary partial response class-IV system sion at 125 Mbit/s : : : : : : : : : : : : : : : : : : : : Analog lter design : : : : : : : : : : : : : : Received signal and adaptive gain control : : Near-end cross-talk cancellation : : : : : : : Decorrelation lter : : : : : : : : : : : : : : Adaptive equalizer : : : : : : : : : : : : : : Compensation of the timing phase drift : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : :

1208 1209 1212 1212 1213 1213 1214 1217 1217 1217 1219 1220 1222 1224 1224 1227 1228 1229 1229 1231 1234 1234 1234 1236 1238 1238 1243 1244 1246 1246 1246 1248

1249 for data transmis: : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1249 1249 1250 1251 1251 1252 1252

xxviii

Contents

Adaptive equalizer coefcient adaptation : : : : : : Convergence behavior of the various algorithms : : 19.1.1 VLSI implementation : : : : : : : : : : : : : : : : : Adaptive digital NEXT canceller : : : : : : : : : : Adaptive digital equalizer : : : : : : : : : : : : : : Timing control : : : : : : : : : : : : : : : : : : : Viterbi detector : : : : : : : : : : : : : : : : : : : 19.2 Design of a dual duplex transmission system at 100 Mbit/s : : Dual duplex transmission : : : : : : : : : : : : : : Physical layer control : : : : : : : : : : : : : : : : Coding and decoding : : : : : : : : : : : : : : : : 19.2.1 Signal processing functions : : : : : : : : : : : : : : The 100BASE-T2 transmitter : : : : : : : : : : : : The 100BASE-T2 receiver : : : : : : : : : : : : : Computational complexity of digital receive lters : Bibliography : : : : : : : : : : : : : : : : : : : : : : : : : : : : : Appendices : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 19.A Interference suppression : : : : : : : : : : : : : : : : : : : : Index

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

: : : : : : : : : : : : : : : : : :

1253 1253 1255 1255 1258 1261 1262 1263 1263 1265 1266 1269 1269 1270 1272 1273 1274 1274 1277

Preface

The motivation for this book is twofold. On the one hand, we provide a didactic tool to students of communications systems. On the other hand, we present a discussion of fundamental algorithms and structures for telecommunication technologies. The contents reect our experience in teaching courses on Algorithms for Telecommunications at the University of Padova, Italy, as well as our professional experience acquired in industrial research laboratories. The text explains the procedures for solving problems posed by the design of systems for reliable communications over wired or wireless channels. In particular, we focus on fundamental developments in the eld in order to provide the reader with the necessary insight to design essential elements of various communications systems. The book is divided into nineteen chapters. We briey indicate four tracks corresponding to specic areas and course work offered. Track 1. Track 1 includes the basic elements for a rst course on telecommunications, which we regard as an introduction to the remaining tracks. It covers Chapter 1, which recalls fundamental concepts on signals and random processes, with an emphasis on secondorder statistical descriptions. A discussion of the characteristics of transmission media follows in Chapter 4. In this track we focus on the description of noise in electronic devices and on the laws of propagation in transmission lines and radio channels. The representation of waveforms by sequences of binary symbols is treated in Chapter 5; for a rst course it is suggested that emphasis be placed on PCM. Next, Chapter 6 examines the fundamental principles of a digital transmission system, where a sequence of information symbols is sent over a transmission channel. We refer to Shannon theorem to establish the maximum bit rate that can be transmitted reliably over a noisy channel. Signal dispersion caused by a transmission channel is then analyzed in Chapter 7. Examples of elementary and practical implementations of transmission systems are presented, together with a brief introduction to computer simulations. The rst three sections of Chapter 11, where we introduce methods for increasing transmission reliability by exploiting the redundancy added to the information bits, conclude the rst track. Track 2. Track 2, which is an extension of Track 1, focuses on modulation techniques. First, parametric models of random processes are analyzed in Chapter 1. The Wiener lter and the linear prediction theory, which constitute fundamental elements for receiver design, are dealt with in Chapter 2. Chapter 3 lists iterative methods to achieve the objectives stated

xxx

Preface

in Chapter 2, as well as various applications of the Wiener lter, for example channel identication and interference cancellation. These applications are further developed in the rst two sections of Chapter 16. In the rst part of Chapter 8, channel equalization is examined as a further application of the Wiener lter. In the second part of the chapter, more sophisticated methods of equalization and symbol detection, which rely on the Viterbi algorithm and on the forwardbackward algorithm, are analyzed. Initially single-carrier modulation systems are considered. In Chapter 9, we introduce multicarrier modulation techniques, which are preferable for transmission over very dispersive channels and/or applications that require exibility in spectral allocation. In Chapter 10 spread spectrum systems are examined, with emphasis to applications for simultaneous channel access by several users that share a wideband channel. The inherent narrowband interference rejection capabilities of spread spectrum systems, as well as their implementations, are also discussed. This is followed by Chapter 18, which illustrates specic modulation techniques developed for mobile radio applications. Track 3. We observe the trend towards implementing transceiver functions using digital signal processors. Therefore the algorithmic aspects of a transmission system are becoming increasingly important. Hardware devices are assigned wherever possible only the functions of analog front-end, xed ltering, and digital-to-analog and analog-to-digital conversion. This approach enhances the exibility of transceivers, which can be utilized for more than one transmission standard, and considerably reduces development time. In line with the above considerations, Track 3 begins with a review of Chapters 2 and 3, which illustrate the fundamental principles of transmission system design, and of Chapter 8, which investigates individual building blocks for channel equalization and symbol detection. The assumption that the transmission channel characteristics are known a priori is removed in Chapter 15, where blind equalization techniques are discussed. Channel coding techniques to improve the reliability of transmission are investigated in depth in Chapters 11 and 12. A further method to mitigate channel dispersion is precoding. The operations of systems that employ joint precoding and channel coding are explained in Chapter 13. Because of electromagnetic coupling, the desired signal at the receiver is often disturbed by other transmissions taking place simultaneously. Cancellation techniques to suppress interference signals are treated in Chapter 16. Track 4. Track 4 addresses various challenges encountered in designing wired and wireless communications systems. The elements introduced in Chapters 2 and 3, as well as the algorithms introduced in Chapter 8, are essential for this track. The principles of multicarrier and spread spectrum modulation techniques, which are increasingly being adopted in communications systems, are investigated in depth in Chapters 9 and 10, respectively. The design of the receiver front-end, as well as various methods for timing and carrier recovery, are dealt with in Chapter 14. Applications of interference cancellation and multi-user detection are addressed in Chapter 16. An overview of wired and wireless access technologies appears in Chapter 17, and specic examples of system design are given in Chapters 18 and 19.

Acknowledgements

We gratefully acknowledge all who have made the realization of this book possible. In particular, the editing of the various chapters would never have been completed without the contributions of numerous students in our courses on Algorithms for Telecommunications. Although space limitations preclude mentioning them all by name, we nevertheless express our sincere gratitude. We also thank Christian Bolis and Chiara Paci for their support in developing the software for the book, Charlotte Bolliger and Lilli M. Pavka for their assistance in administering the project, and Urs Bitterli and Darja Kropaci for their help with the graphics editing. For text processing of the Italian version, the contribution of Barbara Sicoli was indispensable; our thanks also go to Jane Frankeneld Zanin for her help in translating the text into English. We are pleased to thank the following colleagues for their invaluable assistance throughout the revision of the book: Antonio Assalini, Paola Bisaglia, Alberto Bononi, Giancarlo Calvagno, Giulio Colavolpe, Roberto Corvaja, Elena Costa, Andrea Galtarossa, Antonio Mian, Carlo Monti, Ezio Obetti, Riccardo Rahely, Roberto Rinaldo, Antonio Salloum, Fortunato Santucci, Andrea Scaggiante, Giovanna Sostrato, Stefano Tomasin, and Luciano Tomba. We gratefully acknowledge our colleague and mentor Jack Wolf for letting us include his lecture notes in the chapter on channel codes. A special acknowledgment goes to our colleagues Werner Bux and Evangelos Eleftheriou of the IBM Zurich Research Laboratory, and Silvano Pupolin of the University of Padua, for their continuing support. Nevio Benvenuto Giovanni Cherubini

To make the reading of the adopted symbols easier, a table containing the Greek alphabet is included. The Greek alphabet A B 0 , " 1 E Z , # H 2 I K 3 M alpha beta gamma delta epsilon zeta eta theta iota kappa lambda mu ! o , % , & ,' N 4 O 5 P P T Y 8 X 9 nu xi omicron pi rho sigma tau upsilon phi chi psi omega

Chapter 1

Elements of signal theory

In the present chapter we recall fundamental concepts of signal theory and random processes. A majority of readers will simply nd this chapter a review of known principles, while others will nd it a useful incentive for further in-depth study, for which we recommend the items in the bibliography. In any event, we will begin with the denition of signal space and its discrete representation, then move to the study of discrete-time linear systems (discrete Fourier transforms, IIR and FIR impulse responses) and signals (complex representation of passband signals and the baseband equivalent). We will conclude with the study of random processes, with emphasis on the statistical estimation of rst- and second-order ergodic processes (periodogram, correlogram, ARMA, MA and especially AR models).

1.1

Signal space

Denition 1.1 A linear space is a set of elements called vectors, together with two operators dened over the elements of the set, the sum between vectors and the multiplication of a vector by a scalar. The Euclidean space is an example of linear space in which the sum of two vectors coincides with the vector obtained by adding the individual components, and the product of a vector by a scalar coincides with the vector obtained by multiplying each component for that scalar. In our case of particular interest is the set of complex vectors, i.e., those with complex-valued components, in an Euclidean space.

Properties of a linear spaceLet x, y, z and 0 be elements of a linear space, and and be complex numbers (scalars). 1. Addition is commutative xCyDyCx 2. Addition is associative x C .y C z/ D .x C y/ C z 3. There exists a unique vector 0, called null, such that 0CxDx (1.3) (1.2) (1.1)

2

Chapter 1. Elements of signal theory

4. For each x, there is a unique vector

x, called additive inverse, such that (1.4)

x C . x/ D 0 5. Multiplication by scalars is associative .x/ D ./x In particular, we have 1x D x 6. Distributive laws .x C y/ D x C y . C /x D x C x 0x D 0

(1.5)

(1.6)

(1.7) (1.8)

A geometrical interpretation of the two elementary operations in a two-dimensional Euclidean space is given in Figure 1.1. As previously mentioned, the Euclidean space is an example of a linear space. Two other examples of linear spaces are: the discrete-time signal space (an Euclidean space with innite dimensions), whose elements are the signals fx.kTc /g k integer (1.9)

where Tc is the sampling period or interval,1 and the continuous-time signal space, whose elements are the signals x.t/ where < denotes the set of real numbers. t 2< (1.10)

Figure 1.1. Geometrical interpretation in the two-dimensional space of the sum of two vectors and the multiplication of a vector by a scalar.

1

Later a discrete-time signal will be indicated simply as fx.k/g, omitting the indication of the sampling period. In general, we will indicate by fxk g a sequence of real or complex numbers not necessarily generated at instants kTc .

1.1. Signal space

3

Inner productIn an I -dimensional Euclidean space,2 given the two vectors x D [x1 ; : : : ; x I ]T and y D [y1 ; : : : ; y I ]T , we indicate with hx; yi the inner product: hx; yi DI X i D1

xi yi

(1.11)

If hx; yi is real, there is an important geometrical interpretation of the inner product in the Euclidean space, represented in Figure 1.2, that is obtained from the relation: hx; yi D jjxjj jjyjj cos where jjxjj denotes the norm or length of the vector x. Note that hx; xi DI X i D1

(1.12)

jxi j2 D jjxjj2

(1.13)

Observation 1.1 From (1.12), hx; yi D jjxjj cos jjyjj is the length of the projection of x onto y. Denition 1.2 Two vectors x and y are orthogonal (x ? y) if hx; yi D 0, that is if the angle they form is 90 .(I=2)

(1.14)

y ||y|| x ||x||

Figure 1.2. Geometrical representation of the inner product between two vectors. jjxjj is the norm of x, that is the vector length.

2

Henceforth: T stands for transpose, for complex conjugate and H for transpose complex conjugate or Hermitian.

4

Chapter 1. Elements of signal theory

We can extend these concepts to a signal space, dening the inner product asC1 X kD 1

x.k/ y .k/

(1.15)

for discrete-time signals, and ZC1 1

x.t/ y .t/ dt

(1.16)

for continuous-time signals. In both cases it is assumed that the energy of signals is nite. Hence, for continuous-time signals it must be: ZC1 1

jx.t/j2 dt < 1

Z and

C1 1

jy.t/j2 dt < 1

(1.17)

Recall that the inner product enjoys the following properties: 1. hx C y; zi D hx; zi C hy; zi. 2. hx; yi D hx; yi. 3. hx; yi D hy; xi . 4. hx; xi > 0 8x 6D 0.

5. (Schwarz inequality) jhx; yij jjxjjjjyjj. Equality holds if and only if x D Ky, with K a complex scalar.

1.2

Discrete signal representation

Let us consider the problem of associating a sequence (possibly nite) of numbers with a continuous-time signal.3 A basis of orthonormal signals (orthogonal signals with unit norm) f i .t/g, t 2 0, 8v, then R is said to be positive denite and all its principal minor determinants are positive; in particular R is non-singular.

EigenvaluesWe indicate by det[R] the determinant of a matrix R. The eigenvalues of R are the solutions i , i D 1; : : : ; N , of the characteristic equation of order N det[R I] D 0 (1.348) (1.349) and the corresponding column eigenvectors ui satisfy the equation Rui D i ui

Example 1.8.1 Let fw.k/g be a white noise process. Its autocorrelation matrix R assumes the form 3 2 2 w 0 0 2 6 0 w 0 7 7 6 RD6 : : : (1.350) : 7 4 : : :: : 5 : : : 2 0 0 w

64

Chapter 1. Elements of signal theory

from which it follows that2 1 D 2 D D N D w

(1.351)

and ui can be any arbitrary vector Example 1.8.2 We dene a complex-valued sinusoid as x.k/ D e j .!kC'/ 2 6 6 6 RD6 6 4 ! D 2 f Tc 3 7 7 7 7 7 5 (1.354) (1.353) 1i N (1.352)

with ' uniform r.v. in [0; 2 /. The matrix R is given by 1 e j! : : : e j .N1/!

e : : : e j .N

j!

e e :: :

j .N 1/! j .N 2/!

1

: : : 1

2/!

One can see that the rank of R is 1 and it will therefore have only one eigenvalue. A possible solution is given by 1 D N and the relative eigenvector isT u1 D [1; e j! ; : : : ; e j .N 1/!

(1.355)

]

(1.356)

Other properties1. From Rm u D m u we obtain the relations of Table 1.7. 2. If the eigenvalues are distinct, then the eigenvectors are linearly independent:N X i D1

ci ui 6D 0

(1.357)

for all combinations of fci g, i D 1; 2; : : : ; N , not all equal to zero. Therefore, in this case, the eigenvectors form a basis in < N .Table 1.7 Correspondence between eigenvalues and eigenvectors of four matrices.

R Eigenvalue Eigenvector i ui

Rmm i ui

R

1

I .1

R i / ui

i 1 ui

1.8. The autocorrelation matrix

65

3. The trace of a matrix R is dened as the sum of the elements of the main diagonal, and we indicate it with tr[R]. It holds tr R DN X i D1

i

(1.358)

Eigenvalue analysis for Hermitian matricesAs previously seen, the autocorrelation matrix R is Hermitian. Consequently, it enjoys the following properties, valid for Hermitian matrices: 1. The eigenvalues of a Hermitian matrix are real. By left multiplying both sides of (1.349) by uiH , it follows uiH Rui D i uiH ui from which, using (1.13), one gets i D uiH Rui uiH ui D uiH Rui jjui jj2 (1.360) (1.359)

The ratio (1.360) is dened as Rayleigh quotient. As R is positive semi-denite, uiH Rui 0, from which i 0. 2. If the eigenvalues of R are distinct, then the eigenvectors are orthogonal. In fact, from (1.349) one gets: uiH Ru j D j uiH u j uiH Ru j D i uiH u j Subtracting the second equation from the rst: 0 D . j and since j i /uiH u j (1.363) (1.361) (1.362)

i 6D 0 by hypothesis, it follows uiH u j D 0.

3. If the eigenvalues of R are distinct and their corresponding eigenvectors are normalized, i.e. ( 1 iD j 2 H jjui jj D ui ui D (1.364) 0 i 6D j then the matrix U, whose columns are the eigenvectors of R, U D [u1 ; u2 ; : : : ; u N ] (1.365)

66

Chapter 1. Elements of signal theory

is a unitary matrix, that is U1

D UH

(1.366)

This property is an immediate consequence of the orthogonality of the eigenvectors fui g. Moreover, if we dene the matrix as 2 3 1 0 0 6 0 0 7 2 6 7 7 (1.367) D6 : : : : 7 6 : : : : : 5 4 : : : 0 0 N we get U H RU D From (1.368) we obtain the following important relations: R D U UH D and I R D U.I /U H DN X i D1 N X i D1

(1.368)

i ui uiH

(1.369)

.1

i /ui uiH

(1.370)

4. The eigenvalues of a positive semi-denite autocorrelation matrix R and the PSD of x are related by the inequalities, minfPx . f /g i maxfPx . f /gf f

i D 1; : : : ; N

(1.371)

In fact, let Ui . f / be the Fourier transform of the sequence represented by the elements of ui : Ui . f / DN X nD1

u i;n e

j2 f nTc

(1.372)

where u i;n is the n-th element of the eigenvector ui . Observing that uiH Rui DN N XX nD1 mD1 u i;n rx .n

m/u i;m

(1.373)

and using (1.248) and (1.372), the preceding equation can be written as uiH Rui D Z1 2Tc 1 2Tc

Px . f /

N X nD1

u i;n e j2 f nTc

N X mD1

u i;m e

j2 f mTc