Раздел: Документация
0 ... 6 7 8 9 10 11 12 ... 78 где со,-, р,- и у/ - частота, амплитуда и фаза соответственно i-й составляющей экспонетхиальной функции; /-й элемент вектора обозначен верхним индексом i. Нетрудно показать, что г (т) = hPF*mh* = hFOTPh*, т> О, где матрица дисперсии R удовлетворяет условию Р = FPF. Анализ ковариационной теплицевой матрицы R показывает, что она фак-торизуется следующим образом:  НО) HI) HI) НО) Н.п) НО) HI) HI) HO) [Ph*,F-1Ph*,...,F"Ph*] = Mm Это разложение на произведение матрицы наблюдаемости 6 и матрицы -3? показывает, что матрица R сингулярна. Она имеет ранг р, если частоты различны (т. е. если со, ф со;-, i ф/ и р,- ф0 для всех i). При использовании метода теплицевой аппроксимации [23, 46] первый шаг состоит в получении оценки ковариационной матрицы R, которая в общем случае имеет полный ранг. Это достигается сингулярным разложением матрицы R, а разложение матрицы R в матрицах в иЙ осуществляется так, как показано далее. R = UZ2V - [U,U2]
где Е, - (рХр)-матрица; Е2 - (А-р)Х(А/-р)-матрица. Матрица наблюдаемости получается из главных сингулярных векторов U, и главных сингулярных значений 2J2. В присутствии белого шума сингулярные значения изменяются, несмотря на то, что сингулярные векторы остаются неизменными. Фактически все сингулярные значения увеличиваются на величину, равную дисперсии шума, и поэтому самое малое сингулярное значение нужно вычесть, чтобы скомпенсировать этот эффект, т.е. Е? Е? где a2N - самое малое сингулярное значение матрицы R. ражшие°маТеЛЬНО МаТРЩЗ ТШ1а матРи"ы наблюдаемости определяется вы-8 = U, - Е,, тогда как R = Е] -V,. ля ча! (Р 65 Такая аппроксимация матрицы (R - а2,!) в виде произведения 6 Ш является оптимальной в спектральной норме [25, 46]. Второй шаг включает определение параметров модели. В идеальном случае матрица 8 будет иметь точную структуру матрицы наблюдаемости и (рХр)-решение F матричного уравнения = 61 8F = hF2 hF3 \ 1 / будет существовать. Однако вследствие аппроксимации точного решения не существует и приходится прибегать к решению по методу наименьших квадратов, когда минимизируется значение 8F -8t, где индекс Е обозначает эвклидо-ву норму, a 8t получается путем смещения 6 на одну строку вверх. Это приводит к следующим наименьшим средним квадратическим оценкам параметров: f =et-ei, h определяется первой строкой матрицы 8, Ph* определяется первым столбцом матрицы , где знак t означает псевдообращение. Собственные значения матрицы F определяют частоты синусоидальных сигналов. Исходя из имеющихся данных можно либо оценивать значения корреляционной функции, используя методы несмещенной оценки и конструируя теплицеву ковариационную матрицу R, либо, как в [47, 22], просто определять R= (DD)/(2(7, - N+l)), где D yd) \<2) y(2) y(3) y(3) y(4) yiN) ytN + 1) viL - N+l) yiL - N + 2) yiL - N + 3) \ilA yd-) y(L~ 1) yiL - 2) y(L - N + I) yil.
Теперь приведем пример моделирования из работы [56] чтобы продемонстрировать эффективность метода главных компонентов Рассматриваема зад состоит в выделении синусоидального сигнала (фактически задач! гГзрешения двух близко расположенных комплексных экспоненциальные Гушций) из активного белого шума по 25 входным отсчетам. Был Таблица 3.1 [5 б]
применен метод теплицевой аппроксимации матрицы r размера 11X11 и матрицы r размера 13X13 для двухсот реализаций цсевдошумовой последовательности. В табл. 3.1 приведены результаты в виде среднего значения, среднего квадратического отклонения, средней квадратической ошибки оценки частоты, а также числа неудач в разрешении спектральных линий. Другими параметрами моделирования являются ранг аппроксиманта (порядок модели) и отношение сигнала к шуму. Хотя ранг можно определить, исследуя сингулярные значения, для удобства расчетов ранг заранее полагается равным 2. Отношение сигнал-шум определяется как отношение мощности каждой экспоненциальной составляющей к дисперсии шума. Результаты показывают, что метод теплицевой аппроксимации матрицы r (несмещенная оценка) весьма эффективен при малых отношениях сиг-кал-шум, в то время как метод теплицевой аппроксимации матрицы r при больших отношениях. Например, для отношения сигнал-шум 0 дБ.метод теплицевой аппроксимации матрицы r дает 7 неудач в 200 испытаниях, а для отношения сигнал-шум 20 дБ метод теплицевой аппроксимации матрицы r - 5 неудач в 200 испытаниях. 3.5. ЗАКЛЮЧЕНИЕ Изобретение алгоритма. БПФ около двадцати лет назад внесло первый главный вклад в развитие методов цифровой обработки сигналов. За последние два десятилетия БПФ сыграло большую роль в теории обработки сигналов. Например, в спектральном анализе методы, основанные на преобразовании Фурье, традиционно доминировали главным образом вследствие вычислительной эффективности БПФ, существования обширной библиотеки программ для вычисления БПФ, доступности в приобретении быстродействующих процессоров БПФ. Однако сегодня наличие СБИС благодаря использованию высокой степени параллелизма позволит сравнительно недо- ко вСтДсГнГ,ШС " СРСМНеС КВадРаТичсское отклонение оценок вычислялись толь-;ь™хХслКуЗхдаСТИП1Ж,СЬ РаЗРСШСНИевы- рого обеспечить достижение больших вычислительных мощностей в системах обработки сигналов. Это определенно должно породить множество новых более сложных по вычислительным затратам алгоритмов, основанных на моделях сиг налов, подобных алгоритмам, рассмотренным в этой главе. Было показано, что при правильном выборе модели можно достичь значительно лучших характеристик, чем при обычном спектральном методе БПФ, в особенности для малых выборок. Многообещающим является то обстоятельство, что вычисления для современных методов обработки сигналов зачастую сводятся к матричным операциям, таким как разложения по собственным и сингулярным значениям, вычисление корреляционных матриц и обращения матриц, которые с высокой эффективностью могут выполняться при параллельном вычислении с помощью СБИС. Особенно важно, что сингулярное разложение обеспечивает вычислительную стабильность [45] и открывает дорогу дальнейшему развитию методов обработки сигналов. СПИСОК ЛИТЕРАТУРЫ [I]А. V. Oppenheim and R. W. Schafer, Digital Signal Processing, Prentice-Hall, Englewood Cliffs, NJ., 1975. [2] O. L. Frost, "Power Spectrum Estimation," Proc. 1976 NATO Advanced Study Institute Signal Process. Emphasis Underwater Acoust., Portovener, Italy, Aug. 30-Sept. 11, 1976. [3] S. S. Haykin, ed.. Nonlinear Methods of Spectral Analysis, Springer-Verlag, New York, 1979. [4] S. M. Kay and S. L. Marplc, Jr., "Spectrum Analysis-A Modern Perspective," Proc. IEEE, 69(11):I380 1418 (Nov. 1981). [5] G. M. Jenkins and D. G. Watts, Spectral Analysis and Its Applications, Holden-Day, San Francisco, 1966. [6J A. Papoulis, Probability, Random Variables, and Stochastic Processes, McGraw-Hill, New York, 1965. [7] A. Schuster, "On the investigation of Hidden Periodicities with Application to a Supposed 26 Dav Period of Meteorological Phenomena," Terrest. Magn., 3:13-41 (Mar. 1898). [8] F. J. Harris, "On the Use of Windows for Harmonic Analysis with the Discrete Fourier Transform," Proc. IEEE, 66:51-83 (Jan. 1978). [9] A. H. Nuttall, "Some Windows with Very Good Sidelobe Behavior," IEEE Trans. Acoust. Speech Signal Process., ASSP-29:84-89 (Feb. 1981). [10] M. S. Bartlett and J. Medhi, "On the Efficiency of Procedures for Smoothing Periodo-grams from Time Series with Continuous Spectra," Biomelrika, 42:143-150 (1955). [II]P. D. Welch. "The Use of Fast Fourier Transform for the Estimation of Power Spectra: A Method Based on Time Averaging over Short Modified Periodograms," IEEE Trans. Audio Electroacoust., /Ш /5:70 73 (June 1967). [I2J J. P. Burg, "Maximum Entropy Spectral Analysis," Ph.D. dissertation, Stanford University, Stanford, Calif, 1975. Г13] Т. J. Ulrych and T. N. Bishop, "Maximum Entropy Spectral Analysis and Autoregres-sive Decomposition," Rev. Geophys. Space Phys., /3:183 200(Feb. 1975). [14] A. van den Bos, "Alternative Interpretation of Maximum Entropy Spectral Analysis," IEEE Trans. Inf. Theory, JT-/7:493-494 (July 1971). [15] V. F. Pisarenko, "On the Estimation of Spectra by Means of Nonlinear Functions of the Covariance Matrix," Geophys. J. R. Astron. Soc, 2fi:5\ 1 -531 (1970). [16] V. F. Pisarenko, "The Retrieval of Harmonics from a Covariance Function," Geophys. J. R. Aslron. Soc, 33:347 366 (1973). [17] J. Capon, "High-Resolution Frequency-Wavenumber Spectrum Analysis," Proc. IEEE, 57:1408 1418 (Aug. 1969). [18] R. T. Lacoss, "Data Adaptive Spectral Analysis Method," Geophysics, Л>:661 -675 (Aug. 1971). [19] D. Graupe, D. J. Krause, and J. B. Moore, "Identification of Autoregressive Moving Average Parameters of Time Series," IEEE Trans. Autom. Control, 4C-20:104-107 (Feb. 1975). [20] G. E. P. Box and G. M. Jenkins, Time Series Analysis: Forecasting and Control, Holden-Day, San Francisco, 1970. [21] J. A. Cadzow, "Spectral Estimation: An Overdetermined Rational Model Equation Approach," Proc. IEEE. 70(9):907~939 (Sept. 1982). [22] D. W. Tufts and R. Kumaresen, "Estimation of Frequencies of Multiple Sinusoids: Making Linear Prediction Perform like Maximum Likelihood," Proc. IEEE, 70(9):975- 989 (Sept. 1982). [23] S. Y. Rung, "A Toeplitz Approximation Method and Some Applications," Int. Symp. Math. Tlwory Networks Syst., Santa Monica, Calif., Aug. 5 7, 1981. [24] S. Y. Kung and K. S. Arun, "A Novel Hankel Approximation Method for ARMA Pole Zero Estimation from Noisy Covariance Data," Topical Meet. Signal Recovery. Optical Society of America, Jan. 1983. [25] S. Y. Kung, "A New Identification and Model Reduction Algorithm via Singular Value Decomposition," /2ffi Asilomar Conf. Circuits, Syst. Comput., Pacific Grove, Calif Nov 1978. [26] A. B. Baggeroer, "Sonar Signal Processing," in A. V. Oppenheim, ed., Applications of Digital Signal Processing, Prentice-Hall, Englewood Cliffs, N.J., 1978, pp. 331-437. [27] G. Bienvenu and L. Kopp, "Adaptivity to Background Noise Spatial Coherence for High Resolution Passive Methods," Proc. IEEE ICASSP, Denver, Colo., 1980, pp. 307-310. [28] G. Bienvenu and I.. Kopp, "Source Power Estimation Method Associated with High Resolution Bearing Estimation," Proc. IEEE ICASSP, Atlanta, Ga., 1981, pp. 153-156. [29] R. Schmidt, "Multiple Emitter Location and Signal Parameter Estimation," Proc. RADC Spectral Estimation Workshop, Rome, N.Y., 1979, pp. 243-258. [30] N. L. Owsley, "Modal Decomposition of Data Adaptive Spectral Estimates," Yale Univ. Workshop Appl. Adaptive Syst. Theory, New Haven, Conn., 1981. [31] D. H. Johnson and S. R. DeGraaf, "Improving the Resolution of Bearing in Passive Sonar Arrays by Eigenvalue Analysis," IEEE Trans. Acoust. Speech Signal Process., 4SSP-.?0(4):638 647 (Aug. 1982). [32] S. Y. Kung and Y. H. Hu, "A Highly Concurrent Algorithm and Pipelined Architecture for Solving Toeplitz Systems," IEEE Trans. Acoust. Speech Signal Process., ASSP-3l:No. 1, pp. 66-76 (Feb. 1983). A. Beex and L. L. Schari, "Covariance Sequence Approximation for Parametric P"*J Jpectrum Modeling," IEEE Trans. Acoust. Speech Signal Process., ASSP-29(5):\Q42-1052 (Oct. 1981). r?4l T Kailath, "A View of Three Decades of Linear Filtering Theory," IEEE Trans. Inf. Theory, I T-2<W: 146 179 (Mar. 1974). [35] G. Szego, "Ein Grenszwertsatz iiber die Toeplitzschen Determinanten einer reellen positiven Funktion," Math. Ann., 76:490503 (1915). [36] S. Y. Kung and Y. H. Hu, "Highly Concurrent Toeplitz System Solver for High Resolution Spectral Estimation," Proc. ICASSP, Boston, Apr. 1983, pp. 1422 1425. [37] N. Levinson, "The Wiener rms (root mean square) Error Criterion in Filter Design and Prediction," J. Math. Phys., vol. 25, pp. 261-278, Jan. 1947. [38] N. Levinson, "A heuristic exposition of Wieners mathematical theory of prediction and filtering," J. Math. Phys., vol. 26, pp. 110 119, July 1947. [39] H. P. Zeiger and A. J. McEwen, "Approximate Linear Realizations of Given Dimension via Hos Algorithm." IEEE Trans. Autom. Control, 4C-/o-.153(1974). [40] P- Faurre, "Stochastic Realization Algorithms," in R. K. Mehra and D. G. Lainiotis, eds.. System Identification: Advances and Case Studies, Academic Press, New York, 1976. [41] H. Akaike, "Markovian Representation of Stochastic Processes by Canonical Variables," SIAM J. Control, /.?(!). 162-173 (Jan. 1975). [42] H. Akaike, "Markovian Representation of Stochastic Processes and Its Application to the Analysis of Autoregressive Moving Average Processes," Ann. Inst. Stat. Math. 26.363-387(1974). [43] T. Kailath, "The Innovations Approach to Detection and Estimation Theory," Proc. IEEE, 5Л:680-695 (May 1970). [44] D. Mcginn and D. H. Johnson, "Reduction of All-Pole Parameter Estimation Bias by Successive Autocorrelation," Proc. ICASSP, Boston, Apr. 1983, pp. 1088-1091. [45] V. C. Klemma and A. J. Laub, "The Singular Value Decomposition: Its Computation and Some Applications." IEEE Trans. Autom. Control, 4 С-25(2): 164 176 (Apr. 1980). [46] S. Y. Kung, K. S. Arun, and D. V. Bhaskar Rao, "State Space and SVD Based Approximation Methods for the Harmonic Retrieval Problem," J. Optical Soc. of America, 7.7:1799-1811 (Dec. 1983). [47] T. J. Ulrych and R. W. Clayton, "Time Series Modeling and Maximum Entropy," Phys. Earth Planet. Interiors, /2.188-200(1976). [48] Y. H. Hu, "New Algorithms and Parallel Architectures for Toeplitz Systems, with Applications to Spectrum Estimation," Ph.D. dissertation. University of Southern California, Los Angeles. [49] U. B. Desai and D. Pal, "A Realization Approach to Stochastic Model Reduction and Balanced Stochastic Realizations," I6lh Annu. Conf. Inf. Sci. Syst., Princeton University, Princeton, N.J., Mar. 1982. [50] S. Y. Kung and K. S. Arun, "Approximate Realization Methods for ARMA Spectral Estimation," IEEE Int. Symp. Circuits Syst., Newport Beach, Calif., May 1983. [51] J. White, "Stochastic State Space Models from Emperical Data," Proc. IEEE Int. Conf. Acoust. Speech Signal Process., Apr. 1983, pp. 243 246. [52] W. F. Gabriel, "Spectral Analysis and Adaptive Arrays Superresolution Techniques," Proc. IEEE, Vol. 68, pp. 654 666, June 1980. [53] J. E. Shore, and R. W. Johnson, "Axiomatic Derivation of the Principle of Maximum 63 0 ... 6 7 8 9 10 11 12 ... 78
|
