OPTIMAL ADDITIVE NOISE FOR PARAMETER ESTIMATION BASED ON QUANTIZED OBSERVATIONS AND ITS EFFECTS ON MAXİMUM A-POSTERIORI PROBABILITY ESTIMATORS

Abstract

The benefits of additive noise in nonlinear systems have been observed in the context of dithering and stochastic resonance. Also, the advantages of additive noise have been observed in parameter estimation problems involving nonlinear systems. In this paper, the main aim is to investigate the mean-squared error (MSE) performance enhancement of the maximum a-posteriori probability (MAP) estimators, where the quantized versions of the observations combined with the optimal additive noise are used to estimate the parameter related to the observation and the optimal additive noise is formulated in terms of the posterior Cramer-Rao lower bound (PCRLB). First, the formulation of the optimal additive noise is presented. Next, it is explained that the optimal additive noise corresponds to a constant signal. This theoretical result is first demonstrated with a numerical example and then supported by the comparison of the optimal additive constant noise with commonly used dither signals. Finally, the benefits of the optimal additive noise, which is described in terms of the PCRLB, are investigated for the MSEs of MAP estimator

Keywords

• Estimation, Quantization, Noise enhanced estimation, Posterior Cramer-Rao lower bound, Mean-squared error, Maximum a-posteriori probability

NİCEMLENMİŞ GÖZLEMLERE DAYANAN PARAMETRE KESTİRİMİNDE OPTİMAL EK GÜRÜLTÜ VE BUNUN EN BÜYÜK SONSAL OLASILIK KESTİRİCİLERİ ÜZERİNE ETKİLERİ

Abstract

Ek gürültünün doğrusal olmayan sistemlerdeki faydaları kıpırtılandırma ve stokastik rezonans bağlamında gözlemlenmiştir. Ek gürültünün avantajları, ayrıca doğrusal olmayan sistemleri içeren kestirim problemlerinde de görülmüştür. Bu makaledeki temel amaç, optimal ek gürültü eklenmiş gözlemlerin nicemlenmiş sürümlerinin kullanıldığı ve optimal ek gürültünün sonsal Cramer-Rao alt sınırı (SCRAS) cinsinden formülleştirildiği kestirim problemlerinde, en büyük sonsal olasılık kesiricilerinin ortalama karesel hata başarımının gelişimini incelemektir. İlk olarak optimal ek gürültünün formülleştirilmesi sunulmaktadır. Ardından optimal ek gürültünün sabit bir sinyale karşılık geldiği açıklanmaktadır. Bu kuramsal sonuç, önce sayısal bir örnekle gösterilmekte, sonrasında ise optimal ek gürültünün sıkça kullanılan kıpırtılandırma sinyalleri ile karşılaştırılmasıyla desteklenmektedir. Son olarak, SCRAS cinsinden ifade edilen optimal ek gürültünün yararları, en büyük sonsal olasılık kestiricilerinin ortalama karesel hataları cinsinden incelenmiştir

Keywords

• Kestirim, Nicemleme, Gürültü ile geliştirilmiş kestirim, Sonsal Cramer-Rao alt sınırı, Ortalama karesel hata, En büyük sonsal olasılık

References

1. Balkan G., Gezici S. (2010): “CRLB Based Optimal Noise Enhanced Parameter Estimation
2. ): “CRLB Based Optimal Noise Enhanced Parameter Estimation
3. Using Quantized Observations”, IEEE Signal Processing Letters, Cilt. 17, No. 5, s. 477- 480.
4. Balkan G., Gezici S. (20102): “Nicemlenmiş Ölçümlere Bağımsız Gürülü Eklenerek Ortalama Fisher Bilgisi Optimizasyonu”, Antalya, Türkiye, IEEE 18.Sinyal İşleme ve İletişim Uygulamaları Kurultayı.
5. Bayram S., Gezici S. (2009): “Noise-enhanced M-ary Hypothesis Testing in the Minimax Framework”, in Proc. International Conferance on Sginal Processing and Commun. Systems, (Omaha, Nebraska), s. 31-36.
6. Benzi R., Sutera A., Vulpiani A. (1981): “The Mechanism of Stochastic Resonance”, J. Phys. A: Math. General, Cilt 14, s. 453-457.
7. Chapeau-Blondeau F. (2002): “Noise-aided Nonlinear Bayesian Estimation”, Physical Review E., Cilt 66, No. 3, s. 1-3.
8. Chapeau-Blondeau F., Rousseau D. (2003): “Nonlinear Estimation from Quantized Signals: Quantizer Optimization and Stochastic Resonance”, Grenoble, France, Third International Symposium on Physics in Signal and Image Processing, s. 89-92.

9. Chapeau-Blondeau F., Rousseau D. (2004): “Noise Enhanced Performance for an Optimal Bayesian Estimator”, IEEE Trans. Signal Processing, Cilt 54, No. 10, s. 1327-1334.
10. Chen H., Varshney P. K., Michels J. H. (2008): “Noise Enhanced Parameter Estimation”, IEEE Trans. Signal Processing, Cilt 56, s. 5074-5081.
11. Dabeer O., Karnik A. (2006): “Signal Parameter Estimation Using 1-bit Dithered Quantization”, IEEE Trans. Information Theory, Cilt 52, No. 5, s. 5389-5405.
12. Gammaitoni L., Hanggi P., Jung P., Marchesoni F. (1998): “Stochastic Resonance”, Rev. Mod. Phys., Cilt 70, s. 223-287.
13. Marano S., Matta V., Willett P. (2006): “Quantizer Precision for Distributed Estimation in a Large Sensor Network”, IEEE Trans. Signal Processing, Cilt 54, No. 10, s. 4073-4078.
14. Papadopoulos H. C., Wornell G. W., Oppenheim A. V. (2001): “Sequential Signal Encoding from Noisy Measurements Using Quantizers with Dynamic Bias Control”, IEEE Trans. Information Theory, Cilt. 47, No. 3, s. 978-1002.
15. Patel A., Kosko B. (2009): “Optimal Noise Benefits in Neyman-Pearson and Inequality- Constrained Signal Detection”, IEEE Trans. Signal Processing, Cilt 57, s. 1655-1669.
16. Riberio A., Giannakis G. B. (2006): “Bandwidth-constrained Distributed Estimation for Wireless Sensor Networks – Part II: Unknown Probability Density Function”, IEEE Trans. Signal Processing Cilt 54, No. 7, s. 2784-2796.
17. Wannamaker R. A., Lipshitz S. P., Vanderkooy J. (2000): “A Theory of Nonsubtractive Dither”, IEEE Trans. Signal Processing, Cilt 48, s. 449-516.