OPTIMAL ADDITIVE NOISE FOR PARAMETER ESTIMATION BASED ON QUANTIZED OBSERVATIONS AND ITS EFFECTS ON MAXİMUM A-POSTERIORI PROBABILITY ESTIMATORS

Year 2010, Volume: 12 Issue: 3, 35 - 48, 01.10.2010

Gökce Osman Balkan Sinan Gezıcı

Abstract

The benefits of additive noise in nonlinear systems have been observed in the context of dithering and
stochastic resonance. Also, the advantages of additive noise have been observed in parameter estimation
problems involving nonlinear systems. In this paper, the main aim is to investigate the mean-squared error
(MSE) performance enhancement of the maximum a-posteriori probability (MAP) estimators, where the
quantized versions of the observations combined with the optimal additive noise are used to estimate the
parameter related to the observation and the optimal additive noise is formulated in terms of the posterior
Cramer-Rao lower bound (PCRLB). First, the formulation of the optimal additive noise is presented. Next, it is
explained that the optimal additive noise corresponds to a constant signal. This theoretical result is first
demonstrated with a numerical example and then supported by the comparison of the optimal additive constant
noise with commonly used dither signals. Finally, the benefits of the optimal additive noise, which is described in
terms of the PCRLB, are investigated for the MSEs of MAP estimator

Keywords

Estimation, Quantization, Noise enhanced estimation, Posterior Cramer-Rao lower bound, Mean-squared error, Maximum a-posteriori probability

NİCEMLENMİŞ GÖZLEMLERE DAYANAN PARAMETRE KESTİRİMİNDE OPTİMAL EK GÜRÜLTÜ VE BUNUN EN BÜYÜK SONSAL OLASILIK KESTİRİCİLERİ ÜZERİNE ETKİLERİ

Abstract

Ek gürültünün doğrusal olmayan sistemlerdeki faydaları kıpırtılandırma ve stokastik rezonans bağlamında
gözlemlenmiştir. Ek gürültünün avantajları, ayrıca doğrusal olmayan sistemleri içeren kestirim problemlerinde
de görülmüştür. Bu makaledeki temel amaç, optimal ek gürültü eklenmiş gözlemlerin nicemlenmiş sürümlerinin
kullanıldığı ve optimal ek gürültünün sonsal Cramer-Rao alt sınırı (SCRAS) cinsinden formülleştirildiği kestirim
problemlerinde, en büyük sonsal olasılık kesiricilerinin ortalama karesel hata başarımının gelişimini
incelemektir. İlk olarak optimal ek gürültünün formülleştirilmesi sunulmaktadır. Ardından optimal ek gürültünün
sabit bir sinyale karşılık geldiği açıklanmaktadır. Bu kuramsal sonuç, önce sayısal bir örnekle gösterilmekte,
sonrasında ise optimal ek gürültünün sıkça kullanılan kıpırtılandırma sinyalleri ile karşılaştırılmasıyla
desteklenmektedir. Son olarak, SCRAS cinsinden ifade edilen optimal ek gürültünün yararları, en büyük sonsal
olasılık kestiricilerinin ortalama karesel hataları cinsinden incelenmiştir

Keywords

Kestirim, Nicemleme, Gürültü ile geliştirilmiş kestirim, Sonsal Cramer-Rao alt sınırı, Ortalama karesel hata, En büyük sonsal olasılık

References

• Balkan G., Gezici S. (2010): “CRLB Based Optimal Noise Enhanced Parameter Estimation
• ): “CRLB Based Optimal Noise Enhanced Parameter Estimation
• Using Quantized Observations”, IEEE Signal Processing Letters, Cilt. 17, No. 5, s. 477- 480.
• Balkan G., Gezici S. (20102): “Nicemlenmiş Ölçümlere Bağımsız Gürülü Eklenerek Ortalama Fisher Bilgisi Optimizasyonu”, Antalya, Türkiye, IEEE 18.Sinyal İşleme ve İletişim Uygulamaları Kurultayı.
• Bayram S., Gezici S. (2009): “Noise-enhanced M-ary Hypothesis Testing in the Minimax Framework”, in Proc. International Conferance on Sginal Processing and Commun. Systems, (Omaha, Nebraska), s. 31-36.
• Benzi R., Sutera A., Vulpiani A. (1981): “The Mechanism of Stochastic Resonance”, J. Phys. A: Math. General, Cilt 14, s. 453-457.
• Chapeau-Blondeau F. (2002): “Noise-aided Nonlinear Bayesian Estimation”, Physical Review E., Cilt 66, No. 3, s. 1-3.
• Chapeau-Blondeau F., Rousseau D. (2003): “Nonlinear Estimation from Quantized Signals: Quantizer Optimization and Stochastic Resonance”, Grenoble, France, Third International Symposium on Physics in Signal and Image Processing, s. 89-92.
• Chapeau-Blondeau F., Rousseau D. (2004): “Noise Enhanced Performance for an Optimal Bayesian Estimator”, IEEE Trans. Signal Processing, Cilt 54, No. 10, s. 1327-1334.
• Chen H., Varshney P. K., Michels J. H. (2008): “Noise Enhanced Parameter Estimation”, IEEE Trans. Signal Processing, Cilt 56, s. 5074-5081.
• Dabeer O., Karnik A. (2006): “Signal Parameter Estimation Using 1-bit Dithered Quantization”, IEEE Trans. Information Theory, Cilt 52, No. 5, s. 5389-5405.
• Gammaitoni L., Hanggi P., Jung P., Marchesoni F. (1998): “Stochastic Resonance”, Rev. Mod. Phys., Cilt 70, s. 223-287.
• Marano S., Matta V., Willett P. (2006): “Quantizer Precision for Distributed Estimation in a Large Sensor Network”, IEEE Trans. Signal Processing, Cilt 54, No. 10, s. 4073-4078.
• Papadopoulos H. C., Wornell G. W., Oppenheim A. V. (2001): “Sequential Signal Encoding from Noisy Measurements Using Quantizers with Dynamic Bias Control”, IEEE Trans. Information Theory, Cilt. 47, No. 3, s. 978-1002.
• Patel A., Kosko B. (2009): “Optimal Noise Benefits in Neyman-Pearson and Inequality- Constrained Signal Detection”, IEEE Trans. Signal Processing, Cilt 57, s. 1655-1669.
• Riberio A., Giannakis G. B. (2006): “Bandwidth-constrained Distributed Estimation for Wireless Sensor Networks – Part II: Unknown Probability Density Function”, IEEE Trans. Signal Processing Cilt 54, No. 7, s. 2784-2796.
• Wannamaker R. A., Lipshitz S. P., Vanderkooy J. (2000): “A Theory of Nonsubtractive Dither”, IEEE Trans. Signal Processing, Cilt 48, s. 449-516.