این سایت در حال حاضر پشتیبانی نمی شود و امکان دارد داده های نشریات بروز نباشند
مهندسی و مدیریت کیفیت، جلد ۱۵، شماره ۱، صفحات ۲۰-۳۰
عنوان فارسی برآورد بیزی معیار واگرایی کولبک – لیبلر در توزیع‌های نرمال
چکیده فارسی مقاله هدف: در تحلیل‌ها و مدل‌سازی‌های آماری، ارزیابی شباهت یا تفاوت بین دو توزیع احتمالی اهمیت زیادی دارد. یکی از پرکاربردترین معیارها برای این منظور، واگرایی کولبک-لیبلر است که فاصله اطلاعاتی بین دو توزیع را اندازه‌گیری می‌کند. هدف این مطالعه، تحلیل واگرایی KL بین دو توزیع نرمال با واریانس برابر و مقایسه عملکرد روش‌های مختلف برآورد این معیار است.
روش‌شناسی پژوهش: در این پژوهش ابتدا مقدار دقیق واگرایی کولبک–لیبلر بین دو توزیع نرمال با واریانس برابر به‌صورت تحلیلی به‌دست می‌آید، سپس سه روش مختلف برای برآورد این معیار پیشنهاد می‌شود؛ برآورد حداکثر درست‌نمایی، برآورد بیزی و برآورد شریونده عملکرد هر یک از این برآوردگرها از طریق شبیه‌سازی مونت‌کارلو و با استفاده از معیار میانگین مربعات خطا ارزیابی می‌شود.
یافته‎ها: نتایج شبیه‌سازی نشان می‌دهد که برآوردگر بیزی نسبت به MLE دقت بالاتری در برآورد دارد. علاوه بر این، برآوردگر شریونده بهترین عملکرد را دارد و کمترین مقدار MSE را در میان سه روش به‌دست می‌آورد. این یافته نشان می‌دهد که بهره‌گیری از اطلاعات پیشین یا تکنیک‌های جریمه‌گذاری می‌تواند به‌طور قابل‌توجهی کیفیت برآورد را بهبود بخشد.
اصالت/ارزش‌افزوده علمی: این مطالعه با ارائه مقایسه‌ای جامع بین تکنیک‌های کلاسیک و نوین برای برآورد واگرایی KL در زمینه توزیع‌های نرمال با واریانس برابر، به ادبیات علمی کمک می‌کند. نوآوری پژوهش در به‌کارگیری روش شریونده و عملکرد برتر آن است که به‌صورت کمی از طریق شبیه‌سازی تأیید شده است. این یافته‌ها کاربردهای عملی در حوزه‌هایی مانند یادگیری ماشین، پردازش سیگنال و نظریه اطلاعات دارند.
کلیدواژه‌های فارسی مقاله واگرایی کولبک-لیبلر،توزیع نرمال،برآورد بیزی،برآورد انقباضی،میانگین توان دوم خطا،
عنوان انگلیسی Bayesian calculation of the quality of the Kullback-Leibler divergence in normal distributions
چکیده انگلیسی مقاله Purpose: In statistical data analysis and modeling, assessing the similarity or divergence between two probability distributions is of great importance. One of the most widely used metrics for this purpose is the Kullback-Leibler (KL) divergence, which quantifies the informational distance between distributions. This study aims to analyze the KL divergence between two normal distributions with equal variance and to compare the performance of different estimation methods for this measure.
Methodology:  In this study, the exact value of the Kullback–Leibler divergence between two normal distributions with equal variance is first analytically derived, and then three different estimation methods—maximum likelihood estimation, Bayesian estimation, and shrinkage estimation—are proposed for estimating this measure. The performance of each estimator is evaluated through Monte Carlo simulations based on the Mean Squared Error (MSE) criterion.
Findings:  The simulation results indicate that the Bayesian estimator outperforms the MLE in terms of estimation accuracy. Furthermore, the shrinkage estimator demonstrates the best performance, achieving the lowest MSE among the three methods. This suggests that incorporating prior information or penalization techniques can significantly improve estimation quality.
Originality/Value: This study contributes to the literature by providing a detailed comparison of classical and modern estimation techniques for KL divergence in the context of normal distributions with equal variance. The novelty lies in the integration of shrinkage methodology and its superior performance, which is quantitatively validated through simulations. The findings have practical implications for various fields, such as machine learning, signal processing, and information theory.
کلیدواژه‌های انگلیسی مقاله واگرایی کولبک-لیبلر,توزیع نرمال,برآورد بیزی,برآورد انقباضی,میانگین توان دوم خطا
نویسندگان مقاله پرویز نصیری |
گروه آمار، دانشگاه پیام نور، تهران، ایران.

سمانه افشار مقدم |
گروه آمار، دانشگاه پیام نور، تهران، ایران.

مسعود یارمحمدی |
گروه آمار، دانشگاه پیام نور، تهران، ایران.

نشانی اینترنتی https://www.pqprc.ir/article_220642_0a09042b2758cfd6f5733a10655b305f.pdf
فایل مقاله فایلی برای مقاله ذخیره نشده است
کد مقاله (doi)
زبان مقاله منتشر شده fa
موضوعات مقاله منتشر شده
نوع مقاله منتشر شده
برگشت به: صفحه اول پایگاه   |   نسخه مرتبط   |   نشریه مرتبط   |   فهرست نشریات