شبکه های باور بیزی:

در عمل پیاده‌سازی Bayes Optimal Classifier بسیار پرهزینه است. همانگونه که دیدیم دسته‌بندی‌کننده Naive Bayes Classifier بر این اصل استوار بود که مقادیر ویژگی‌ها مستقل شرطی باشند. اما این یک شرط بسیار محدود کننده است که غالبا برآورده نمی‌شود. شبکه‌های باور بیزی یاBayesian Belief Networks که Bayes Nets هم نامیده می‌شود روشی است برای توصیف توزیع احتمال توام مجموعه ای از متغیرها. BBN استقلال شرطی زیر مجموعه‌ای از متغیرها را قابل توصیف کرده و امکان ترکیب دانش قبلی درباره وابستگی متغیرها را با داده‌های آموزشی فراهم می‌آورد.

کاربرد BN :

• خواستگاه BN به ترکیب احتمال با سیستم‌های خبره بر می‌گردد و این زمینه یکی از کاربردهای مهم آنرا تشکیل می‌دهد.
• BN را می‌توان در بسیاری از کاربردهائی که سیستم‌های مبتنی بر دانش متداول مورد استفاده هستند، به کار برد.

BN در مقایسه با شبکه‌های عصبی دارای مزایای زیر است:

• می‌توان از اطلاعات افراد خبره در ساخت BN استفاده کرد.
• فهم و توسعه ساختار BN ساده‌تر است.
• BN می‌تواند با داده‌های ناقص نیز کار کند.

استنتاج ـ ارتباط بین BN و دسته‌بندی:

می‌توان از BN استفاده نموده و مقدار یک متغیر را در صورت مشاهده مقادیر سایر متغیرها استنتاج نمود .البته معمولا امکان بدست آوردن یک مقدار وجود نداشته و به جای آن یک توزیع احتمال محاسبه می‌شود. اگر مقادیر همه متغیرها از پیش معلوم باشد انجام چنین استنتاجی ساده است ولی معمولا فقط مقدار بخشی از متغیرها مشاهده می‌شود. مثلا ممکن است بخواهیم با مشاهده Thunder , BusTourGroup در مورد Forestfire نتیجه‌گیری کنیم.