پیاده سازی درخت های تصمیم گیری
پیاده سازی درخت های تصمیم گیری
این پروژه کد الگوریتم همراه با توضیحات چگونگی عملکرد می باشد...
درخت‌های تصمیم‌گیری
بر اساس مجموعه آموزشی یک درخت ایجاد می‌کنیم که در این درخت هر گره داخلی یک آزمون را روی یک صفت نشان می‌دهد ، هر شاخه نتیجه‌ای از تست را نشان می‌دهد و هر برگ برچسب یک کلاس را نگهداری می‌کند . نمونه‌ای از درخت تصمیم گیری در شکل زیر آمده است :
نمونه ای از درخت تصمیم گیری
درخت تصمیم در شکل بالا مفهوم buys_computer را نشان می‌دهد ، اینکه آیا یک مشتری در یک فروشگاه لوازم الکترونیکی علاقمند به خرید کامپیوتر است یا خیر ؟ همانطور که در شکل دیده می شود این درخت دارای دو برچسب کلاس متمایز در برگهای خود است که yes و no می باشند .
نحوه استفاده از درخت تصمیم گیری به این صورت است : اگر تاپلی چون X که برچسب کلاس آن نامشخص است داشته باشیم صفات این تاپل در درخت مورد آزمون قرار می گیرند و یک مسیر از ریشه به سمت یک برگ که برچسب یک کلاس را دارد ایجاد می شود .
عملکرد الگوریتم فوق به شرح ذیل است :
• الگوریتم با پارامترهای D ، attribute_list ، Attribute_selection_method فراخوانی می‌شود . D در واقع یک بخش داده‌ای است . در ابتدا D شامل مجموعه آموزشی و برچسب کلاس‌های متناظر با آنها است . attribute_list لیستی از صفات موجود در تاپل‌ها است . Attribute_selection_methodیک روال ابتکاری است که بهترین صفت را برای جداکردن تاپل‌ها براساس کلاس ها می‌دهد . این متد از یک معیار انتخاب صفت مانند information gain یا gini index استفاده می کند که در ادامه شرح داده می شود .
• درخت در گام اول با یک گره تنهای N که مجموعه آموزشی را نشان می دهد ایجاد می شود .
• اگر تاپل‌های D همه از یک کلاس باشند گره N یک برگ خواهد بود و با آن کلاس برچسب می خورد ( گام 2 و 3 ) . گام 4 و 5 شرایط خاتمه هستند که در ادامه شرح داده می شوند .
• در غیر این صورت Attribute_selection_method فراخوانی می‌شود تا معیار شکاف را مشخص کند . معیار شکاف مشخص می‌کند که کدام صفت باید در گره N مورد آزمون قرار گیرد . معیار شکاف همچنین بیان می‌کند که چه شاخه‌هایی باید از گره N با توجه به آزمون مربوطه ، خارج شوند . به عبارت دیگر معیار شکاف ، صفت یا نقطه شکاف را تعیین می‌کند . نقطه شکاف ، D را به یکسری بخش تبدیل می‌کند . این بخش ها باید تا حد ممکن خالص باشند به این معنی که همه تاپل های موجود در یک بخش باید مربوط به یک کلاس باشند .
دانلود کامل پیاده سازی درخت های تصمیم گیری