درباره کتاب

عنوان اصلی: About the Book
منبع: https://christophm.github.io/interpretable-ml-book/
نویسنده: Christoph Molnar — کریستوف مولنار
مترجم: مریم محمودی — Maryam Mahmoudi

یادگیری ماشین تعبیرپذیر

راهنمایی برای توضیح‌پذیر کردن مدل‌های جعبه‌سیاه

خلاصه

یادگیری ماشین بخشی از محصولات، فرایندها و پژوهش‌های ما شده است. اما رایانه‌ها معمولاً توضیحی درباره پیش‌بینی‌های خود ارائه نمی‌دهند و این موضوع می‌تواند مشکلات متعددی ایجاد کند؛ از مسائل مربوط به اعتماد گرفته تا باگ‌های کشف‌نشده. این کتاب درباره قابل‌تعبیر کردن مدل‌های یادگیری ماشین و تصمیم‌های آن‌هاست.

پس از بررسی مفاهیم تعبیرپذیری (Interpretability)، با مدل‌های ساده و تعبیرپذیر مانند درخت‌های تصمیم و رگرسیون خطی آشنا خواهید شد. تمرکز اصلی کتاب بر روش‌های مستقل از مدل (Model-Agnostic) برای تفسیر مدل‌های جعبه‌سیاه است. برخی از این روش‌ها، مانند LIME و مقادیر شپلی (Shapley Values)، برای توضیح پیش‌بینی‌های منفرد استفاده می‌شوند؛ در حالی که روش‌هایی مانند اهمیت ویژگی مبتنی بر جایگشت (Permutation Feature Importance) و اثرات محلی تجمع‌یافته (Accumulated Local Effects) برای به‌دست‌آوردن بینش درباره روابط کلی‌تر میان ویژگی‌ها و پیش‌بینی‌ها کاربرد دارند. افزون بر این، کتاب روش‌های اختصاصی شبکه‌های عصبی عمیق را نیز معرفی می‌کند.

تمام روش‌های تفسیر به‌صورت عمیق توضیح داده شده و به‌شکل انتقادی بررسی می‌شوند. این روش‌ها چگونه کار می‌کنند؟ نقاط قوت و ضعف آن‌ها چیست؟ چگونه باید آن‌ها را تفسیر کرد؟ این کتاب به شما کمک می‌کند تا مناسب‌ترین روش تفسیر را برای کاربرد یادگیری ماشین خود انتخاب و به‌درستی استفاده کنید. مطالعه این کتاب به متخصصان یادگیری ماشین، دانشمندان داده، آمارگران و هر فردی که به تعبیرپذیر کردن مدل‌های یادگیری ماشین علاقه‌مند است توصیه می‌شود.

چرا این کتاب را نوشتم

این کتاب به‌عنوان یک پروژه جانبی آغاز شد؛ زمانی که به‌عنوان آمارگر در پژوهش‌های بالینی کار می‌کردم. در روزهای آزاد خود، موضوعاتی را که برایم جذاب بودند بررسی می‌کردم و در نهایت یادگیری ماشین تعبیرپذیر توجه مرا به خود جلب کرد. با این انتظار که منابع فراوانی درباره تفسیر مدل‌های یادگیری ماشین وجود داشته باشد، شگفت‌زده شدم وقتی دیدم تنها مجموعه‌ای پراکنده از مقالات پژوهشی و نوشته‌های وبلاگی موجود است و هیچ راهنمای جامع و کاملی وجود ندارد. همین موضوع مرا ترغیب کرد تا منبعی را ایجاد کنم که آرزو داشتم وجود داشته باشد؛ کتابی برای عمیق‌تر کردن درک خودم و به‌اشتراک‌گذاری این بینش‌ها با دیگران.

امروزه این کتاب به یکی از منابع اصلی برای تفسیر مدل‌های یادگیری ماشین تبدیل شده است. پژوهشگران هزاران بار به این کتاب ارجاع داده‌اند، دانشجویان برایم نوشته‌اند که این کتاب برای پایان‌نامه‌هایشان ضروری بوده است، مدرسان از آن در کلاس‌های خود استفاده می‌کنند و دانشمندان داده در صنعت برای کار روزمره خود به آن تکیه می‌کنند. این کتاب همچنین پایه‌گذار مسیر حرفه‌ای خود من نیز بوده است؛ ابتدا مرا به انجام دکتری در حوزه یادگیری ماشین تعبیرپذیر ترغیب کرد و بعدها انگیزه‌ای شد تا به‌عنوان نویسنده، مدرس و مشاور مستقل فعالیت کنم.

این کتاب برای چه کسانی است

این کتاب برای متخصصانی نوشته شده است که به‌دنبال مروری جامع بر تکنیک‌های تعبیرپذیرتر کردن مدل‌های یادگیری ماشین هستند. همچنین برای دانشجویان، مدرسان، پژوهشگران و هر فرد علاقه‌مند به این حوزه ارزشمند است. آشنایی پایه‌ای با یادگیری ماشین و ریاضیات مقدماتی در سطح دانشگاه به درک مباحث نظری کمک می‌کند، اما توضیحات شهودی ابتدای هر فصل به‌گونه‌ای طراحی شده‌اند که حتی بدون دانش ریاضی نیز قابل‌فهم باشند.

چه چیزهایی در ویرایش سوم جدید است؟

ویرایش سوم هم یک به‌روزرسانی کوچک است و هم یک به‌روزرسانی بزرگ. از این جهت کوچک است که تنها دو فصل جدید درباره روش‌ها، یعنی LOFO و Ceteris Paribus، و دو فصل مقدماتی جدید شامل «مروری بر روش‌ها» و «اهداف تعبیرپذیری» به آن افزوده شده‌اند. بااین‌حال، تغییرات بزرگ‌تری نیز در کتاب اعمال کرده‌ام که ظریف‌تر هستند، اما به باور من کیفیت کتاب را بهبود داده‌اند.

بخش مقدمه را بازسازمان‌دهی کردم تا هم مختصرتر و هم عمیق‌تر شود. همچنین مثال‌های داده‌ای را غنی‌تر کردم (برای مثال، بررسی هم‌بستگی‌ها و انجام تحلیل‌های دقیق‌تر) و مجموعه‌داده سرطان را با مجموعه‌داده قابل‌فهم‌تر پنگوئن‌های پالمر (Palmer Penguin Dataset) جایگزین کردم. برای کاربردی‌تر شدن کتاب، جعبه‌های نکته و هشدار اضافه کردم تا به خوانندگان کمک کنند مدل‌های یادگیری ماشین را به‌درستی تفسیر کنند.

یکی دیگر از تغییرات بزرگ در ویرایش سوم، پاک‌سازی مخزن کتاب و رندر کردن آن با Quarto به‌جای bookdown بود. برای شما به‌عنوان خواننده، این تغییر تنها در ظاهر نسخه وب کتاب قابل‌مشاهده است، اما برای من نگهداری کتاب را بسیار آسان‌تر کرده است. همچنین اصلاحات کوچک بسیاری انجام داده‌ام که می‌توانید آن‌ها را در فایل README مخزن کتاب، در بخش «Changelog» مشاهده کنید.

درباره نویسنده

نام من کریستوف مولنار (Christoph Molnar) است. من درباره یادگیری ماشین می‌نویسم و تدریس می‌کنم؛ به‌ویژه موضوعاتی که فراتر از صرفاً عملکرد پیش‌بینی هستند. در رشته آمار تحصیل کرده‌ام، چند سال به‌عنوان دانشمند داده کار کرده‌ام، دکتری خود را در زمینه یادگیری ماشین تعبیرپذیر انجام داده‌ام و اکنون نویسنده هستم و همچنین کارگاه‌های آموزشی و خدمات مشاوره ارائه می‌دهم.

مجوز

این کتاب تحت مجوز CC BY-NC-SA 4.0 منتشر شده است.