فصل ۱: مقدمه

عنوان اصلی: Introduction
منبع: https://christophm.github.io/interpretable-ml-book/intro.html
نویسنده: Christoph Molnar
مترجم: مریم محمودی

«۲ به‌علاوه ۵ چقدر می‌شود؟» معلم ویلهلم فون اوستن پرسید. پاسخ، البته، ۷ بود. جمعیتی که برای تماشای این صحنه گرد آمده بودند، شگفت‌زده شدند. چرا که پاسخ‌دهنده، انسان نبود، بلکه اسبی به نام «هانس زیرک» بود. هانس زیرک می‌توانست محاسبات ریاضی انجام دهد – یا لااقل چنین به نظر می‌رسید. ۲ به‌علاوه ۵؟ هفت ضربه با سم اسب، نه یکی بیشتر و نه یکی کمتر. برای یک اسب، واقعاً چشمگیر بود.

و در واقع، همان‌طور که تحقیقات بعدی نشان داد، هانس زیرک بسیار باهوش بود. اما مهارت او در ریاضیات نبود، بلکه در خواندن نشانه‌های اجتماعی بود. معلوم شد که یک عامل مهم موفقیت این بود که انسانی که از هانس سؤال می‌کرد، پاسخ را می‌دانست. هانس به کوچک‌ترین تغییرات در زبان بدن و حالات چهره انسان تکیه می‌کرد تا در زمان مناسب از ضربه زدن دست بکشد.

به عملکرد مدل کورکورانه اعتماد نکنید

در یادگیری ماشین، نسخه‌های خودمان از این اسب زیرک را داریم: پیش‌بینی‌کننده‌های هانس زیرک، اصطلاحی که توسط Lapuschkin و همکاران (۲۰۱۹) ابداع شد. چند نمونه:

• یک مدل یادگیری ماشین که برای تشخیص نهنگ آموزش دیده بود، یاد گرفت به جای اینکه دسته‌بندی را بر اساس محتوای صوتی انجام دهد، به خطاهای موجود در فایل‌های صوتی تکیه کند (DeLMA and Cukierski 2013).
• یک دسته‌بندی‌کننده تصویر یاد گرفت به جای ویژگی‌های بصری، از متن روی تصاویر استفاده کند (Lapuschkin et al. 2019).
• یک دسته‌بندی‌کننده گرگ در مقابل سگ، به جای نواحی تصویر که حیوانات را نشان می‌دادند، به برف موجود در پس‌زمینه متکی شد (Ribeiro, Singh, and Guestrin 2016).

در همه این نمونه‌ها، نقص‌ها عملکرد پیش‌بینی روی مجموعه آزمایش را کاهش ندادند. بنابراین تعجبی ندارد که مردم حتی نسبت به مدل‌های با عملکرد خوب نیز محتاط هستند. آن‌ها می‌خواهند به درون مدل‌ها نگاه کنند تا مطمئن شوند که مدل‌ها میانبر نمی‌زنند. و دلایل بسیار دیگری نیز برای تفسیرپذیر کردن مدل‌ها وجود دارد. به‌عنوان مثال، دانشمندان از یادگیری ماشین در کار خود استفاده می‌کنند. در نظرسنجی‌ای که از دانشمندان درباره بزرگ‌ترین نگرانی‌هایشان در استفاده از یادگیری ماشین پرسیده شد، پاسخ اول «منجر به تکیه بیشتر بر تشخیص الگو بدون درک آن می‌شود» بود (Van Noorden and Perkel 2023). این کمبود درک منحصر به علم نیست. اگر در بخش بازاریابی کار می‌کنید و یک مدل ریزش مشتری (churn model) می‌سازید، نه‌تنها می‌خواهید پیش‌بینی کنید چه کسانی احتمالاً ریزش خواهند کرد، بلکه می‌خواهید علت آن را نیز بفهمید. در غیر این صورت، تیم بازاریابی چگونه باید بداند واکنش مناسب چیست؟ تیم می‌تواند برای همه کوپن ارسال کند، اما اگر دلیل احتمال ریزش بالا این باشد که آن‌ها از ایمیل‌های زیاد آزرده شده‌اند، چه؟ عملکرد پیش‌بینی خوب به تنهایی برای استفاده کامل از مدل ریزش کافی نیست.

علاوه بر این، بسیاری از دانشمندان داده و آماردانان به من گفته‌اند که یکی از دلایلی که از «مدل‌های ساده‌تر» استفاده می‌کنند این است که نتوانسته‌اند مدیرشان را متقاعد کنند تا از یک «مدل جعبه سیاه» (black box model) استفاده کند. اما اگر مدل‌های پیچیده پیش‌بینی‌های بهتری انجام دهند چه؟ آیا عالی نبود اگر می‌توانستید هم عملکرد خوب و هم تفسیرپذیری را داشته باشید؟

برای حل مسائل اعتماد، ارائه بینش درباره مدل‌ها، و اشکال‌زدایی بهتر مدل‌ها، کتاب مناسبی را در دست دارید. یادگیری ماشین تفسیرپذیر ابزارهایی برای استخراج بینش از مدل ارائه می‌دهد.

حوزه‌ای جوان با ریشه‌های قدیمی

مدل‌های رگرسیون خطی از ابتدای قرن نوزدهم مورد استفاده قرار می‌گرفتند (Legendre 1806; Gauss 1877). مدل‌سازی آماری حول همین مدل رگرسیون خطی رشد کرد، و امروزه گزینه‌های بیشتری مانند مدل‌های جمعی تعمیم‌یافته (generalized additive models) و LASSO داریم تا تنها چند کلاس مدل محبوب را نام ببریم. در آمار کلاسیک، معمولاً توزیع‌ها را مدل‌سازی می‌کنیم و بر فرضیات بیشتری تکیه می‌کنیم که به ما اجازه می‌دهد نتیجه‌گیری‌هایی درباره جهان داشته باشیم. برای انجام این کار، تفسیرپذیری کلیدی است. به‌عنوان مثال، اگر تأثیر نوشیدن الکل بر خطر مشکلات قلبی‌عروقی را مدل‌سازی کنید، آماردانان باید بتوانند آن بینش را از مدل استخراج کنند. این کار معمولاً با تفسیرپذیر نگه‌داشتن مدل و داشتن ضریبی که می‌تواند به‌عنوان تأثیر یک ویژگی بر نتیجه تفسیر شود، انجام می‌شود.

یادگیری ماشین رویکرد مدل‌سازی متفاوتی دارد. بیشتر وظیفه‌محور و پیش‌بینی‌محور است، و تأکید بر الگوریتم‌ها به جای توزیع‌ها است. معمولاً، یادگیری ماشین مدل‌های پیچیده‌تری تولید می‌کند. کار بنیادین در یادگیری ماشین در اواسط قرن بیستم آغاز شد، در حالی که پیشرفت‌های بعدی در نیمه دوم قرن این حوزه را بیشتر گسترش دادند. با این حال، شبکه‌های عصبی (neural networks) به دهه ۱۹۶۰ باز می‌گردند (Schmidhuber 2015)، و یادگیری ماشین مبتنی بر قاعده که بخشی از یادگیری ماشین تفسیرپذیر است، از اواسط قرن بیستم یک حوزه تحقیقاتی فعال بوده است. اگرچه تمرکز اصلی نبوده، تفسیرپذیری همیشه یک دغدغه در یادگیری ماشین بوده است، و محققان راه‌هایی برای بهبود تفسیرپذیری پیشنهاد کرده‌اند: یک نمونه، جنگل تصادفی (random forest) است (Breiman 2001) که از ابتدا با معیار اهمیت ویژگی داخلی ارائه شد.

یادگیری ماشین تفسیرپذیر، یا هوش مصنوعی توضیح‌پذیر (Explainable AI)، واقعاً به‌عنوان یک حوزه در حدود سال ۲۰۱۵ منفجر شده است (Molnar, Casalicchio, and Bischl 2020). به‌ویژه زیرحوزه تفسیرپذیری مستقل از مدل (model-agnostic interpretability)، که روش‌هایی را ارائه می‌دهد که برای هر مدلی کار می‌کنند، توجه زیادی را به خود جلب کرده است. روش‌های جدید برای تفسیر مدل‌های یادگیری ماشین همچنان با سرعت سرسام‌آوری منتشر می‌شوند. پیگیری هر چیزی که منتشر می‌شود جنون‌آمیز و به‌سادگی غیرممکن خواهد بود. به همین دلیل است که جدیدترین و شیک‌ترین روش‌ها را در این کتاب نخواهید یافت، بلکه روش‌های مستقر و مفاهیم اساسی تفسیرپذیری یادگیری ماشین را خواهید یافت. این اصول اساسی شما را برای تفسیرپذیر کردن مدل‌های یادگیری ماشین آماده می‌کنند. درونی کردن مفاهیم پایه همچنین به شما قدرت می‌دهد تا هر مقاله جدیدی درباره تفسیرپذیری که در سرور پیش‌چاپ arxiv.org در ۵ دقیقه گذشته از زمانی که شروع به خواندن این کتاب کرده‌اید منتشر شده (شاید در نرخ انتشار اغراق می‌کنم) را بهتر درک و ارزیابی کنید.

چگونه کتاب را بخوانیم

لازم نیست کتاب را از سر تا ته بخوانید، زیرا یادگیری ماشین تفسیرپذیر بیشتر یک کتاب مرجع است که اکثر فصل‌ها یک روش را توصیف می‌کنند. اگر تازه‌کار در تفسیرپذیری هستید، فقط توصیه می‌کنم ابتدا فصل‌های تفسیرپذیری، اهداف، و مروری بر روش‌ها را بخوانید تا بفهمید تفسیرپذیری چیست و «نقشه‌ای» داشته باشید که بتوانید هر روش را در آن قرار دهید.

کتاب به بخش‌های زیر سازماندهی شده است:

• فصل‌های مقدماتی، شامل تعاریف تفسیرپذیری و مروری بر روش‌ها
• مدل‌های تفسیرپذیر
• روش‌های محلی مستقل از مدل
• روش‌های سراسری مستقل از مدل
• روش‌ها برای شبکه‌های عصبی
• چشم‌انداز
• اصطلاحات یادگیری ماشین

هر فصل روش با ساختار مشابهی دنبال می‌شود: پاراگراف اول روش را خلاصه می‌کند، و سپس توضیح شهودی ارائه می‌شود که به ریاضیات متکی نیست. سپس به نظریه روش می‌پردازیم تا درک عمیق‌تری از نحوه کار آن به دست آوریم، شامل ریاضیات و الگوریتم‌ها. من معتقدم که یک روش جدید بهتر است با استفاده از مثال‌ها فهمیده شود. بنابراین، هر روش روی داده‌های واقعی اعمال می‌شود. برخی می‌گویند که آماردانان افراد بسیار انتقادی هستند. برای من این درست است، زیرا هر فصل شامل بحث‌های انتقادی درباره مزایا و معایب روش تفسیر مربوطه است. این کتاب تبلیغی برای روش‌ها نیست، بلکه باید به شما کمک کند تصمیم بگیرید که آیا یک روش برای پروژه شما مناسب است یا خیر. در بخش آخر هر فصل، پیاده‌سازی‌های نرم‌افزاری موجود را فهرست کرده‌ام.

امیدوارم از خواندن لذت ببرید!