فصل ۳: اهداف تفسیرپذیری
عنوان اصلی: Goals of Interpretability
منبع: https://christophm.github.io/interpretable-ml-book/goals.html
نویسنده: Christoph Molnar
مترجم: مریم محمودی
تفسیرپذیری خود هدف نیست، بلکه وسیلهای برای رسیدن به هدف است. انتخاب رویکرد تفسیرپذیری بستگی به اهداف خاص شما دارد که نیازمند بحث بیشتری است.¹ با الهام از Adadi و Berrada (2018)، سه هدف از تفسیرپذیری را بررسی میکنیم: بهبود مدل، توجیه مدل و پیشبینیها، و کشف بینشهای جدید.²
بهبود مدل
نکته: همیشه عملکرد را ارزیابی کنید
هنگام تعیین اهداف تفسیرپذیری، ابتدا معیارهای عملکرد مدل خود را ارزیابی کنید. این کار به شما کمک میکند تشخیص دهید که آیا هدف فعلی شما باید بهبود مدل باشد یا خیر.
میتوانید از روشهای تفسیرپذیری برای بهبود مدل استفاده کنید. در مقدمه، درباره پیشبینیکنندههای Clever Hans صحبت کردیم که به مدلهایی اشاره دارد که یاد گرفتهاند از «میانبرها» استفاده کنند، مانند اتکا به ویژگیهای غیرعلّی برای پیشبینی. نکته پیچیده درباره این میانبرها این است که اغلب عملکرد مدل را کاهش نمیدهند—بلکه ممکن است آن را افزایش دهند. مثل اتکا به برف در پسزمینه برای طبقهبندی اینکه تصویر یک گرگ را نشان میدهد یا سگ (Ribeiro, Singh, and Guestrin 2016) یا پیشبینی گمراهکننده اینکه بیماران آسمی که به اورژانس بیمارستان مراجعه میکنند، احتمال کمتری برای مرگ ناشی از ذاتالریه دارند (Caruana et al. 2015).³ تفسیرپذیری به اشکالزدایی مدل کمک میکند و مشخص میکند که مدل چه زمانی از چنین میانبرهای ناخواستهای استفاده میکند یا اشتباهات دیگری مرتکب میشود. برخی از این اشکالات ممکن است به سادگی کدگذاری اشتباه ویژگی هدف یا خطا در مهندسی ویژگی باشد. آیا اثرات ویژگیها با دانش حوزهای شما در تضاد است؟ ممکن است کلاسهای هدف را جابهجا کرده باشید. آیا ویژگیای که میدانید مهم است، طبق بررسیهای شما توسط مدل استفاده نمیشود؟ ممکن است در پردازش داده یا مهندسی ویژگی اشتباهی مرتکب شده باشید.
من همچنین در مسابقات یادگیری ماشین از روشهای تفسیرپذیری برای شناسایی ویژگیهای مهم استفاده کردهام تا ایدههایی برای مهندسی ویژگی به دست آورم. به عنوان مثال، در مسابقهای برای پیشبینی تأمین آب شرکت کردم و از طریق اهمیت ویژگی متوجه شدم که برف در کوههای اطراف، مهمترین ویژگی است. بنابراین تصمیم گرفتم منابع جایگزین داده برف را امتحان کنم که ممکن است این ویژگی را حتی بهتر کند، و زمانی را صرف مهندسی ویژگی کردم. در نهایت، این کار به بهبود عملکرد مدل کمک کرد.
توجیه مدل و پیشبینیها
یادگیری ماشین قابل تفسیر به توجیه مدل و پیشبینیهای آن برای افراد یا نهادهای دیگر کمک میکند. تفکر درباره ذینفعان یک سیستم یادگیری ماشین مفید است (Tomsett et al. 2018):
- سازندگان (Creators) سیستم را میسازند و مدل را آموزش میدهند.
- اپراتورها (Operators) مستقیماً با سیستم تعامل دارند.
- اجراکنندگان (Executors) بر اساس خروجیها تصمیم میگیرند.
- موضوعات تصمیم (Decision subjects) تحت تأثیر تصمیمات قرار میگیرند.
- حسابرسان (Auditors) سیستم را حسابرسی و بررسی میکنند.
- موضوعات داده (Data subjects) افرادی هستند که دادههای آنها برای آموزش مدل استفاده میشود.
این ذینفعان خواهان توجیه مدل و پیشبینیهای آن هستند و ممکن است به انواع بسیار متفاوتی از توجیه نیاز داشته باشند.
یکی از خروجیهای مسابقه یادگیری ماشینی که در آن شرکت کردم، تولید گزارشهایی بود که پیشبینیهای تأمین آب را توضیح میداد. این گزارشها و توضیحات برای هیدرولوژیستها و مقامات رسمی است که باید بر اساس این پیشبینیهای تأمین آب تصمیم بگیرند (اجراکنندگان). فرض کنید مدل یک تأمین آب غیرمعمول پایین را پیشبینی میکند؛ این به معنای آن است که مقامات باید طرحهای اضطراری خشکسالی را اعلام کنند و تخصیص آب را تنظیم کنند. به جای اینکه کورکورانه به پیشبینیها اعتماد کنند، تصمیمگیرنده ممکن است بخواهد با نگاه کردن به توضیحات اینکه چرا این پیشبینی خاص انجام شده، پیشبینیها را تأیید کند. و اگر توضیح با دانش حوزهای در تضاد باشد، تصمیمگیرنده ممکن است پیشبینی را زیر سؤال ببرد و بررسی کند.
به طور کلی، اعتراض به پیشبینی انجام شده توسط یک سیستم یادگیری ماشین، نیازمند تفسیرپذیری سیستم است. تصور کنید یک سیستم یادگیری ماشین درخواست وام را رد میکند. برای اینکه یک فرد (موضوع تصمیم) بتواند به آن رد اعتراض کند، باید توجیهی برای اینکه چرا آن پیشبینی انجام شده وجود داشته باشد. این مفهوم را recourse مینامند.
مثال دیگر: اگر یک شرکت بخواهد یک دستگاه پزشکی بسازد، باید از فرآیندهای نظارتی زیادی عبور کند تا نشان دهد که دستگاه ایمن و کارآمد است. اگر دستگاه به یادگیری ماشین متکی باشد، کارها پیچیدهتر میشود زیرا شرکت همچنین باید نشان دهد که مدل یادگیری ماشین آنطور که در نظر گرفته شده کار میکند. یادگیری ماشین قابل تفسیر بخشی از راهحل برای توجیه مدل به نهادهای نظارتی (حسابرسان) است که یا دستگاه پزشکی را تأیید یا رد میکنند.
کشف بینشها
مدلهای یادگیری ماشین فقط برای پیشبینی استفاده نمیشوند؛ آنها همچنین میتوانند برای تصمیمگیری یا مطالعه رابطه بین ویژگیها و هدف استفاده شوند. در هر دو مورد، پیشبینیها کافی نیستند، بلکه میخواهیم بینشهای اضافی از مدل استخراج کنیم.
یک مدل پیشبینی ریزش مشتری (churn prediction) پیشبینی میکند که احتمال لغو قرارداد تلفن همراه یک فرد چقدر است، به عنوان مثال. تیم بازاریابی ممکن است برای تصمیمگیری درباره کمپینهای بازاریابی به مدل تکیه کند. اما بدون دانستن اینکه چرا احتمال دارد یک فرد قرارداد را لغو کند، طراحی یک پاسخ مؤثر دشوار است.
بیش از پیش، دانشمندان نیز یادگیری ماشین را برای سؤالات تحقیقاتی خود به کار میبرند. به عنوان مثال، Zhang و همکاران (2019) از Random Forest برای پیشبینی محصول بادام باغ بر اساس مصرف کود استفاده کردند. پیشبینی کافی نیست: آنها همچنین از روشهای تفسیرپذیری برای استخراج اینکه ویژگیهای مختلف، از جمله کود، چگونه بر محصول پیشبینیشده تأثیر میگذارند، استفاده کردند. برای استخراج روابط یادگرفتهشده بین ویژگیها و پیشبینی، به تفسیرپذیری نیاز دارید. در غیر این صورت، تنها چیزی که دارید یک تابع برای پیشبینی است.
نکته: چگونه از یادگیری ماشین در علم استفاده کنیم
استفاده از یادگیری ماشین در علم، یک سؤال فلسفی بسیار عمیقتر است و بیش از صرفاً تفکر درباره تفسیرپذیری نیاز دارد. به همین دلیل من و Timo Freiesleben کتابی را به توجیه یادگیری ماشین برای علم اختصاص دادهایم.
میتوانید آن را رایگان اینجا بخوانید: ml-science-book.com
یادگیری ماشین قابل تفسیر نه تنها برای یادگیری درباره دادهها، بلکه برای یادگیری درباره مدل نیز مفید است. به عنوان مثال، اگر میخواهید بیاموزید که شبکههای عصبی کانولوشنال چگونه کار میکنند، میتوانید از تفسیرپذیری برای مطالعه اینکه نورونهای منفرد به چه مفاهیمی واکنش نشان میدهند، استفاده کنید.
اهداف شما در پروژه یادگیری ماشین چیست و تفسیرپذیری چگونه میتواند به شما کمک کند؟ اهداف شما تعیین میکند که از کدام رویکردها و روشهای تفسیرپذیری استفاده کنید. در فصل بعد، به بررسی چشمانداز روشها میپردازیم و بحث میکنیم که چگونه با اهداف شما مرتبط هستند.
¹ زمانی که محققان مدلها یا روشهای تفسیرپذیری جدیدی پیشنهاد میکنند، به ندرت درباره اهداف خاصی که آنها را پشتیبانی میکنند، بحث میکنند. من خودم را در اینجا مستثنی نمیکنم: به عنوان مثال، این فصل درباره اهداف را تا ویرایش سوم کتاب معرفی نکردم.
² مقاله Adadi و Berrada (2018) علاوه بر این، «کنترل (control)» را معرفی کرد که به اشکالزدایی مدل و یافتن خطاها اشاره دارد، اما من آن را در زیرمجموعه «بهبود» قرار دادم.
³ یک مدل پیشبینی کرد که بیماران آسمی که با ذاتالریه به اورژانس میآیند، احتمال کمتری برای مرگ ناشی از ذاتالریه دارند، علیرغم اینکه آسم به عنوان یک عامل خطر برای ذاتالریه شناخته میشود. فقط به لطف استفاده از یک مدل قابل تفسیر، محققان متوجه شدند که این مدل این رابطه را یاد گرفته است. اما این یک «میانبر» ناخواسته است: بیماران آسمی زودتر و تهاجمیتر با آنتیبیوتیکها درمان میشدند، بنابراین در واقع احتمال کمتری برای ابتلا به ذاتالریه شدید داشتند. مدل میانبر را یاد گرفته بود (آسم → کاهش خطر مرگ ناشی از ذاتالریه)، زیرا ویژگیهایی درباره درمان بعدی نداشت.