فصل ۳۴: آینده‌ی تفسیرپذیری

عنوان اصلی: The Future of Interpretability
منبع: https://christophm.github.io/interpretable-ml-book/future.html
نویسنده: Christoph Molnar
مترجم: مریم محمودی

آینده‌ی یادگیری ماشین تفسیرپذیر چه خواهد بود؟ این فصل یک تمرین ذهنی گمانه‌زنانه و یک برآورد شخصی درباره‌ی مسیر پیش روی یادگیری ماشین تفسیرپذیر است.

گمانه‌زنی‌های من بر پایه‌ی سه پیش‌فرض بنا شده است:

۱. دیجیتالی‌سازی: هر اطلاعات (جالبی) دیجیتالی خواهد شد. به پول الکترونیک و تراکنش‌های آنلاین فکر کنید. به کتاب‌های الکترونیک، موسیقی و ویدیو فکر کنید. به تمام داده‌های حسی درباره‌ی محیط‌زیست، رفتار انسانی، فرآیندهای تولید صنعتی و غیره فکر کنید. محرک‌های دیجیتالی‌سازی همه چیز عبارتند از: رایانه‌ها/حسگرها/حافظه‌های ارزان، اثرات مقیاس (برنده همه را می‌برد)، مدل‌های کسب‌وکار جدید، زنجیره‌های ارزش مدولار، فشار هزینه و بسیاری موارد دیگر.

۲. خودکارسازی: هر وظیفه‌ای که بتوان خودکار کرد و هزینه‌ی خودکارسازی آن از هزینه‌ی انجام تدریجی‌اش کمتر باشد، خودکار خواهد شد. حتی پیش از ظهور رایانه نیز درجه‌ای از خودکارسازی وجود داشت؛ برای مثال، دستگاه بافندگی، بافتن را خودکار کرد یا ماشین بخار نیروی اسب را جایگزین کرد. اما رایانه‌ها و دیجیتالی‌سازی این خودکارسازی را به سطح دیگری می‌برند. همین واقعیت که می‌توان حلقه‌های for نوشت، ماکروهای Excel ساخت، پاسخ‌های ایمیل را خودکار کرد و مانند آن، نشان می‌دهد که یک فرد چقدر می‌تواند خودکارسازی انجام دهد. دستگاه‌های خودپرداز بلیت، خرید بلیت قطار را خودکار کرده‌اند، ماشین‌های لباسشویی شست‌وشو را خودکار کرده‌اند، دستورهای دائمی پرداخت، تراکنش‌های مالی را خودکار کرده‌اند و به همین ترتیب. خودکارسازی وظایف، زمان و پول را آزاد می‌کند؛ بنابراین انگیزه‌ی اقتصادی و شخصی عظیمی برای خودکارسازی چیزها وجود دارد. در حال حاضر شاهد خودکارسازی ترجمه‌ی زبان، رانندگی و تا حدی کوچک، حتی کشف علمی هستیم.

۳. تعریف ناقص هدف: ما قادر نیستیم یک هدف را به همراه تمام قیدهایش به صورت کامل مشخص کنیم. به جن‌درون‌بطری فکر کنید که همواره آرزوهایتان را به معنای تحت‌اللفظی می‌گیرد: «می‌خواهم ثروتمندترین آدم جهان باشم!» → ثروتمندترین می‌شوید، اما عارضه‌ی جانبی آن سقوط ارزش پولتان بر اثر تورم است. «می‌خواهم تا پایان عمر خوشحال باشم!» → ۵ دقیقه احساس خوشحالی شدید می‌کنید، سپس جن شما را می‌کشد. «آرزوی صلح جهانی دارم!» → جن همه‌ی انسان‌ها را نابود می‌کند. ما اهداف را به‌درستی تعریف نمی‌کنیم، یا چون همه‌ی قیدها را نمی‌شناسیم یا چون نمی‌توانیم آن‌ها را اندازه‌گیری کنیم. به شرکت‌ها به عنوان نمونه‌ای از تعریف ناقص هدف نگاه کنید. یک شرکت هدف ساده‌ای دارد: کسب سود برای سهامداران. اما این تعریف، هدف واقعی را با همه‌ی قیدهایش منعکس نمی‌کند: برای مثال، شرکتی که برای درآمدزایی آدم بکشد، رودخانه‌ها را آلوده کند یا صرفاً پول چاپ کند را نمی‌پذیریم. ما قوانین، مقررات، تحریم‌ها، رویه‌های انطباق، اتحادیه‌های کارگری و بیشتر را اختراع کرده‌ایم تا این تعریف ناقص هدف را وصله‌پینه کنیم. نمونه‌ی دیگری که می‌توانید خودتان تجربه کنید Paperclips است؛ بازی‌ای که در آن نقش یک ماشین با هدف تولید بیشترین تعداد گیره‌ی کاغذ را بازی می‌کنید. هشدار: اعتیادآور است. نمی‌خواهم خیلی خراب کنم، اما به همین اکتفا می‌کنم که اوضاع خیلی سریع از کنترل خارج می‌شود. در یادگیری ماشین، نواقص در تعریف هدف از انتزاع‌های ناقص داده (جمعیت‌های بایاس‌دار، خطاهای اندازه‌گیری و …)، توابع زیان بدون قید، فقدان دانش درباره‌ی قیدها، تغییر توزیع میان داده‌های آموزش و داده‌های کاربردی و موارد بسیار دیگری ناشی می‌شود.

دیجیتالی‌سازی، خودکارسازی را پیش می‌راند. تعریف ناقص هدف با خودکارسازی در تعارض است. این تعارض به نظر من تا حدی توسط روش‌های تفسیر میانجی‌گری می‌شود.

صحنه برای پیش‌بینی‌هایمان آماده است، کره‌ی بلورین در دستمان است؛ حالا ببینیم این حوزه به کجا می‌رود!

آینده‌ی یادگیری ماشین

بدون یادگیری ماشین، یادگیری ماشین تفسیرپذیر هم وجود نخواهد داشت. بنابراین پیش از آنکه درباره‌ی تفسیرپذیری صحبت کنیم، باید حدس بزنیم یادگیری ماشین به کجا می‌رود.

یادگیری ماشین (یا «هوش مصنوعی») با وعده‌ها و انتظارات زیادی همراه است. اما بگذارید با مشاهده‌ای کمتر خوشبینانه شروع کنیم: در حالی که علم ابزارهای پیچیده‌ی یادگیری ماشین بسیاری توسعه می‌دهد، در تجربه‌ی من یکپارچه‌سازی آن‌ها در فرآیندها و محصولات موجود کار دشواری است. نه به این دلیل که ناممکن است، بلکه صرفاً به این خاطر که شرکت‌ها و مؤسسات زمان می‌برند تا به‌روز شوند. در دوران تب طلای هیجان کنونی هوش مصنوعی، شرکت‌ها «آزمایشگاه‌های هوش مصنوعی»، «واحدهای یادگیری ماشین» تأسیس می‌کنند و «دانشمندان داده»، «متخصصان یادگیری ماشین»، «مهندسان هوش مصنوعی» و مانند آن استخدام می‌کنند، اما واقعیت، به تجربه‌ی من، کاملاً ناامیدکننده است. اغلب شرکت‌ها حتی داده را در قالب مورد نیاز ندارند و دانشمندان داده ماه‌ها بلاتکلیف منتظر می‌مانند. گاهی شرکت‌ها به خاطر رسانه‌ها انتظارات آنچنان بالایی از هوش مصنوعی و علم داده دارند که دانشمندان داده هرگز نمی‌توانند آن‌ها را برآورده کنند. و اغلب کسی نمی‌داند چگونه دانشمندان داده را در ساختارهای موجود جای دهد و مشکلات دیگری هم هست. این مرا به اولین پیش‌بینی‌ام می‌رساند:

یادگیری ماشین آهسته اما پیوسته بالغ خواهد شد.

دیجیتالی‌سازی در حال پیشرفت است و وسوسه‌ی خودکارسازی همواره در کار است. حتی اگر مسیر پذیرش یادگیری ماشین کند و سنگلاخ باشد، یادگیری ماشین به‌طور مستمر از علم به فرآیندهای کسب‌وکار، محصولات و کاربردهای واقعی منتقل می‌شود.

به باور من باید بهتر توضیح دهیم که چه نوع مسائلی را می‌توان به صورت مسائل یادگیری ماشین فرمول‌بندی کرد. دانشمندان داده‌ی بسیار با حقوق بالایی را می‌شناسم که به جای کاربرد یادگیری ماشین، محاسبات Excel یا هوش تجاری کلاسیک با گزارش‌گیری و کوئری‌های SQL انجام می‌دهند. اما تعداد کمی از شرکت‌ها از یادگیری ماشین با موفقیت استفاده می‌کنند و شرکت‌های بزرگ اینترنتی در خط مقدم هستند. باید روش‌های بهتری برای یکپارچه‌سازی یادگیری ماشین در فرآیندها و محصولات، آموزش افراد و توسعه‌ی ابزارهای یادگیری ماشین آسان‌تر پیدا کنیم. به باور من یادگیری ماشین بسیار راحت‌تر خواهد شد: از هم‌اکنون می‌توان دید که یادگیری ماشین در حال دسترس‌پذیرتر شدن است، برای مثال از طریق خدمات ابری («یادگیری ماشین به‌عنوان سرویس» — فقط برای استفاده از چند اصطلاح باب روز). وقتی یادگیری ماشین به بلوغ رسید — و این نوپا اولین قدم‌هایش را برداشته — پیش‌بینی بعدی‌ام این است:

یادگیری ماشین چیزهای بسیاری را به حرکت درخواهد آورد.

بر اساس این اصل که «هر چیزی که بتوان خودکار کرد، خودکار خواهد شد»، به این نتیجه می‌رسم که هر جا ممکن باشد، وظایف به‌صورت مسائل پیش‌بینی فرمول‌بندی شده و با یادگیری ماشین حل خواهند شد. یادگیری ماشین نوعی خودکارسازی است یا می‌تواند حداقل بخشی از آن باشد. بسیاری از وظایفی که در حال حاضر توسط انسان‌ها انجام می‌شود، با یادگیری ماشین جایگزین می‌شود. در اینجا چند نمونه از وظایفی که یادگیری ماشین برای خودکارسازی بخشی از آن‌ها به کار می‌رود آورده شده است:

• مرتب‌سازی / تصمیم‌گیری / تکمیل اسناد (مثلاً در شرکت‌های بیمه، بخش حقوقی یا شرکت‌های مشاوره)
• تصمیمات مبتنی بر داده مانند درخواست‌های اعتباری
• کشف دارو
• کنترل کیفیت در خطوط مونتاژ
• خودروهای خودران
• تشخیص بیماری‌ها
• ترجمه. برای این کتاب از یک سرویس ترجمه به نام DeepL که با شبکه‌های عصبی عمیق (deep neural networks) کار می‌کند استفاده کردم تا جملاتم را با ترجمه از انگلیسی به آلمانی و بازگشت به انگلیسی بهبود دهم.
• …

پیشرفت یادگیری ماشین نه تنها از طریق رایانه‌های بهتر / داده‌ی بیشتر / نرم‌افزار بهتر حاصل می‌شود، بلکه:

ابزارهای تفسیرپذیری، پذیرش یادگیری ماشین را تسریع می‌کنند.

بر اساس این پیش‌فرض که هدف یک مدل یادگیری ماشین هرگز نمی‌تواند به‌طور کامل مشخص شود، نتیجه می‌گیریم که یادگیری ماشین تفسیرپذیر برای پر کردن شکاف میان هدف تعریف‌شده‌ی ناقص و هدف واقعی ضروری است. در حوزه‌ها و بخش‌های بسیاری، تفسیرپذیری عامل تسریع پذیرش یادگیری ماشین خواهد بود. چند شاهد جزئی: بسیاری از افرادی که با آن‌ها صحبت کرده‌ام از یادگیری ماشین استفاده نمی‌کنند چون نمی‌توانند مدل‌ها را برای دیگران توضیح دهند. به باور من تفسیرپذیری این مشکل را حل خواهد کرد و یادگیری ماشین را برای سازمان‌ها و افرادی که خواستار شفافیت هستند جذاب خواهد کرد. علاوه بر تعریف ناقص مسئله، بسیاری از صنایع به تفسیرپذیری نیاز دارند، چه به دلایل قانونی، چه به خاطر ریسک‌گریزی، یا برای کسب درک عمیق‌تر از وظیفه‌ی زمینه‌ای. یادگیری ماشین فرآیند مدل‌سازی را خودکار می‌کند و انسان را کمی از داده و وظیفه‌ی زمینه‌ای دورتر می‌کند: این احتمال بروز مشکلاتی در طراحی آزمایش، انتخاب توزیع آموزش، نمونه‌گیری، رمزگذاری داده، مهندسی ویژگی و غیره را افزایش می‌دهد. ابزارهای تفسیر، شناسایی این مشکلات را آسان‌تر می‌کنند.

آینده‌ی تفسیرپذیری

بیایید نگاهی به آینده‌ی محتمل تفسیرپذیری یادگیری ماشین بیندازیم.

تمرکز بر ابزارهای تفسیرپذیری مدل‌-مستقل (model-agnostic) خواهد بود.

خودکارسازی تفسیرپذیری بسیار آسان‌تر است وقتی از مدل یادگیری ماشین زمینه‌ای مجزا باشد. مزیت تفسیرپذیری مدل-مستقل در ماژولار بودن آن نهفته است. می‌توانیم مدل یادگیری ماشین زمینه‌ای را به‌آسانی جایگزین کنیم. به همان اندازه می‌توانیم روش تفسیر را جایگزین کنیم. به این دلایل، روش‌های مدل-مستقل مقیاس‌پذیری بسیار بهتری خواهند داشت. به همین دلیل است که به باور من روش‌های مدل-مستقل در بلندمدت غالب‌تر خواهند شد. اما روش‌های ذاتاً تفسیرپذیر نیز جایگاه خود را خواهند داشت.

یادگیری ماشین خودکار خواهد شد و با آن، تفسیرپذیری نیز.

یک روند هم‌اکنون قابل مشاهده، خودکارسازی آموزش مدل است. این شامل مهندسی و انتخاب خودکار ویژگی‌ها، بهینه‌سازی خودکار فراپارامترها (hyperparameters)، مقایسه‌ی مدل‌های مختلف، و یکپارچه‌سازی یا پشته‌گذاری مدل‌هاست. نتیجه، بهترین مدل پیش‌بینی ممکن است. وقتی از روش‌های تفسیر مدل-مستقل استفاده می‌کنیم، می‌توانیم آن‌ها را به‌طور خودکار بر هر مدلی که از فرآیند یادگیری ماشین خودکار بیرون می‌آید اعمال کنیم. به نوعی، این مرحله‌ی دوم را نیز می‌توانیم خودکار کنیم: اهمیت ویژگی‌ها را به‌طور خودکار محاسبه کنیم، نمودار وابستگی جزئی رسم کنیم، یک مدل جایگزین (surrogate model) آموزش دهیم و به همین ترتیب. هیچ‌چیز مانع از محاسبه‌ی خودکار همه‌ی این تفسیرهای مدل نمی‌شود. تفسیر واقعی همچنان به افراد نیاز دارد. تصور کنید: یک مجموعه داده آپلود می‌کنید، هدف پیش‌بینی را مشخص می‌کنید و با فشار یک دکمه بهترین مدل پیش‌بینی آموزش می‌بیند و برنامه همه‌ی تفسیرهای مدل را بیرون می‌دهد. از هم‌اکنون محصولات اولیه‌ای وجود دارد و استدلال می‌کنم که برای بسیاری از کاربردها، استفاده از این سرویس‌های یادگیری ماشین خودکار کافی خواهد بود. امروز هر کسی می‌تواند بدون دانستن HTML، CSS و Javascript وب‌سایت بسازد، اما هنوز توسعه‌دهندگان وب بسیاری وجود دارند. به‌طور مشابه، به باور من همه خواهند توانست بدون دانستن برنامه‌نویسی مدل‌های یادگیری ماشین آموزش دهند، و همچنان نیاز به متخصصان یادگیری ماشین خواهد بود.

ما داده را تحلیل نمی‌کنیم، مدل‌ها را تحلیل می‌کنیم.

داده‌ی خام خودش همواره بی‌فایده است. (عمداً اغراق می‌کنم. واقعیت این است که برای انجام تحلیل معنادار نیاز به درک عمیق داده دارید.) به داده اهمیت نمی‌دهم؛ به دانش نهفته در داده اهمیت می‌دهم. یادگیری ماشین تفسیرپذیر روشی عالی برای استخراج دانش از داده است. می‌توانید مدل را به‌طور گسترده کاوش کنید، مدل به‌طور خودکار تشخیص می‌دهد که آیا و چگونه ویژگی‌ها برای پیش‌بینی مرتبط هستند (بسیاری از مدل‌ها انتخاب ویژگی داخلی دارند)، مدل می‌تواند به‌طور خودکار تشخیص دهد که روابط چگونه نمایش داده می‌شوند، و — اگر به‌درستی آموزش دیده باشد — مدل نهایی تقریب بسیار خوبی از واقعیت است.

بسیاری از ابزارهای تحلیلی از پیش مبتنی بر مدل‌های داده هستند (چون بر فرضیات توزیعی استوارند):

• آزمون‌های فرضیه‌ی ساده مانند آزمون t استیودنت
• آزمون‌های فرضیه با تعدیل برای عوامل مخدوش‌کننده (معمولاً GLMها)
• تحلیل واریانس (ANOVA)
• ضریب همبستگی (ضریب رگرسیون خطی استانداردشده با ضریب همبستگی پیرسون ارتباط دارد)
• …

آنچه اینجا می‌گویم در واقع چیز جدیدی نیست. پس چرا از تحلیل مدل‌های مبتنی بر فرضیه‌ی شفاف به تحلیل مدل‌های Black Box بدون فرضیه منتقل شویم؟ چون ایجاد همه‌ی این فرضیات مشکل‌ساز است: معمولاً اشتباه هستند (مگر آنکه باور داشته باشید بیشتر جهان از توزیع گاوسی پیروی می‌کند)، بررسی آن‌ها دشوار است، بسیار انعطاف‌ناپذیرند و سخت می‌توان آن‌ها را خودکار کرد. در حوزه‌های بسیاری، مدل‌های مبتنی بر فرضیه معمولاً عملکرد پیش‌بینی ضعیف‌تری روی داده‌های آزمایشی دست‌نخورده نسبت به مدل‌های Black Box یادگیری ماشین دارند. این تنها برای مجموعه داده‌های بزرگ صادق است، چون مدل‌های تفسیرپذیر با فرضیات مناسب اغلب عملکرد بهتری نسبت به مدل‌های Black Box در مجموعه داده‌های کوچک دارند. رویکرد Black Box یادگیری ماشین به داده‌ی بسیاری نیاز دارد تا به‌خوبی کار کند. با دیجیتالی‌سازی همه چیز، مجموعه داده‌های هرچه بزرگ‌تری خواهیم داشت و از این رو رویکرد یادگیری ماشین جذاب‌تر خواهد شد. فرضیاتی نمی‌سازیم، بلکه واقعیت را تا جای ممکن تقریب می‌زنیم (در عین اجتناب از بیش‌برازش داده‌های آموزشی). استدلال می‌کنم که باید تمام ابزارهایی که در آمار برای پاسخ به سؤالات داریم (آزمون‌های فرضیه، معیارهای همبستگی، معیارهای تعامل، ابزارهای بصری‌سازی، فاصله‌های اطمینان، مقادیر p، فاصله‌های پیش‌بینی، توزیع‌های احتمال) توسعه دهیم و آن‌ها را برای مدل‌های Black Box بازنویسی کنیم. به نوعی، این کار از هم‌اکنون در حال انجام است:

• یک مدل خطی کلاسیک را در نظر بگیرید: ضریب رگرسیون استانداردشده از پیش یک معیار اهمیت ویژگی است. با معیار اهمیت ویژگی جابه‌جایی، ابزاری داریم که با هر مدلی کار می‌کند.
• در یک مدل خطی، ضرایب اثر یک ویژگی منفرد بر خروجی پیش‌بینی‌شده را اندازه می‌گیرند. نسخه‌ی تعمیم‌یافته‌ی این، نمودار وابستگی جزئی است.
• آزمون اینکه آیا A بهتر از B است: برای این، می‌توانیم از توابع وابستگی جزئی نیز استفاده کنیم. آنچه هنوز نداریم (تا آنجا که می‌دانم) آزمون‌های آماری برای مدل‌های Black Box دلخواه هستند.

دانشمندان داده خود را خودکار خواهند کرد.

به باور من دانشمندان داده در نهایت بخش‌های بزرگ‌تری از کار خود را برای بسیاری از وظایف تحلیل و پیش‌بینی خودکار خواهند کرد. برای این اتفاق، وظایف باید به‌خوبی تعریف شده باشند و فرآیندها و رویه‌هایی پیرامون آن‌ها وجود داشته باشد. امروز این رویه‌ها و فرآیندها وجود ندارند، اما دانشمندان داده و همکاران در حال کار روی آن‌ها هستند. با تبدیل شدن یادگیری ماشین به بخش جدایی‌ناپذیر بسیاری از صنایع و مؤسسات، بسیاری از این وظایف خودکار خواهند شد.

ربات‌ها و برنامه‌ها خودشان را توضیح خواهند داد.

به رابط‌های کاربری شهودی‌تری با ماشین‌ها و برنامه‌هایی نیاز داریم که به‌شدت از یادگیری ماشین بهره می‌برند. چند نمونه: یک خودرو خودران که توضیح می‌دهد چرا ناگهان ترمز کرد («احتمال ۷۰٪ که یک کودک از خیابان رد شود»)؛ یک برنامه‌ی نکول اعتباری که به کارمند بانک توضیح می‌دهد چرا یک درخواست وام رد شد («متقاضی کارت اعتباری بیش از حد دارد و در شغلی ناپایدار مشغول به کار است»)؛ یک بازوی رباتیک که توضیح می‌دهد چرا قطعه را از نوار نقاله به داخل سطل آشغال انداخت («قطعه در قسمت پایین ترک دارد»).

در پایان، همه اینها گمانه‌زنی است و باید دید آینده واقعاً چه می‌آورد. نظر خودتان را شکل دهید و به یادگیری ادامه دهید!