فصل ۳۴: آیندهٔ تفسیرپذیری
عنوان اصلی: The Future of Interpretability
منبع: https://christophm.github.io/interpretable-ml-book/future.html
نویسنده: Christoph Molnar
مترجم: مریم محمودی
آیندهٔ یادگیری ماشین تفسیرپذیر چیست؟ این فصل یک تمرین ذهنی تأملی و حدس ذهنی دربارهٔ چگونگی توسعهٔ یادگیری ماشین تفسیرپذیر است.
گمانهزنیهایم را بر سه پیشفرض بنا کردهام:
- دیجیتالسازی: هر اطلاعات (جالب) دیجیتال خواهد شد. به پول الکترونیکی و تراکنشهای آنلاین فکر کنید. به کتابهای الکترونیکی، موسیقی و ویدیوها فکر کنید. به همهٔ دادههای حسگری دربارهٔ محیطمان، رفتار انسانیمان، فرایندهای تولید صنعتی و مانند آنها فکر کنید. محرکهای دیجیتالسازی همهچیز عبارتاند از: رایانهها/حسگرها/ذخیرهسازی ارزان، اثرهای مقیاس (برنده همهچیز را میبرد)، مدلهای کسبوکار جدید، زنجیرههای ارزش ماژولار، فشار هزینه و بسیار چیزهای دیگر.
- خودکارسازی: وقتی کاری قابلخودکارسازی باشد و هزینهٔ خودکارسازی کمتر از هزینهٔ انجام آن کار در گذر زمان باشد، آن کار خودکار خواهد شد. حتی پیش از معرفی رایانه هم درجهای از خودکارسازی داشتیم. برای مثال، ماشین بافندگی بافتن را خودکار کرد یا ماشین بخار اسببخار را. اما رایانهها و دیجیتالسازی خودکارسازی را به سطح بعدی میبرند. همین واقعیت که میتوانید حلقههای for برنامهنویسی کنید، ماکروهای اکسل بنویسید، پاسخهای ایمیل را خودکار کنید و مانند آن، نشان میدهد یک فرد چقدر میتواند خودکار کند. دستگاههای بلیت خرید بلیت قطار را خودکار میکنند (دیگر صندوقدار لازم نیست)، ماشینهای لباسشویی شستوشوی لباس را خودکار میکنند، دستور پرداختهای ثابت (standing orders) تراکنشهای پرداخت را خودکار میکنند و مانند آن. خودکارسازی وظایف زمان و پول آزاد میکند، پس انگیزهٔ اقتصادی و شخصی عظیمی برای خودکارکردن چیزها هست. اکنون شاهد خودکارسازی ترجمهٔ زبان، رانندگی و، تا حد کمی، حتی کشف علمی هستیم.
- مشخصات نادرست: نمیتوانیم یک هدف را با همهٔ قیدهایش کاملاً مشخص کنیم. غول چراغ جادو را در نظر بگیرید که همیشه آرزوهایتان را تحتاللفظی میگیرد: «میخواهم ثروتمندترین فرد جهان باشم!» -> ثروتمندترین فرد میشوید، اما بهعنوان اثر جانبی، پولی که دارید به دلیل تورم سقوط میکند.
«میخواهم تا آخر عمر شاد باشم!» -> پنج دقیقهٔ بعد بسیار شادید، سپس غول شما را میکشد.
«صلح جهانی میخواهم!» -> غول همهٔ انسانها را میکشد.
ما اهداف را نادرست مشخص میکنیم، یا چون همهٔ قیدها را نمیدانیم یا چون نمیتوانیم آنها را اندازه بگیریم. شرکتها را بهعنوان مثالی از مشخصات ناقص هدف در نظر بگیریم. یک شرکت هدف سادهای دارد: کسب پول برای سهامداران. اما این مشخصات هدف واقعی را با همهٔ قیدهایی که واقعاً دنبالشان هستیم نمیگیرد: برای مثال، از شرکتی که برای پولدرآوردن آدم میکشد، رودخانهها را مسموم میکند یا صرفاً پول خودش را چاپ میکند قدردانی نمیکنیم. قوانین، مقررات، تحریمها، رویههای انطباق (compliance)، اتحادیههای کارگری و بیشتر را ابداع کردهایم تا مشخصات ناقص هدف را وصلهپینه کنیم. مثال دیگری که خودتان میتوانید تجربهاش کنید Paperclips است، بازیای که در آن نقش ماشینی را بازی میکنید با هدف تولید حداکثر ممکن گیرهٔ کاغذ. هشدار: اعتیادآور است. نمیخواهم زیاد لو بدهم، اما بگذارید بگویم اوضاع واقعاً سریع از کنترل خارج میشود. در یادگیری ماشین، نقصها در مشخصات هدف از انتزاعهای ناقص داده (جمعیتهای سوگیرانه، خطاهای اندازهگیری، …)، توابع زیان بیقید، نبود دانش دربارهٔ قیدها، جابهجایی توزیع بین دادههای آموزش و کاربرد و بسیار چیزهای دیگر ناشی میشوند.
توضیح مترجم: «مشخصات نادرست» (misspecification) یعنی هدفی که به مدل یا ماشین میدهیم با هدف واقعی ما یکی نیست، چون قیدها یا ارزشهای ضمنی را نمیتوانیم کامل بنویسیم. مثال غول چراغ جادو همین را نشان میدهد: غول دقیقاً چیزی را اجرا میکند که گفتهایم، نه چیزی را که منظورمان بود. «تابع زیان بیقید» یعنی مدل فقط یک عدد (خطا) را کمینه میکند و به هیچ قید دیگری (مثلاً انصاف یا ایمنی) توجه ندارد. «جابهجایی توزیع» یعنی دادههایی که مدل در عمل میبیند با دادههای آموزشی فرق دارند.
دیجیتالسازی خودکارسازی را پیش میراند. مشخصات ناقص هدف با خودکارسازی در تضاد است. ادعا میکنم این تضاد تا حدی با روشهای تفسیر میانجیگری میشود.
صحنهٔ پیشبینیهایمان آماده شده، گوی بلورین مهیاست، اکنون میبینیم حوزه ممکن است به کجا برود!
آیندهٔ یادگیری ماشین
بدون یادگیری ماشین، یادگیری ماشین تفسیرپذیر نمیتواند وجود داشته باشد. بنابراین پیش از صحبت دربارهٔ تفسیرپذیری باید حدس بزنیم یادگیری ماشین به کجا میرود.
یادگیری ماشین (یا «هوش مصنوعی») با وعدهها و انتظارات بسیاری همراه است. اما بیایید با یک مشاهدهٔ کمتر خوشبینانه شروع کنیم: در حالی که علم ابزارهای یادگیری ماشین پرزرقوبرق بسیاری توسعه میدهد، بر پایهٔ تجربهام ادغام آنها در فرایندها و محصولات موجود کاملاً دشوار است. نه چون ممکن نیست، بلکه صرفاً چون زمان میبرد تا شرکتها و مؤسسهها خود را برسانند. در هجوم طلای اوج هیاهوی هوش مصنوعی فعلی، شرکتها «آزمایشگاههای هوش مصنوعی»، «واحدهای یادگیری ماشین» باز میکنند و «دانشمندان داده»، «متخصصان یادگیری ماشین»، «مهندسان هوش مصنوعی» و مانند آن استخدام میکنند، اما واقعیت، بر پایهٔ تجربهام، بسیار ناامیدکننده است. اغلب شرکتها حتی داده را به شکل موردنیاز ندارند و دانشمندان داده ماهها بیکار منتظر میمانند. گاهی شرکتها بهخاطر رسانهها چنان انتظارات بالایی از هوش مصنوعی و علم داده دارند که دانشمندان داده هرگز نمیتوانند برآوردهشان کنند. و اغلب هیچکس نمیداند چگونه دانشمندان داده را در ساختارهای موجود جا بدهد و بسیار مشکلات دیگر. این به پیشبینی اول من میانجامد.
یادگیری ماشین آرام اما پیوسته بزرگ خواهد شد.
دیجیتالسازی در حال پیشروی است و وسوسهٔ خودکارسازی پیوسته میکشد. حتی اگر مسیر پذیرش یادگیری ماشین آهسته و سنگلاخی باشد، یادگیری ماشین پیوسته از علم به فرایندهای کسبوکار، محصولات و کاربردهای دنیای واقعی میرود.
باور دارم باید بهتر به غیرمتخصصان توضیح دهیم چه نوع مسئلههایی را میتوان بهصورت مسئلهٔ یادگیری ماشین فرمولبندی کرد. دانشمندان دادهای با حقوق بالا میشناسم که بهجای بهکاربردن یادگیری ماشین محاسبات اکسل یا هوش تجاری کلاسیک با گزارشدهی و پرسوجوهای SQL انجام میدهند. اما چند شرکت از پیش با موفقیت از یادگیری ماشین استفاده میکنند، با شرکتهای بزرگ اینترنتی در پیشانی. باید راههای بهتری برای ادغام یادگیری ماشین در فرایندها و محصولات بیابیم، مردم را آموزش دهیم و ابزارهای یادگیری ماشین آساناستفاده توسعه دهیم. باور دارم استفاده از یادگیری ماشین بسیار آسانتر خواهد شد: همین حالا میبینیم یادگیری ماشین در دسترستر میشود، مثلاً از راه خدمات ابری («یادگیری ماشین بهعنوان سرویس» – فقط برای پرتاب چند واژهٔ پرطمطراق). وقتی یادگیری ماشین به بلوغ برسد – و این نوپا از پیش اولین قدمهایش را برداشته – پیشبینی بعدی من این است:
یادگیری ماشین بسیاری چیزها را سوخترسانی خواهد کرد.
بر پایهٔ اصل «هرچه قابل خودکارسازی باشد خودکار خواهد شد»، نتیجه میگیرم که هرگاه ممکن باشد، وظایف بهصورت مسئلههای پیشبینی فرمولبندی و با یادگیری ماشین حل میشوند. یادگیری ماشین نوعی خودکارسازی است یا دستکم میتواند بخشی از آن باشد. بسیاری از وظایفی که اکنون انسانها انجام میدهند با یادگیری ماشین جایگزین میشوند. در اینجا چند مثال از وظایفی آمده که در آنها از یادگیری ماشین برای خودکارسازی بخشی از آن استفاده میشود:
- مرتبسازی / تصمیمگیری / تکمیل اسناد (مثلاً در شرکتهای بیمه، بخش حقوقی یا شرکتهای مشاوره)
- تصمیمهای دادهمحور مانند درخواستهای اعتبار
- کشف دارو
- کنترلهای کیفیت در خطوط مونتاژ
- خودروهای خودران
- تشخیص بیماریها
- ترجمه. برای این کتاب، از یک سرویس ترجمه به نام (DeepL) استفاده کردم که با شبکههای عصبی عمیق کار میکند تا جملههایم را با ترجمه از انگلیسی به آلمانی و دوباره به انگلیسی بهبود دهم.
- …
موفقیت یادگیری ماشین فقط با رایانههای بهتر / دادههای بیشتر / نرمافزار بهتر به دست نمیآید، بلکه:
ابزارهای تفسیرپذیری پذیرش یادگیری ماشین را کاتالیز میکنند.
بر پایهٔ این پیشفرض که هدف یک مدل یادگیری ماشین هرگز نمیتواند کاملاً مشخص شود، نتیجه میشود که یادگیری ماشین تفسیرپذیر برای بستن شکاف بین هدف نادرستمشخصشده و هدف واقعی ضروری است. در بسیاری از حوزهها و بخشها، تفسیرپذیری کاتالیزور پذیرش یادگیری ماشین خواهد بود. چند شاهد حکایتی: بسیاری از افرادی که با آنها صحبت کردهام از یادگیری ماشین استفاده نمیکنند چون نمیتوانند مدلها را برای دیگران توضیح دهند. باور دارم تفسیرپذیری این مسئله را برطرف میکند و یادگیری ماشین را برای سازمانها و افرادی که کمی شفافیت میخواهند جذاب میکند. افزون بر مشخصات نادرست مسئله، بسیاری از صنایع تفسیرپذیری میخواهند، چه به دلایل قانونی، چه به دلیل ریسکگریزی یا برای بهدستآوردن بینش دربارهٔ وظیفهٔ زیربنایی. یادگیری ماشین فرایند مدلسازی را خودکار میکند و انسان را کمی از داده و وظیفهٔ زیربنایی دورتر میکند: این خطر مشکلات در طراحی آزمایش، انتخاب توزیع آموزشی، نمونهگیری، کدگذاری داده، مهندسی ویژگی و مانند آن را افزایش میدهد. ابزارهای تفسیر شناسایی این مشکلات را آسانتر میکنند.
توضیح مترجم: متن منبع میگوید برای نوشتن کتاب از DeepL برای بهبود جملهها (ترجمهٔ رفتوبرگشتی انگلیسی-آلمانی-انگلیسی) استفاده شده است. این ادعای نویسندهٔ کتاب دربارهٔ نوشتن متن انگلیسی است و دربارهٔ این ترجمهٔ فارسی نیست. «کاتالیزور» یعنی عاملی که یک فرایند را سریعتر میکند؛ در اینجا یعنی تفسیرپذیری مانع اعتماد را برمیدارد و پذیرش را تسریع میکند.
آیندهٔ تفسیرپذیری
نگاهی به آیندهٔ ممکن تفسیرپذیری یادگیری ماشین بیندازیم.
تمرکز بر ابزارهای تفسیرپذیری مستقل از مدل خواهد بود.
وقتی تفسیرپذیری از مدل یادگیری ماشین زیربنایی جدا باشد، خودکارکردنش بسیار آسانتر است. مزیت تفسیرپذیری مستقل از مدل در ماژولار بودن آن است. میتوانیم مدل یادگیری ماشین زیربنایی را بهآسانی عوض کنیم. به همان آسانی میتوانیم روش تفسیر را عوض کنیم. به این دلایل، روشهای مستقل از مدل بسیار بهتر مقیاس میگیرند. به همین دلیل باور دارم روشهای مستقل از مدل در بلندمدت غالبتر میشوند. اما روشهای ذاتاً تفسیرپذیر هم جایگاه خود را خواهند داشت.
یادگیری ماشین خودکار خواهد شد و همراه آن تفسیرپذیری.
یک روند که از پیش دیده میشود خودکارسازی آموزش مدل است. این شامل مهندسی و انتخاب خودکار ویژگیها، بهینهسازی خودکار ابرپارامترها، مقایسهٔ مدلهای مختلف و گروهسازی (ensembling) یا انباشتن (stacking) مدلهاست. نتیجه بهترین مدل پیشبینی ممکن است. وقتی از روشهای تفسیر مستقل از مدل استفاده میکنیم، میتوانیم آنها را بهطور خودکار روی هر مدلی که از فرایند یادگیری ماشین خودکار برمیآید اعمال کنیم. بهنوعی، میتوانیم این گام دوم را هم خودکار کنیم: اهمیت ویژگی را خودکار حساب کنیم، وابستگی جزئی را رسم کنیم، یک مدل جانشین آموزش دهیم و مانند آن. هیچکس جلوی شما را نمیگیرد که همهٔ این تفسیرهای مدل را خودکار محاسبه کنید. تفسیر واقعی هنوز به انسانها نیاز دارد. تصور کنید: مجموعهدادهای بارگذاری میکنید، هدف پیشبینی را مشخص میکنید و با فشردن یک دکمه بهترین مدل پیشبینی آموزش میبیند و برنامه همهٔ تفسیرهای مدل را بیرون میدهد. از پیش نخستین محصولات هست و استدلال میکنم که برای بسیاری از کاربردها استفاده از این خدمات یادگیری ماشین خودکار کافی خواهد بود. امروز هر کسی میتواند بدون دانستن HTML، CSS و جاوااسکریپت وبسایت بسازد، اما هنوز توسعهدهندگان وب بسیاری هستند. بهطور مشابه، باور دارم همه خواهند توانست بدون دانستن برنامهنویسی مدلهای یادگیری ماشین آموزش دهند و باز هم به متخصصان یادگیری ماشین نیاز خواهد بود.
برای درک بهتر (توضیح مترجم): فرض کنید فایل داده فروش یک فروشگاه را در یک سرویس «یادگیری ماشین خودکار» بارگذاری میکنید و ستون «فروش ماه بعد» را هدف میدهید. سرویس خودش ویژگیها را انتخاب میکند، چند مدل را امتحان میکند، بهترین را نگه میدارد و بعد خودکار نمودار اهمیت ویژگیها و نمودار وابستگی جزئی را هم میسازد. شما بدون یک خط کد گزارش را میبینید؛ اما معنای گزارش (مثلاً اینکه آیا «تبلیغات» واقعاً علت فروش است یا فقط همبسته) را باید یک انسان تفسیر کند. این مثال از مترجم است.
ما داده را تحلیل نمیکنیم، مدلها را تحلیل میکنیم.
خود داده خام همیشه بیفایده است. (عمداً اغراق میکنم. واقعیت این است که برای انجام تحلیلی معنادار به فهم عمیقی از داده نیاز دارید.) من به داده اهمیت نمیدهم؛ به دانش نهفته در داده اهمیت میدهم. یادگیری ماشین تفسیرپذیر راه عالیای برای تقطیر دانش از داده است. میتوانید مدل را بهطور گسترده بکاوید، مدل خودکار تشخیص میدهد آیا و چگونه ویژگیها برای پیشبینی مرتبطاند (بسیاری مدلها انتخاب ویژگی درونی دارند)، مدل میتواند خودکار تشخیص دهد روابط چگونه نمایش داده میشوند، و – اگر درست آموزش دیده باشد – مدل نهایی تقریب بسیار خوبی از واقعیت است.
بسیاری از ابزارهای تحلیلی از پیش بر مدلهای داده استوارند (چون بر فرضهای توزیعی مبتنیاند):
- آزمونهای فرضیهٔ ساده مانند آزمون t استیودنت.
- آزمونهای فرضیه با تعدیل برای متغیرهای مخدوشگر (معمولاً GLMها)
- تحلیل واریانس (ANOVA)
- ضریب همبستگی (ضریب رگرسیون خطی استانداردشده با ضریب همبستگی پیرسون مرتبط است)
- …
آنچه اینجا به شما میگویم در واقع هیچ چیز جدیدی نیست. پس چرا از تحلیل مدلهای شفاف مبتنی بر فرض به تحلیل مدلهای جعبهسیاه بدون فرض میرویم؟ چون ایجاد همهٔ این فرضها مشکلساز است: معمولاً نادرستاند (مگر باور داشته باشید بیشتر جهان از توزیع گاوسی پیروی میکند)، بررسیشان دشوار است، بسیار انعطافناپذیرند و خودکارکردنشان سخت است. در بسیاری از حوزهها، مدلهای مبتنی بر فرض معمولاً روی دادههای آزمون دستنخورده عملکرد پیشبینی بدتری از مدلهای یادگیری ماشین جعبهسیاه دارند. این فقط برای مجموعهدادههای بزرگ درست است، چون مدلهای تفسیرپذیر با فرضهای خوب اغلب با مجموعهدادههای کوچک بهتر از مدلهای جعبهسیاه عمل میکنند. رویکرد یادگیری ماشین جعبهسیاه برای خوبکارکردن به دادههای بسیار نیاز دارد. با دیجیتالسازی همهچیز، مجموعهدادههای بزرگتر و بزرگتری خواهیم داشت و بنابراین رویکرد یادگیری ماشین جذابتر میشود. ما فرض نمیکنیم، واقعیت را تا حد ممکن نزدیک تقریب میزنیم (در حالی که از بیشبرازش دادههای آموزشی پرهیز میکنیم). استدلال میکنم باید همهٔ ابزارهایی را که در آمار برای پاسخدادن به پرسشها داریم (آزمونهای فرضیه، معیارهای همبستگی، معیارهای برهمکنش، ابزارهای تجسم، بازههای اطمینان، مقدارهای p، بازههای پیشبینی، توزیعهای احتمال) توسعه دهیم و برای مدلهای جعبهسیاه بازنویسی کنیم. بهنوعی، این از پیش در حال رخدادن است:
- یک مدل خطی کلاسیک را در نظر بگیریم: ضریب رگرسیون استانداردشده از پیش یک معیار اهمیت ویژگی است. با معیار اهمیت ویژگی جایگشتی ابزاری داریم که با هر مدلی کار میکند.
- در یک مدل خطی، ضرایب اثر یک ویژگی منفرد را بر نتیجهٔ پیشبینیشده میسنجند. نسخهٔ تعمیمیافتهٔ آن نمودار وابستگی جزئی است.
- آزمودن اینکه A بهتر است یا B: برای این هم میتوانیم از توابع وابستگی جزئی استفاده کنیم. آنچه هنوز نداریم (تا آنجا که میدانم) آزمونهای آماری برای مدلهای جعبهسیاه دلخواه است.
توضیح مترجم: «مدل مبتنی بر فرض» (assumption-based) مدلی مانند رگرسیون خطی یا آزمون t است که فرضهایی دربارهٔ توزیع داده (مثلاً گاوسیبودن) دارد و اگر فرضها برقرار نباشند نتایجش قابلاتکا نیست. «مدل جعبهسیاه بدون فرض» مثل جنگل تصادفی یا شبکهٔ عصبی چنین فرضهایی ندارد، اما برای تفسیرش به روشهای این کتاب (اهمیت ویژگی، وابستگی جزئی و …) نیاز داریم. اینکه آزمونهای آماری برای مدلهای دلخواه «هنوز نداریم» ادعای نویسنده است و به زمان نگارش کتاب برمیگردد.
دانشمندان داده خودشان را خودکار خواهند کرد.
باور دارم دانشمندان داده سرانجام برای بسیاری از وظایف تحلیل و پیشبینی بخشهای بزرگتری از کارشان را خودکار میکنند. برای رخدادن این، وظایف باید خوبتعریفشده باشند و باید فرایندها و روالهایی پیرامون آنها وجود داشته باشد. امروز این روالها و فرایندها کماند، اما دانشمندان داده و همکاران در حال کار روی آنها هستند. با تبدیلشدن یادگیری ماشین به بخش جداییناپذیر بسیاری از صنایع و مؤسسهها، بسیاری از وظایف خودکار خواهند شد.
رباتها و برنامهها خودشان را توضیح خواهند داد.
به رابطهای شهودیتر برای ماشینها و برنامههایی که شدیداً از یادگیری ماشین استفاده میکنند نیاز داریم. چند مثال: خودروی خودرانی که گزارش میدهد چرا ناگهان ایستاده («۷۰٪ احتمال اینکه بچهای از جاده عبور کند»)؛ برنامهٔ نکول اعتبار که به کارمند بانک توضیح میدهد چرا درخواست اعتبار رد شد («متقاضی کارتهای اعتباری بسیار دارد و در شغل ناپایداری مشغول است.»)؛ بازوی رباتی که توضیح میدهد چرا کالا را از نوار نقاله به سطل زباله منتقل کرد («کالا در پایین ترک دارد.»).
توضیح مترجم: در متن منبع «a craze at the bottom» آمده است؛ در اینجا «craze» به معنای ترکهای ریز سطحی روی شیء (مثلاً سرامیک یا شیشه) است و «ترک» ترجمه شد.
در پایان، همهاش گمانهزنی است و باید ببینیم آینده واقعاً چه میآورد. نظر خودتان را شکل دهید و به یادگیری ادامه دهید!