Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

فصل ۲۶: پروتوتایپ‌ها و انتقادها

عنوان اصلی: Prototypes and Criticisms
منبع: https://christophm.github.io/interpretable-ml-book/proto.html
نویسنده: Christoph Molnar
مترجم: مریم محمودی


پروتوتایپ (prototype) یک نمونهٔ داده است که نماینده همهٔ داده‌هاست. انتقاد (criticism) یک نمونهٔ داده است که مجموعهٔ پروتوتایپ‌ها آن را به‌خوبی نمایندگی نمی‌کند. هدف انتقادها این است که همراه پروتوتایپ‌ها بینش بدهند، به‌ویژه برای نقاط داده‌ای که پروتوتایپ‌ها به‌خوبی نمایندگی‌شان نمی‌کنند. پروتوتایپ‌ها و انتقادها را می‌توان مستقل از یک مدل یادگیری ماشین برای توصیف داده‌ها به کار برد، اما می‌توان از آن‌ها برای ساختن یک مدل تفسیرپذیر یا تفسیرپذیر کردن یک مدل جعبه‌سیاه هم استفاده کرد.

توضیح مترجم: «پروتوتایپ» (نمونهٔ نماینده) و «انتقاد» (criticism؛ نمونهٔ ناهنجار یا دور از نمایندگان) در این فصل هر دو نمونه‌هایی واقعی از مجموعه‌دادهٔ شما هستند، نه نقاط ساختگی یا میانگین‌ها. «جعبه‌سیاه» مدلی است که سازوکار درونی‌اش را مستقیم نمی‌توان خواند. در متن فارسی از هر دو واژه به‌صورت «پروتوتایپ» و «انتقاد» استفاده می‌شود.

در این فصل، از عبارت «نقطهٔ داده» (data point) برای اشاره به یک نمونه استفاده می‌کنم، تا بر این تعبیر تأکید کنم که یک نمونه همچنین نقطه‌ای در یک دستگاه مختصات است که در آن هر ویژگی یک بُعد است. شکل ۲۶.۱ یک توزیع داده شبیه‌سازی‌شده را نشان می‌دهد که برخی از نمونه‌ها به‌عنوان پروتوتایپ و برخی به‌عنوان انتقاد انتخاب شده‌اند. نقطه‌های کوچک داده‌اند، نقطه‌های بزرگ انتقادها هستند و مربع‌های بزرگ پروتوتایپ‌ها. پروتوتایپ‌ها (به‌صورت دستی) در این مورد طوری انتخاب شده‌اند که مرکزهای توزیع داده را پوشش دهند، و انتقادها نقاطی در یک خوشه بدون پروتوتایپ هستند. پروتوتایپ‌ها و انتقادها همیشه نمونه‌های واقعی از داده‌ها هستند.

توضیح مترجم (متن داخل تصویر): محور افقی $X_1$ و محور عمودی $X_2$ است. راهنمای type (نوع) دو نماد را نشان می‌دهد: prototype (پروتوتایپ، لوزی آبی) و criticism (انتقاد، دایرهٔ آبی). سه پروتوتایپ مرکز سه خوشهٔ اصلی را نشان می‌دهند (حدود $(2.1, 2.1)$، $(3.0, 2.7)$ و $(4.1, 1.0)$) و دو انتقاد (حدود $(3.0, 5.3)$ و $(4.1, 2.5)$) در نواحی بدون پروتوتایپ نزدیک‌اند. توجه: در متن منبع نماد پروتوتایپ مربع خوانده شده، اما در تصویر لوزی است. نوشته‌های انگلیسی تصویر بدون تغییر ماندند.

من پروتوتایپ‌ها را دستی انتخاب کردم، که مقیاس‌پذیر نیست و احتمالاً به نتایج ضعیفی می‌انجامد. رویکردهای زیادی برای یافتن پروتوتایپ‌ها در داده‌ها وجود دارد. یکی از آن‌ها k-medoids است، یک الگوریتم خوشه‌بندی مرتبط با الگوریتم k-means. هر الگوریتم خوشه‌بندی که نقاط داده واقعی را به‌عنوان مرکز خوشه برگرداند برای انتخاب پروتوتایپ‌ها شرایط لازم را دارد. اما بیشتر این روش‌ها فقط پروتوتایپ پیدا می‌کنند، نه انتقاد. این فصل MMD-critic از Kim و همکاران (۲۰۱۶) را ارائه می‌دهد، رویکردی که پروتوتایپ‌ها و انتقادها را در یک چارچوب واحد ترکیب می‌کند.

MMD-critic توزیع داده‌ها و توزیع پروتوتایپ‌های انتخاب‌شده را مقایسه می‌کند. این مفهوم مرکزی برای فهمیدن روش MMD-critic است. MMD-critic پروتوتایپ‌هایی را انتخاب می‌کند که اختلاف میان این دو توزیع را کمینه کنند. نقاط داده در ناحیه‌هایی با چگالی بالا پروتوتایپ‌های خوبی هستند، به‌ویژه وقتی نقاط از «خوشه‌های داده» مختلف انتخاب شوند. نقاط داده از ناحیه‌هایی که پروتوتایپ‌ها به‌خوبی توضیحشان نمی‌دهند به‌عنوان انتقاد انتخاب می‌شوند.

برای درک بهتر (توضیح مترجم): یک مثال ساده: ۱۰۰۰ مشتری فروشگاه را در نظر بگیرید. «پروتوتایپ» می‌تواند مشتری معمولیِ هر گروه باشد (مثلاً دانشجوی خریدار لوازم‌التحریر، مادر خریدار مواد غذایی). «انتقاد» مشتری غیرمعمولی است که هیچ‌کدام از این نمایندگان او را توصیف نمی‌کنند (مثلاً فردی که فقط ابزار آزمایشگاهی می‌خرد). با دیدن هر دو، می‌دانید داده‌ها چه الگوی کلی دارند و چه استثناهایی پنهان است.

نظریه

رویهٔ MMD-critic را در سطحی بالا می‌توان کوتاه خلاصه کرد:

  1. تعداد پروتوتایپ‌ها و انتقادهایی را که می‌خواهید بیابید انتخاب کنید.
  2. پروتوتایپ‌ها را با جست‌وجوی حریصانه (greedy search) بیابید. پروتوتایپ‌ها طوری انتخاب می‌شوند که توزیع پروتوتایپ‌ها به توزیع داده نزدیک باشد.
  3. انتقادها را با جست‌وجوی حریصانه بیابید. نقاطی به‌عنوان انتقاد انتخاب می‌شوند که توزیع پروتوتایپ‌ها در آن‌ها با توزیع داده فرق دارد.

برای یافتن پروتوتایپ‌ها و انتقادهای یک مجموعه‌داده با MMD-critic به چند جزء نیاز داریم. به‌عنوان پایه‌ای‌ترین جزء، به یک تابع هسته (kernel function) برای تخمین چگالی داده‌ها نیاز داریم. هسته تابعی است که دو نقطهٔ داده را بر پایهٔ نزدیکی‌شان وزن می‌دهد. بر پایهٔ تخمین‌های چگالی، به معیاری نیاز داریم که به ما بگوید دو توزیع چقدر با هم فرق دارند، تا بتوانیم تعیین کنیم آیا توزیع پروتوتایپ‌هایی که انتخاب می‌کنیم به توزیع داده نزدیک است. این با اندازه‌گیری بیشینهٔ اختلاف میانگین (maximum mean discrepancy؛ MMD) حل می‌شود. همچنین، بر پایهٔ تابع هسته، به تابع شاهد (witness function) نیاز داریم که به ما بگوید دو توزیع در یک نقطهٔ داده معین چقدر با هم فرق دارند. با تابع شاهد می‌توانیم انتقادها را انتخاب کنیم، یعنی نقاط داده‌ای که توزیع پروتوتایپ‌ها و داده در آن‌ها از هم دور می‌شود و تابع شاهد مقادیر قدر مطلق بزرگی می‌گیرد. آخرین جزء یک راهبرد جست‌وجو برای پروتوتایپ‌ها و انتقادهای خوب است، که با یک جست‌وجوی حریصانه ساده حل می‌شود.

توضیح مترجم: «جست‌وجوی حریصانه» یعنی در هر گام بهترین انتخاب فعلی را برمی‌داریم و به گام‌های بعد فکر نمی‌کنیم؛ راه‌حل نهایی لزوماً بهینهٔ سراسری نیست. «هسته» (kernel) در این فصل به معنای تابع شباهت است، نه هستهٔ سیستم‌عامل یا هستهٔ شبکهٔ کانولوشنی. «تابع شاهد» در منبع به‌عنوان نام یک تابع می‌آید و ترجمهٔ تحت‌اللفظی witness function است.

بیایید با بیشینهٔ اختلاف میانگین (MMD) شروع کنیم، که اختلاف میان دو توزیع را اندازه می‌گیرد. انتخاب پروتوتایپ‌ها یک توزیع چگالی از پروتوتایپ‌ها می‌سازد. می‌خواهیم ارزیابی کنیم آیا توزیع پروتوتایپ‌ها با توزیع داده فرق دارد. هر دو را با توابع چگالی هسته‌ای تخمین می‌زنیم. بیشینهٔ اختلاف میانگین تفاوت میان دو توزیع را اندازه می‌گیرد، که برابر سوپریمم (supremum) روی یک فضای تابعی از اختلاف‌های امید ریاضی بر پایهٔ دو توزیع است. همه‌چیز روشن است؟ شخصاً این مفاهیم را وقتی می‌فهمم که ببینم چیزی با داده چگونه محاسبه می‌شود. فرمول زیر نشان می‌دهد معیار MMD مجذور (MMD2) چگونه محاسبه می‌شود:

$$\text{MMD}^2 = \frac{1}{m^2} \sum_{i,j=1}^m k(\mathbf{z}_i, \mathbf{z}_j) - \frac{2}{mn} \sum_{i=1}^m \sum_{j=1}^n k(\mathbf{z}_i, \mathbf{x}_j) + \frac{1}{n^2} \sum_{i,j=1}^n k(\mathbf{x}_i, \mathbf{x}_j)$$

$k$ یک تابع هسته است که شباهت دو نقطه را اندازه می‌گیرد، اما دربارهٔ آن بعداً بیشتر می‌گویم. $m$ تعداد پروتوتایپ‌های $\mathbf{z}$ است و $n$ تعداد نقاط داده $\mathbf{x}$ در مجموعه‌دادهٔ اصلی ما. پروتوتایپ‌های $\mathbf{z}$ زیرمجموعه‌ای از نقاط داده $\mathbf{x}$ هستند. هر نقطه چندبعدی است، یعنی می‌تواند چند ویژگی داشته باشد. هدف MMD-critic کمینه‌کردن $\text{MMD}^2$ است. هرچه $\text{MMD}^2$ به صفر نزدیک‌تر باشد، توزیع پروتوتایپ‌ها بهتر با داده می‌خواند. کلید پایین‌آوردن $\text{MMD}^2$ تا صفر جملهٔ میانی است، که میانگین نزدیکی میان پروتوتایپ‌ها و همهٔ نقاط داده دیگر را (ضرب‌شده در ۲) محاسبه می‌کند. اگر این جمله با جملهٔ اول (میانگین نزدیکی پروتوتایپ‌ها به یکدیگر) به‌اضافهٔ جملهٔ آخر (میانگین نزدیکی نقاط داده به یکدیگر) برابر شود، پروتوتایپ‌ها داده را کاملاً توضیح می‌دهند. امتحان کنید اگر هر $n$ نقطهٔ داده را پروتوتایپ بگیرید چه بر سر فرمول می‌آید.

توضیح مترجم: پاسخ به تمرین نویسنده: اگر $m = n$ و $\mathbf{z}_i = \mathbf{x}_i$ باشد، هر سه جمله برابر $\frac{1}{n^2}\sum_{i,j} k(\mathbf{x}_i, \mathbf{x}_j)$ می‌شوند و $\text{MMD}^2 = A - 2A + A = 0$؛ پس انتخاب همهٔ نقاط به‌عنوان پروتوتایپ تقریب را کامل می‌کند، اما هدف معنا ندارد چون دیگر خلاصه‌سازی نکرده‌ایم. در منبع واژهٔ «supremum» (کوچک‌ترین کران بالا) توضیح داده نشده؛ در اینجا یعنی بیشینه‌ای که روی همهٔ توابع یک فضای تابعی گرفته می‌شود.

برای درک بهتر (توضیح مترجم): فرض کنید فقط ۳ نقطهٔ داده در یک بُعد داریم، $x = (0, 1, 5)$، و یک پروتوتایپ $z = 1$ ($m = 1$). هستهٔ ساده: $k = 1$ اگر دو نقطه برابر باشند و در غیر این صورت ۰ (فقط برای مثال). جملهٔ اول: $k(z, z) = 1$. جملهٔ میانی: $\frac{2}{1\cdot3}\sum_j k(z, x_j) = \frac{2}{3}\cdot 1 = 0.667$ (فقط $x_2 = 1$ برابر $z$ است). جملهٔ آخر: $\frac{1}{9}\sum_{i,j} k(x_i, x_j) = \frac{3}{9} = 0.333$ (فقط سه جفت $i=j$ برابرند). پس $\text{MMD}^2 = 1 - 0.667 + 0.333 = 0.667$. اگر هر سه نقطه پروتوتایپ بودند: $\frac{3}{9} - \frac{2\cdot3}{9} + \frac{3}{9} = 0$. (هستهٔ ۰/۱ ساده‌شده است و به‌جای هستهٔ پیوستهٔ فصل به کار رفته؛ اعداد فقط برای نشان‌دادن ساز و کار فرمول‌اند.)

شکل ۲۶.۲ معیار $\text{MMD}^2$ را نشان می‌دهد. نمودار اول نقاط داده با دو ویژگی را نشان می‌دهد، که در آن تخمین چگالی داده‌ها با پس‌زمینهٔ سایه‌دار نمایش داده شده است. هر یک از نمودارهای دیگر انتخاب‌های متفاوتی از پروتوتایپ‌ها را همراه با معیار $\text{MMD}^2$ در عنوان نمودار نشان می‌دهد. پروتوتایپ‌ها نقطه‌های بزرگ‌اند و توزیعشان با خطوط تراز نشان داده شده است. انتخاب پروتوتایپ‌هایی که در این سناریوها داده را بهترین پوشش می‌دهد (پایین-چپ) کمترین مقدار اختلاف را دارد.

توضیح مترجم (متن داخل تصویر): چهار نمودار در شبکهٔ ۲×۲ با محور افقی $X_1$ و محور عمودی $X_2$. بالا-چپ: فقط نقاط داده (سیاه) روی پس‌زمینهٔ تخمین چگالی بنفش (بنفش پررنگ‌تر یعنی چگالی بیشتر)؛ این نمودار عنوان ندارد. بالا-راست: سه پروتوتایپ قرمز (دو در خوشهٔ چپ و یکی در خوشهٔ میانی) با عنوان 0.316 MMD2. پایین-چپ: سه پروتوتایپ قرمز، یکی در هر ناحیهٔ اصلی (چپ، بالا-راست بزرگ‌تر، راست)، با کمترین مقدار 0.068 MMD2. پایین-راست: دو پروتوتایپ در خوشه‌های بالا-راست با عنوان 0.298 MMD2. خطوط تراز قرمز توزیع پروتوتایپ‌ها را نشان می‌دهد. توجه: پایین-چپ همان انتخابی است که متن «بهترین پوشش» می‌خواند. نوشته‌های انگلیسی تصویر بدون تغییر ماندند.

یک انتخاب برای هسته، هستهٔ تابع پایهٔ شعاعی (radial basis function kernel) است:

$$k(\mathbf{x}, \mathbf{x}^\prime)=\exp\left(-\gamma||\mathbf{x}-\mathbf{x}^\prime||^2\right)$$

که در آن $||\mathbf{x}-\mathbf{x}^\prime||^2$ فاصلهٔ اقلیدسی (Euclidean) میان دو نقطه است و $\gamma$ یک پارامتر مقیاس. مقدار هسته با فاصلهٔ میان دو نقطه کاهش می‌یابد و میان صفر و یک است: صفر وقتی دو نقطه بی‌نهایت از هم دورند؛ یک وقتی دو نقطه برابرند.

برای درک بهتر (توضیح مترجم): با $\gamma = 1$ و دو نقطهٔ یک‌بعدی: اگر $x = 0$ و $x^\prime = 1$ باشد، $k = \exp(-1) \approx 0.37$؛ اگر $x^\prime = 2$ باشد، $k = \exp(-4) \approx 0.02$؛ اگر $x^\prime = 0$ باشد، $k = 1$. با بزرگ‌تر کردن $\gamma$ (مثلاً ۴) هسته سریع‌تر افت می‌کند و فقط نقاط بسیار نزدیک «مشابه» حساب می‌شوند. توجه: در منبع عبارت «فاصلهٔ اقلیدسی» برای $||\mathbf{x}-\mathbf{x}^\prime||^2$ آمده است، در حالی که این مجذور فاصله است؛ عبارت منبع عیناً حفظ شد.

معیار MMD2، هسته و جست‌وجوی حریصانه را در الگوریتمی برای یافتن پروتوتایپ‌ها ترکیب می‌کنیم:

  • با یک فهرست خالی از پروتوتایپ‌ها شروع کنید.
  • تا وقتی تعداد پروتوتایپ‌ها کمتر از تعداد انتخاب‌شدهٔ $m$ است:
    • برای هر نقطه در مجموعه‌داده بررسی کنید وقتی نقطه به فهرست پروتوتایپ‌ها اضافه شود MMD2 چقدر کاهش می‌یابد. نقطه‌ای را که MMD2 را کمینه می‌کند به فهرست اضافه کنید.
  • فهرست پروتوتایپ‌ها را برگردانید.

جزء باقی‌مانده برای یافتن انتقادها تابع شاهد است، که به ما می‌گوید دو تخمین چگالی در یک نقطهٔ معین چقدر با هم فرق دارند. می‌توان آن را با این فرمول تخمین زد:

$$\mathrm{witness}(\mathbf{x})=\frac{1}{n}\sum_{i=1}^{n}k(\mathbf{x}, \mathbf{x}^{(i)})-\frac{1}{m}\sum_{j=1}^{m}k(\mathbf{x}, \mathbf{z}^{(j)})$$

برای دو مجموعه‌داده (با ویژگی‌های یکسان)، تابع شاهد وسیله‌ای برای ارزیابی اینکه نقطهٔ $\mathbf{x}$ در کدام توزیع تجربی بهتر می‌نشیند به شما می‌دهد. برای یافتن انتقادها، به دنبال مقادیر حدی تابع شاهد در هر دو جهت منفی و مثبت می‌گردیم. جملهٔ اول در تابع شاهد میانگین نزدیکی نقطهٔ $\mathbf{x}$ به داده‌هاست، و به‌ترتیب جملهٔ دوم میانگین نزدیکی نقطهٔ $\mathbf{x}$ به پروتوتایپ‌هاست. اگر تابع شاهد برای یک نقطهٔ $\mathbf{x}$ نزدیک صفر باشد، تابع چگالی داده و پروتوتایپ‌ها به هم نزدیک‌اند، یعنی توزیع پروتوتایپ‌ها در نقطهٔ $\mathbf{x}$ شبیه توزیع داده‌هاست. تابع شاهد منفی در نقطهٔ $\mathbf{x}$ یعنی توزیع پروتوتایپ‌ها توزیع داده را بیش‌برآورد می‌کند (مثلاً اگر یک پروتوتایپ انتخاب کنیم اما فقط چند نقطهٔ داده در نزدیکی باشد)؛ تابع شاهد مثبت در نقطهٔ $\mathbf{x}$ یعنی توزیع پروتوتایپ‌ها توزیع داده را کم‌برآورد می‌کند (مثلاً اگر نقاط داده فراوانی دور $\mathbf{x}$ باشند اما در نزدیکی هیچ پروتوتایپی انتخاب نکرده باشیم).

برای درک بهتر (توضیح مترجم): با همان هستهٔ ۰/۱ ساده و داده‌های $x = (0, 1, 5)$ و پروتوتایپ $z = 1$: تابع شاهد در نقطهٔ $5$ برابر $\frac{1}{3}\cdot 1 - \frac{1}{1}\cdot 0 = 0.333 > 0$ است، یعنی در $5$ داده هست ولی هیچ پروتوتایپی نزدیک نیست (کم‌برآورد)؛ این نقطه کاندید انتقاد است. در نقطهٔ $1$: $\frac{1}{3}\cdot 1 - 1\cdot 1 = -0.667 < 0$، یعنی پروتوتایپ بیش از داده‌های نزدیک آن «وزن» دارد (بیش‌برآورد). در نقطهٔ $0$: $\frac{1}{3} - 0 = 0.333$ (آن نقطه هم نماینده ندارد).

برای اینکه شهود بیشتری بدهم، پروتوتایپ‌های نمودار قبلی با کمترین MMD2 را دوباره به کار می‌بریم و تابع شاهد را برای چند نقطهٔ دستی‌انتخاب‌شده نمایش می‌دهیم. برچسب‌ها در شکل ۲۶.۳ مقدار تابع شاهد را برای نقاط مختلفی نشان می‌دهند که با مثلث علامت خورده‌اند. فقط نقطهٔ میانی مقدار قدر مطلق بالایی دارد و بنابراین کاندید خوبی برای انتقاد است.

توضیح مترجم (متن داخل تصویر): عنوان نمودار 0.068 MMD2 است (همان انتخاب بهترین شکل ۲۶.۲). محور افقی $X_1$ و محور عمودی $X_2$ است. نقاط سیاه داده، نقاط کوچک قرمز پروتوتایپ‌ها، خطوط تراز قرمز توزیع پروتوتایپ‌ها و پس‌زمینهٔ بنفش چگالی داده است. پنج مثلث سیاه برچسبی با مقدار تابع شاهد دارند: حدود $(0.75, 0.1)$ با ۰٫۰۲۷-، حدود $(0.95, 0.9)$ با ۰٫۰۳۸-، نقطهٔ میانی حدود $(2.45, 1.7)$ با ۰٫۱۵۸+، حدود $(3.0, 2.65)$ با ۰٫۰۰۶- و حدود $(4.2, 2.0)$ با ۰٫۰۸۸-. فقط مقدار ۰٫۱۵۸+ (نقطهٔ میانی، خوشهٔ متراکم بدون پروتوتایپ) بزرگ است و آن همان کاندید انتقاد است. نوشته‌های انگلیسی تصویر بدون تغییر ماندند.

تابع شاهد به ما اجازه می‌دهد صریحاً به دنبال نمونه‌های داده‌ای بگردیم که پروتوتایپ‌ها به‌خوبی نمایندگی‌شان نمی‌کنند. انتقادها نقاطی با قدر مطلق بالا در تابع شاهدند. مانند پروتوتایپ‌ها، انتقادها نیز با جست‌وجوی حریصانه یافته می‌شوند. اما به‌جای کاهش MMD2 کلی، به دنبال نقاطی هستیم که یک تابع هزینه را بیشینه کنند که شامل تابع شاهد و یک جملهٔ تنظیم‌گر (regularizer) است. جملهٔ اضافی در تابع بهینه‌سازی تنوع نقاط را الزام می‌کند، که لازم است تا نقاط از خوشه‌های مختلف بیایند.

این گام دوم مستقل از اینکه پروتوتایپ‌ها چگونه یافته شده‌اند است. می‌توانستم هم چند پروتوتایپ را دستی انتخاب کنم و از رویهٔ شرح‌داده‌شده در اینجا برای یادگیری انتقادها استفاده کنم. یا پروتوتایپ‌ها می‌توانستند از هر رویهٔ خوشه‌بندی، مانند k-medoids، بیایند.

MMD-critic می‌تواند به سه روش تفسیرپذیری را افزایش دهد: با کمک به درک بهتر توزیع داده؛ با ساخت یک مدل تفسیرپذیر؛ و با تفسیرپذیر کردن یک مدل جعبه‌سیاه.

اگر MMD-critic را روی داده‌های خود اعمال کنید تا پروتوتایپ‌ها و انتقادها را بیابید، درک شما از داده بهبود می‌یابد، به‌ویژه اگر توزیع داده‌ای پیچیده با موارد استثنایی داشته باشید. اما با MMD-critic می‌توان بیشتر از این هم به دست آورد!

برای مثال، می‌توانید یک مدل پیش‌بینی تفسیرپذیر بسازید: به اصطلاح «مدل نزدیک‌ترین پروتوتایپ» (nearest prototype model). تابع پیش‌بینی به‌صورت زیر تعریف می‌شود:

$$\hat{f}(\mathbf{x})=\arg\max_{i\in S}k(\mathbf{x},\mathbf{x}_i)$$

یعنی از مجموعه‌ی پروتوتایپ‌های $S$، پروتوتایپی $i$ را انتخاب می‌کنیم که به نقطه‌ی داده‌ی جدید نزدیک‌ترین باشد، به این معنا که بیشترین مقدار تابع هسته را به دست دهد. خود پروتوتایپ به‌عنوان توضیحی برای پیش‌بینی بازگردانده می‌شود. این رویه سه پارامتر تنظیمی دارد: نوع هسته، پارامتر مقیاس‌بندی هسته و تعداد پروتوتایپ‌ها. همه‌ی پارامترها می‌توانند درون یک حلقه‌ی اعتبارسنجی متقاطع بهینه شوند. در این رویکرد از انتقادها استفاده نمی‌شود.

برای درک بهتر (توضیح مترجم): فرض کنید سه پروتوتایپ داریم: یک «۳»، یک «۷» و یک «۸» دست‌نویس. برای رقم جدیدی که به آن می‌رسد، مقدار هسته را با هر سه پروتوتایپ حساب می‌کنیم. اگر بیشترین مقدار مربوط به پروتوتایپ «۷» باشد، پیش‌بینی «۷» است و خود تصویر آن پروتوتایپ نیز به‌عنوان توضیح نشان داده می‌شود: «چون این رقم بیشترین شباهت را به این «۷» دارد.»

به‌عنوان گزینه‌ی سوم، می‌توانیم از MMD-critic برای توضیح‌پذیر کردن سراسری هر مدل یادگیری ماشین استفاده کنیم، با بررسی پروتوتایپ‌ها و انتقادها در کنار پیش‌بینی‌های مدل. رویه به‌صورت زیر است:

۱. پروتوتایپ‌ها و انتقادها را با MMD-critic بیابید. ۲. مدل یادگیری ماشین را به روش معمول آموزش دهید. ۳. نتایج را برای پروتوتایپ‌ها و انتقادها با مدل یادگیری ماشین پیش‌بینی کنید. ۴. پیش‌بینی‌ها را تحلیل کنید: در چه مواردی الگوریتم اشتباه کرده است؟ اکنون مجموعه‌ای از نمونه‌ها دارید که داده را به‌خوبی نمایندگی می‌کنند و به شما کمک می‌کنند نقاط ضعف مدل یادگیری ماشین را پیدا کنید.

این چه کمکی می‌کند؟ به یاد دارید وقتی دسته‌بند تصویر Google سیاه‌پوستان را به‌عنوان گوریل شناسایی کرد؟ شاید باید از رویه‌ی توصیف‌شده در اینجا پیش از استقرار مدل تشخیص تصویر استفاده می‌کردند. صرف بررسی عملکرد مدل کافی نیست، چون اگر دقت آن ۹۹٪ بود، این مشکل همچنان می‌توانست در آن ۱٪ پنهان باشد. برچسب‌ها هم می‌توانند اشتباه باشند! بررسی همه‌ی داده‌های آموزشی و انجام یک بررسی سلامت برای شناسایی پیش‌بینی‌های مشکل‌دار امکان‌پذیر نیست. اما انتخاب — مثلاً چند هزار — پروتوتایپ و انتقاد امکان‌پذیر است و می‌توانست مشکلی در داده‌ها آشکار کند: ممکن بود نشان دهد که تصاویر افراد با پوست تیره کمیاب هستند، که نشان‌دهنده‌ی مشکلی در تنوع مجموعه داده است. یا ممکن بود یک یا چند تصویر از فردی با پوست تیره به‌عنوان پروتوتایپ یا (احتمالاً) به‌عنوان انتقاد با دسته‌بندی بدنام «گوریل» نمایش داده شود. ادعا نمی‌کنم که MMD-critic قطعاً این نوع اشتباهات را شناسایی می‌کند، اما یک بررسی سلامت مناسب است.

توضیح مترجم: مثال گوریل به یک خطای واقعی و شناخته‌شده در یک سامانهٔ تجاری اشاره دارد و به همین شکل در منبع آمده است. نکتهٔ روش‌شناختی آن این است که میانگین دقت می‌تواند خطاهای نادر اما بسیار مهم را پنهان کند؛ بررسی دستی چند هزار پروتوتایپ و انتقاد شدنی است، در حالی که بررسی همهٔ داده‌های آموزشی نیست.

مثال‌ها

مثال زیر از MMD-critic از یک مجموعه داده‌ی ارقام دست‌نویس استفاده می‌کند. با نگاه کردن به پروتوتایپ‌های واقعی در شکل ۲۶.۴، ممکن است متوجه شوید که تعداد تصاویر به‌ازای هر رقم متفاوت است. این به آن دلیل است که تعداد ثابتی از پروتوتایپ‌ها در کل مجموعه داده جستجو شده‌اند، نه با تعداد ثابت به‌ازای هر کلاس. همان‌طور که انتظار می‌رود، پروتوتایپ‌ها روش‌های مختلف نوشتن ارقام را نشان می‌دهند.

توضیح مترجم (متن داخل تصویر): تصویر شامل ۵۰ نمونهٔ ارقام دست‌نویس است که در ۵ ردیف و ۱۰ ستون چیده شده‌اند و متن انگلیسی ندارد. هر تصویر یک پروتوتایپ است؛ تعداد نمونه‌ها برای ارقام مختلف برابر نیست، چون تعداد کل پروتوتایپ‌ها ثابت بوده و نه تعدادشان در هر کلاس.

نقاط قوت

در یک مطالعه‌ی کاربری، نویسندگان MMD-critic تصاویری را در اختیار شرکت‌کنندگان قرار دادند که می‌بایست آن‌ها را به‌صورت بصری با یکی از دو مجموعه‌ی تصویر تطبیق می‌دادند، که هر مجموعه نمایانگر یکی از دو کلاس بود (مثلاً دو نژاد سگ). شرکت‌کنندگان بهترین عملکرد را داشتند وقتی مجموعه‌ها پروتوتایپ‌ها و انتقادها را نشان می‌دادند به‌جای تصاویر تصادفی از یک کلاس.

شما آزادید تعداد پروتوتایپ‌ها و انتقادها را انتخاب کنید.

MMD-critic با تخمین‌های چگالی داده کار می‌کند. این با هر نوع داده و هر نوع مدل یادگیری ماشین قابل استفاده است.

الگوریتم پیاده‌سازی آسانی دارد.

MMD-critic در شیوه‌ی استفاده برای افزایش تفسیرپذیری انعطاف‌پذیر است. می‌توان از آن برای درک توزیع‌های داده‌ی پیچیده استفاده کرد. می‌توان از آن برای ساخت یک مدل یادگیری ماشین تفسیرپذیر بهره برد. یا می‌تواند نور را بر تصمیم‌گیری یک مدل یادگیری ماشین جعبه‌سیاه بتاباند.

یافتن انتقادها مستقل از فرایند انتخاب پروتوتایپ‌هاست. اما انتخاب پروتوتایپ‌ها بر اساس MMD-critic منطقی است، چون در آن صورت هم پروتوتایپ‌ها و هم انتقادها با همان روش مقایسه‌ی چگالی پروتوتایپ‌ها و داده ساخته می‌شوند.

محدودیت‌ها

اگرچه از نظر ریاضی پروتوتایپ‌ها و انتقادها به‌گونه‌ی متفاوتی تعریف می‌شوند، تمایز آن‌ها بر اساس یک مقدار آستانه (تعداد پروتوتایپ‌ها) استوار است. فرض کنید تعداد پروتوتایپ‌های انتخابی خیلی کم است و توزیع داده را به‌خوبی پوشش نمی‌دهد. انتقادها در مناطقی قرار می‌گیرند که توضیح چندانی برایشان وجود ندارد. اما اگر پروتوتایپ‌های بیشتری اضافه شود، آن‌ها هم در همان مناطق قرار می‌گیرند. هر تفسیری باید این را در نظر بگیرد که انتقادها به‌شدت به پروتوتایپ‌های موجود و مقدار آستانه‌ی (دلخواه) تعداد پروتوتایپ‌ها وابسته هستند.

برای درک بهتر (توضیح مترجم): فرض کنید داده سه خوشه دارد ولی فقط دو پروتوتایپ انتخاب کرده‌اید؛ نمونه‌های خوشهٔ سوم انتقاد می‌شوند. اگر پروتوتایپ سوم را اضافه کنید، همان ناحیه پروتوتایپ دارد و انتقادها به ناحیهٔ دیگری می‌روند. پس «انتقاد بودن» ویژگی ذاتی یک نمونه نیست و به تعداد پروتوتایپ‌ها بستگی دارد.

باید تعداد پروتوتایپ‌ها و انتقادها را انتخاب کنید. هرچند این می‌تواند مزیتی باشد، اما یک عیب هم هست. چند پروتوتایپ و انتقاد واقعاً نیاز داریم؟ هرچه بیشتر بهتر؟ هرچه کمتر بهتر؟ یک راه‌حل، انتخاب تعداد پروتوتایپ‌ها و انتقادها بر اساس زمانی است که انسان‌ها برای بررسی تصاویر دارند، که به کاربرد خاص بستگی دارد. تنها زمانی که از MMD-critic برای ساخت یک دسته‌بند استفاده می‌کنیم، روشی برای بهینه‌سازی مستقیم آن داریم. یک راه‌حل می‌تواند یک نمودار شیب (scree plot) باشد که تعداد پروتوتایپ‌ها را روی محور x و معیار $\text{MMD}^2$ را روی محور y نشان می‌دهد. تعداد پروتوتایپ‌هایی را انتخاب می‌کنیم که در آنجا منحنی $\text{MMD}^2$ صاف می‌شود.

پارامترهای دیگر انتخاب هسته و پارامتر مقیاس‌بندی هسته هستند. همان مشکل تعداد پروتوتایپ‌ها و انتقادها را داریم: چگونه یک هسته و پارامتر مقیاس‌بندی آن را انتخاب کنیم؟ دوباره، وقتی از MMD-critic به‌عنوان دسته‌بند نزدیک‌ترین پروتوتایپ استفاده می‌کنیم، می‌توانیم پارامترهای هسته را تنظیم کنیم. اما برای موارد استفاده‌ی بدون نظارت MMD-critic، موضوع نامشخص است. (شاید در این مورد کمی سخت‌گیرانه قضاوت می‌کنم، چون همه‌ی روش‌های بدون نظارت این مشکل را دارند.)

این روش همه‌ی ویژگی‌ها را به‌عنوان ورودی می‌گیرد، بدون توجه به اینکه برخی ویژگی‌ها ممکن است برای پیش‌بینی نتیجه‌ی موردنظر مرتبط نباشند. یک راه‌حل استفاده از ویژگی‌های مرتبط است، برای مثال embedding‌های تصویر به‌جای پیکسل‌های خام. این در صورتی کارآمد است که روشی برای تصویر کردن نمونه‌ی اصلی روی یک بازنمایی حاوی تنها اطلاعات مرتبط داشته باشیم.

کدهایی در دسترس هستند، اما هنوز به‌صورت نرم‌افزار بسته‌بندی‌شده و مستندشده‌ی مناسبی پیاده‌سازی نشده‌اند.

نرم‌افزار و جایگزین‌ها

پیاده‌سازی MMD-critic را می‌توان در مخزن GitHub نویسندگان یافت. پیاده‌سازی Python دیگری به نام mmd-critic نیز وجود دارد که از طریق pip قابل نصب است.

اخیراً یک توسعه‌ی MMD-critic با نام Protodash معرفی شده است. نویسندگان در مقاله‌ی خود مزایایی نسبت به MMD-critic ادعا می‌کنند. پیاده‌سازی Protodash در ابزار IBM AIX360 موجود است.

ساده‌ترین جایگزین برای یافتن پروتوتایپ‌ها k-medoids اثر Rdusseeun و Kaufman (۱۹۸۷) است.


Kim, Been, Rajiv Khanna, and Oluwasanmi Koyejo. 2016. “Examples Are Not Enough, Learn to Criticize! Criticism for Interpretability.” In Proceedings of the 30th International Conference on Neural Information Processing Systems, 2288–96. NIPS’16. Red Hook, NY, USA: Curran Associates Inc.

Rdusseeun, LKPJ, and P Kaufman. 1987. “Clustering by Means of Medoids.” In Proceedings of the Statistical Data Analysis Based on the L1 Norm Conference, Neuchatel, Switzerland. Vol. 31.