■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

□

■

□

□

□

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

■

□

□

□

□

■

■

□

□

□

□

■

■

■

■

■

□

□

□

■

■

■

■

■

■

■

■

■

■

□

□

■

■

■

■

■

■

■

■

■

■

■

■

Sourc

e:

htt

ps:/

/blo

g.f

astf

orw

ard

labs.c

om

/2017/0

9/0

1/L

IME-f

or-

couple

s.h

tml

Hall, P., & Gill, N. An Introduction to Machine Learning Interpretability: An Applied Perspective on Fairness, Accountability,Transparency, and Explainable AI.O’Reilly M (2018). Retrieved from http://www.oreilly.com/data/free/an-introduction-to-machine-learning-interpretability.csp

■

■

Zhengping Che, Sanjay Purushotham, Robinder Khemani and Yan Liu: Interpretable Deep Models for ICU Outcome Prediction (2017)Doshi-Velez, F., & Kim, B. Towards A Rigorous Science of Interpretable Machine Learning (2017).

y

x

TeacherModel

ynn

xnn

StudentModel

ynn ym

xOutput

Complex, non-interpretable model More intelligible, interpretable model

Sourc

e:

Che

et

al. (

2017)

■

■

■

■ 𝜉 𝑥 = 𝑎𝑟𝑔𝑚𝑖𝑛𝑔∈𝐺 ℒ 𝑓, 𝑔, 𝜋𝑥 + Ω 𝑔

■

□

□

□

■

□

□

□

■

■

■

■

■

■

■

■

■

■

■

■

■