17 februarie 2023
Î. Vera Liao de la Microsoft Research
Tehnologiile de inteligență artificială sunt din ce în ce mai folosite pentru a ajuta deciziile umane și pentru a îndeplini sarcini autonome în domenii critice. Necesitatea de a înțelege AI pentru a îmbunătăți, a contesta, a dezvolta încrederea adecvată și a interacționa mai bine cu sistemele AI a stimulat un mare interes academic și public pentru IA explicabilă (XAI). Domeniul tehnic al XAI a produs o colecție vastă de algoritmi în ultimii ani. Cu toate acestea, explicabilitatea este o proprietate în mod inerent centrată pe om și domeniul începe să îmbrățișeze abordări centrate pe om. Cercetarea interacțiunii om-calculator (HCI) și proiectarea experienței utilizatorului (UX) în acest domeniu sunt din ce în ce mai importante, mai ales pe măsură ce practicienii încep să folosească algoritmii XAI pentru a construi aplicații XAI. În această discuție, mă voi baza pe propriile mele cercetări și lucrări ample HCI pentru a evidenția rolul central pe care abordările centrate pe om ar trebui să îl joace în modelarea tehnologiilor XAI, inclusiv conducerea alegerilor tehnice prin înțelegerea nevoilor de explicabilitate ale utilizatorilor, descoperirea capcanelor metodelor XAI existente, și furnizarea de cadre conceptuale pentru XAI compatibil cu om.
Despre vorbitor:
Î. Vera Liao este cercetător principal la Microsoft Research Montréal, unde face parte din grupul FATE (Echitate, responsabilitate, transparență și etică în IA). Interesele ei actuale de cercetare sunt în interacțiunea om-AI, AI explicabilă și AI responsabilă. Înainte de a se alătura MSR, a lucrat la IBM Research și a studiat la Universitatea din Illinois la Urbana-Champaign și la Universitatea Tsinghua. Cercetarea ei a primit mai multe premii pentru lucrări la locațiile ACM și AAAI. În prezent, este co-editor-șef pentru Springer HCI Book Series, în comitetul editorial al ACM Transactions on Interactive Intelligent Systems (TiiS), editor pentru CSCW și președinte de zonă pentru FAccT 2023.
Capitole
0:00 Introducere
10:27 Nevoile de explicabilitate exprimate sub formă de întrebări
18:36 XAI pentru sprijin decizional
22:13 Un punct mort în XAI? Procese cognitive duale
24:01 Limita deciziei model vs. (intuiția umană despre) decizia sarcinii
26:14 Înțelegerea procesului de luare a deciziilor uman-XAI
27:13 Compararea explicațiilor bazate pe caracteristici cu cele bazate pe exemple
28:53 Căi de depășire a AI pentru a avea încredere corespunzătoare
28:58 O instanțiere: creșterea explicației prin relevanță
42:11 Explicația selectivă poate semnala erori de model
48:22 Concluzii: IA centrată pe om ca lucrare de legătură
Cursuri interesante:
- Seminar Stanford – Proiectarea sistemelor IA centrate pe om pentru colaborarea om-AI
- Stanford – Cum facem IA centrată pe om pentru predicția sănătății mintale în datele din rețelele sociale?
- Seminar Stanford – De la iluziile haptice la dincolo de interacțiuni reale în realitatea virtuală
- Seminar Stanford – AI centrat pe interacțiune
- Seminar Stanford – Proiectarea lucrării interactive
- Seminar Stanford – Utilizarea teoriilor sociale pentru a îmbunătăți interacțiunea om-AI
- Seminar Stanford – Gândire magică: frică, minune și tehnologie
- Seminar Stanford – ML Explainability Partea 1 I Prezentare generală și motivație pentru explicabilitate
- Seminar Stanford-Reconfigurarea sociomaterialității
- Seminar de la Stanford – Exprimându-te în R