29 septembrie 2023
Harman Kaur
Universitatea din Minnesota
Parteneriatele om-AI sunt din ce în ce mai comune. Cu toate acestea, sistemele care se bazează pe aceste parteneriate nu sunt capabile să surprindă în mod eficient nevoile dinamice ale oamenilor sau să explice raționamentul și rezultatele complexe ale AI. Decalajul socio-tehnic rezultat a dus la rezultate dăunătoare, cum ar fi propagarea părtinirilor împotriva populațiilor marginalizate și cazuri marginale ratate în domenii sensibile. Munca mea urmează convingerea că, pentru ca interacțiunea om-AI să fie eficientă și sigură, dezvoltarea tehnică în AI trebuie să vină în acord cu o înțelegere a fenomenelor cognitive, sociale și organizaționale centrate pe om. Folosind interacțiunea om-AI în contextul sistemelor de sprijinire a deciziilor bazate pe ML ca studiu de caz, în această discuție, voi discuta despre munca mea care explică de ce instrumentele de interpretabilitate nu funcționează în practică. Instrumentele de interpretabilitate exacerbează natura limitată a raționalității umane, încurajând oamenii să aplice euristica cognitivă și socială. Aceste euristici servesc ca scurtături mentale care fac luarea deciziilor de către oameni mai rapidă, nefiind nevoiți să argumenteze cu atenție despre informațiile prezentate. Privind în viitor, voi împărtăși agenda mea de cercetare care încorporează teorii sociale pentru a proiecta sisteme IA umană care nu numai că profită de complementaritatea dintre oameni și IA, ci și țin cont de incompatibilitățile în modul în care (mult) se înțeleg.
Despre vorbitor:
Harman Kaur este profesor asistent la Departamentul de Informatică și Inginerie de la Universitatea din Minnesota. Domeniile ei de cercetare sunt IA centrată pe om, explicabilitatea și interpretabilitatea și sistemele hibride de inteligență. Ea studiază aceste domenii într-o varietate de domenii (de exemplu, analiza exploratorie a datelor, bunăstarea și productivitatea la locul de muncă, căutarea cunoștințelor și crearea de sens), aplicând metode atât pentru evaluarea critică a sistemelor existente pentru îndeplinirea obiectivelor propuse, cât și pentru proiectarea și construirea de noi sisteme centrate pe om. . Ea a publicat mai multe lucrări la locuri de top de interacțiune om-calculator, cum ar fi CHI, CSCW, UIST și IUI. Lucrarea ei a câștigat premiile pentru cea mai bună lucrare de onoare la CHI și IUI. Harman și-a primit doctoratul în Informatică și Informații de la Universitatea din Michigan și o licență în Informatică de la Universitatea din Minnesota.
Cursuri interesante:
- Seminar Stanford – IA explicabilă centrată pe om: de la algoritmi la experiențele utilizatorului
- Stanford – Cum facem IA centrată pe om pentru predicția sănătății mintale în datele din rețelele sociale?
- Seminar Stanford – Aplicații ale designului generativ pentru fabricație în medii medicale
- Seminar Stanford – Autonomie interactivă: O abordare centrată pe om pentru interacțiuni sigure
- Seminar Stanford – Valorificarea datelor pentru impactul social
- Seminar Stanford – Interacțiunea om-AI în dezacord societal
- Seminar Stanford – Obiecte neuronale multi-senzoriale: modelare, inferență și aplicații în robotică
- Seminar Stanford – De la iluziile haptice la dincolo de interacțiuni reale în realitatea virtuală
- Seminar Stanford – AI centrat pe interacțiune
- Seminar Stanford – Proiectarea lucrării interactive