19 mai 2023
Mitchell Gordon de la Universitatea Stanford
Ale cui voci – ale căror etichete – ar trebui să învețe să le emuleze un algoritm de învățare automată? Pentru sarcinile de inteligență artificială, de la detectarea toxicității în comentarii online, la proiectarea afișelor și la tratament medical, diferite grupuri din societate pot avea dezacorduri ireconciliabile cu privire la ceea ce constituie adevărul de bază. Canalul de învățare automată supravegheat de astăzi rezolvă de obicei aceste dezacorduri implicit prin votul majorității față de opiniile adnotatorilor. Această procedură majoritară scoate oamenii individuali din conductă și le prăbușește etichetele într-un pseudo-uman agregat, ignorând etichetele grupurilor minoritare. În această discuție, voi prezenta Jury Learning: o arhitectură interactivă AI care permite dezvoltatorilor să raționeze în mod explicit asupra a cărui voce ar trebui să o emuleze un model prin metafora unui juriu. Prin interfața noastră exploratorie, practicienii pot defini declarativ care persoane sau grupuri, în ce proporție, determină predicția clasificatorului. Pentru a evalua modelele aflate în dezacordul societății, voi prezenta, de asemenea, Deconvoluția dezacordului: o transformare metrică care arată cum, prin abstracția oamenilor individuali care influențează modelele, valorile actuale exagerează dramatic performanța multor sarcini cu care se confruntă utilizatorii. Aceste componente devin elemente de bază ale unei noi conducte pentru codificarea obiectivelor și valorilor noastre în sistemele IA umană, care se străduiește să pună în legătură principiile HCI cu realitățile învățării automate.
Despre vorbitor:
Mitchell L. Gordon este doctorand în informatică la Universitatea Stanford în grupul de interacțiune om-calculator, consiliat de Michael Bernstein și James Landay. El proiectează sisteme interactive și abordări de evaluare care unesc principiile interacțiunii om-calculator cu realitățile învățării automate. Munca sa a câștigat premii la conferințe de top în interacțiunea om-calculator și inteligență artificială, inclusiv un premiu pentru cea mai bună lucrare la CHI și un Oral la NeurIPS. El este susținut de o bursă de doctorat Apple în AI/ML și a făcut stagiari la Apple, Google și CMU HCII.
Cursuri interesante:
- Seminar Stanford – De la iluziile haptice la dincolo de interacțiuni reale în realitatea virtuală
- Seminar Stanford – Proprietatea intelectuală și inteligența artificială
- Seminar Stanford – Regândirea limitei AI-UX pentru proiectarea experiențelor uman-AI
- Stanford CS224N: NLP cu Deep Learning | Iarna 2019 | Cursul 19 – Prejudecata în IA
- Stanford CS234: Învățare prin consolidare | Iarna 2019 | Curs 1 – Introducere – Emma Brunskill
- Stanford CS234: Învățare prin consolidare | Iarna 2019 | Curs 4 – Model Free Control
- Seminar web de la Stanford: Introducerea AI în asistența medicală în condiții de siguranță și etic
- Seminar Stanford – AI centrat pe interacțiune
- Seminar Stanford: Computational Ecosystems
- Seminar Stanford – Învățarea codificării: de ce eșuăm, cum înflorim