.jpg)
Når AI har en blind vinkel over for menneskers forskellighed, bliver vi dårligere rustet til fremtiden
Den hastige udvikling af kunstig intelligens risikerer at skabe en farlig ensretning i vores samfund, fordi den er intensiverer et gennemsnit af mennesket og er blind over for den diversitet, mennesker kommer i. Sådan siger Jutta Treviranus, der bl.a. er direktør for Inclusive Design Research Centre (IDRC, som vi mødte i Oslo i forbindelse med Universal Design 2024
Kunstig intelligens bliver af mange set som et effektivt og neutralt værktøj, der kan optimere beslutninger, forkorte arbejdsprocesser og skabe mere retfærdige systemer i en voksende teknologisk verden. Men ifølge Jutta Treviranus, der er direktør i direktør for Inclusive Design Research Centre (IDRC) og professor ved Designfakultetet på OCAD University i Toronto, rummer mange af de dominerende former for AI en grundlæggende risiko for, at vi gentager historiske forestillinger om hvad der er ‘normalt’ og at ‘det anderledes’ skal frasorteres, skjules eller fikses.
De store sprogmodeller, som de store AI-udviklere benytter i dag, er nemlig bygget op omkring det historisk velkendte og forventelige ’rigtige’, og de ender dermed med at forstærke det typiske og det gennemsnitlige.
“AI er ved at intensivere gennemsnittet. Den reproducerer det typiske og det forudsigelige og fjerner dermed alt det, der stikker ud eller er usædvanligt.”
Det betyder, at ’forskellighed’ systematisk risikerer at blive sorteret fra, når teknologier designes til at favorisere det gennemsnitlige. Treviranus peger på, at denne form for logik, kunstig eller ej, minder uhyggeligt meget om de mekanismer eugenikken1 er underlagt. Jutta understreger, at det ikke er i sin historiske ideologiske form med arve- og racehygiejne, men når AI’er trænes til at identificere mønstre ud fra historiske data, ender den ofte med at reproducere fortidens normer og uligheder og der forekommer derved en klar opdeling af hvad der anses som f.eks. ’rigtig’ og ’forkerte’ kroppe.
“Hvis du vil have innovation, skal du tale med mennesker, der har brug for forandring. Mennesker, som er nødt til at gøre tingene på en anden måde og ikke kan tage for givet, at alting fungerer for dem.”
Når Bevica Fonden kigger gennem universelt design linsen på Jutta Treviranus’ budskab, så bliver så bliver relevansen af begrebet tydeligt. Universelt design handler ikke om at tilpasse systemer til et idealiseret gennemsnit , men om at skabe fleksible løsninger, der kan rumme forskellighed fra begyndelsen. Diversitet i brugerbehov kræver diversitet i løsninger. I mødet mellem AI og universelt design opstår et afgørende spørgsmål.
“Hvis vi designer verden sammen med mennesker, der kæmper, vil den også fungere for os, når vi uundgåeligt selv kommer til at kæmpe.”
Bevica Fonden mødte Jutta Treviranus på konferencen UD2024 i Oslo.
1Eugenik er enhver bestræbelse på hos mennesket at ændre eller forbedre arvemassens sammensætning i fremtidige generationer ved at øge børnetallet hos dem, som menes at bære favorable gener, positiv eugenik, og/eller hindre børnefødsler hos dem, som hævdes at bære skadelige gener, negativ eugenik. - www.lex.dk
Mere viden om universelt design
Gå på opdagelse i Bevica Fondens vidensbibliotek
Seneste nyt
Følg med i det sidste nye i Bevica Fonden herunder.
