Som forskare har hon tittat särskilt på beslutsprocesser och AI.
– AI är extra genomgripande för att den finns överallt och på grund av dess förmåga att se mönster i stora datamängder. Om system och maskiner lär sig att utveckla sig själva kan förändringar komma snabbt. Även om de bara är måttligt intelligenta så kan de fundamentalt förändra livsbetingelserna för oss. Är man AI-utvecklare ser man potentialen men tänker kanske inte på andra aspekter.
På basis av vad den vet om mig skulle den kunna rösta som den tror att jag skulle rösta.
Hennes farhågor kring en oreflekterad utveckling av AI är många. En är risken att demokratin försvagas när personlig information om miljontals individer samlas in via sociala medier för att kunna sprida snävt inriktade politiska budskap till vissa grupper och på så sätt påverka allmänna val, något hävdas ha skett i det amerikanska valet och i brexitomröstningen. En annan är risken att självlärande maskiner tenderar att förstärka mänskliga fördomar, vilket till exempel kan leda till förstärkt polarisering och underminera förutsättningarna för demokratisk debatt.
Det är här som de humanistiska och samhällsvetenskapliga perspektiven behöver komma in, menar Maria Hedlund, eftersom de tar sig an frågor om etik, makt och demokrati. Hon har nu fått i uppdrag att sätta ihop en AI-kurs för samhällsvetare för masterstudenter som planeras till hösten 2020.
– Jag är intresserad av hur AI på olika sätt intervenerar i demokratiska processer. Det finns också idéer runt om i världen om hur man kan förbättra själva demokratin med hjälp av tekniken. Att en robot, genom att lära känna en, skulle kunna fatta beslut i frågor man inte har möjlighet att sätta sig in i eller inte är intresserad av. På basis av vad den vet om mig skulle den kunna rösta som den tror att jag skulle rösta.
Det finns en rad liknande varianter av idéer från teknikentusiaster som är intresserade av demokrati som naturligtvis väcker en massa frågor om vad demokrati är och bör vara
I Brasilien har organisationen Democracy Earth som består av AI-utvecklare, lanserat idén om att utveckla en form av direktdemokrati där väljaren kan delegera de frågor som hen inte vill, kan eller hinner rösta om själv, till någon annan medborgare som personen litar på. AI-teknik skulle då ”bara” hantera själva röstandet och delegeringen. Diskussionerna hittills har framförallt handlat om hur detta skulle lösas tekniskt och säkert.
– Det finns en rad liknande varianter av idéer från teknikentusiaster som är intresserade av demokrati som naturligtvis väcker en massa frågor om vad demokrati är och bör vara, säger Maria Hedlund.
Det finns redan börsrobotar och självkörande bilar men vem blir ansvarig när något går fel, när AI skadar eller dödar människor? Det är frågor som redan diskuterats flitigt och ansvarsfrågan är högintressant även för Maria Hedlund som har börjat undersöka hur den behandlas i svenska, amerikanska och europeiska policydokument.
– Generellt kan man säga att man gör en åtskillnad mellan strategiskt viktiga satsningar på AI för att vara konkurrenskraftig – det kommer hela tiden först – medan de etiska aspekterna ofta diskuteras som en separat fråga. Det ska bli fortsatt intressant att se hur exempelvis EUs experter kommer att resonera och hantera frågan framöver.
Forskning om de etiska, juridiska och samhälleliga aspekterna lyfts nu fram som allt viktigare att stödja – en nu aktuell utlysning från Marianne och Marcus Wallenbergs Stiftelse handlar om just detta.
– Det är glädjande att det satsas så mycket just nu. Jag väntar själv på besked om en ansökan som jag hoppas ska falla väl ut redan i år, säger Maria Hedlund.
