Meny

Javascript verkar inte påslaget? - Vissa delar av Lunds universitets webbplats fungerar inte optimalt utan javascript, kontrollera din webbläsares inställningar.
Du är här

Röstande robotar och filterbubblor – hur mycket AI tål demokratin?

"Det är viktigt att koppla ihop AI med demokrati eftersom det handlar om vilket samhälle vi vill ha, vilka möjligheter vi har att påverka och hur vi fattar våra beslut", säger statsvetaren Maria Hedlund.
Maria Hedlund Bild: Jessica Bloem
Maria Hedlund Bild: Jessica Bloem

Som forskare har hon tittat särskilt på beslutsprocesser och AI.

– AI är extra genomgripande för att den finns överallt och på grund av dess förmåga att se mönster i stora datamängder. Om system och maskiner lär sig att utveckla sig själva kan förändringar komma snabbt. Även om de bara är måttligt intelligenta så kan de fundamentalt förändra livsbetingelserna för oss. Är man AI-utvecklare ser man potentialen men tänker kanske inte på andra aspekter.

På basis av vad den vet om mig skulle den kunna rösta som den tror att jag skulle rösta.

Hennes farhågor kring en oreflekterad utveckling av AI är många. En är risken att demokratin försvagas när personlig information om miljontals individer samlas in via sociala medier för att kunna sprida snävt inriktade politiska budskap till vissa grupper och på så sätt påverka allmänna val, något hävdas ha skett i det amerikanska valet och i brexitomröstningen. En annan är risken att självlärande maskiner tenderar att förstärka mänskliga fördomar, vilket till exempel kan leda till förstärkt polarisering och underminera förutsättningarna för demokratisk debatt.

Det är här som de humanistiska och samhällsvetenskapliga perspektiven behöver komma in, menar Maria Hedlund, eftersom de tar sig an frågor om etik, makt och demokrati. Hon har nu fått i uppdrag att sätta ihop en AI-kurs för samhällsvetare för masterstudenter som planeras till hösten 2020.

– Jag är intresserad av hur AI på olika sätt intervenerar i demokratiska processer. Det finns också idéer runt om i världen om hur man kan förbättra själva demokratin med hjälp av tekniken. Att en robot, genom att lära känna en, skulle kunna fatta beslut i frågor man inte har möjlighet att sätta sig in i eller inte är intresserad av. På basis av vad den vet om mig skulle den kunna rösta som den tror att jag skulle rösta.

Det finns en rad liknande varianter av idéer från teknikentusiaster som är intresserade av demokrati som naturligtvis väcker en massa frågor om vad demokrati är och bör vara

I Brasilien har organisationen Democracy Earth som består av AI-utvecklare, lanserat idén om att utveckla en form av direktdemokrati där väljaren kan delegera de frågor som hen inte vill, kan eller hinner rösta om själv, till någon annan medborgare som personen litar på. AI-teknik skulle då ”bara” hantera själva röstandet och delegeringen. Diskussionerna hittills har framförallt handlat om hur detta skulle lösas tekniskt och säkert.

– Det finns en rad liknande varianter av idéer från teknikentusiaster som är intresserade av demokrati som naturligtvis väcker en massa frågor om vad demokrati är och bör vara, säger Maria Hedlund.

Det finns redan börsrobotar och självkörande bilar men vem blir ansvarig när något går fel, när AI skadar eller dödar människor? Det är frågor som redan diskuterats flitigt och ansvarsfrågan är högintressant även för Maria Hedlund som har börjat undersöka hur den behandlas i svenska, amerikanska och europeiska policydokument.

– Generellt kan man säga att man gör en åtskillnad mellan strategiskt viktiga satsningar på AI för att vara konkurrenskraftig – det kommer hela tiden först – medan de etiska aspekterna ofta diskuteras som en separat fråga. Det ska bli fortsatt intressant att se hur exempelvis EUs experter kommer att resonera och hantera frågan framöver.

Forskning om de etiska, juridiska och samhälleliga aspekterna lyfts nu fram som allt viktigare att stödja – en nu aktuell utlysning från Marianne och Marcus Wallenbergs Stiftelse handlar om just detta.

– Det är glädjande att det satsas så mycket just nu. Jag väntar själv på besked om en ansökan som jag hoppas ska falla väl ut redan i år, säger Maria Hedlund.

 

Kategorier

Maria Hedlunds forskningsfokus

• Ansvar och autonoma ­system: hur skall ansvaret för­delas när autonoma system såsom exempelvis självkörande bilar, autonoma vapensystem eller börsrobotar orsakar skada, och hur ska vi komma fram till det?

• AI som liv: när AI blir allt mer lika människan kan gränserna för vad som uppfattas som levande suddas ut. Hur ska vetenskapen och samhället förhålla sig till det?

• AI och demokrati: hur påverkas demokratin av att AI-teknik gör det möjligt att skicka riktade och partiska politiska budskap i sociala medier? Hur kan AI-teknik användas för att förändra själva demokratin? Hur hanteras frågor om AI i politiska beslutsprocesser?

Läs mer om Maria Hedlund här.

Senaste nyheter

2019-02-19

Ny forskning på extremväder

Ny forskning på extremväder
2019-02-18

Hejaklacksprofil med IT-intresse

Hejaklacksprofil med IT-intresse
2019-02-18

Så överlever du avhandlingsarbetet

Så överlever du avhandlingsarbetet

Intresserad av forskning och samhälle? Prenumerera på Apropå!

I nyhetsbrevet Apropå varvas senaste nytt från Lunds universitet med kommentarer till aktuella samhällshändelser från några av våra 4800 forskare.

Box 117, 221 00 LUND
Telefon 046-222 00 00 (växel)
Telefax 046-222 47 20
lu [at] lu [dot] se

Fakturaadress: Box 188, 221 00 LUND
Organisationsnummer: 202100-3211
Om webbplatsen