Historiskt har den tekniska utvecklingen kretsat kring olika teknikers funktion, användbarhet, effektivitet och tillförlitlighet. AI-teknik kräver dock en bredare diskussion om dess sociala acceptans. Den påverkar moraliska (och politiska) överväganden Den formar individer och samhällen och deras miljöer på ett sätt som får etiska konsekvenser.

Tolkningen av etiskt relevanta begrepp kan ändras i och med att nya tekniker dyker upp. Vad innebar till exempel begreppet ”integritet” innan vi hade sociala medier? När nya tekniker blir tillgängliga används de ofta för andra ändamål än vad de ursprungligen var avsedda för. Det innebär stora förändringar i det etiska landskapet och vi måste gång på gång reflektera över och analysera teknikens etiska grunder.

Etiska ramverk är försök att komma överens om värden och normer som kan användas av en grupp – det kan vara en grupp individer, medborgare, stater, företag i databranschen eller andra intressenter.

Ett flertal organisationer har deltagit i utvecklandet av ett etiskt ramverk för AI. De har givetvis olika åsikter men de har lyckats bygga upp en allmän konsensus. Enligt en färsk studie (Jobin o.a., 2019) har AI-etik förhållandevis snabbt styrts in mot fem principer:

• icke-skadlighet
• ansvar
• transparens och förklarbarhet
• rättvisa
• respekt för mänskliga rättigheter som integritet och säkerhet.

De fem principerna för AI-etik svarar på olika frågor och fokuserar på olika värden:

1. Ska vi använda AI med goda avsikter och inte för att åsamka skada? (principen för välgörenhet/icke-skadlighet)
2. Vem bär skulden när AI åsamkar skada? (ansvarsprincipen)
3. Måste vi förstå vad AI gör och varför? (transparensprincipen)
4. Ska AI vara rättvis och icke-diskriminerande? (rättviseprincipen)
5. Ska AI respektera och främja mänskliga rättigheter? (principen om respekt för mänskliga rättigheter)

Resten av den här kursen kommer att fokusera på dessa principer för AI-etik. Vi kommer att analysera vad dessa begrepp innebär och hur de kan tolkas. I den traditionella filosofin talar man om detta som begreppsanalys. Vi kommer också titta på hur dessa begrepp används i praktiken, diskutera problem som de kan medföra samt nämna några öppna frågor om dessa principer.

I kursens avslutande avsnitt tittar vi på AI-etikprojektet i sin helhet. Vi ställer oss frågan om vem som ska få nytta av AI-etiken och vem eller vad som inte får det.

Slutligen vill vi nämna att AI-etiken står högst upp på listan när vi talar om AI och dess konsekvenser för samhället. Men det finns även andra teoretiska ramar för att titta på etiska koder för algoritmbaserade datadrivna system. Frågor om samhällskonsekvenserna av artificiell intelligens dyker upp inom fält som algoritmiska kulturer, genusstudier och mediastudier bland många andra. På motsvarande sätt formar de kognitiva och psykologiska aspekterna av interaktionen mellan människa och maskin frågan om vad som är ett lämpligt etiskt ramverk för AI. AI-etik handlar med andra ord om så mycket mer än bara data- och algoritmrelaterad etik.