Om vi rör oss bortom etiska riktlinjer, hur ska AI-etiken se ut i framtiden? Vilken typ av samtal om AI-etik bör vi ha, och vilka etiska aktiviteter och metoder ska användas? Den här frågan är inte helt lätt att besvara, men det kan hjälpa att fundera på vad vi hittills inte har talat om när det gäller etiska riktlinjer för AI.

Rättvisa, ansvar och transparens har kommit att dominera samtalet om AI-etik. Deras engelska benämningar (fairness, accountability och transparency) bildar också namnet på den största vetenskapliga konferensen om etisk AI: FAccT. Som AuroraAI visar finns dock frågor om ”hjälp, välfärd och relationer mellan myndigheter och medborgare” bland de grundläggande moraliska frågor som alla förvaltningar med avsikt att implementera AI för offentliga tjänster måste besvara.

Dessa värden omnämns dock sällan i etiska riktlinjer. Hur skulle det då se ut om vi såg på AI-etik ur ett omvårdnadsperspektiv? Enligt vårdetiken innebär det att vi behöver ta hänsyn till de komplexa beroenden som finns mellan individer, hur följderna av handlingar sprider sig och drabbar de mest sårbara, och hur natur och ekologi förs in i processerna.

I och med övergången från nya perspektiv till nya rutiner måste medborgarnas och civilsamhällets roll vid sidan av företagens i skapandet av en mer rättvis AI granskas. Att skapa etisk AI i praktiken innebär att gå vidare från publiceringen av goda intentioner för hur olika aktörer i samhället kan delta i förverkligandet av olika möjliga framtider.

Rektorn för Ada Lovelace Institute, Carly Kind, kallar detta för den tredje vågen av AI-etik och föreslår att vi går över till en ny typ av samhällsengagemang:

• ”Den tredje vågen av etisk AI har lett till att en nederländsk domstol har stängt ned ett algoritmbaserat bedrägeridetekteringssystem, studerande i Storbritannien protesterar mot algoritmbaserade provresultat och företag i USA begränsar frivilligt sin försäljning av ansiktsigenkänningsteknik. Vi har tagit oss bortom det principbaserade och tekniska, till praktiska mekanismer för att korrigera en ojämn maktbalans och uppnå individuell och samhällelig rättvisa.”

  -Carly Kind

Etiska frågor om Al-system gäller alla stadier i AI-systemets livscykel, vilket här anses omfatta forskning, utformning och utveckling för att kunna driftsätta och använda systemet. Detta inkluderar underhåll, drift, handel, finansiering, övervakning, utvärdering, validering, tagande ur bruk, demontering och kassering.

AI-aktörer kan därutöver definieras som aktörer som är inblandade i minst ett av stadierna i AI-livscykeln. Det kan röra sig om såväl fysiska som juridiska personer, såsom forskare, programmerare, ingenjörer, datavetare, slutanvändare, stora teknikföretag, små och medelstora företag, nystartade företag, universitet samt offentliga institutioner.