Den som ansvarar för ett system ansvarar för systemets beteende och potentiella konsekvenser. Ansvaret gäller handlingar, beslut och produkter.

Det kan röra sig om ett juridiskt eller moraliskt (etiskt) ansvar. Juridiskt är en agent ansvarig för en händelse när det finns ett rättssystem som kan sanktionera agenten för händelsen. Moraliskt är en agent ansvarig för en handling om hen kan klandras för handlingen. Moraliskt och juridiskt ansvar är olika saker. De sammanfaller ibland, men inte alltid: en agent kan vara juridiskt ansvarig utan att vara moraliskt ansvarig, och vice versa. I den här kursen fokuserar vi på de moraliska aspekterna av ansvar.

I AI-etiken finns det tre olika betydelser eller dimensioner av ansvar. De pekar mot olika handlingsmöjligheter:

• Frågan om att avgöra ansvaret – vilka individer (eller grupper) är ansvariga för effekterna av algoritmer eller AI? Vem ansvarar för vilken effekt inom det sociotekniska systemet i stort?
• En funktion i samhällssystemet som utvecklar, tillverkar och använder AI
• En funktion i själva AI-systemet