Värden och normer är etikens grundläggande element. Begreppet ”värde” innebär i breda drag hur viktig en sak eller handling är. Värden ger oss ideal och standarder med vilka vi kan utvärdera saker, val, handlingar och händelser. Inom etiken ligger fokus huvudsakligen på moraliska värden, men även andra typer av värden – till exempel ekonomiska, estetiska och epistemiska (kunskapsrelaterade) – kan vara moraliskt relevanta. Ekonomiska faktorer kan till exempel spela en moraliskt viktig roll om ekonomiska beslut har moraliskt viktiga konsekvenser för människor.

Värden kan delas in i yttre (eller instrumentella) och inre värden. Pengar har exempelvis ett yttre eller instrumentellt värde. Pengar är värdefulla endast för att de kan användas för andra saker, som att ge människor bättre sjukvård. De här sakerna kan i sin tur vara bra för det de leder till, till exempel bättre hälsa. Och dessa saker kan i sin tur vara bra endast för det de leder till, till exempel bättre livskvalitet. Saker med inre värde brukar vara viktiga moraliska värden som lycka, frihet och välbefinnande. Det är saker som är bra i sig själva.

Normer är värdebaserade principer, kommandon och krav – som till exempel en uppsättning riktlinjer för AI. De hjälper en att veta vad som ska göras, eller vad som förväntas av en. Normer kan vara preskriptiva (uppmuntrar ett positivt beteende, till exempel ”var rättvis”) eller proskriptiva (avskräcker från negativt beteende, till exempel ”diskriminera inte”).

Det finns flera olika typer av normer:

• Vissa normer är simpla statistiska regelbundenheter: en uppmärksammar att datavetare tenderar att bära svarta t-shirtar.
• Vissa normer är sociala normer som förklarar vad människorna i en grupp anser vara rätt sätt att handla i gruppen.
• Moraliska normer är preskriptiva eller proskriptiva regler som går längre än sociala och statistiska förväntningar. Ett exempel på en moralisk norm är ”använd inte AI för att manipulera människors beteende”.
• Normer kan även vara rättsliga. Det är dock viktigt att ha i åtanke att en rättslig norm inte kan vara en moralisk norm och vice versa. Det innebär helt enkelt att ”X är en lag” inte utgör en moralisk princip. I stället kan man fråga sig: ”Är den här lagen moraliskt godtagbar?”