Arvot ja normit ovat etiikan peruselementtejä. Käsite ”arvo” tarkoittaa suunnilleen jonkin asian tai teon tärkeysastetta. Arvot ilmaisevat ihanteita ja vaatimuksia, joiden avulla voimme arvioida asioita, valintoja, toimintaa ja tapahtumia. Etiikassa keskitytään ensisijaisesti moraalisiin arvoihin, vaikka muuntyyppiset arvot – kuten taloudelliset, esteettiset ja episteemiset (tietoon liittyvät) arvot – ovat joskus moraalisesti merkityksellisiä. Esimerkiksi taloudelliset tekijät voivat olla moraalisesti merkittävässä asemassa, jos taloudellisilla päätöksillä on ihmisten kannalta moraalisesti merkittäviä seurauksia.

Arvot voidaan jakaa välinearvoihin ja itseisarvoihin. Esimerkiksi rahalla on välinearvoa. Raha on arvokasta vain siksi, että sitä voidaan käyttää muihin asioihin, kuten paremman terveydenhuollon tarjoamiseen. Tällaiset muut asiat voivat puolestaan olla hyviä sen vuoksi, mihin ne johtavat, kuten parempaan terveyteen. Nämä asiat taas voivat olla hyviä vain sen vuoksi, mihin ne johtavat, kuten parempaan elämänlaatuun. Asiat, joilla on itseisarvoa, ovat tyypillisesti ”suuria moraalisia arvoja”, kuten onnellisuus, vapaus ja hyvinvointi. Nämä asiat ovat hyviä oman itsensä vuoksi. Joidenkin mielestä ne myös selittävät kaikkiin muihin asioihin sisältyvän hyvyyden (vrt. Aristoteles, Nikomakhoksen etiikka, 1094a).

Normit ovat arvopohjaisia periaatteita, käskyjä ja määräyksiä – kuten tekoälyä koskevia ohjeistoja. Normit määrittävät, mitä pitäisi tehdä tai mitä joltakulta odotetaan. Normit voivat olla ohjailevia (myönteiseen käyttäytymiseen kannustavia, esimerkiksi ”ole oikeudenmukainen”) tai kieltäviä (kielteistä käyttäytymistä rajoittavia, esimerkiksi ”älä syrji”).

Normeja on useanlaisia:

• Jotkin normit ovat vain tilastollisia säännöllisyyksiä: esimerkiksi monet tietojenkäsittelytieteilijät käyttävät yleensä mustia T-paitoja.
• Jotkin normit ovat sosiaalisia normeja: ne kertovat, mikä ryhmän jäsenten mielestä on asianmukaista toimintaa kyseisessä ryhmässä.
• Moraaliset normit ovat ohjailevia tai kieltäviä sääntöjä, jotka menevät sosiaalisten tai tilastollisten odotusten mukaisia sääntöjä pidemmälle. Esimerkiksi ”älä käytä tekoälyä käyttäytymisen manipulointiin” on moraalinen normi.
• Normit voivat olla myös oikeudellisia normeja. On tärkeää huomata, että oikeudellinen normi ei välttämättä ole moraalinen normi ja päinvastoin. Pelkästään se, että ”X on laki”, ei tee siitä moraalista periaatetta. Sen sijaan voidaan aina kysyä: ”Onko tämä laki moraalisesti hyväksyttävä vai ei?”