Yksityisyyteen liittyvää huolta aiheuttavat esimerkiksi sähköiset arkistot, jotka sisältävät tietoja, joiden avulla voidaan päätellä arkaluonteisia ominaisuuksia (ikä, sukupuoli tai seksuaalinen suuntautuminen), mieltymyksiä tai uskonnollisia ja poliittisia näkemyksiä. Myös biometriset tiedot herättävät yksityisyyden osalta huolta, sillä ne voivat paljastaa yksityiskohtaisia tietoja fyysisestä ja henkisestä terveydestä. Usein todellisena huolenaiheena eivät ole itse tiedot, vaan tapa, jolla tietoja voidaan käyttää henkilön manipulointiin tai vahingoittamiseen taikka häneen vaikuttamiseen.

Eettisesti yksityisyys liittyy henkilökohtaiseen autonomiaan ja koskemattomuuteen. John Locken periaatteiden mukaisesti oikeutta hallita omaa henkilökohtaista elämäämme on pidetty keskeisenä tekijänä autonomiassamme. Jos tämä oikeus viedään, loukataan jotakin olennaista, joka on osa psykologista ja moraalista koskemattomuuttamme.

EU:n yleinen tietosuoja-asetus (GDPR) on oikeudellinen kehys. Siinä vahvistetaan säännöt Euroopan unionissa asuvien henkilöiden henkilötietojen keräämistä ja käsittelyä varten.

Yleisen tietosuoja-asetuksen tavoitteena on antaa yksilöille mahdollisuus valvoa henkilötietojaan. ”Henkilötietoja” ovat kaikki suoraan tai välillisesti tunnistettuun henkilöön liittyvät tiedot. Niitä ovat esimerkiksi nimi, henkilötunnus ja sähköpostiosoitteet. Myös sijaintitiedot, biometriset tiedot, evästetiedot sekä etnistä alkuperää, sukupuolta ja poliittista tai uskonnollista vakaumusta koskevat tiedot voivat olla henkilötietoja. Salanimellä julkaistut tiedot (tiedot, joiden perusteella yksilöä ei voida tunnistaa suoraan mutta jotka voidaan yhdistää häneen) voivat myös kuulua henkilötietojen määritelmän piiriin, jos tietojen perusteella on helppo erottaa joku muista henkilöistä.

Tietoja voidaan käsitellä vain, jos rekisteröity antaa käsittelyyn yksilöidyn ja yksiselitteisen suostumuksen. Suostumuksen on oltava ”vapaaehtoinen, yksilöity, tietoinen ja yksiselitteinen”. Rekisteröidyt voivat peruuttaa aiemmin antamansa suostumuksen milloin tahansa. Alle 13-vuotias lapsi voi antaa suostumuksensa vain vanhempansa luvalla.

Yleisessä tietosuoja-asetuksessa tunnustetaan useita rekisteröidyn yksityisyyttä koskevia oikeuksia. Niiden tavoitteena on antaa yksilöille paremmat mahdollisuudet valvoa tietojaan. Näitä oikeuksia ovat muun muassa

• oikeus saada tietoja (henkilölle on ilmoitettava hänen henkilötietojensa käytöstä)
• oikeus saada tutustua tietoihin (henkilölle on selitettävä, miten hänen henkilötietojaan käytetään)
• oikeus tietojen oikaisemiseen (henkilöllä on oikeus siihen, että häntä koskevat virheelliset tiedot oikaistaan ja puutteelliset tiedot täydennetään) oikeus tietojen poistamiseen (eli oikeus tulla unohdetuksi)
• oikeus käsittelyn rajoittamiseen (henkilö voi rajoittaa henkilötietojensa käyttöä).

Henkilötietoja on yleisen tietosuoja-asetuksen mukaan käsiteltävä suojelu- ja tilivelvollisuusperiaatteita noudattaen. Nämä tietosuojaperiaatteet on otettava huomioon kaikkien uusien tuotteiden tai toimintojen suunnittelussa. Asetuksessa määritellään seuraavat tietosuojaperiaatteet:

• Lainmukaisuus, kohtuullisuus ja läpinäkyvyys: Käsittelyn on oltava lainmukaista, asianmukaista ja rekisteröidyn kannalta läpinäkyvää.
• Käyttötarkoitussidonnaisuus: Tietoja on käsiteltävä rekisteröidylle tietoja kerättäessä ilmoitettua tiettyä, nimenomaista ja laillista tarkoitusta varten.
• Tietojen minimointi: Tietoja on kerättävä ja käsiteltävä vain sen verran kuin on ehdottoman tarpeellista suhteessa määriteltyihin tarkoituksiin.
• Täsmällisyys: Henkilötietojen on oltava täsmällisiä ja päivitettyjä.
• Säilytyksen rajoittaminen: Tietoja, joista rekisteröity on tunnistettavissa, saa säilyttää ainoastaan niin kauan kuin on tarpeen määritellyn tarkoituksen toteuttamista varten.
• Eheys ja luottamuksellisuus: Tietoja on käsiteltävä tavalla, jolla varmistetaan niiden asianmukainen turvallisuus, eheys ja luottamuksellisuus (esimerkiksi käyttämällä salausta).
• Osoitusvelvollisuus: Rekisterinpitäjä vastaa siitä, että se pystyy osoittamaan, että kaikkia näitä yleisen tietosuoja-asetuksen periaatteita on noudatettu.

Tietoja käsittelevän on yleisen tietosuoja-asetuksen mukaan myös käsiteltävä tietoja turvallisesti toteuttamalla ”asianmukaiset tekniset ja organisatoriset toimenpiteet”.

Yleinen tietosuoja-asetus sallii organisaatioiden kerätä anonymisoituja tietoja ilman suostumusta, käyttää niitä mihin tahansa tarkoitukseen ja säilyttää niitä toistaiseksi – kunhan organisaatiot poistavat tiedoista kaikki tunnisteet. Tietojen anonymisointiin on useita menetelmiä, kuten seuraavat:

• Yleistys on menetelmä, jossa poistetaan tarkoituksellisesti osa tiedoista, jotta ne olisivat vaikeammin tunnistettavissa. Tietoja voidaan muokata niin, että ne vastaavat tiettyjä vaihteluvälejä tai laajempaa aluetta, jolla on tarkoituksenmukaiset rajat. Tiedoista voidaan poistaa esimerkiksi katuosoite ja ottaa mukaan vain kaupungin nimeä koskevat tiedot. Tällä tavoin voidaan poistaa osa tunnisteista ja säilyttää samalla tietty tietojen tarkkuustaso.
• Pseudonymisointi on tiedonhallinta- ja anonymisointimenetelmä, jossa korvataan yksityiset tunnisteet – kuten nimet tai tunnistekoodit – peitetunnisteilla tai salanimillä. Esimerkiksi tunniste ”Santeri” voidaan korvata sanalla ”Saara”. Pseudonymisointia käytettäessä voidaan säilyttää tilastollinen tarkkuus ja tietojen eheys. Muokattuja tietoja voidaan käyttää ja varmistaa silti samalla tietosuoja.
• Synteettisen datan käyttö on menetelmä, jossa käytetään luotuja keinotekoisia tietoaineistoja alkuperäisen tietoaineiston muuttamisen sijaan. Prosessissa luodaan tilastollisia malleja alkuperäisessä tietoaineistossa havaittujen mallien perusteella. Synteettisten tietojen tuottamiseen voidaan käyttää keskihajontoja, mediaaneja, lineaarista regressiota tai muita tilastollisia menetelmiä.

Tietojen anonymisointi voi olla haastavaa. On myös menetelmiä, joita voidaan käyttää tietojen ”de-anonymisointiin”. De-anonymisointimenetelmillä pyritään saattamaan salattuja tai peitettyjä tietoja uudelleen tunnisteellisiksi. De-anonymisoinnissa eli tietojen jälleentunnistamisessa voidaan esimerkiksi tehdä ristiviittauksia anonymisoitujen tietojen ja muiden käytettävissä olevien tietojen välillä, jotta henkilö, ryhmä tai tapahtuma voidaan tunnistaa.

Oikeus turvallisuuteen on normi, joka suojelee yksilöitä fyysisiltä, sosiaalisilta ja emotionaalisilta haitoilta, myös onnettomuuksilta ja toimintahäiriöiltä. Turvallisuus käsittää myös tahallisilta haitallisilta uhilta suojassa olemisen.

Oikeus turvallisuuteen luo moraalisen velvoitteen suunnitella tuotteet, lait ja ympäristö siten, että turvallisuus voidaan taata myös epätavallisissa olosuhteissa tai häiriötilanteissa. Tekoälyn osalta turvallisuudesta on keskusteltu useista eri näkökulmista, kuten seuraavista:

Keskustelussa tekoälystä eksistentiaalisena uhkana tekoälyyn suhtaudutaan erittäin spekulatiivisesti ja tulevaisuuteen suuntautuvasti. Tarkastelussa keskitytään siihen, millaisia uhkia tekoälyjärjestelmät aiheuttavat ihmiskunnalle, jos niistä tulee liian monimutkaisia hallita (tällaisen superälyskenaarion maalaavia ajattelijoita ovat esimerkiksi Nick Bostrom ja Ray Kurzweil).

Sekä filosofit että teknologit ovat kuitenkin kyseenalaistaneet superälykkään tekoälyn tulevaisuuden uskottavuuden. Nykyisin ei ole mitään syytä olettaa, että nykyisten algoritmisten menetelmien kehittäminen johtaisi superälyn syntymiseen.

Tekoälyn turvallisuuden toisessa tulkinnassa keskitytään käytännön kysymykseen siitä, miten suunnitella turvallisesti ja ennakoitavasti käyttäytyviä järjestelmiä. Integroitaessa tekoälyjärjestelmiä yhä useammille elämänalueille tulee entistä tärkeämmäksi suunnitella järjestelmät hyvin siten, että ne vastaavat maailman monimutkaisuutta. Hyvin käytännöllinen ja jo olemassa oleva esimerkki tästä on kaistavahtiteknologia, joka käyttää koneoppimista estääkseen autoja siirtymästä oman kaistansa ulkopuolelle. Koneoppimisen tutkijat ovat havainneet, että jotkin kaistantunnistusalgoritmit on melko helppo sekoittaa arvaamattomilla tiemerkinnöillä, jolloin auto poistuu tieltä seuraamalla tekaistuja kaistamerkintöjä.

Eettisesti – ja oikeudellisesti – merkittävä kysymys kuuluu: ”Mitkä ovat varmatoimisuuden hyväksyttävät rajat?” Jotkin olosuhteet ovat varmasti niin odottamattomia, että vaikka järjestelmän turvallisuutta ei voidakaan taata, voimme myöntää, että ”kukaan ei olisi voinut realistisesti aavistaa tapahtunutta”. Tämän rajan määrittely on kuitenkin vaikeaa, eikä se todellakaan ole yksinomaan tekoälyn tai edes teknologian ongelma.

Tekoälyn tulevaisuuden visioihin liittyvä kehitysinto on kuitenkin herättänyt kysymyksiä turvallisuuden rajoista ja ympäristön epävarmuuksien lieventämisestä täysin uudella tavalla. Esimerkki tästä on autonomisista ajoneuvoista käytävä keskustelu.

Kolmas turvallisuuteen ja tekoälyyn liittyvä käsite, jota tarkastelemme tässä osassa, on turvallisuuden lisääminen tekoälyn avulla. Voiko maailmasta tehdä turvallisemman tekoälyn avulla? Entä turvallisemmalta tuntuvan? Ja kenen kannalta turvallisemman?

Robotisaatiota voidaan käyttää käytännön esimerkkinä tästä käsitteestä. Vaarallisten aineiden käsittely tai työskentely vaarallisissa ympäristöissä voidaan siirtää robottien tehtäväksi, mikä suojelee työtä tekevien ihmisten (tai eläinten) terveyttä.

Lisäksi tietynlaista turvallisuutta voidaan lisätä tekoälyn avulla käyttämällä automaattista valvontaa. Tekoälyä käyttävä valvonta on yleistynyt monilla osa-alueilla: julkisissa tiloissa, lainvalvonnan ennakoivassa poliisitoiminnassa ja kodeissa Amazonin Ringin kaltaisten tuotteiden avulla. Vaikka valvontakameroita on ollut olemassa jo vuosikymmeniä, ja ne ovat hallinneet julkisia ja puolijulkisia tiloja, Yhdysvaltain kansalaisvapausliiton (ACLU) mukaan automaatio aiheuttaa suuren laadullisen muutoksen valvonnan toimintatapaan. Mikä on muuttunut?

”Kuvittele, millainen valvontakamera oli tyypillisessä lähikaupassa 1980-luvulla. Silloin kamera oli iso ja kallis, ja se oli yhdistetty seinän läpi menevällä johdolla takahuoneessa olevaan videonauhuriin. Kameratekniikassa on tapahtunut merkittävää edistystä viime vuosikymmeninä – resoluutiossa, digitalisoinnissa, tallennuksessa ja langattomassa lähetyksessä – ja kamerat ovat nykyään edullisempia ja paljon yleisempiä.”

”Kaikista näistä edistysaskelista huolimatta tallentamisen sosiaaliset vaikutukset eivät kuitenkaan ole muuttuneet: astuessamme kauppaan ajattelemme yleensä, että kameroiden läsnäolo ei vaikuta meihin. Tiedämme, että liikkeemme tallentuvat, ja saatamme tuntea olomme vaivaantuneeksi, jos havaitsemme kameran. Näin käy varsinkin jos teemme jotain, mikä mielestämme saattaa herättää huomiota. Yleensä kuitenkin ymmärrämme, että videoita, joissa näymme, ei todennäköisesti tutkita tai katsota, jollei jotakin odottamatonta tapahdu.”

-The Dawn of Robot Surveillance, ACLU

Lisäksi ratkaisematta on empiirinen kysymys siitä, missä määrin tekoälyä käyttävä valvonta todella lisää turvallisuutta. Kuten lamaannuttavia vaikutuksia koskeva esimerkki osoittaa, tekoälyä käyttävä valvonta voi itsessään aiheuttaa osaltaan turvattomuudentunnetta. Tekoälyä käyttävä valvonta voi lisäksi lisätä todellista vaaraa suoraan ja aiheuttaa haittaa. Esimerkiksi tekoälyä käyttävä poliisitoiminta voi johtaa suoraan fyysiseen vahinkoon ennakoivan luonteensa ja lainvalvontamenetelmien vuoksi. Kun kaikkialla läsnä oleva automaattinen valvonta mahdollistaa pienimpienkin rikkomusten tarkkailun ja kirjaamisen, vaarana on, että poliisitoiminnan seurauksista tulee alkuperäistä rikosta vahingollisempia.

Koska poliisitoiminnan tasot, lainvalvontamenetelmät ja eri yhteisöjen valvontatasot ovat erilaisia, varsinkin rodullisten ulottuvuuksien osalta, on selvää, että tekoälyä käyttävä valvonta luo eri ihmisten kannalta erilaista turvallisuutta (ja turvattomuutta). Kuten edellä, turvallisuuden arvo on jälleen kietoutunut yhteen muiden eettisten arvojen, kuten oikeudenmukaisuuden ja syrjimättömyyden, kanssa.

Turvallisuus tarkoittaa myös oikeutta turvalliseen ja terveelliseen ympäristöön. Nykyään tätä oikeutta uhkaa ilmastonmuutos. Ilmastonmuutoksen vaikutukset ovat jo nähtävissä – myrskyt, kuivuus, maasto- ja metsäpalot sekä tulvat ovat yleistyneet. Lisäksi niitä esiintyy entistä tiheämmin, ja ne ovat entistä tuhoisampia. Globaalit ekosysteemit muuttuvat. Ne kaikki vaikuttavat ympäristöön, jonka varassa olemassaolomme on. Ilmastonmuutosta koskevassa raportissa (2018) arvioitiin, että maailmalla on edessään katastrofaalisia seurauksia, ellei maailman kasvihuonekaasupäästöjä poisteta 30 vuoden kuluessa.

Kokoavasti voidaan todeta, että turvallisuus vaikuttaa tekoälyteknologioihin monin eri tavoin. Ne kaikki herättävät kysymyksiä normatiivisten arvojen tasapainottamisesta: vaikka pyrkimys tehdä ”tekoälyllä hyvää” kuulostaa lupaavalta, oikeuksien ja normatiivisten arvojen toteuttaminen teknologisissa järjestelmissä törmää käytännössä usein maailman lukuisiin eturistiriitoihin ja syviin epäoikeudenmukaisuuksiin. Turvallisuutta arvioitaessa onkin tärkeää arvioida, minkä muiden oikeuksien kanssa se risteää käytännössä, ja kysyä ”kenen kannalta turvallinen?”

Osallisuudella tarkoitetaan sitä, että kaikilla ihmisillä, riippumatta ominaisuuksista, jotka tekevät heistä erilaisia – olipa kyse sitten rodusta, sukupuolesta, seksuaalisuudesta, lahjakkuudesta tai muusta ominaisuudesta – on yhtäläinen oikeus osallistua täysipainoisesti yhteiskuntaan.

Maailman terveysjärjestön (2018) mukaan maailmassa on yli miljardi vammaista henkilöä. Toisaalta tekoäly voi lisätä vammaisten henkilöiden syrjäytymistä ja ulkopuolelle sulkemista. Toisaalta tekoälyteknologioilla on valtavat mahdollisuudet edistää näiden ihmisten hyvinvointia. Tekoäly voisi tukea vammaisia henkilöitä ja lisätä heidän mahdollisuuksiaan.

Esimerkiksi viestintä- ja lukutaitoa voidaan kehittää useilla eri välineillä, jotka voisivat tukea kognitiivisten taitojen häiriöistä ja/tai monimutkaisista puhe- ja kielivaikeuksista kärsivien ymmärtämiskykyä (esimerkiksi dementian, CP-oireyhtymän tai autismin yhteydessä). Muita esimerkkejä ovat tekoälyä käyttävien avustavien teknologioiden kehittäminen. Niitä ovat muun muassa kuvien kuvailu sokeille, puheentunnistus, tekstitys kuulovammaisille, viittomakielen tunnistaminen ja luominen kuuroille, monikieliset tekstin puheeksi muuttavat tekniikat tekstin lukemisen mahdollistamiseksi kognitiivisten taitojen häiriöistä, kuten lukivaikeudesta, kärsiville, vanhusten hoitorobotit ja näkövammaisten liikkumisoppaat.

Monet teknologiatutkijat ovat kiinnittäneet huomiota ”sukupuolten väliseen kuiluun” tai ”sukupuolten väliseen kahtiajakoon”. Tällä kuilulla on monet kasvot. Ensinnäkään naisten digitaaliset ja algoritmiset lukutaidot eivät Unescon mukaan ole samalla tasolla kuin miesten. Naiset eivät yhtä todennäköisesti osaa käyttää tietokonetta, navigoida internetissä ja käyttää sosiaalista mediaa ja ymmärrä, miten digitaalisessa mediassa olevaa tietoa suojataan. Nämä kaikki ovat taitoja, joita tarvitaan lukemattomissa elämään ja työhön liittyvissä tehtävissä ja jotka ovat tärkeitä kaikenikäisille ihmisille. Unesco arvioi, että miehillä on naisiin verrattuna noin neljä kertaa todennäköisemmin edistykselliset tieto- ja viestintätekniikan taidot, kuten ohjelmointitaito.

Naiset eivät myöskään yhtä todennäköisesti luo huipputeknologiaa. Tutkimusten mukaan G20-maissa vain seitsemän prosenttia tieto- ja viestintätekniikan patenteista on naisten tuottamia. Perustutkintoa suorittaville opiskelijoille 29 maassa tehdyssä tuoreessa tutkimuksessa todettiin, että uuden teknologian varhaiset omaksujat ovat ylivoimaisesti miehiä. Vuonna 2017 järjestettyjen maailman tärkeimpien koneoppimiskonferenssien osallistujiin perustuvat laskelmat osoittavat, että vain 12 prosenttia johtavista koneoppimistutkijoista on naisia.

Teknologiatutkimukset osoittavat, että teknologia heijastaa usein kehittäjiään. Vaikka esimerkiksi useimmat kehitysmaiden pienituloiset naiset työskentelevät pääasiassa maataloudessa, miehet ovat olleet maatalousteknologian ensisijaisia omaksujia ja kehittäjiä ja maatalouden innovaatiot ja välineet on suunniteltu erityisesti miesten käyttöön. Tämän vuoksi kehitettiin monia työkaluja miesten viljelysmailla suorittamaa työtä varten. Nyt tiedetään, että työkalut ovat liian raskaita naisten työnnettäviksi tai niiden kahvat ovat liian korkealla naisille. Täsmälleen sama pätee usein nykyiseen älyteknologiaan – äänikomentojärjestelmät eivät tunnista naisten puhetta, eivätkä älypuhelimet ja tietokonenäppäimistöt ole naiskäyttäjille sopivan kokoisia.

Osallisuudessa on kuitenkin kyse muustakin kuin naisten osallistumisen varmistamisesta. Osallisuus tarkoittaa velvollisuutta varmistaa kulttuurinen moninaisuus, moni-ikäisyys ja maantieteellinen moninaisuus sekä näiden erilaiset yhdistelmät. Otettaessa huomioon tekoälyn vaikutukset yhteiskuntaan on yksinkertaisesti tarpeen kehittää järjestelmiä tarkoituksellisesti eri ympäristöihin ja monenlaisille käyttäjille.