Kielletyt tekoälyyn liittyvät käytännöt – millaiset tekoälyjärjestelmät ovat kiellettyjä?

Tekoälyjärjestelmiä ja tekoälyyn liittyviä käytäntöjä arvioidaan EU:ssa riskiperusteisesti

Suurin osa tekoälyjärjestelmistä on täysin sallittuja, eikä niihin liity erityisiä velvoitteita tai kieltoja.

EU on kuitenkin halunnut suojella perusoikeuksia ja tiettyjä vapauksia sekä unionin arvoja kieltämällä tietyt tekoälyyn liittyvät käytännöt kokonaan.

Muutama esimerkki kokonaan kielletyistä tekoälyjärjestelmistä:

🔴 Ihmisten alitajuinen tai tarkoituksellinen manipulointi tai harhautus tekemään haitallisia päätöksiä.

🔴 Ihmisten reaaliaikainen tunnistaminen valvontakameroista tai sosiaalinen pisteytys eri tietokantoja yhdistelemällä.

🔴 Tunteiden päätteleminen oppilaitoksissa tai työpaikoilla.

Vastuu arvioinnista on myös sillä, joka ottaa järjestelmän käyttöön

EU:n markkinoille tuotavien tekoälyjärjestelmien riskitaso on arvioitava jo ennen sen markkinoille saattamista tai käyttöönottoa. Vastuu arvioinnista on myös tekoälyjärjestelmän käyttöönottajalla eli sellaisella henkilöllä tai organisaatiolla, joka käyttää valvonnassaan olevaa tekoälyjärjestelmää.

Oikean riskitason selvittäminen ei ole aivan suoraviivaista ja tekoälyasetuksen vaatimusten soveltamiseen liittyy myös poikkeuksia, kuten ns. kotitalouspoikkeus. Jos organisaationne kaipaa apua tässä, Lex Futura auttaa!