Parlamentti hyväksyi aiemmin tänään tekoälysäädöksen, jolla edistetään innovointia ja taataan, että tekoälyn käyttö on turvallista ja perusoikeuksien mukaista. Mepit hyväksyivät asetuksen äänin 534 puolesta, 46 vastaan ja 49 tyhjää.

Asetuksen tavoitteena on suojella perusoikeuksia, demokratiaa, oikeusvaltioperiaatetta ja ympäristön kestävyyttä suuririskiseltä tekoälyltä, edistää innovointia ja tehdä unionista alan johtava toimija. Säännöissä vahvistetaan tekoälyä koskevat velvoitteet, jotka perustuvat sen mahdollisiin riskeihin ja vaikutustasoon.

Parlamentin lehdistötiedotteessa mainitaan erityisesti kielletyt sovellukset, kuten kansalaisten oikeuksia uhkaavat tekoälysovellukset. Niitä ovat mm. arkaluonteisiin ominaisuuksiin perustuvat biometriset luokittelujärjestelmät ja kasvokuvien kohdentamaton haravointi internetistä tai valvontakamerakuvista kasvojentunnistustietokantojen luomiseksi. Kouluissa ja työpaikoilla ovat kiellettyjä myös tekoälysovellukset, jotka tunnistavat tunteita. Kiellettyjä ovat myös sosiaalinen pisteytys, ennakoiva poliisitoiminta (kun se perustuu yksinomaan henkilön profilointiin tai heidän ominaisuuksiensa arviointiin) ja tekoäly, joka manipuloi ihmisen käyttäytymistä tai hyödyntää ihmisten haavoittuvuuksia.

Biometristen tunnistusjärjestelmien käyttö lainvalvonnassa on periaatteessa kielletty. ”Reaaliaikaisia” biometrisiä tunnistusjärjestelmiä voidaan käyttää vain, jos noudatetaan tiukkoja suojatoimia, esimerkiksi rajoitetaan niiden käyttöä ajallisesti ja maantieteellisesti ja edellytetään ennakolta erityistä oikeudellista tai hallinnollista lupaa. Tällaisia käyttötarkoituksia voivat olla esimerkiksi kadonneen henkilön kohdennettu etsintä tai terrori-iskun estäminen. Tällaisten järjestelmien käyttö jälkikäteen katsotaan erittäin suuririskiseksi käytöksi.

Suuririskisiä järjestelmiä koskevat velvoitteet ja avoimuusvaatimukset

Parlamentti painottaa, että tekoälyn käyttöön liittyy suuria riskejä, kun kyseessä ovat esim. koulutus, työllisyys, keskeiset yksityiset ja julkiset palvelut (esim. terveydenhuolto ja pankkitoiminta), tietyt lainvalvonta-, maahanmuutto- ja rajavalvontajärjestelmät sekä oikeudelliset ja demokraattiset prosessit (esim. vaaleihin vaikuttaminen).

Selkeitä velvoitteita asetetaan myös muille suuririskisille tekoälyjärjestelmille, koska ne voivat aiheuttaa merkittävää haittaa terveydelle, turvallisuudelle, perusoikeuksille, ympäristölle, demokratialle ja oikeusvaltion periaatteelle.

Järjestelmillä on arvioitava ja vähennettävä riskejä, ylläpidettävä käyttölokeja ja varmistettava ihmisen suorittamaa valvontaa. Kansalaisilla on oikeus tehdä tekoälyjärjestelmistä valituksia ja saada selvityksiä suuririskisiin tekoälyjärjestelmiin perustuvista päätöksistä, jotka vaikuttavat heidän oikeuksiinsa.

Avoimuusvaatimukset pitää myös ottaa huomioon. Yleiskäyttöisten tekoälyjärjestelmien ja niiden perustana olevien mallien on täytettävä tietyt avoimuusvaatimukset. Jos kuva-, ääni- tai videosisältö on keinotekoisesti tuotettu tai manipuloitu (”syväväärennös”), se on merkittävä selkeästi sellaiseksi.

Tekoälysäädöstä tulisi soveltaa vuodesta 2026 alkaen

Tekoälysäädös on myös virallisesti vahvistettava neuvostossa. Lakia sovelletaan kaikilta osin 24 kuukauden kuluttua sen voimaantulosta, paitsi kun kyseessä ovat: kiellettyjä käytäntöjä koskevat kiellot, joita sovelletaan kuuden kuukauden kuluttua voimaantulosta, käytännesäännöt (yhdeksän kuukauden kuluttua voimaantulosta), yleiskäyttöisiä tekoälyjärjestelmiä ja hallintoa koskevat säännöt (12 kuukauden kuluttua voimaantulosta) ja suuririskisiä järjestelmiä koskevat velvoitteet (36 kuukautta).