EU:s AI-lag - världens första
Världens första lag för att reglera användandet av AI
Världens första lag för att reglera användandet av AI (artificiell intelligens) är EU:s AI-lag. Som en del av en digital strategi där EU vill reglera och säkerställa villkor för användning och utveckling av AI med regler anpassade efter risknivåer.
AI kan vara fördelaktigt inom transport, sjukvård, energi och tillverkning med mera och Europaparlamentet vill försäkra att de AI-system som används inom EU är säkra och spårbara samt övervakade av människor.
Regler baserat på risknivåer
Även om de flesta AI-system inte innebär någon större risk ska de bedömas och regleras. Baserat på bedömningen om nivå av risk fastställs sedan skyldigheter för användare och leverantörer.
System som anses vara ett hot mot människor är inte accepterat och ska förbjudas. Dit räknas till exempel vissa system inom biometrisk identifiering och system som på olika sätt uppmuntrar farliga beteenden. Undantag finns, bland annat, inom bekämpning av brott där biometrisk identifiering kan vara till hjälp.
Det finns AI-system som kan påverka grundläggande rättigheter och personsäkerhet, de räknas som hög risk och delas in i två kategorier. Ena kategorin är AI i produkter som till exempel flyg och bilar men även leksaker finns med i den här kategorin. I den andra kategorin hamnar saker som; gränskontroll, tillämpning av lagar, bekämpande av brott, infrastruktur och utbildning med mera.
Kontroll och innovation
AI-system kommer att kontrolleras kontinuerligt och det finns krav på transparens samt copyright lagar inom EU att följa. Tillverkare och ägare måste uppfylla krav på data som används inom utbildning, krav för att förhindra att produkter skapar innehåll som är olagligt och krav på märkning av AI-genererat innehåll.
AI som kan innebära systemrisker ska genomgå omfattande undersökningar och resultaten rapporteras till EU-kommissionen. En tydlig märkning av AI-genererat innehåll (tex. bilder, ljud, video) krävs för att informera användare. Som användare kan man lämna in klagomål till Integritetsmyndigheten.
Lagen ska främja innovation och företag ska få möjlighet att kunna utveckla och träna AI-modeller i testmiljöer innan de når allmänheten.