Ny AI-förordning – harmoniserade regler för artificiell intelligens (AI)

Nu har förslagets tillämpningsområde förtydligats. Den huvudsakliga ändringen är tillägget att nationell säkerhet undantas från tillämpningsområdet för förslaget till förordning.

Ett antal definitioner har även finjusterats i kompromissförslaget och nya har lagts till. Framför allt har definitionen av ett AI-system inskränkts för att skapa större rättslig klarhet och bättre återspegla vad AI-akten avser med ett AI-system. Den föreslagna förordningens tillämpningsområde omfattar inte traditionella programvarusystem som normalt inte betraktas som artificiell intelligens.

Kategorisering av AI-system

Förslaget utgår från ett riskbaserat angreppsätt i syfte att skapa en uppdelning mellan olika typer av AI-system och dess användning. Högrisk-AI-system omfattar ”biometriska systemidentifiering och kategorisering av fysiska personer” och ”hantering och drift av kritisk infrastruktur och skydd av miljön”. Detta innefattar:

• AI-system avsedda att användas som säkerhetskomponenter i ledning och drift av försörjning av vatten, gas, värme och elektricitet.
• AI-system för att kontrollera eller som säkerhetskomponenter i digital infrastruktur.
• AI-system för att kontrollera miljöutsläpp och föroreningar.

Särskilda krav av hög risk

Särskilda krav föreslås för AI-teknik som bedöms vara av hög risk med krav på till tillsyn och registrering hos ansvarig myndighet.

• Särskilda krav på hantering av data, inklusive att bedöma vilken typ av insamling som behövs, och särskilda fördomar/vinklingar och andra brister i data som finns.
• Krav på teknisk dokumentation, att föra register som innefattar eventloggar för användning av AI-systemen och implementera ett riskhanteringssystem.
• Krav på mänsklig översyn och informationssäkerhet för att garantera säkerheten AI-system.
• Krav på transparens och information i förhållande till användare av AI-systemet. Gäller bland annat krav på att informera om vem som tillhandahåller AI-systemet, funktionalitet och begränsningar, förändringar i systemet och vilken mänsklig översyn som finns.
• Krav på att AI-system med hög risk ska genomgå en granskning av om de uppfyller kraven i förordningen. Om sådana AI-system uppfyller kraven ska en CE-märkning utfärdas för AI-systemet.

Förväntade konsekvenser

Förslaget till AI-akt innehåller en komplex efterlevnadsram, vilket medför betydande administrativa bördor och kostnader för företagen. AI-regler kan även få konsekvenser att de begränsar användningen för energisektorn i och med att sektorn klassas som högrisk. AI-akten kan ge alltför höga ekonomiska konsekvenser för små och medelstora företag samt nystartade företag att kunna hantera. Sanktionsavgifterna liknar de som gäller för GDPR. Allvarliga överträdelser kan ge upp till sex procent av en koncerns globala årsomsättning i sanktionsavgifter.

Övergripande synpunkter från Energiföretagen Sverige

Under våren skickade Energiföretagen Sverige och ESG in synpunkter på föreslagna AI-förordningen och hur de påverkar energisektorn (Diarienummer: I2021/01304) baserat på följande tre huvudprinciper:

1. Energiföretagen ser att reglerna behöver vara proportionella i förhållande till de risker som anges, utifrån användningsområde och inte vara för detaljerade eller administrativt betungande.
2. Det finns behov att tydliggöra vilka säkerhetskrav som är tillämpliga på AI-system och användning inom högrisk där energisektorn pekas ut för att möjliggöra efterlevnad. Energiföretagen önskar ett undantag för AI-teknik för applikationer som används för kontroll och uppföljning av drift- och underhållsservice.
3. Förhållande till annan lagstiftning som dataskyddsförordningen och produktsäkerhetskrav i cybersäkerhetsakten behöver säkerställas.

Detta händer härnäst

Europeiska unionens råd har utvärderat den föreslagna rättsakten om AI. I nästa steg ska förslaget diskuteras med EU-parlamentet.

Tillämpningen av förordningen föreslås ske två år efter att den trätt i kraft. Nationella tillsynsmyndigheter behöver föreslås som ansvariga för tillämpningen och efterlevnaden av lagstiftningen.