Ready or not, here AI come
Hisspitchen: Den nya AI-lagstiftningen ska göra artificiell intelligens pålitlig — eller åtminstone inte direkt skadlig — för allmänheten. Nej till ljusskygga användningområden som sociala poängsättningssystem och manipulering, fram med tillförlitliga, robusta, etiska AI-system. Risken att en AI orsakar skada är förstås kopplad till vad den kan göra, men även hur och i vilket sammanhang den används spelar stor roll. EU-förordningen delar in användning i olika risknivåer, där allt på nivå ”oacceptabel risk” förbjuds. Här handlar det om sammanhang där AI-funktioner kan användas för ansiktsigenkänning på offentliga platser, för manipulering eller för att utnyttja sårbarheter hos människor.
Arbetsgivare: hög risk-nivå
Nivån ”hög risk” gäller AI-användare inom offentlig sektor, samhällskritisk infrastruktur, rättsväsende — och arbetsgivare. Ja, ”sysselsättning och arbetsledning” är faktiskt ett högriskområde; AI som används för rekrytering, urval av arbetssökande och utvärdering av medarbetares prestationer kan påverka människors framtid och försörjning. Det är tillåtet att som arbetsgivare använda AI-verktyg, men det förutsätter att du har (och använder!) system för internkontroll och riskhantering. Är du varken samhällskritisk eller arbetsgivare? Välkommen till nivå tre: ”begränsad risk”.
Varför ska jag bry mig?
För att reglerna med stor sannolikhet gäller dig också. Alla användare av AI-system omfattas av förordningen, men i praktiken är det företag och organisationer som bär ansvaret för vad deras medarbetare gör. Det vill säga: när du använder AI i ditt jobb och det resulterar i någonting som når marknaden och kan påverka människor — då måste det ske enligt reglerna. Och reglerna kräver transparens. En chatbot måste vara glasklar med att användaren inte kommunicerar med en människa. När något genererats eller modifierats av AI ska transparensen vara total; varje bild, videofil eller ljudklipp från ChatGPT, Claude, Gemini och liknande måste förses med tydlig information som gör innehållets ursprung uppenbart för personer som kommer i kontakt med det. Saknas informationen och transparensen så riskerar företaget böter.
Bilden har genererats av AI-modellen DALL-E utifrån instruktionen ”en robot-domare med en domarklubba i handen sitter i en futuristisk rättssal”.
Innovation och stöd för SME-företag
Nu över till någonting roligare! AI-lagen är nämligen inte bara straff och pekpinnar. Tvärtom: nu ska varje medlemsstat stötta innovation och konkurrenskraft genom att ge små, medelstora och nystartade företag möjligheter att utveckla och träna sina egna AI-modeller. Lagen kräver att medlemsländerna erbjuder testmiljöer som simulerar verkliga förhållanden. Där kan företagen finslipa sina modeller och försäkra sig om att alla krav och regler uppfylls, innan slutresultatet rullas ut för allmänheten.
Redo? Så förbereder ni er
AI-förordningen — nära 500 sidor lång — finns förstås tillgänglig för alla som vill läsa. Gör inte det. Om ditt företag inte rör sig på nivån ”hög risk” handlar det snarare om att se till att organisationen har någorlunda koll. Utbildning alltså, information på en need-to-know-basis och några enklare riktlinjer innan lagen träder i kraft (det kan vara en bra idé att titta tillbaka på GDPR och de rutiner ni införde då). Transparens, löpande information om vad företagsledningen gör samt kontinuerlig utbildning och utveckling räcker en bra bit. Det finns också en hel del verktyg, ramverk och konsultstöd; mer om det i nästa artikel.
Bilden har genererats av AI-modellen DALL-E utifrån instruktionen ”en robot-domare med en domarklubba i handen sitter i en futuristisk rättssal”.
Texten är en mycket elementär sammanfattning av huvuddragen i EU:s nyligen antagna AI-förordning och gör inte anspråk på att presentera en fullständig bild av regelverket eller detaljerade fakta. Läs gärna vidare på https://artificialintelligenceact.eu/high-level-summary/