Vid utveckling eller användning av en AI-modell finns det en risk att modellen blir partisk. Därmed kan det innebära diskriminering mot vissa individer. Det finns ett förbud mot diskriminerande algoritmer för AI-modeller i GDPR och därför är det viktigt att se till att det inte förekommer. Observera att det inte alltid är enkelt att upptäcka diskriminering.
Förbud mot diskriminerande algoritmer för AI-modeller: Principen om korrekthet i GDPR
I GDPR finns det flera grundläggande principer som genomsyrar hela förordningen och som företag måste följa. En av dessa är principen om korrekthet. Principen innebär bland annat att behandlingen måste vara rättvis och proportionerlig i förhållande till ändamålet med behandlingen och de registrerade. Dessutom innebär principen att behandlingen av personuppgifterna inte ska vara diskriminerande. Med andra ord, innebär det ett förbud mot diskriminerande algoritmer för AI-modeller vid behandlingar av personuppgifter. Observera att det inte bara gäller själva behandlingen i sig, utan även resultatet som AI-modellen producerar.
Hur kan utvecklingsföretaget motverka diskriminerande algoritmer för AI-modeller?
Företaget som utvecklar AI-modellen behöver vidta lämpliga tekniska och organisatoriska åtgärder för att se till att AI-modellen inte är diskriminerande. Därför är det viktigt att träna AI-modellen på ett sätt så att det inte kommer att ge diskriminerande resultat.
- Praktiskt exempel: Om ett företag utvecklar en AI-modell för att kunna rekrytera personer, men enbart tränar AI-modellen med data avseende män. Då finns en större risk för att AI-modellen producerar diskriminerande resultat. Detta kan även ske oavsiktligt. Till exempel om utvecklingsföretaget tränar AI-modellen genom att utgå från tidigare genomförda rekryteringar, där det har varit betydligt fler män än kvinnor som deltagit i rekryteringsprocessen.
Några andra principer i GDPR som är viktiga att beakta
Det finns sju (7) grundläggande dataskyddsprinciper i GDPR. Principen om ansvarsskyldighet, laglighet, korrekthet och transparens, lagringsminimering, integritet och konfidentialitet, riktighet, uppgiftsminimering samt ändamålsbegränsning. Dessa utgör kärnan i GDPR och genomsyrar hela förordningen. Principerna framgår av artikel 5 i GDPR.
