Bedöm riskerna med användningen och säkerställ lämplig säkerhet

Det är möjligt att förena användning av generativ AI med dataskyddsförordningens bestämmelser om säkerhet. Vilka säkerhetsåtgärder som behöver vidtas är beroende av risken med behandlingen. Verksamheter som avser att använda generativ AI behöver alltså utföra riskbedömningar innan en behandling med generativ AI påbörjas. Användningen behöver dessutom kontinuerligt följas upp ur ett säkerhetsperspektiv. En konsekvensbedömning enligt dataskyddsförordningen behöver genomföras om personuppgiftsbehandlingen sannolikt medför höga risker för enskilda. Exempel på risker med användning av generativ AI innefattar övertro på AI-systemets förmågor, bristande förståelse för dess begränsningar och risk för dataläckage. Dessa risker kan kräva åtgärder såsom en tydlig styrningsstruktur, mänsklig kontroll och tekniska säkerhetsåtgärder.