SVT genomförde stresstest med deepfakes mot egna redaktioner

SVT:s egen programdivision genomförde nyligen ett experiment där tre lokala redaktioner lurades att publicera fejkade klipp på djur. Både videomaterialet och intervjun med den fiktiva tipsaren ”Gustav” var skapade med hjälp av deepfake-teknik. Syftet med aktionen var att stresstesta redaktionernas källkritik och rutiner inför en dokumentärserie om artificiell intelligens. Händelsen har väckt diskussion om public service-bolagets interna säkerhetsrutiner och förmåga att identifiera manipulerat material. Att fejkade nyheter lyckas passera redaktionella filter på statligt finansierade medier ses som problematiskt, särskilt i en tid där informationspåverkan och desinformation utgör ett växande demokratiskt hot. Från politiskt håll och inom mediebranschen har frågan om AI-genererat innehåll blivit alltmer aktuell. Incidenten belyser behovet av ökad kompetens och tekniska verktyg för att verifiera digitalt material. Det understryker även utmaningen för traditionella medier att upprätthålla sin roll som trovärdiga informationsbärare när tekniken för att skapa trovärdiga förfalskningar blir alltmer tillgänglig. SVT försvarar experimentet som en nödvändig åtgärd för att blottlägga sårbarheter i systemet. Erfarenheterna från stresstestet förväntas nu ligga till grund för ett förstärkt arbete med källkritik inom organisationen för att förhindra att liknande misstag sker med mer säkerhetspolitiskt eller samhällskritiskt material.