Machine learning og andre teknologier tilhørende kategorien 'Kunstig Intelligens (AI)', har utvivlsomt potentialet til at bidrage positivt til verden. Der er desværre på trods af de gode intentioner et stigende antal eksempler på brugen af AI har ført til diskrimination af grupperinger og minoriteter, og skadet individer. Borgere og virksomheder skal være trygge ved den offentlige forvaltnings brug af AI, som ligeledes skal være rimelig, ansvarlig og gennemsigtig (se Initiativ 1.5 i den Nationale Strategi for Kunstig Intelligens fra 2019). 

Et centralt spørgsmål er derfor: Hvordan udnytter vi potentialet i AI bedst muligt, samtidig med at vi hindrer de utilsigtede konsekvenser?  

Med dette afsæt vil præsentation fokuserer på erfaringer med at udvikle tilgange og bygge et redskab til at understøtte ansvarlig anvendelse af AI til brug i den offentlige sektor på baggrund af et forskningssamarbejde mellem Erhvervsstyrelsen og IT Universitetet i København. X-RAI er designet til kontinuerligt at kvalitetssikre og minimere risici og utilsigtede negative konsekvenser igennem hele AI systemets livscyklus. Fordi det ikke er nok kun at kvalitetssikre AI systemer i forbindelse idriftsættelsen, da AI systemerne oftest skal indgå i en verden under løbende forandring - hvis de ikke ligefrem selv bidrager til forandringen.  

Der arbejdes på nuværende tidspunkt på at tilgængeliggøre X-RAI for alle som open source software, samt understøtte compliance med den kommende Artificial Intelligence Act.