Tillit till AI inom sjukvården : En fallstudie i vad som krävs för att vårdpersonal ska känna tillit tillAI-baserade diagnostiseringssystem

Sammanfattning: Ett ökat intresse för artificiell intelligens (AI) under de senaste åren har lett till att potentiellaanvändningsområden utforskats i större grad. Inom sjukvården finns flera möjligaappliceringar av AI, framförallt har nyttan av AI inom bildanalys och diagnostik studerats.I denna undersökning genomförs en kvalitativ fallstudie med syfte att undersöka i vilkenutsträckning sjukvårdspersonal känner tillit till AI-baserade system för diagnostik och vadsom påverkar denna tillit.Deltagare med olika roller och erfarenhet inom sjukvården har intervjuats, och deras svar haranalyserats för att undersöka hur deras inställning till AI ser ut samt vilka förutsättningar somkrävs för att uppnå en rimlig nivå av tillit till AI-baserade system för diagnostik. Hur stor tillitrespondenterna hade för AI inom sjukvården var beroende på tidigare erfarenheter ochupplevelser, men generellt hade man en relativt stor tillit så länge vissa förutsättningar harmötts. Dessa förutsättningar är följande; i) AI inom sjukvården fungerar bäst som beslutsstöd,ii) kunskap och förståelse krävs för att känna tillit till AI, iii) AI måste vara minst likakompetent som sjukvårdspersonalen, iv) AI måste kunna förklara sitt resonemang och visasin träffsäkerhet samt v) ackreditering bidrar till att öka tilliten.