Den automatiserade läkaren: Räddaren i nöden eller en juridisk huvudvärk?

Sammanfattning: På senare tid har artificiell intelligens (AI) blivit en betydande komponent inom cancerdiagnostik, där den används för att förutse, automatisera och förbättra kritiska processer. Trots dessa fördelar reser sig komplexa juridiska utmaningar i samband med den ökande användningen av AI inom detta område, främst på grund av att lagstiftningen ännu inte har anpassats till den snabba teknologiska utvecklingen. Den specifika utmaningen med AI-diagnostik ligger i dess beroende av omfattande hälso- och sjukvårdsdata för att generera exakta rekommendationer. Detta kräver tillgång till högkvalitativ och representativ information, vilket i sig kan vara komplicerat att upprätthålla och reglera. Integrationen av AI-teknologi inom medicinsk diagnostik väcker således farhågor angående lagstiftningens påverkan på innovation och risken för snedvridning (bias) i resultaten av diagnostiska processer. Denna problematik kan leda till ojämlik tillgång till vård och otillräcklig representation av olika patientgrupper. I uppsatsen tillämpas konceptet om law and technology för att analysera hur lagstiftningen påverkar innovationen inom området för AI-system för cancerdiagnostik samt kritiska rättsteorier, såsom Critical Race Theory (CRT) och Ruha Benjamins perspektiv, för att undersöka samspelet mellan teknologi och rättvisa. Målet är att belysa hur regelverket påverkar utvecklingen och potentialen för diskriminering i användningen av AI inom vården, och hur vissa grupper kan vara mer sårbara. Genom en noggrann analys ger uppsatsen en fördjupad förståelse för komplexiteten kring AI-system inom cancerdiagnostik och dess påverkan på rättvis vård och patientsäkerhet. Tidigt åskådliggörs det i uppsatsen att det nuvarande regelverket är komplicerat och svåröverskådligt för olika sektorer, både privata och regionala aktörer, vilket kan hämma innovationen. Trots detta tar det nuvarande regelverket hänsyn till integritet och skydd av känsliga personuppgifter. En identifierad problematik är dock hur befintliga system kan visa bias och leda till diskriminering av minoritetsgrupper på två nivåer, både digitalt och fysiskt. Hantering av dessa frågor är avgörande för en rättvis och icke-diskriminerande tillämpning av AI inom cancerdiagnostik. Samtidigt har EU engagerat sig i att reglera användningen av AI, och AI-förordningen står på tröskeln till att godkännas. På nationell nivå har även en statlig utredning, SOU 2023:76, delvis adresserat de utmaningar som uppsatsen identifierar. Det finns således hopp om att regleringen av AI-system inom medicinsk diagnostik, särskilt inom cancerdiagnostik, kommer att utvecklas på ett sätt som både främjar innovation och respekterar individens integritet.