Bias i algoritmer opstår, når data eller modeller ikke er repræsentative eller fejlbehæftede, der fører til systematisk fejlagtige forudsigelser i algoritmens output. Bias kan også forekomme i den medicinske beslutning på grund af forudindtagede holdninger, ufuldstændig information eller fejlagtige antagelser baseret på algoritmens (korrekte) output. Resultatet kan i sidste ende være forkert diagnostik og behandling. Det er derfor afgørende at identificere og korrigere for bias for at sikre retfærdig og præcis patientbehandling – hvilket kræver et fokus på hele den arbejdsgang hvor algoritmen bidrager til beslutninger.
Indsigt.ai har fokus på bias og har publiceret indenfor området : Se Publikationer