AI Bias in Healthcare: Using ImpactPro as a Case Study for Healthcare Practitioners’ Duties to Engage in Anti-Bias Measures

Abstract

The introduction of ImpactPro to identify patients with complex health needs suggests that current bias and impacts of bias in healthcare AIs stem from historically biased practices leading to biased datasets, a lack of oversight, as well as bias in practitioners who are overseeing AIs. In order to improve these outcomes, healthcare practitioners need to engage in current best practices for anti-bias training.

Keywords:

• artificial intelligence,
• machine learning,
• bias,
• implicit bias,
• racism,
• ImpactPro

Résumé

L’introduction d’ImpactPro pour identifier les patients ayant des besoins de santé complexes suggère que les préjugés actuels et les impacts des préjugés dans les IA de soins de santé proviennent de pratiques historiquement biaisées menant à des ensembles de données biaisés, d’un manque de supervision, ainsi que de préjugés chez les praticiens qui supervisent les IA. Afin d’améliorer ces résultats, les praticiens de la santé doivent adopter les meilleures pratiques actuelles en matière de formation à la lutte contre les préjugés.

Mots-clés :

• intelligence artificielle,
• apprentissage automatique,
• préjugés,
• préjugés implicites,
• racisme,
• ImpactPro