Trong trí tuệ nhân tạo, các dữ liệu được cung cấp đến máy tính có trách nhiệm đưa ra kết luận chẩn đoán dựa trên bằng chứng y học có sẵn. Điều này chỉ có tính chính xác khi thông tin để đưa ra kết luận ở thực tế tương đồng với thông tin được cung cấp, nhưng thực tế cho thấy thông tin thuật toán ghi nhận chỉ mang tính một chiều.
Theo một khảo sát từ các nhà nghiên cứu thuộc đại học Y Khoa Stanford vào 2020, các dữ liệu sức khoẻ và sư liên quan đến chủng tộc, tôn giáo, văn hoá, hành vi dựa trên thói quen sinh hoạt có giá trị tương đồng như tình trạng sức khoẻ hiện tại của người bệnh; khi để thuật toán chỉ ra giá trị xác thực của chẩn đoán. Lý do này khiến thuật toán không thể đưa ra được cái nhìn đa chiều như bác sĩ thực thụ và đưa ra chẩn đoán chính xác hoàn toàn, dựa trên so sánh từ ba bang California, Massachusetts và New Yorks.
Tính thiên kiến của AI sử dụng cho chẩn đoán có thể xảy ra qua yếu tố về giới và sắc tộc. Một nghiên cứu đã chỉ ra việc sử dụng thuật toán có sẵn để chỉ định can thiệp y khoa đối với nhóm bệnh nhân có nhiều vấn đề sức khoẻ có sự khác biệt giữa nhóm bệnh nhân da trắng và da màu có cùng tình trạng; nhóm da trắng được chỉ định can thiệp nhiều hơn.
Nguyên nhân của sự khác biệt có căn nguyên từ việc dùng viện phí (health cost) làm proxy cho chỉ định can thiệp y khoa, trí tuệ nhân tạo đã không thể nhận ra được rằng mức chi cho chăm sóc sức khỏe của người da màu thấp hơn người da trắng với cùng tình trạng bệnh lý. Điều này kéo theo việc đưa ra quyết định điều trị sẽ có sai lệch từ việc thiếu tính đa chiều bởi thuật toán có sẵn.