¿Equivalen los datos a los hechos? ¿La IA aporta conocimiento objetivo? ¿La IA incorpora valores en sus resultados?
Una decisión clínica requiere conocimiento objetivo sobre los hechos que conforman la realidad de la enfermedad en el paciente individual. El médico incorpora, gracias a su habilidades, una aproximación diagnóstica que le sitúa en condiciones de trasladar ese conocimiento al caso específico de que se trate; gracias a ello puede vislumbrar los cursos de acción posibles para la confirmación del diagnóstico, el planteamiento terapéutico y establecimiento del pronóstico.
Pero, en la vida, y la clínica no es una excepción, las decisiones incluyen, siempre, la inclusión de valores. Pensemos, por un momento, si en la guerra, ejemplo constante a lo largo de la historia de decisiones de enorme trascendencia, son solo los hechos los que están detrás del inicio de las hostilidades; es obvio que no.
En las decisiones en clínica los valores que deben tenerse en cuenta son los del paciente. El proceso de deliberación clínica persigue, precisamente, identificar el curso de acción óptimo teniendo en cuenta el mejor interés del paciente. Los valores relevantes en juego por parte del médico son los profesionales, orientados a la excelencia; no otros.
Cuando la IA ofrece resultados que pueden ser incorporados como ayuda a la toma de decisiones en clínica, el profesional y el paciente deben preguntarse si el modelo está incorporando al análisis de la pregunta planteada los hechos que están detrás de la enfermedad del paciente, o si solo traslada «su conocimiento» creado a partir de una inmensidad de información (datos) que reflejan la «vida real», o mejor la forma en que esa realidad se traslada en múltiples interpretaciones que son, de una u otras forma, accesibles y pueden ser compiladas. De entrada, parece razonable asumir que esa incorporación de datos refleja una realidad global, pero no que esa información sea objetiva y aplicable de manera específica, y, desde luego, tampoco que refleje solo hechos. La información compilada en los modelos incorpora, al menos y en el mejor de los casos, los valores generales que subyacen en ese mundo real.
Pero, además, el resultado de la consulta a la IA puede variar dramáticamente según interprete el modelo que es lo que se espera que conteste, según se le pregunte y desde qué perspectiva, lo que contribuye también de manera muy negativa a la especificidad y adecuada orientación de su respuesta a los intereses del paciente.
Y todo ello, asumiendo ausencia de interés de partida en la construcción de los modelos para favorecer una forma u otra de enfrentar las respuestas médicas ligadas a intereses de parte.