Ya no cabe duda de que la IA está transformando la medicina, pero lo está haciendo de una forma sin precedentes: al redefinir tanto los contornos como la sustancia de la práctica médica, manteniendo una identidad de “caja negra”, de modo que los usuarios clínicos literalmente no entienden cómo genera lo que ahora depende de ella.
Esto crea una nueva dimensión del consentimiento informado a la que la profesión médica nunca se había enfrentado, incluso cuando los proveedores de IA incluyen cláusulas en sus contratos que asignan la responsabilidad de obtener el permiso del paciente para el uso de IA de forma inequívoca a los clínicos.
Cuando el uso de IA requiere consentimiento
El primer desafío para los médicos es reconocer que el consentimiento para el uso de IA es fundamentalmente diferente del consentimiento para un tratamiento. Los clínicos están acostumbrados a discutir riesgos, beneficios y alternativas de una atención potencial en el contexto de resultados esperados. Sin embargo, el consentimiento para el uso de IA es completamente distinto: una conversación sobre una tecnología y sus subtemas, como sesgos algorítmicos y la gestión de conjuntos de datos, que legítimamente sienten que no están bien preparados para afrontar.
Para alinear el consentimiento de IA con áreas más familiares, comencemos preguntándonos si podemos compararlo con otros paradigmas de consentimiento, empezando por las situaciones en las que el consentimiento para el uso de IA es obligatorio.
Los requisitos legales deben cumplirse. Según las directrices de la FDA, la cuestión clave es si la IA funciona como un «dispositivo médico» destinado a diagnosticar, tratar o prevenir una enfermedad, en lugar de ser solo una «ayuda a la decisión» para la cual no se requiere consentimiento. Las recientes decisiones del Departamento de Salud y Servicios Humanos de EE. UU. también han impuesto salvaguardas más estrictas para compartir datos de salud reproductiva y trastornos por uso de sustancias con sistemas de IA, a menudo exigiendo una autorización separada. La ley estatal también puede ser un tema, como en California, donde los médicos deben obtener un «consentimiento afirmativo» antes de utilizar sistemas de IA para diagnóstico o tratamiento. La Unión Europea también adopta una postura estricta, clasificando la mayor parte de la IA diagnóstica como «alto riesgo», exigiendo que a los pacientes se les informe del papel de la IA en su atención y su derecho a solicitar un profesional humano en su lugar.
Los conflictos de interés también desencadenan requisitos de consentimiento. Un médico que sea inventor, inversor o investigador en el sistema de IA que utiliza debe revelar ese papel a sus pacientes y obtener su consentimiento para usar el sistema en su atención. Los pacientes cuyos datos serán compartidos con un proveedor para el uso propio del sistema de IA, por ejemplo para el entrenamiento, también deben ser informados de ese uso y luego deben aceptar expresamente ese uso tras la explicación.
La transferencia de datos añade otra capa al uso del consentimiento: mientras la IA puede utilizarse internamente para operaciones de atención sanitaria o facturación, las excepciones de HIPAA a la necesidad de autorización específica para estos usos implican que la transmisión de PHI fuera del sitio para fines de atención es diferente. Que su proveedor de IA haya celebrado adecuadamente un Acuerdo de Asociado Comercial, comprometiéndose a cumplir con las regulaciones de HIPAA, cumple tanto con sus obligaciones como con las del proveedor, pero esta protección no se extiende a los pacientes. Tampoco hay consentimiento implícito para que los datos del paciente se transmitan a servidores externos simplemente porque accedieron a que se recogieran sus datos durante la cita. Debe obtenerse un consentimiento informado real. Esta es un área de consentimiento especialmente importante, ya que los pacientes ya han presentado litigios alegando que sus datos fueron transmitidos sin su conocimiento o consentimiento. De modo similar, utilizar un escriba ambiental requiere consentimiento del paciente, al igual que con un escriba humano.
Cuando la IA se convierte en un “participante” en la atención
Todos estos aspectos siguen lógicamente de enfoques existentes sobre la regulación de datos y la confidencialidad médica, pero no resuelven la cuestión más compleja de las funciones únicas de la IA en la atención directa, que es donde los pacientes más se preocupan por su papel.
La cuestión crítica es qué tareas realiza la IA.
Si su función es facilitar un proceso administrativo, entonces no es diferente de cambiar de empresa de facturación y no requiere consentimiento del paciente. Si funciona como una herramienta de consulta o búsqueda, el consentimiento tampoco es necesario.
Sin embargo, si se la trata como un de facto profesional, creando registros, interpretando datos o tomando decisiones, entonces debe obtenerse el consentimiento. Aunque incorporar a un asistente humano o un consultor normalmente no requiere consentimiento, o puede cubrirse con un consentimiento general por defecto, a diferencia de un colega humano, un sistema de IA opera de forma invisible, sin los controles conversacionales que permiten a los clínicos identificar y corregir errores. Los consejos médicos y los tribunales considerarán esta opacidad como un rasgo único que exige consentimiento por parte del paciente, ya que sería material para la decisión del paciente sobre si permitir la participación de la IA en su atención.
Esto significa que el consentimiento para el uso de IA se exigirá cada vez más en la parte más integral de la atención: la confianza fundacional de la relación médico-paciente, a pesar de la falta de directrices claras para los médicos.
No está cubierto por el enfoque de «IA es solo una herramienta» que, por ejemplo, podría aplicarse a no tener que explicar cómo funciona una cauterización quirúrgica durante el consentimiento preoperatorio, porque la herramienta es ahora una participante activa, asumiendo roles que antes ocupaban humanos.
Cambios de metas en progreso y la necesidad de un lenguaje claro
Las expectativas de consentimiento están evolucionando, impulsadas tanto por las capacidades crecientes de la IA como por las objeciones de los pacientes a cómo se utiliza la IA en su atención. Por ejemplo, las plantillas de consentimiento proporcionadas por la industria para sistemas de escriba IA han tendido a seguir alguna variación de: “Durante esta visita, voy a utilizar una herramienta que graba lo que decimos. Esto me ayudará a redactar mi nota sobre esta visita para poder prestar más atención a nuestra conversación en lugar de estar en la computadora. ¿Está bien para usted?” El problema con ese lenguaje es que ya no refleja la realidad de la IA, que ahora no solo transcribe sino que también redacta la nota. Un paciente medio podría interpretar razonablemente tal formulación como referida a un grabador avanzado en lugar de un autor. Para evitar tener que discutir que el paciente debería haber entendido todas las ramificaciones de “ayudar”, el lenguaje debería ser ahora algo como: “Voy a utilizar una herramienta que registra lo que decimos para que simplemente podamos conversar sin que esté yo frente a la computadora. Después generará una nota preliminar que revisaré y editaré para mayor precisión. Nada irá a su historia clínica hasta que yo la haya verificado. ¿Está de acuerdo?”
¿Qué pasa con la transmisión de datos a un servidor corporativo, que mencionamos antes, y que ahora está sustentando demandas por falta de consentimiento? ¿Cuántos pacientes están siendo informados específicamente de que los datos de audio que la IA captura al hablar con el médico van a la nube y son procesados por un modelo de lenguaje grande? La HIPAA puede permitir tal intercambio sin consentimiento específico porque la información proviene de un profesional activo que trabaja con su asesor comercial, similar a un servicio de transcripción humana en línea, pero un sistema completamente computarizado puede parecer materialmente diferente para los pacientes, por lo que el consentimiento resulta prudente.
El lenguaje de consentimiento puede explicar las salvaguardias existentes e incluir una analogía con una situación como la facturación, para la que los pacientes entienden y aceptan que su Información de Salud Protegida se transmita fuera del sitio, por ejemplo: “La información de nuestra conversación se enviará al sistema central para elaborar la nota preliminar. La empresa debe cumplir todas las leyes de HIPAA al manejar su información, igual que yo, y toda la información estará cifrada y protegida. Piense en este proceso como similar al proceso que utilizamos cuando transferimos su información a su aseguradora de atención médica. ¿Está de acuerdo?”
En el actual entorno de litigios, no abordar explícitamente este tema genera un claro riesgo de responsabilidad.
Qué debe cubrir un consentimiento significativo de IA
El objetivo es reconstruir de forma inversa lo que podría necesitar demostrar más tarde ante un supervisor de la junta médica o ante un jurado sobre lo que realmente dijo.
Esto implica tener en cuenta que cualquier procedimiento de consentimiento para IA debe abordar no solo los beneficios, sino también los riesgos y las alternativas. Permitirle conversar directamente con el paciente en lugar de teclear en un teclado es un beneficio distintivo del sistema de IA. Un error en la nota que genera la IA, o una brecha de datos durante la transmisión, son riesgos. Evitar el uso de IA es una alternativa. Esto se aplica incluso con mayor profundidad cuando la IA se utiliza como “colega” para revisar un diagnóstico o proponer y diseñar la atención.
En cuanto a cuándo obtener el consentimiento, tenga en cuenta que el enfoque actual de defensa es “transparencia sobre tecnicismos”, lo que significa que la norma por defecto es obtener el consentimiento en lugar de buscar razones para justificar que el consentimiento no aplica. Esto se alinea con el hecho de que, como se señaló antes, la responsabilidad de consentimiento recae en el clínico o el hospital y no en el proveedor de IA. Por lo tanto, cuando haya dudas, explique y obtenga el acuerdo antes de continuar.
Esto nos lleva al estándar para cualquier proceso de consentimiento: ¿Cómo hacer que la divulgación sea significativa?
Comience con el paciente. ¿Qué entiende? En una encuesta reciente, el 90% de los encuestados dijo que quería ser informado cuando se usa IA en su atención, pero la mayoría también reconoció que no entendía las implicaciones técnicas. La industria de IA llama a esto la “paradoja de la transparencia”, pero los médicos lo reconocen por el desafío diario de explicar la atención médica a pacientes sin formación médica.
El problema para los médicos radica en que también se sienten intimidados por el tema.
Sin embargo, eso no es realmente el problema que parece ser, porque, aunque se espera que un médico sea experto en la atención que ofrece al obtener el consentimiento para el tratamiento, no se espera que sea un experto en tecnología al consentir a un paciente para el uso de IA. En su lugar, se espera que actúe como usuarios laicos informados. Los tribunales y las juntas médicas evaluarán los consentimientos de IA no como conferencias técnicas sobre ponderación de algoritmos, sino sobre si el proceso respetó la autonomía del paciente al abordar cuestiones materiales que razonablemente podrían influir en su consentimiento o rechazo y hacerlo de forma comprensible.
Los puntos esenciales a cubrir incluyen:
- Que el sistema de IA específico sea aceptado en su especialidad;
- Cualquier ventaja o sesgo conocidos del sistema, incluida la forma en que se entrenó;
- Qué datos se compartirán;
- Protecciones, incluyendo un Acuerdo Vinculante de Asociados de Negocio bajo HIPAA, así como cifrado de datos, si se producirá una transmisión fuera del sitio;
- Que los pacientes deben optar explícitamente por cualquier uso de sus datos para entrenar el sistema;
- Una descripción básica de cómo funciona la IA (los sitios web de información pública serán fuentes útiles y el proveedor también puede ofrecer materiales educativos útiles para los pacientes);
- Si la IA sugiere o realiza tareas de forma autónoma;
- Evitar lenguaje antropomórfico, como “pensar”, “escribir”, “escuchar” (consulte la terminología utilizada en el lenguaje de consentimiento de muestra. Las palabras usadas para crear una nota fueron “generar” y “configurar”, no “crear” ni siquiera “redactar”. Se deben usar términos mecánicos para un proceso de máquina porque los términos de procesos humanos pueden ser intrínsecamente engañosos para el paciente. Debe dejarse claro que la IA se utiliza para mejorar la atención que ofrece, pero usted permanece en el centro de esa atención); y
- El derecho del paciente a oponerse al uso de IA.
Estos principios de divulgación funcionan incluso si el mecanismo real de la IA es completamente opaco para usted.
Y, por supuesto, el consentimiento del paciente debe quedar por escrito.
Finalmente, nunca pierda de vista que obtener el consentimiento para el uso de IA no afecta su propio deber de usarla correctamente como fiduciario bajo un deber de cuidado. El consentimiento informado para el uso de IA no es diferente del consentimiento informado para el tratamiento: ese consentimiento solo se otorga para una atención prestada sin negligencia. De igual modo, la responsabilidad recae en usted para usar correctamente el sistema de IA, garantizar la privacidad del paciente y utilizar de forma adecuada la salida de la IA.
En resumen, el consentimiento para el uso de IA se está convirtiendo rápidamente en un requisito por defecto, pero los principios siguen siendo los mismos que para consentir el tratamiento. A un médico no se le espera que sea un experto tecnológico y, en su lugar, debe centrarse en los temas que sean materiales para el paciente. Las obligaciones propias del médico de utilizar correctamente el sistema de IA siguen vigentes porque el consentimiento solo se concede para ese uso adecuado.
Cualquier opinión y punto de vista expresados son de los autores y/o participantes y no necesariamente reflejan las opiniones, políticas o posición de Physician’s Weekly, sus empleados y afiliados.