La inteligencia artificial puede procesar datos médicos con una velocidad que ningún médico puede igualar. Lo que no puede hacer es asumir responsabilidad legal cuando comete un error. En Nueva York, esa responsabilidad recae sobre las personas y las instituciones, no sobre el software.
El uso de esta herramienta en los hospitales de Nueva York avanza con rapidez, ya que la tecnología ofrece herramientas valiosas para los profesionales de la salud. Sin embargo, estos sistemas no son infalibles: pueden cometer errores, omitir patrones críticos o producir resultados incorrectos. Cuando un diagnóstico erróneo derivado de un software causa una lesión grave o la muerte de un paciente, la pregunta legal es inevitable: ¿quién responde?
La responsabilidad sigue siendo humana
A pesar de la complejidad tecnológica, la doctrina legal es clara: la inteligencia artificial es una herramienta de apoyo, no un sustituto del criterio médico profesional. Bajo los principios de negligencia médica aplicables en Nueva York, los médicos tienen un deber de cuidado que no pueden delegar a un sistema automatizado.
Si un oncólogo, por ejemplo, acepta sin cuestionamiento un resultado de software que pasa por alto un tumor maligno, o si un obstetra ignora signos físicos de sepsis porque el sistema predictivo del hospital no emitió una alerta, el profesional de la salud sigue siendo el principal responsable. Aceptar de manera pasiva un diagnóstico automatizado incorrecto puede constituir una desviación del estándar de atención aceptado.
Responsabilidad institucional y de los desarrolladores
Los errores de IA en entornos clínicos pueden abrir múltiples líneas de responsabilidad más allá del médico tratante:
- Negligencia corporativa hospitalaria: Una institución de salud puede ser demandada si implementa herramientas de IA sin capacitar adecuadamente a su personal, si ignora fallas de software previamente reportadas, o si no informa al paciente que algoritmos automatizados participarán en su diagnóstico o tratamiento. En Nueva York, la ley establece los requisitos de consentimiento informado aplicables a los procedimientos y tratamientos médicos, un marco que los tribunales pueden aplicar al uso de tecnología automatizada en la atención clínica.
- Responsabilidad por productos defectuosos: Si el error se originó en un defecto de diseño del software, sesgos en los datos de entrenamiento, o fallas técnicas del sistema, la demanda puede dirigirse contra los desarrolladores de la tecnología. La Administración de Alimentos y Medicamentos (FDA) regula los sistemas de IA utilizados en diagnósticos médicos como dispositivos médicos de software (SaMD), lo que establece un estándar regulatorio federal que puede ser relevante para determinar si un producto cumplió con las normas de seguridad aplicables.
Cada caso requiere un análisis detallado para determinar qué actores tuvieron responsabilidad en el resultado y en qué proporción.
Un abogado con experiencia en negligencia médica en Nueva York puede evaluar si el uso de inteligencia artificial en el tratamiento de un paciente contribuyó a un resultado dañino y determinar qué vías legales están disponibles para buscar compensación.