Utah abre su sandbox de IA sanitaria a software de prescripciones y herramientas de salud femenina

Puntos clave

• El sandbox de IA sanitaria de Utah, un programa de pruebas controlado que permite a las empresas ejecutar herramientas de salud de IA en pacientes reales antes de que entre en vigor la regulación completa, se ha expandido con nuevos pilotos aprobados en 2025.
• August AI, una empresa que desarrolla software que genera prescripciones mediante inteligencia artificial, es uno de los participantes recién aprobados.
• Nolla Health, enfocada en la salud femenina, también se ha unido al sandbox.
• Utah ha añadido evaluadores de terceros, revisores independientes no empleados por el estado ni por las empresas siendo probadas, para evaluar si los pilotos son seguros y efectivos.
• El sandbox se sitúa dentro de una conversación nacional más amplia sobre cómo regular la IA en medicina antes de que los pacientes resulten dañados.

Utah es uno de los pocos lugares en Estados Unidos donde una empresa de IA puede ejecutar legalmente su producto de salud en pacientes reales bajo un ensayo supervisado que se encuentra fuera del proceso de aprobación normal. El estado lo llama sandbox, tomando prestado un término de fintech, donde significa un espacio aislado para pruebas que no puede propagarse al mundo más amplio si algo sale mal.

¿Qué están haciendo realmente estas empresas?

El producto de August AI es el que levantará cejas. La empresa describe su software como capaz de generar prescripciones impulsadas por IA, lo que significa que el sistema recomienda o redacta órdenes de medicamentos en lugar de que un médico las escriba. Las prescripciones tienen peso legal y clínico, y entregar cualquier parte de ese proceso al software es exactamente el tipo de cosa que los reguladores normalmente escrutinizan durante años antes de permitir cerca de un paciente.

El enfoque de Nolla Health es la salud femenina, aunque las herramientas específicas que está pilotando no han sido descritas en detalle en las aprobaciones hechas públicas hasta ahora. Vale la pena emparejar esta historia con nuestro informe del 27 de agosto "La IA lee mamografías para enfermedades cardíacas, no solo cáncer de mama", que mostró cómo la IA ya está encontrando nuevos usos en exploraciones rutinarias de salud femenina.

Ambas empresas operan bajo las reglas del sandbox de Utah: pueden recopilar datos del mundo real de pacientes reales, pero dentro de límites definidos y bajo supervisión estatal.

¿Por qué importa añadir evaluadores de terceros?

Hasta ahora, la principal verificación de si un piloto del sandbox estaba funcionando era en gran medida el informe de la propia empresa de vuelta al estado. Los evaluadores de terceros cambian eso. Son independientes, no son pagados por la empresa siendo evaluada, y su trabajo es observar la evidencia y decir claramente si la herramienta está haciendo lo que afirma.

Esa es la pieza de la estructura que estaba más obviamente ausente. Un programa que se basa principalmente en autoinformes de empresas que esperan graduarse al uso comercial completo no es mucha red de seguridad. Utah está intentando construir un modelo que otros estados podrían copiar: introducir la IA en entornos clínicos lo suficientemente temprano para aprender de ella, pero con suficiente escrutinio independiente para que los problemas salgan a la superficie antes de que se escalen.

¿Deberían preocuparse los pacientes en Utah?

Cauteloso es la palabra correcta, no alarmado. La participación en el sandbox no significa que un producto esté aprobado o probado como seguro. Significa que el estado ha decidido que el beneficio potencial justifica un ensayo estructurado.

Los pacientes en cualquier entorno donde estas herramientas estén siendo utilizadas deberían ser informados de que son parte de un programa piloto. Si su proveedor menciona prescripción asistida por IA, pregunte si ese sistema está en un ensayo regulatorio y cómo se ve su derecho a optar por no participar. Esté atento a cualquier proveedor que no pueda decirle si una herramienta de IA estuvo involucrada en su atención, cualquier recomendación de prescripción que llegue sin que un clínico humano la revise y firme, y cualquier formulario de consentimiento que entierre la participación del sandbox en letra pequeña. Nuestra cobertura de notas de consulta de IA que hacen el trabajo de un médico de cabecera más difícil es un recordatorio útil de que incluso las herramientas de IA bien intencionadas pueden introducir nuevos riesgos en la primera línea clínica.