Las famosas tres leyes de la robótica de Isaac Asimov decían, en pocas palabras, que un robot debía evitar hacer daño a las personas, obedecerlas y protegerse sin perjudicarlas.
La idea parece perfecta, pero hay un problema: las IA actuales no tienen una regla interna que les permita entender qué es “hacer daño” como lo entiende una persona. No tienen conciencia ni criterio moral propio: generan respuestas a partir de patrones aprendidos y pueden producir algo que parece razonable pero es incorrecto.
Por eso existe el llamado problema del alineamiento: conseguir que una IA haga lo que realmente queremos y, sobre todo, que lo haga de manera segura. Esto es especialmente importante en salud: una IA puede dar una respuesta convincente sobre un síntoma, un medicamento o un diagnóstico y, aun así, equivocarse.
La Organización Mundial de la Salud advierte justamente sobre este riesgo y plantea que, en salud, la IA debe complementar el criterio de profesionales y mantenerse bajo supervisión humana, no reemplazarlo.
