El Escudo de Fabricación de IA es el nombre que le damos al proceso de verificación humana que comprueba cada cita, estadística y afirmación fáctica de su manuscrito con su fuente original antes de la entrega. Esta página explica el problema que aborda, qué comprobamos exactamente y cómo, una descripción honesta de lo que puede y no puede detectar, y qué recibirá usted.
El problema, en evidencia primaria
Los modelos de lenguaje complejos suelen generar referencias que parecen autorizadas, pero que en realidad son falsas, están mal atribuidas o provienen de trabajos retractados. Esto está documentado en la literatura revisada por pares, no es mera especulación.
En un estudio controlado publicado en el Journal of Medical Internet Research , Chelli y sus colegas compararon ChatGPT y Bard con revisiones sistemáticas de referencia y midieron la frecuencia con la que cada modelo generaba referencias erróneas. El estudio reportó tasas de errores considerables y concluyó que estas herramientas aún no son confiables para generar referencias precisas en la redacción científica (Chelli et al., 2024, JMIR, doi:10.2196/53164 ).
Un estudio experimental de 2025 realizado por Linardon y sus colegas, también publicado en JMIR Mental Health , llevó a GPT-4o a generar revisiones bibliográficas y a examinar las citas resultantes. Se descubrió que una proporción significativa de referencias eran falsas —imposibles de rastrear hasta ninguna publicación real— y que las tasas de falsificación aumentaban para temas menos consolidados. Es importante destacar que los autores señalaron que las citas falsas a menudo contenían detalles que parecían reales, lo que dificultaba su detección sin una verificación deliberada de las fuentes (Linardon et al., 2025, JMIR Mental Health, doi:10.2196/80371 ).
La lección práctica que se desprende de este trabajo es clara: una referencia falsificada suele ser indistinguible de una real en la página. La única defensa fiable consiste en contrastar cada cita con la fuente primaria —el artículo original en la revista o el sitio web de la editorial— en lugar de confiar ciegamente en una referencia generada. Eso es precisamente lo que hace Shield.
¿Qué puede salir mal con una cita sin revisar?
Los modos de fallo que analizamos son específicos:
- La referencia no existe. Un autor, título, revista y año plausibles que no corresponden a ningún artículo real.
- El DOI apunta a otro lugar. Un DOI real y verificable que enlaza con un artículo completamente diferente al mencionado.
- La afirmación no se encuentra en la fuente. Un artículo real citado por un hallazgo que nunca publicó.
- La fuente ha sido retractada. Un artículo real, correctamente citado, que posteriormente fue retirado y en el que no se debe confiar.
Cualquiera de estas situaciones puede conllevar el rechazo inicial del manuscrito, la desconfianza de los revisores, una corrección posterior a la publicación o, en el peor de los casos, una retractación registrada a su nombre.
Las cuatro etapas de verificación
Antes de la entrega, un editor humano somete cada referencia y afirmación a cuatro comprobaciones:
Etapa 1: Verificación de existencia. Cada DOI y PMID se resuelve hasta su fuente original. Confirmamos la referencia con la página de la revista o editorial original (el artículo en sí) y la contrastamos con servicios de indexación como Crossref , PubMed y la base de datos de la propia editorial. El autor, el título, la revista, el volumen y el año deben coincidir con el registro. Un DOI que corresponde a un artículo diferente se considera un fallo, no un éxito.
Etapa 2: Verificación de la afirmación. La declaración específica atribuida a cada fuente se compara con el resumen del artículo o, si el acceso lo permite, con el texto completo en el sitio web de la revista original. Si la fuente no respalda la afirmación, esta se reformula para que coincida con la evidencia o se reemplaza la cita por una que sí la respalde.
Etapa 3: Verificación de retractaciones. Cada artículo citado se compara con la base de datos Retraction Watch y los avisos de retractación de PubMed, para que los trabajos retirados no se incluyan automáticamente en su lista de referencias.
Etapa 4: Revisión por expertos. Un miembro del equipo con la titulación doctoral o la experiencia clínica pertinente revisa la evidencia citada en su contexto, confirmando que las referencias realmente respaldan el argumento presentado, y no solo que existen.
Un ejemplo práctico
Supongamos que un borrador contiene esta frase: “La intervención X redujo la recurrencia en un 38 % en un ensayo aleatorio (Autor A et al., 2021)”.
- Fase 1 Se encuentra que el DOI se resuelve, pero corresponde a un artículo de revisión, no a un ensayo aleatorizado, y la lista de autores no coincide. Marcado.
- Fase 2 Se confirma que la cifra de recurrencia del 38% no aparece en ningún lugar del documento resuelto. La afirmación carece de fundamento.
- Resolución: El editor localiza el ensayo primario genuino que informa sobre el efecto y corrige la cita y la figura para que coincidan, o, si no existe tal fuente, elimina la afirmación sin fundamento. La frase que llega a la revista es aquella cuyo número y cita son reales y coinciden.
Este es el tipo de error que se lee perfectamente en la página y pasa desapercibido a simple vista; por eso mismo, una revisión humana minuciosa y paso a paso es la única forma fiable de detectarlo.
Lo que el Escudo no afirma
Somos precisos en cuanto al alcance, ya que sobreestimarlo sería, en sí mismo, una forma del problema que intentamos resolver. El Escudo verifica que existan referencias, que las afirmaciones coincidan con sus fuentes y que el trabajo citado no haya sido retractado al momento de la entrega. No garantiza, ni puede garantizar, que un revisor esté de acuerdo con su interpretación de una fuente, que un artículo no sea retractado en el futuro, ni que cada juicio en una literatura compleja sea el único defendible. Lo que sí garantiza es que ninguna cita en su manuscrito sea inventada, atribuida erróneamente o retractada a sabiendas al momento de la devolución.
Cómo encaja esto en nuestro enfoque más amplio.
El Escudo refleja un principio fundamental que rige todo nuestro trabajo: cuando se utiliza cualquier tipo de asistencia de IA, siempre se realiza bajo supervisión humana, se basa en fuentes primarias y nunca se deja sin control. Nuestra postura completa al respecto se detalla en nuestra Política de Uso de IA.
Que recibes
- Un manuscrito en el que cada cita ha sido verificada con su fuente original —el artículo de referencia de la revista o editorial— y no solo con una entrada del índice.
- Las referencias se revisaron para detectar posibles retractaciones antes de su publicación.
- Afirmaciones que coinciden con las fuentes que citan.
- Una lista de referencias que puedas respaldar durante el proceso de revisión y después de la publicación.
El sello Shield se incluye en todos los manuscritos que escribimos o revisamos. Para hablar sobre su proyecto, póngase en contacto con nuestro equipo.
Referencias
Chelli M, Descamps J, Lavoué V, et al. Tasas de alucinaciones y precisión de referencia de ChatGPT y Bard para revisiones sistemáticas: análisis comparativo. J Med Internet Res . 2024;26:e53164. doi:10.2196/53164
Linardon J, Jarman HK, McClure Z, et al. Influencia de la familiaridad del tema y la especificidad de la consigna en la fabricación de citas en la investigación en salud mental mediante modelos de lenguaje extensos: estudio experimental. JMIR Ment Health . 2025;12:e80371. doi:10.2196/80371