Resultados de IA, verificados

🌱El problema de las alucinaciones#

Referencias falsas a una realidad inexistente

Una alucinación de un LLM no es simplemente una respuesta incorrecta. El tipo que se puede abordar es una referencia falsa a la realidad externa, una cita, una API, un número de expediente, cuyo destino se puede comprobar de forma mecánica. Distinguirlo de la falsedad semántica es el primer paso.

🔍Verificable frente a no verificable#

Comprobar la existencia es mecánico

Se puede comprobar si una cita o una referencia a una API existe consultando un registro, una fuente de verdad inequívoca. Una alucinación que cita una fuente real pero extrae una conclusión que esa fuente nunca formuló necesita verificación semántica. El MVP empieza por el primer caso.

📈Citas inventadas a gran escala#

1 de cada 277 artículos, y los revisores no las detectan

Las citas inventadas se multiplicaron por diez desde 2023 y llegaron a aparecer en 1 de cada 277 artículos a principios de 2026. En NeurIPS 2025 se detectaron más de 100 en 53 artículos que ya habían recibido el visto bueno de tres revisores humanos, prueba de que la revisión humana por sí sola no las detecta.

🚀El coste crea el mercado#

Un coste concreto genera demanda

Los mercados se abren por los costes, no por los problemas. Mientras las alucinaciones siguieron siendo una molestia sin un coste definido, nadie pagó por resolverlas. arXiv les asignó un coste explícito y apareció la disposición a pagar.

⚖️La suspensión de un año de arXiv#

Resultados de IA sin verificar: un fallo de autoría

arXiv ahora suspende durante un año a los autores por las citas inventadas, tras lo cual sus trabajos deben pasar primero por una revisión por pares antes de enviarse. Lo planteó como un incumplimiento de las responsabilidades de autoría, no como un problema tecnológico, devolviendo la responsabilidad de la herramienta a la persona.

🛠️El mercado se divide en dos#

Filtro previo al envío frente a auditoría posterior

arXiv optó por imponer un coste en lugar de una herramienta de detección. Eso divide el mercado de la verificación: herramientas que ayudan a los autores a filtrar referencias falsas antes de enviar sus trabajos y herramientas que permiten a las plataformas auditar los trabajos después de recibirlos. Un emprendedor debe elegir primero a su cliente.

💼La verificación como disciplina#

Comprobar resultados de IA se convierte en un trabajo

Cuando la verificación deja de ser opcional, necesita responsables. Este perfil se apoya en la ingeniería de backend: extracción de referencias, cotejo con registros y evaluación determinista, en lugar de consultar a otro modelo.

👩‍💻Ingeniero de verificación de resultados de IA#

Una nueva frontera para ingenieros de software

Un perfil profesional que crea sistemas para comprobar si las citas, las API, las cifras y las dependencias producidas por LLM coinciden con fuentes autorizadas. Es un campo próximo a la seguridad y la ingeniería de datos, y la demanda aparece primero donde más rápido se adoptan las herramientas de IA.

🗂️Cotejo determinista con registros#

No verifiques una alucinación con un modelo

Preguntarle a un LLM "¿Esto es real?" es verificar una alucinación con otra alucinación. La vía fiable es determinista: analizar las referencias y cotejarlas con registros autorizados (arXiv, Crossref, PubMed, registros de paquetes), detectando a la vez las entradas "parecidas, pero distintas".

🎯Dónde practican los emprendedores#

Los concursos como primer campo de pruebas

Un mercado nuevo necesita espacios de bajo coste para probar prototipos. Los concursos de startups de IA y los hackathons permiten a un emprendedor validar una idea de verificación ante jurados antes de crear una empresa en torno a ella.

📰Concursos de verificación de IA#

Un puente editorial del problema a la acción

Un artículo editorial que conecta el cambio de arXiv con puntos de partida concretos: los concursos y hackathons donde un emprendedor puede dar un primer paso verificable en vez de limitarse a leer sobre la tendencia.

🌾Concurso de startups de IA#

Servicios de IA con datos públicos, a evaluación

Un concurso de startups de IA que utilizan datos públicos sobre agricultura y el medio rural. Diseñar un servicio de IA con datos públicos en torno a la confianza y la verificación permite presentar una propuesta diferenciada. Es un espacio estructurado para poner a prueba el enfoque de la verificación.

🔗Hackathon de blockchain e IA#

Identidad y procedencia como tema

Un hackathon centrado en la identidad móvil y las pruebas de procedencia, un entorno natural para crear prototipos de verificación de resultados de IA, ya que la procedencia y la autenticidad son la base común.

✍️Prompthon de IA generativa#

La precisión como criterio de evaluación

Un prompthon con datos turísticos en el que la precisión y el respaldo en fuentes de los resultados de IA generativa forman parte de los criterios de evaluación, un ejercicio práctico que entrena el instinto de verificación.

🎮La IA como generadora de imágenes#

El texto no es el único resultado de la IA

arXiv controla la autenticidad de los textos generados por IA. Las imágenes generadas por IA plantean una cuestión paralela sobre su procedencia y selección, que se explora en forma de galería en un mapa enlazado.