La IA potencia el fraude científico

La inteligencia artificial está llenando el registro académico de investigaciones científicas falsas, potenciando un problema de larga data en el fraude científico, advierten los expertos. Está difundiendo errores, engañando a las personas de manera peligrosa y erosionando la confianza pública, informa el Epoch Times.

Las fábricas de artículos académicos —organizaciones falsas que se lucran con la falsificación de estudios y autoría— han plagado a los académicos durante años y ahora la IA actúa como un multiplicador de fuerzas. (…) El alcance del problema es asombroso, con más de 10.000 artículos de investigación retractados en todo el mundo en 2023, según Nature Portfolio.

Los manuscritos elaborados con grandes modelos lingüísticos (LLMs, por sus siglas en inglés) proliferan en múltiples disciplinas académicas y plataformas, entre ellas Google Scholar, según descubrió la Universidad de Borås. Un análisis reciente publicado en Nature Portfolio observó que las herramientas de LLM, entre las que se encuentran ChatGPT, Gemini y Claude, pueden generar estudios plausibles que superan las comprobaciones estándar de plagio.

“Los verdaderos investigadores se ahogan en el ruido, los revisores están abrumados y las citas se contaminan con referencias inventadas”, declaró un experto al Epoch Times. Describió los grandes modelos lingüísticos como “sofisticados sistemas de coincidencia de patrones que son increíblemente buenos para generar textos que suenan plausibles, y eso es exactamente lo que necesita la investigación falsa para parecer creíble”. Cuanto más material de este tipo llena el registro académico, más se genera un bucle de retroalimentación que produce aún más ciencia basura.

Los efectos dominó ya están muy extendidos, y el daño potencial podría ser muchas veces peor, socavando todo el campo de la investigación y el avance científico.

Toda la historia ha sido testigo de una batalla entre la verdadera ciencia y “la falsamente llamada ciencia” (1 Timoteo 6:20). La verdadera ciencia ha beneficiado considerablemente la vida humana e incluso ha revelado algunas de las cosas invisibles de Dios (Romanos 1:20). Pero el dios de este mundo, que engaña al mundo entero (2 Corintios 4:4; Apocalipsis 12:9), ha sido capaz de utilizar la ciencia falsa como herramienta para engañar a la humanidad y alejarnos de nuestro Creador.

La IA está demostrando ser un arma extraordinariamente poderosa en el arsenal del diablo en muchos sentidos, y su influencia sobre ella puede ser mayor de lo que cualquiera de nosotros reconoce plenamente. Para aprender más, lea el artículo de Gerald Flurry “El futuro desconocido de la inteligencia artificial”.