Su chatbot de IA podría diagnosticarle con una enfermedad falsa

¡B uenos días!

¿Ha estado mirando la pantalla por mucho tiempo? ¿Tiene ojos irritados y con picazón? Podría tener bixonimania. Al menos, eso es lo que su chatbot de IA podría decirle.

El problema es que la condición es falsa. Hace dos años, la investigadora médica Almira Osmanovic Thunström quería probar qué tan fácilmente los modelos de lenguaje grandes (LLMs) tragarían información falsa y la regurgitarían como consejos de salud. Como se informó en Nature , su equipo subió dos artículos preimpresos falsos a SciProfiles sobre la condición falsa para ver qué sucedería.

• Escribieron los artículos bajo un autor falso de una universidad inexistente y los llenaron deliberadamente con señales de alerta obvias. Llamaron a la enfermedad una “manía” (“ninguna condición ocular se llamaría manía porque ese es un término psiquiátrico”).

• Reconocieron “a la profesora Maria Bohm en The Starfleet Academy (…) y su laboratorio a bordo del USS Enterprise”, financiación de “la Fundación Professor Sideshow Bob por su trabajo en engaños avanzados” y “la Universidad de Fellowship of the Ring y la Tríada Galáctica”.

• Referenciaron “50 individuos inventados” en el estudio y escribieron explícitamente: “Este artículo completo fue inventado”.

Los principales chatbots de IA no entendieron las bromas. Trataron la bixonimania como real:

• ChatGPT evaluó los síntomas de los usuarios como posiblemente relacionados con ella. Microsoft Copilot la llamó “una condición intrigante y relativamente rara”. Google’s Gemini la aceptó como real, la vinculó con la luz azul y sugirió ver a un oftalmólogo. Perplexity AI inventó una prevalencia específica (1 en 90.000).

A principios de este año, aunque algunos modelos se habían vuelto más escépticos, otros aún la describían como una condición “emergente” con artículos de apoyo.

• Uno de los artículos falsos fue citado en un artículo genuino revisado por pares en Cureus por investigadores indios, quienes presentaron la bixonimania como una condición real. El artículo de Cureus fue retractado hace un par de semanas, después de que la revista finalmente se dio cuenta de que “este artículo completo fue inventado”. Notablemente, los autores (humanos) no estuvieron de acuerdo con la retractación.

El experimento muestra cómo los LLMs pueden absorber y regurgitar información médica fabricada, especialmente cuando está empaquetada para parecer profesional. Un estudio relacionado este año encontró que los LLMs son más propensos a “alucinaciones” en textos que imitan artículos clínicos reales.

Como resultado, no sólo las personas pueden recibir consejos de salud peligrosos, sino que la mala información puede filtrarse de vuelta a la literatura científica a través de citas asistidas por IA.

• Este es un gran problema. Las “fábricas de artículos” académicos han estado publicando historias fraudulentas mucho antes de ChatGPT. Ahora, potenciadas por la IA, están llenando el registro académico con investigaciones científicas falsas. Nuevos estudios, fraudulentos y legítimos, luego dependen de parte de este material, generando aún más ciencia basura.

A pesar de todos sus peligros, sin embargo, los seres humanos inteligentes han decidido que la inteligencia artificial es una plaga de la que no podemos prescindir.

• Debemos acelerar al máximo su desarrollo e integración en nuestras vidas —incluso si desencadena un ciberapocalipsis — para que nuestros enemigos no lleguen primero. Lea más en “Por qué tenemos que desarrollar la IA (aunque nos mate)”.

Es una apuesta asombrosa. Y estoy cada vez más convencido de que desempeñará un papel importante en los eventos profetizados para llevar a este mundo malvado actual a su espectacular fin: y no tendrá ningún papel en la civilización que Dios Mismo establecerá para reemplazarlo.

Rusia provoca a una Gran Bretaña de voluntad débil: submarinos rusos en el mar del Norte amenazaron recientemente cables vitales de energía y datos, reveló el jueves el secretario de Defensa británico John Healey. Según Healey, un buque de guerra británico acompañado por un avión de patrulla marítima lanzó boyas de sonar en una operación de un mes que, con el tiempo, disuadió a los tres submarinos. El incidente “plantea más preguntas sobre el estado de las Fuerzas Armadas de Gran Bretaña”, comentó el Telegraph. También muestra que naciones como Rusia ya no temen el poderío militar británico.

Francia acusa al gobierno húngaro de traición: el jueves, el ministro de Relaciones Exteriores francés Jean-Noël Barrot dijo que el ministro de Relaciones Exteriores húngaro, Peter Szijjarto, había traicionado la “solidaridad entre los miembros de la UE” al supuestamente divulgar información confidencial de la UE al ministro de Relaciones Exteriores ruso Sergei Lavrov. Barrot también añadió que “la unidad debe tener prioridad, de lo contrario nos convertiremos en vasallos”, destacando el desagrado y la desconfianza de las naciones centrales de la UE hacia Hungría, un Estado miembro de la UE controlado por un autoritario escéptico de la UE, Viktor Orbán. La Biblia profetiza que Europa se convertirá en una superpotencia dominada por “10 reyes” bajo un dictador general. El redactor jefe de la Trompeta, Gerald Flurry, ha dicho que Hungría probablemente será una de estas 10 naciones, así que espere que Hungría siga siendo autoritaria y desarrolle solidaridad con el resto de la UE.

El próximo objetivo de Trump después de Irán es la OTAN: tras una reunión a puerta cerrada en la Casa Blanca con el presidente Donald Trump el miércoles, el secretario general de la OTAN, Mark Rutte, dijo que el presidente estaba “claramente decepcionado” de que los aliados de la OTAN se negaran a apoyar la guerra contra Irán. Rutte se negó a responder directamente cuando le preguntaron los periodistas si Trump dijo que quiere retirarse de la OTAN. La retirada formal requeriría la aprobación del Congreso, pero la administración Trump está explorando otra opción: retirar tropas de países que no han cooperado y trasladarlas a países que sí lo han hecho. Tras la reunión con Rutte, el presidente Trump publicó en las redes sociales: “La OTAN no estuvo allí cuando los necesitamos, y no estarán allí si los necesitamos de nuevo. ¡¡¡Recuerden Groenlandia, ese gran pedazo de hielo mal administrado!!!”. Esto es un recordatorio de que los problemas de EE UU con sus aliados europeos de la OTAN preceden al conflicto con Irán: y, de hecho, preceden al primer mandato de Trump. Estamos presenciando el fin de la OTAN.

¿Habrá un control conjunto de EE UU e Irán sobre el estrecho de Ormuz? El miércoles, el presidente Trump comentó que estaba considerando un acuerdo que permita a Irán cobrar a los barcos por el paso a través del estrecho de Ormuz. Su propuesta provocó indignación en Europa. El ministro de Relaciones Exteriores francés Jean-Noël Barrot lo calificó de “inaceptable” e “ilegal”. El primer ministro griego Kyriakos Mitsotakis también lo calificó de inaceptable. La disputa sobre el estrecho revela aún más la importancia del transporte marítimo global y el poder desproporcionado que tiene Irán debido a su disposición a aterrorizarlo, y intensifica la creciente división entre EE UU y Europa.

La tasa de natalidad estadounidense alcanzó un nuevo mínimo histórico en 2025, según un informe de abril de los Centros para el Control y la Prevención de Enfermedades. La tasa general de natalidad cayó por sexto año consecutivo a 53 nacimientos por cada 1.000 mujeres de 15 a 44 años. El número total de bebés nacidos disminuyó un 1% a aproximadamente 3,6 millones. Los expertos dicen que este declive proviene de presiones financieras, elecciones de estilo de vida y cambios más amplios en la sociedad.