Expertos internos: la IA podría acabar con la humanidad

B uenos días:

La inteligencia artificial podría acabar con la humanidad en unos pocos años, según afirmaron esta semana tres investigadores de Anthropic.

• Jacob Coxon renunció a la empresa el martes y publicó en X: “Ninguna otra actividad humana representa este nivel de peligro”. Su publicación obtuvo más de 115 millones de visualizaciones en un día.

• Evan Hubinger, responsable de la ciencia de la alineación en Anthropic, escribió que personalmente estima una probabilidad superior al 10% de extinción causada por la IA en la próxima década.

• Samuel Marks, quien dirige la labor de supervisión escalable de la empresa, dijo que cuanto más alto es el rango de un empleado dentro de estas compañías, más preocupado tiende a estar.

Estos son expertos internos, las personas que construyen la tecnología, quienes ven mucho más que el resto de nosotros. Coxon dijo que los ejecutivos suavizan su lenguaje ante la prensa mientras admiten su temor en privado.

Aun así, la carrera se acelera. OpenAI lanzó GPT-6 Astra la semana pasada, calificándolo como un salto generacional hacia la inteligencia artificial general.

• Jakub Pachocki, su propio científico principal, escribió esta semana que, esencialmente, una vez que uno asimila verdaderamente lo que está en juego, continuar la carrera a toda velocidad no tiene sentido; y luego explicó por qué OpenAI lo hace de todos modos.

• Las empresas que ven el riesgo siguen construyendo porque sus rivales no se detendrán. Las personas más cercanas a la tecnología son las que advierten con más fuerza, mientras siguen cobrando sueldos por construirla más rápido.

• Los funcionarios federales insisten en que perder terreno ante China es el mayor peligro, sea cual sea el riesgo de la IA en sí misma. Todas las partes coinciden en que el peligro es real, y nadie se detendrá.

Hay un nombre para esta locura. En una conferencia en junio, Jonathan Pageau lo llamó la “Trampa de Moloc”, un tipo de escalada de teoría de juegos: una competencia en la que cada actor racional, para evitar perder, se ve obligado a tomar decisiones colectivamente catastróficas, aunque nadie involucrado desee la catástrofe.

• Moloc era el dios cananeo que exigía a la gente sacrificar a sus hijos a cambio de poder. “La Trampa de Moloc ocurre cuando la escalada para mantener el poder mediante la competencia nos hace sacrificar lo más preciado, incluso cuando en última instancia va en contra de nuestros intereses”, dijo Pageau. “Así que por miedo a que China nos supere en la implementación de la IA, sacrificamos los millones de empleos, nuestra agua, nuestra energía y las mentes de nuestros hijos”.

• Los teóricos de juegos no creen que Moloc sea real, pero “pueden ver que Moloc se está moviendo, que quiere algo. Y mientras competimos unos contra otros, nos convertimos en sus piernas. Nos convertimos en sus manos. Y a pesar de nosotros mismos, marchamos con esta bestia hacia nuestra posible destrucción. A medida que finalmente todos se arrepienten de haber dado tabletas y teléfonos a sus hijos —volviéndolos tontos, deprimidos y adictos—, damos la vuelta y nos apresuramos a integrar la IA en absolutamente todo. Así que, creamos o no en el dios cananeo, terminamos sacrificando a nuestros hijos ante él”.

Es una observación poderosa. Detrás de ese falso dios cananeo se hallaba un verdadero diablo. Él sabe lo que hace. Y lo subestimamos bajo nuestro propio riesgo. Seguramente está animando e impulsando el desarrollo inexorable de esta misteriosa tecnología, que está remodelando nuestras propias mentes y precipitándose hacia un futuro incognoscible.

Jesucristo advirtió sobre un día en que, a menos que Él interviniera, la humanidad se aniquilaría a sí misma (Mateo 24:22). La carrera armamentística nuclear hizo que ese versículo fuera creíble el siglo pasado, y muchas profecías muestran que esas armas serán utilizadas.

• La IA nos está brindando una segunda vía, no completamente ajena, hacia este desenlace desastroso.

Afortunadamente, Cristo acortará ese desenlace desastroso y regresará para salvarnos de nosotros mismos. Bajo Su gobierno, los hombres no enfrentarán decisiones imposibles ni buscarán el “progreso” con efectos secundarios destructivos. Esa es la esperanza segura de la Biblia.

La India y Rusia profundizan sus lazos comerciales y militares: el comercio ruso-indio se ha más que cuadruplicado desde 2021, convirtiendo a la India en uno de los principales socios comerciales de Rusia, informó Interfax ayer. El comercio entre los dos gigantes asiáticos se ha disparado desde que las naciones occidentales impusieron sanciones a Rusia por su invasión a Ucrania, alcanzando 58.600 millones de dólares el año pasado. Ambas naciones también están profundizando la cooperación en la Ruta Marítima del Norte de Rusia y ampliando el desarrollo y la producción conjunta de equipo militar. A medida que la India y Rusia continúan fortaleciendo su cooperación, se está sentando las bases para que la India se una a una alianza militar asiática liderada por Rusia y profetizada en la Biblia.

El organismo nuclear de la ONU advierte sobre Irán: el Organismo Internacional de Energía Atómica votó el miércoles para reportar a Irán ante el Consejo de Seguridad de las Naciones Unidas. El organismo nuclear de la ONU afirma que Irán se ha negado a proporcionar información sobre sus reservas de uranio enriquecido o a permitir el acceso a sus instalaciones nucleares. El OIEA remitió por última vez a Irán al Consejo de Seguridad en 2006, lo que dio lugar a sanciones internacionales contra el régimen islamista. Es poco probable que ocurra lo mismo esta vez, pero el hecho de que el organismo que ha tolerado la actividad nuclear iraní durante décadas finalmente la esté reportando al Consejo de Seguridad demuestra cuán peligroso sigue siendo su programa nuclear, incluso después de haber sido atacado por EE UU. 

Trump aprueba las sanciones contra Israel: el presidente de EE UU, Donald Trump, accedió a que el Reino Unido sancionara a Israel, informó Axios ayer. Según “funcionarios de EE UU y diplomáticos occidentales”, el primer ministro británico, Andy Burnham, informó al presidente Trump que su gobierno sancionaría a entidades israelíes en Cisjordania, y el presidente no intentó disuadirlo. Cuando se le preguntó sobre esto, el secretario de Estado de EE UU, Marco Rubio, dijo: “Compartimos el objetivo de la estabilidad. No queremos ver un aumento de la violencia o de las tensiones en Cisjordania en un momento tan delicado para la región”. Isaías 9:21 profetiza que Manasés y Efraín —los pueblos estadounidense y británico de hoy— estarían “ambos contra Judá”, es decir, contra el Estado de Israel. Esta profecía se está cumpliendo hoy.