Cuidado con los jefes supremos de la IA

¡B uenos días!

La humanidad avanza hacia un futuro dominado por la IA. No tenemos idea de cómo será o qué significará.

En un ensayo impactante publicado el lunes, el cofundador de Anthropic, Jack Clark, afirma que nos acercamos a un punto de inflexión épico: el punto de tener máquinas que puedan diseñar, entrenar y mejorar sus propios reemplazos sin ayuda humana. Estima una probabilidad superior al 60% de que la I+D completamente automatizada —donde la IA maneja todo el proceso de creación de una IA mejor— pueda ocurrir para finales de 2028. Esto, dice, marca un punto sin retorno hacia una nueva era impredecible.

• El poder de codificación está explotando. Los mejores modelos actuales superan desafíos de programación difíciles, y los ingenieros en los laboratorios líderes ahora dependen de la IA para la mayor parte de su trabajo de codificación, incluyendo pruebas y verificación.

• La IA puede realizar tareas más difíciles por más tiempo. Los primeros modelos necesitaban intervención humana después de segundos o minutos. Ahora pueden trabajar independientemente durante horas, y su capacidad está creciendo rápidamente. Algunos expertos proyectan que los agentes de IA podrían manejar proyectos de una semana por sí mismos para finales de este año.

• El trabajo científico rutinario se está automatizando. La IA está mejorando dramáticamente en aprender de artículos de investigación, reproducir experimentos y optimizar procesos de entrenamiento complejos.

Los optimistas se centran en cómo el progreso de la IA conducirá a avances rápidos en muchos campos.

Los realistas dicen que esto plantea serias preguntas sobre seguridad y control.

• El gran problema es: ¿Cómo se asegura que los sistemas de IA que se mejoran a sí mismos permanezcan bajo control humano?

Ejemplo claro: Claude Mythos Preview es un nuevo y potente modelo de IA que sobresale en encontrar y explotar vulnerabilidades de programación en sistemas informáticos críticos de manera autónoma. El mes pasado, superó barreras clave de IA que sorprendieron incluso a sus desarrolladores.

• El riesgo de que sus capacidades ofensivas de ciberseguridad sin precedentes permitan ciberataques devastadores es tan alto que Anthropic puso el modelo a disposición sólo de un grupo limitado de socios de confianza para ayudar a corregir vulnerabilidades en infraestructuras clave antes de que actores maliciosos puedan explotarlas.

• Es sólo cuestión de tiempo antes de que otras empresas y otros países alcancen estas capacidades. Es decir, meses, semanas o días.

Mientras tanto, el ejército de EE UU está apostando totalmente por la IA. El viernes pasado, el Pentágono anunció asociaciones con ocho grandes empresas —Google, OpenAI, Microsoft, Amazon, NVIDIA, SpaceX, Reflection y Oracle— para integrar la IA en sus redes más clasificadas.

• Ya ha incorporado agresivamente IA de nivel de consumo en operaciones de defensa. La tecnología está siendo conectada directamente a los sistemas de selección de objetivos más sensibles del ejército estadounidense.

• Piense en esto: los mismos motores de coincidencia de patrones en su teléfono que sugieren con confianza dónde ir a cenar pueden sonar igual de seguros al sugerir objetivos de municiones.

Las alarmas éticas están sonando por todas partes.

• Anthropic se negó notablemente a permitir que sus modelos se usaran para armas autónomas o vigilancia doméstica, una postura que provocó que el Pentágono lo marginara de algunos contratos.

• El jefe de investigación de salvaguardas de Anthropic, Mrinank Sharma, renunció en febrero, advirtiendo que “el mundo está en peligro”. Denunció las presiones para dejar de lado las preocupaciones de seguridad ante los riesgos rápidos de la IA, como el bioterrorismo.

La humanidad en conjunto está vertiendo inversiones asombrosas para avanzar esta tecnología lo más rápido posible, cada nación compitiendo por superar a los enemigos que la usarán contra ellos.

• Resultados calamitosos parecen inevitables, posiblemente incluyendo suicidio civilizatorio.

Esta es la lógica ineludible y ridícula de la condición humana. Por eso las advertencias de Jesucristo sobre nuestro mundo culminando en un sufrimiento sin igual deben ser atendidas.

Actualización sobre la guerra en Irán

• La oportunidad para un acuerdo permanece intacta; algunos informes indican que EE UU e Irán están más cerca de poner fin a la guerra que en cualquier momento desde que comenzaron las hostilidades el 28 de febrero.

• Las fuerzas estadounidenses sufrieron más daños de lo reportado anteriormente, afirmó el miércoles el Washington Post después de analizar las imágenes satelitales disponibles. Se contabilizan al menos 228 estructuras dañadas y más de 400 personal herido. Estos números superan lo indicado por el gobierno estadounidense.

• Portaaviones francés se acerca a Ormuz: el miécoles, el presidente Emmanuel Macron anunción que el portaaviones nuclear francés Charles De Gaulle y su grupo de ataque han transitado por el canal de Suez y han entrado en el mar Rojo para una posible misión en el estrecho de Ormuz. Un buque cazaminas alemán está en camino para unirse al Grupo de Medidas Contra Minas 2 de la OTAN en el mar Mediterráneo con un propósito similar. Ambos países han subrayado que no intervendrán hasta que la guerra termine oficialmente.

Las prioridades de IA alemanas están dominando las prioridades de IA de la UE: el Parlamento Europeo alcanzó hoy un acuerdo tentativo que cede ante la agenda de Alemania para la inteligencia artificial a pesar de las protestas de otras 10 naciones de la UE. A lo largo de los años, la Unión Europea ha instituido extensas regulaciones sobre tecnología de la información en nombre de la privacidad del usuario, pero esta exención para el desarrollo de IA industrial alemana demuestra no sólo que estas regulaciones son una herramienta geopolítica que Europa puede utilizar (principalmente contra EE UU), sino que están sujetas a la nación cada vez más dominante de Europa: Alemania. La profecía bíblica indica que tecnologías avanzadas como la IA serán empleadas como armas.

Sudán retiró a su embajador en Etiopía el martes, alegando que cuatro ataques con drones en sus fronteras, incluyendo un ataque al aeropuerto de Jartum, se originaron en Etiopía. En el pasado, Etiopía ha permitido que las Fuerzas de Apoyo Rápido (FAR), un grupo rebelde sudanés, se entrenen y lancen ataques desde dentro de sus fronteras. Esto ocurre sólo unos meses después de que Sudán retirara a su embajador en Kenia después de que Kenia permitiera a los rebeldes de las FAR organizar reuniones para establecer un gobierno sudanés rival. No sólo estos eventos han avivado los temores de que la guerra civil en Sudán y las tensiones en Etiopía puedan extenderse más allá de las fronteras internacionales, sino que también forman parte de una tendencia más amplia que podría poner en peligro la estabilidad relativa de toda la región del mar Rojo y contribuir al cumplimiento de las profecías bíblicas.

Brote de hantavirus en crucero genera temores: al menos 23 pasajeros del MV Hondius, infectado con hantavirus, abandonaron el crucero a finales de abril y regresaron a sus hogares en Australia, Inglaterra, Los Países Bajos, Taiwán y EE UU sin saber que podrían haber estado expuestos al hantavirus, que puede matar al 40% de los infectados. Hasta ahora, tres personas han muerto, una permanece en estado crítico en cuidados intensivos en Suráfrica, y otras presentan síntomas más leves. Los funcionarios de salud están intentando contactar a todos los que desembarcaron del barco. Jesucristo profetizó en Mateo 24 que las plagas estarían entre las señales terribles que precederían a Su Segunda Venida.

Barack Obama reaparece para criticar al presidente Trump: el expresidente Barack Obama ha aumentado la frecuencia de sus declaraciones públicas en los últimos meses, afirmando que Trump dividió al país después del asesinato de Charlie Kirk, calificando los comentarios sobre el autismo como “violencia contra la verdad”, y diciendo que los republicanos preferirían cerrar el gobierno que brindar atención médica a las personas. Muchos demócratas dan la bienvenida a su retórica ya que el partido carece de un líder claro dos años en el segundo mandato de Trump. El redactor jefe de la Trompeta Gerald Flurry identificó a Obama como el poder que transformó fundamentalmente a EE UU durante su presidencia y usurpó la presidencia misma a través de Joe Biden. También escribió en el número de septiembre de 2024 Trumpet que Dios “¡está empezando a silenciar a este hombre! El poder de Barack Obama está disminuyendo ante nuestros ojos”. La reaparición de Obama sólo destaca el hecho de que ya no ejerce la misma influencia sobre el “Estado profundo” y la cultura y política estadounidense.