¿Puede ser ‘regulado’ el desarrollo de la IA?

Buenos días: 

El sábado, los rivales más feroces de la tecnología coincidieron en algo por primera vez que se recuerde: las máquinas que se apresuran a construir podrían ser demasiado peligrosas y, por lo tanto, se necesita una pausa en el desarrollo. 

• Pero es abundantemente claro que las fuerzas que actúan en contra de una pausa significativa son abrumadoras. La única manera de frenar la IA es hacerlo juntos, y nada en la Tierra puede hacer que los rivales avancen juntos en algo tan trascendental y costoso. 

La admisión fue sin precedentes. En un ensayo de 3.800 palabras el sábado por la mañana, el director ejecutivo de Anthropic, Dario Amodei, dijo que el desarrollo de la IA necesita ser “regulado”. Advirtió que en un plazo de seis meses, un agente de IA malicioso podría apoderarse de todo Internet con una botnet persistente, causando cientos de miles de millones de dólares en daños.  

• En cuestión de horas, Elon Musk de Grok (“Dario tiene razón”), Sam Altman de OpenAI (“Estoy de acuerdo […] necesitamos regular el ritmo de la frontera”), y Demis Hassabis de Google DeepMind lo habían respaldado. Estas tres empresas normalmente no pueden ponerse de acuerdo ni en la hora del día.  

• Esta propuesta llegó apenas días después de que un investigador de Anthropic renunciara, advirtiendo que estas empresas estaban apostando con el futuro de la civilización.  

No tan rápido: la propuesta de Amodei para “regular la frontera” tiene tres pasos. Estos demuestran de inmediato la imposibilidad del desafío: 

El primero —integrar evaluadores externos dentro de los laboratorios— Amodei dijo que Anthropic lo haría unilateralmente de inmediato. Eso es estupendo, pero claramente, los controles de seguridad de una sola empresa no pueden vigilar a toda la industria. 

• Esto es evidente en un informe del 10 de septiembre de Anthropic que detalla varias amenazas que logró detener, incluyendo cinco veces en que científicos intentaron usar a Claude para investigaciones de doble uso que podrían apoyar armas biológicas. A lo largo de un período de ocho meses, científicos usaron VPN y cuentas encubiertas para eludir bloqueos geográficos y solicitar la ayuda de Claude con trabajos de ganancia de función en el chikunguña y la gripe aviar, investigación sobre ortopoxvirus, y el rediseño de toxinas. Una solicitud le pidió a Claude que redactara una propuesta de subvención para investigación de ganancia de función sobre el chikunguña que se habría llevado a cabo en un instituto de investigación militar. 

• En un caso, cuando Claude se negó, el investigador simplemente llevó la solicitud a una IA rival con salvaguardas más débiles.  

El segundo —lograr que Washington otorgue una exención antimonopolio para que los competidores puedan coordinar los estándares de seguridad legalmente— es poco probable.  

• El presidente Trump, al ser preguntado ayer sobre la pausa, la descartó. “Quien gane la IA, gana”, dijo. (¿Cómo se “gana la IA”? No hay línea de meta. ¿Y qué se gana?)  

• David Sacks, copresidente del Consejo de Asesores sobre Ciencia y Tecnología de Trump, escribió con ligereza que las empresas no necesitaban permiso del gobierno para frenarse a sí mismas. 

El tercero, incluso Amodei admitió que puede ser imposible: convencer a gobiernos autoritarios —principalmente China— de acordar líneas rojas sobre armas biológicas e IA de automejoramiento. 

• El mismo fin de semana, en la cumbre de los BRICS, Xi Jinping pidió un “marco global de gobernanza de la IA basado en el consenso”, y luego prometió que China ayudaría a construir un bloque de IA de código abierto con Rusia, Irán y otros ocho miembros.  

• Modelos chinos como Qwen y Kimi K3 ya rivalizan con los modelos insignia estadounidenses a una fracción del costo. El impulso a la IA y la robótica de Pekín es fundamental para su estrategia económica. Un acuerdo que marca el ritmo y que sólo frena al país líder funciona maravillosamente a favor de China. 

La “Trampa de Moloc” es real. Es por eso que los esfuerzos por cosechar sólo los beneficios de la IA mientras se eliminan las amenazas civilizatorias que plantea están condenados al fracaso.  

• El acuerdo entre estas empresas de vanguardia es endeble y fácilmente socavado por el interés propio. Las esperanzas de que el Gobierno federal ponga freno a todo el mundo son infundadas: la administración Trump ni siquiera cree que las amenazas sean reales. Y conseguir que China coopere en limitar sus propios poderes es una quimera. 

Conocimiento sin carácter: el poder en bruto avanza más rápido de lo que los humanos que lo ejercen pueden controlar. El ingenio humano, no restringido por la sabiduría o la sumisión a Dios, no se detiene por sí mismo. Verdaderamente, la advertencia de Jesucristo sobre la amenaza de la extinción humana, salvo por intervención divina (Mateo 24:21-22), está entrando en un enfoque cada vez más claro.

Rusia amenaza con ataque nuclear a Lituania: si Lituania decide albergar armas nucleares en su territorio, la nación quedará “en la mira” de las armas nucleares de Rusia, dijo el viernes el portavoz del Kremlin, Dmitry Peskov. Sus declaraciones se producen en medio de las deliberaciones en el Parlamento de Lituania esta semana sobre el levantamiento de una prohibición constitucional del despliegue de armas nucleares en el país. Para entender cómo la agresión rusa está ayudando a llevar a Europa a la postura pronosticada en la profecía bíblica, lea “La guerra de Rusia contra Ucrania está remodelando Europa”.

Elecciones en Suecia demasiado reñidas: los resultados provisionales de las elecciones de Suecia ayer proyectan que sus partidos de izquierda ganarán 176 de los 349 escaños de su Parlamento, una mayoría de tres. Los Socialdemócratas de centro-izquierda, el partido más grande, sufrieron su peor resultado en más de 100 años. Se proyecta que el gobierno actual, liderado por los Moderados de centro-derecha en cooperación con los Demócratas de Suecia de extrema derecha, perderá su mayoría, ya que los Demócratas de Suecia perdieron apoyo por primera vez desde su entrada al Parlamento en 2010. Los Moderados, sin embargo, no perdieron apoyo por cooperar con los Demócratas de Suecia, como algunos habían esperado. Se espera que los resultados oficiales se anuncien el miércoles.

Canadá quiere convertirse en ‘miembro asociado’ de la UE: el primer ministro canadiense, Mark Carney, dijo el domingo que Canadá no quiere convertirse en miembro de la Unión Europea, sino entrar en “una alianza única con la Unión Europea”. El Wall Street Journal informa que Canadá está explorando convertirse en un “miembro asociado”, un nuevo título para una relación más estrecha con el bloque. Aunque Canadá espera que esta relación le permita ser más independiente de EE UU, la Biblia advierte que la UE dominada por Alemania traicionará no sólo a EE UU sino también a Canadá.

Los medios arremeten contra el jurado disidente en el caso Clancy: el viernes, CBS Mornings identificó al único juez disidente que se negó a declarar a Lindsay Clancy no culpable penalmente del estrangulamiento admitido de sus tres hijos, por razón de demencia. Ese mismo día, NBC10 Boston informó sobre un historial de acusaciones de violencia doméstica en su contra, aunque no se citaron cargos. Revelar públicamente la información privada o de identificación de alguien sin su consentimiento se llama “doxxing”, y a menudo se utiliza como táctica de intimidación.