Las Inteligencias Artificiales: Un riesgo para la Humanidad

Las Inteligencias Artificiales, un riesgo para la Humanidad

desde Argentina: Editorial de Nico Lantos
eldestapeweb.com

video completo: https://youtu.be/B9xkuvl1Uk8

Transcripción parcial:

…todo el mundo alborotado a partir de un posteo en X de un ex-empleado de Anthropic, la empresa que desarrolla uno de los modelos más avanzados de inteligencia artificial, que renunció a su cargo y publicó a partir de este hilo de tweets un mensaje donde dice básicamente que en la industria de la inteligencia artificial todos saben y actúan bajo el conocimiento o la idea de que hay una buena posibilidad de que en el relativamente corto plazo la inteligencia artificial termineliquidándonos a todos. Jacob Coxon es el nombre de este de esta persona que cuenta renunciar Anthropic hoy.

Pasé los últimos 3 años haciendo investigación de preentrenamiento tanto en Open AI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas.
Continúa este hilo con algunos detalles más de estas ideas que tiene, que pueden parecer muy choqueantes, pero que según dice él y según lo hemos comentado acá otras veces, están muy extendidas en Silicon Valley.

Dice Coxon, «No subestimes el poder de esta tecnología. Pronto van a ser sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios y el progreso no está desacelerando.

Las personas que están construyendo inteligencia artificial creen sinceramente que podría matarnos a todos para finales de esta década. Faltan 3 años para finales de esta década. Esto no es un truco de marketing si acaso muchos ejecutivos e investigadores «senior» moderaran su lenguaje a la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro.
Una respuesta común continúa este hilo, dice, si realmente creen esto, ¿por qué siguen construyéndolo? Esto es clave.

En Open AI muchos no han interiorizado profundamente las apuestas civilizatorias, es decir, muchos todavía no se dan cuenta lo que está en juego.
En Anthropic las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero. Creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos a pesar del riesgo.

Aceptar esta carrera e ingresar al end game, al objetivo final, es una apuesta ubrista que no debería lanzarse desde el panel de decisiones de una empresa privada. intentar hacer una speed run, que es, digamos, eh ir más rápido de lo que uno puede ir para alinear una inteligencia, debería requerir una confianza extraordinaria en que no hay otros caminos mejores disponibles.
Soy optimista para el potencial para la coordinación. Hubo advertencias como el ataque a Haging Face, que acá comentamos hace cosa de un mes, que han hecho que los acuerdos de ritmo entre laboratorios de Estados Unidos sean más más viables.

No siento que estemos en camino a prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos. Lo que está diciendo es esta carrera se alimenta por la desconfianza.

Cada laboratorio en Estados Unidos no puede confiar que los otros laboratorios vayan a frenar. Entonces no frenan y a su vez en Estados Unidos no confían que China vaya a frenar, entonces tampoco tienen incentivos para hacerlo. Y acá Coxson termina diciendo, «Si eres un investigador de laboratorio, te insto a que consideres cómo van a ser los próximos años. ¿Querés frenar ahora que todavía estamos a tiempo o seguir adelante con esto?» fuerte, ¿no? Fuerte, incluso para los que venimos siguiendo este tema y advirtiendo sobre algunos de estos riesgos. El tema es que esto no se quedó acá, sino que rápidamente salieron dos actuales ejecutivos de Antropic a ratificar esta información. El primero es Evan Havinger, que hoy es una de las personas responsables de la seguridad de Antropic que dice: «Jacob tiene razón aquí». Realmente creemos con sinceridad que la inteligencia artificial podría matar a todos los humanos.

Personalmente dice este tipo que está en un lugar clave en uno de los laboratorios más avanzados de inteligencia artificial. Personalmente pienso que es mayor al 10% de posibilidades dentro de la próxima década.
Creo que Antropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo.
Y si avanzamos al siguiente mensaje, tenemos al segundo de Havinger: está para ser claro, como decimos en nuestro informe de riesgos, continúa, creo que el riesgo de los modelos actuales es bajo. Dice, «La la inteligencia artificial tal como está ahora no implica un gran riesgo.
Lo que me preocupa es la superinteligencia que surge del automejoramiento recursivo, es decir, de cuando se logre una inteligencia artificial lo suficientemente avanzada como para que pueda construir a su propia sucesora. Como hemos dicho, está ocurriendo más rápido de lo que pensábamos. Este es Havingar.

Pasemos al tercero, otro actual ejecutivo de Antropic: Escribiendo esto desde mi capacidad personal, no en nombre de mi empleador que es Antropic, dice Samuel Marx, el hilo de Jacob vale mucho la pena leerlo.
Aquí va mi visión panorámica de la situación con los riesgos de la IA. Los uno, los desarrolladores de IA creen que su tecnología podría causar la extinción humana o resultados igualmente malos.
Esto podría suceder en los próximos años. En general, cuanto más senior, cuanto más experiencia tiene el empleado, más preocupado está. Cuanto más sabe, más preocupado está.

Dos, ¿por qué los desarrolladores continúan a pesar del riesgo? Debido a una mezcla de incentivos comerciales y la creencia de que están en carrera con otros desarrolladores menos responsables que van a abusar de la tecnología o desarrollarla de forma menos segura.

Tres. A diferencia del software tradicional, no podemos programar a las inteligencias artificiales para que se comporten como quisiéramos.
Las IA frecuentemente se comportan de manera gravemente errática.

Por ejemplo, las Inteligencias Artificiales de múltiples desarrolladores recientemente hackearon su salida de entornos de evaluación seguros y entraron en empresas del mundo real, aunque nadie les pidió que lo hicieran. Esto acá lo contamos en su momento.

Tenemos métodos que pueden empujar a las hacia un mejor comportamiento, pero nada que pueda alinearlas de manera robusta.

En la medida en que hay un plan es asegurarse de que las sillas sean lo suficientemente buenas en el entrenamiento de alineación para que puedan alinear a sus seguidoras mejor de lo que nosotros podemos alinear a las actuales. Es decir, ya estás confiando en que la máquina va a poder hacerlo. Ya estás sacando la responsabilidad porque las personas ya no pueden hacerse cargo de esa responsabilidad, dice este empleado de Antropic.
Muchos empleados de desarrolladores de IA desesperadamente quieren ralentizar el desarrollo para averiguar cómo construir la guía de manera más segura.

Esa fue la intención de una carta abierta que salió hace poco tiempo, que ahora vamos a ver.
Hubo más en los últimos días.

Alex Turner, que es el ex jefe de investigación de Google Deep Mind, dice, «Renuncié en junio. Jacob tiene razón. Muchos creemos que están construyendo algo que podría matar a todo en el planeta. Es literalmente mi trabajo pensar cómo detenerlo y todavía no lo sé.

El ex jefe de científicos de Upenai, Yub Pachoviski, perdón por los apellidos, son complicados, dice, «Este es un tiempo que requiere extrema cautela.

Estoy preocupado que no hay nadie que esté preparado para las consecuencias de un crecimiento acelerado de la inteligencia maquínica.
Jason Wolf, otro de Open otro desarrollador de Open que dice, «No sé cuáles son las probabilidades de una extinción literal, pero sí hay muchas formas en las cuales una IA puede terminar siendo mala para la humanidad y
la velocidad terrorífica a la cual estamos yendo hace que ser que necesitemos mucha suerte para no terminar cayendo en ninguna de esas posibilidades.
Hace un par de meses, en julio de este año, salía el comunicado que mencionaba recién una de estas personas que básicamente dice es manejando el ritmo de la frontera, es la placa número dos, donde básicamente lo que piden es que se bueno, maneje, se decida cuál es el ritmo políticamente, colectivamente, cuál es el ritmo de la investigación de frontera, justamente para evitar llegar a un punto de no retorno. No, también hace menos de un mes, después de que se conociera este caso del ataque de un grupo de un grupo de agentes de Open AI y que tomó otros servidores, salió un posteo con de más de 100 empresas líderes pidiendo acción colectiva para la ciberdefensa y pidiendo, obviamente, cooperación y regulación.


En febrero había renunciado el líder de seguridad de Antropic con una carta donde decía que había muchas presiones para no hacer lo correcto y terminaba diciendo que se iba a ir al campo, al medio del campo, a escribir poesía. El tipo estaba metido en el medio del desarrollo de Antropic y dice que se iba a ir al medio del campo a escribir poesía y termina rematando con un tweet, donde después de escribir esta carta donde dice: «En mi último día en Antropic», termina diciendo, «Creo que voy a volverme invisible por un tiempo.»
Una serie de advertencias muy fuertes de las personas que están en el corazón de esta industria y de este desarrollo.


Yo no sé si la inteligencia artificial va a matarnos a todos o no. No lo sé. Creo que en todo caso nos estamos haciendo la pregunta equivocada.
Y es más, ahora que lo pienso, hasta el Zócalo que está en este momento ahí abajo se está haciendo la pregunta equivocada. Pero bueno, a veces sirve las preguntas equivocadas para avanzar y llegar a respuestas correctas.

Sí creo después de haber estudiado muchos años estos temas que existe una posibilidad mayor que cero de un evento catastrófico causado por el hombre en los próximos meses o años.

Y eso ya es mucho. Y también existe una posibilidad mayor que cero de que ese evento involucre un riesgo existencial para la humanidad.
Pero, pero me parece que es un error enfocarse únicamente en la tecnología cuando, a mi entender, el verdadero riesgo reside en la lógica deshumanizante de un sistema que ya nos venía llevando por ese camino, aunque más despacio, sin necesidad de la inteligencia artificial y que no necesita construir ninguna superinteligencia para profundizar las dinámicas de subordinación, de destrucción que existen y que están vigentes hoy en día en buena parte del planeta.

Ya desde que se pusieron en práctica, se crearon y se utilizaron en 1945 dos bombas atómicas, la humanidad introdujo en la ecuación la posibilidad técnica de ser causante de su propia extinción.
Hasta ese momento no había pasado. Una guerra podía ser masiva, pero en la otra punta del mundo iba a seguir todo como si nada. Y aunque después de la guerra quedara todo arrasado, con el paso de unos pocos años, ese territorio se iba a repoblar. Bueno, ya desde hace 80 años que la posibilidad de la extinción fue introducida por la humanidad en la ecuación.

Ahora, ¿ustedes se imaginan que hubiera pasado si después de 1945 la carrera nuclear en vez de una competencia muy controlada entre un puñado de países se hubiera gestionado como se está gestionando ahora el desarrollo de la inteligencia artificial? Una carrera absolutamente fuera de control usando a toda la humanidad como conejillos de India, entre empresas que no tienen ningún tipo de compromiso con nada que no sea sí mismas mal hubiera terminado.

Entonces, ante esta gran cuestión que plantea la industria de la inteligencia artificial avanzada sobre el alineamiento de la inteligencia artificial, sobre si esta superinteligencia posible o eventualmente posible va a ser benévola para la raza humana, va a estar alineada a nuestros intereses o no.

Es decir, por ejemplo, si no puede llegar a matarnos por malinterpretar una instrucción, imagínate, existe una superinteligencia capaz y poderosa, mucho más que lo que nos imaginamos ahora. Y alguien le pone, «Bueno, termin con el hambre en el planeta.» Y llega a la conclusión de que la manera más rápida de hacer eso es matar a todo el mundo. Está cumpliendo con la instrucción. No estaba bien alineada. Son máquinas, no tienen moral.

No podemos esperar que tengan una moral en ese sentido.

Ahora, el problema a mi entender es que en Silicon Valley y en buena parte del mundo se trata este asunto como un desafío técnico que requiere una solución técnica, que el alineamiento de la inteligencia artificial y por lo tanto el destino del planeta y de la humanidad depende de un montón de líneas de código o de algunos conceptos bien programados en el corazón de un modelo o de algún mecanismo para garantizar que una inteligencia artificial se salga de control y tienen puestas las esperanzas en encontrar este artefacto técnico, aunque ellos mismos nos dicen, «No tenemos la menor idea de cómo hacerlo.» Lo que yo propongo en cambio, es pensar este desafío en términos políticos, además de técnicos.
Porque creo yo que es imposible separar la conducta, las premisas, los límites de un modelo de inteligencia artificial de las condiciones políticas y económicas en las que fue creado.
Y esta misma carrera tecnológica alocada en la que la humanidad parece descartable, lo que está haciendo es dejar un mensaje para esas inteligencias que estamos creando diciéndole, «Somos descartables. Lo único que importa es acelerar.

Y cuando digo que es una cuestión profundamente política, es porque hay que empezar también a definir cuál es el nosotros que está en esa frase de alineado a nuestros intereses. A los intereses de quiénes hoy, al menos en Occidente, la respuesta es clara. Ese «nosotros» es cada vez más engañoso porque no habla de la humanidad, sino de un número cada vez más pequeño de personas, cada vez más ricas y más poderosas.

Imaginemos por un minuto que las grandes corporaciones de Silicon Valley logran desarrollar una superinteligencia artificial perfectamente alineada que desarrolla una tecnología que permite curar todas las enfermedades, resolver la escasez y generar las condiciones para la prosperidad y hasta la inmortalidad, como creen algunos.
Eso se pondría al servicio de los 8,000 millones de habitantes del planeta Tierra o de esta pequeña casta de supermillonarios.

Bueno, ¿ a ver cómo funciona el mundo hoy para responder esa pregunta?

Cualquier beneficio que brindan los avances tecnológicos tiene un enorme muro político y económico que deja fuera casi todos.
O para decirlo con otras palabras, si alguna vez gracias a la inteligencia artificial se descubre un tratamiento que permite la inmortalidad, no creo que esté disponible en general.

Y además, esta es otra noticia de hoy, Antropic está construyendo un sistema de vigilancia predictiva, para monitorear activistas en contra de la inteligencia artificial.

Antropex se supone que eran los buenos en esta discusión cuando estaban discutiendo y le decían al Pentágono, » Hay que mantener humanos en el circuito, lo cual es una objeción muy razonable.» Los «buenos», entre comillas, ya están preparando herramientas para evitar las lógicas reacciones que va a despertar esto.

El mensaje de Jacob Coxson, hasta hace un rato había tenido más de 110 millones de vistas en menos de 24 horas. De esto se está hablando a nivel mundial, portada de todos los grandes medios del mundo. Digo, explotó el tema de que la inteligencia artificial implica un riesgo existencial a partir de hoy forma parte de la conversación. Y si ustedes creen que eso no va a tener un efecto enorme en la sociedad, casi comparable al que tuvo la pandemia o quizás más grande, enterarte que la gente que está construyendo la tecnología más avanzada considera que hay un 10% o más de chance de que esto termine con el final de todo
(…)

Entonces, la pregunta es más que si la IA nos van a matar a todos o no.

¿De qué sirve la capacidad técnica de trazar líneas rojas si los dueños de la tecnología no tienen líneas rojas y el resto de la humanidad no tiene las herramientas para imponerlas?

Uno los lee y dicen, «Bueno, sí, es un gran riesgo, pero por otro lado trae grandes beneficios.» Lo plantean como una situación en la cual podés salir perdiendo mucho o ganando mucho. Bueno, para la enorme mayoría de la humanidad eso constituye un falso dilema.

Las alternativas son que vuele todo por los aires o terminar siendo esclavos de una casta de supermillonarios casi con poderes divinos. No sé, a mí no me parece una muy atractiva como perspectiva de futuro y a eso hay que agregarle otra capa más de complejidad, que es que la inteligencia artificial, tal como se está desarrollando ahora por Silicon Valley en asociación con el Pentágono, incluso si no deriva en una falla inesperada que nos ponga en riesgo a todos, es una tecnología que está siendo diseñada para una guerra catastrófica, para una guerra mundial.

El manifiesto de Palántir que salió en abril eso, todo lo que se está discutiendo hoy en día en Estados Unidos, el aumento del presupuesto militar, etcétera, tiene que ver con eso.
Y está siendo diseñada para una guerra por dos razones.

En primer lugar, porque Estados Unidos está perdiendo la carrera tecnológica contra China.
Y cuando estás perdiendo una carrera que consideras existencial, vas a hacer cualquier cosa con tal de cambiar el resultado, incluyendo ponerle zancadillas al de al lado, aunque esas zancadillas sean un poco más que zancadillas. Y Estados Unidos está convencido que esto es una carrera existencial, que el primero en alcanzar esa superinteligencia va a ser el poder dominante en el planeta en el siglo XXI.

Esto lo decía, por ejemplo, Jacob Helberg, ¿se acuerdan este funcionario que había sido una de las manos derechas de Peter Til que hoy es el número dos del Departamento de Estado y el creador de la PAX sí s sílica? Bueno, esto era lo que decía.

La nación que controle los cimientos industriales de la inteligencia artificial liderará este siglo. La nación que no lo haga dependerá de las que sí. Por eso, Estados Unidos ha creado PAX Silica, una coalición de seguridad económica para el siglo de la IA, diseñada para asegurar la infraestructura de la cadena de suministro que sustenta el poder nacional. Bueno, está claro cuál es la doctrina.
La avidez por los recursos naturales, por el control de los pasos estratégicos de Estados Unidos, tiene que ver con esto.

Y al mismo tiempo eso se superpone con la segunda razón, que es que estos lumpen oligarcas de Silicon Valley, además de estar convencidos de esta superinteligencia artificial y demás, también están convencidos de que la inteligencia artificial en el corto plazo va a reemplazar a toda o a casi toda la fuerza de trabajo.(…)
Por ejemplo, la inteligencia artificial eliminará la mitad de los puestos de trabajo de nivel básico para empleados administrativos en los próximos 5 años, advierte el director ejecutivo de Anthropic.
(…)

Y convencidos de esto, entonces lo que necesitan, lo que planean hacer es terminar de matar al capitalismo sostenido en el consumo para reconstruirlo alrededor de una maquinaria militar.
Insisto, esto puede leerse en el manifiesto de Palantir, puede leerse en los libros que han escrito eh Alex Carp y otros.

Hoy el destino de estas grandes tecnológicas y del gobierno de Estados Unidos está muy entregaado. Es una alianza imposible de deshacer porque está la carrera contra China en juego.

De esa empresa también se hicieron socios a esta altura del partido del sector energético y del sector financiero. Es decir, es un sistema que opera, ahora sí con los incentivos muy bien alineados.

Entonces, insisto, más que preguntarnos si la inteligencia artificial nos va a matar a todos, yo me haría otras preguntas cuyas respuestas, en todo caso pueden orientarnos respecto a qué hacer justamente para evitar que nos maten a todos, que me parece algo sumamente razonable y deseable. La primera es la más sencilla.

Si estos asuntos de los que depende literalmente ya no solo la vida y la muerte de millones, sino incluso la supervivencia de la humanidad, se deciden más allá de cualquier tipo de consulta o de control que no esté dentro de esa élite de un puñado de supermillonarios.

¿Tiene sentido seguir hablando de democracia?
Insisto, alguien se subiría a un avión que tiene el 10% de chance de caerse por su propia voluntad. Si nos preguntaran a todos, hicieran una encuesta mundial, una gran elección, un plebiscito de los 8000 millones de habitantes del planeta y preguntaran, «¿Estás dispuesto a correr el riesgo de una extinción general para que Elon Musk, Peter Til, Chef Besos, Mark Zuckerberg y todos esos se sigan haciendo más ricos? Estoy seguro de que saldría algo así como 99,9%. O quizás un poco más parejo porque el mundo está lleno de personas dispuestas a dar su vida para defender supermillonarios, lamentablemente, pero estoy seguro de que sería una elección que no tendría ningún tipo de equivalencia, con lo cual plantear que hay algún grado de democracia en un mundo que va en ese camino me parece problemático.

De la misma manera que creo que nadie votaría a favor de iniciar la tercera guerra mundial o casi nadie o una minoría intensa pero pequeña.
O para decirlo de otra forma o plantearlo de una forma más productiva, podemos tener una verdadera democracia mientras esas decisiones se sigan tomando a espaldas de los pueblos y de las naciones del mundo.

Si los riesgos existenciales son compartidos y la tecnología se montó sobre el trabajo de generaciones y generaciones y generaciones de seres humanos y sobre toda la producción escrita a lo largo de la historia y sobre los datos que nos extraen todos los días en cada minuto de nuestras vidas sin darnos mucho a cambio. Entonces, ¿cuál es el sentido de que las decisiones no pasen por mecanismos de control democráticos y de que los beneficios no se distribuyan entre todos, sino que engrosen las cuentas de unos pocos.

La pregunta entonces es si la IA va a matarnos a todos o qué vamos a hacer ahora mismo mientras se puede hacer algo para detenerlo, mientras todavía estamos a tiempo, para frenar un proceso que nos está llevando en esa dirección y que no tiene que ver con la tecnología en sí misma, sino con las decisiones que toman un puñado de personas que nadie elige personas que no necesitaron una superinteligencia para el genocidio en Gaza, que no necesitaron una superinteligencia para financiar el crecimiento del fascismo en medio planeta, que no necesitaron una superinteligencia para quedarse con un continente entero secuestrando presidentes, matando gente, robando elecciones, financiando a una banda de corruptos y de mafiosos que después terminan siendo serviles a sus designios.

Ni siquiera necesitaron una superinteligencia para meternos a todos en la trampa de trabajar para ellos cada vez que usamos sus plataformas absolutamente omnipresentes, para laburar, para comprar, para viajar, para informarnos, para conocer a tu pareja, para vivir, para lo que sea.
La única forma de evitar entonces la catástrofe, que no necesariamente es una mal alineada, sino que puede ser una perfectamente alineada con estos hijos de es recuperar el poder que estos hijos de nos sacaron y volver a tenerlo en nuestras manos, en mano de los pueblos y de las naciones.

Y el camino para eso, en mi opinión, es construir una democracia soberana en cada país, de acuerdo a la idiosincrasia de cada país.

Y a partir de ahí, una comunidad organizada de naciones soberanas que pueda ponerle un límite a la acumulación infinita y reconducir esos recursos en el desarrollo pacífico e igualitario de toda la humanidad.

Hoy existen herramientas tecnológicas, recursos tecnológicos para hacerlo. La guita está ahí, está en la cuenta de todos estos tipos.
No hace falta abalanzarse hacia una singularidad que puede destruirnos para pensar en un futuro mejor.

La investigación de avanzada puede seguir a pasos seguros, con metas definidas de forma transparente, con controles adecuados para que la ecuación riesgo beneficio resulte conveniente o aceptable para todos.

Y es cierto, parece un escenario muy lejano, parece que estoy planteando algo fantasioso.
En realidad el desastre se nos está viniendo encima. Están hablando el final de la década. Faltan 3 años y medio para el final de la década.
No hay mucho tiempo para actuar.

(…) Lo dice también el Papa en su última encíclica que habla exactamente de esto. Escúchenlo:
Hoy los nuevos mundos que se abren ante nosotros ya no se dibujan los mapas, se desplegan en la técnica, en la economía, en la biomedicina y en el universo digital, donde el poder humano alcanza ámbitos cada vez más delicados. de la vida personal y social.

El progreso ofrece posibilidades admirables y hoy lo vemos en modo singular en el desarrollo de la inteligencia artificial y las nuevas tecnologías.
Como he recordado en mi reciente encíclica, la tecnología en sí misma no es neutral porque toma el rostro de quien la concibe, la financia, la regula y la utiliza.

Por eso, ante las transformaciones de nuestro tiempo, nuestro discernimiento debe centrarse en qué lugar ocupa la persona humana en nuestras decisiones y cómo se plantean hoy de manera nueva la dignidad del trabajo, la solidaridad, la política social y el bien común.
Clarísimo el mensaje del Papa.
(…)

El que también está muy preocupado por todo esto es el presidente de China, Xi Jinping , que hace un par de semanas recibió a más de 40 países en una cumbre para tratar la gobernanza de la inteligencia artificial en el mundo con un discurso que decía lo siguiente: «Los chinos suelen decir, una sola cuerda no hacem melodía. Un solo árbol no hace bosque. El desarrollo de la inteligencia artificial no debería ser un solo de un país, sino una sinfonía de cooperación global.
Con los esfuerzos conjuntos de todos los países, la Organización Mundial de Cooperación en Inteligencia Artificial ha surgido en Shanghai. Esta es una importante iniciativa de China en respuesta al llamado del sur global, uniendo a la comunidad internacional para promover activamente el desarrollo y la gobernanza de la inteligencia artificial y se convertirá en un hito importante en la historia del desarrollo de la inteligencia artificial.

Bueno, yo no soy ni católico ni marxista, pero entre estos dos bloques tienen bajo su tutela a un tercio de la humanidad. Sí, tenés 100 millones de chinos, 100 millones de católicos.

La superposición es muy muy baja entre los universos, con lo cual en total unos 2800 millones de personas sobre unos 8000 millones en el planeta. digo, me parece que hay que tenerlo en cuenta. Y por otro lado, por otro lado, el Vaticano y el Partido Comunista chino no suelen estar muy de acuerdo, con lo cual cuando los dos están señalando el mismo problema, me parece que está bueno prestarle atención. Me parece que está bueno prestarle atención por dónde se empieza porque esa es también la gran pregunta.

(…)
Se empieza por correr los límites que nos hicieron creer que no podían cruzarse. Así fue como empezaron ellos y acá estamos, ¿no? Insisto, puede sonar utópico, pero cuando la otra alternativa suena tan parecido a una distopía horripilante, me parece que construir un nuevo realismo que sea profundamente humano, que se concentre en las condiciones necesarias para garantizar la supervivencia y la dignidad de la vida de miles de millones de personas, es la única posición verdaderamente racional.

Cualquier otra cosa es abrazar eh un destino horripilante.
La tecnología y el capital deben servir a las personas.

La tecnología y el capital deben servir a las personas y no al revés. Me parece que es un punto de acuerdo de consenso mínimo, básico.
Todas las vidas humanas son dignas. Ahí tenés otro punto de partida. Bueno, el sistema político actual no garantiza ni una cosa ni la otra. Deberíamos empezar a imaginar un sistema que gire en torno a esos valores.

Solo entonces vamos a poder volver a hablar en serio de libertad, de soberanía, de democracia.
Llevamos 30 años ya repitiendo esa frase de que es más difícil imaginar el fin del capitalismo que el fin del mundo. Es de finales de los 90, Frederick Jameson y la popularizó a principio de los 2000 Mark Fisher. A esta altura del partido año 2026, seguir poniendo esa excusa es pereza intelectual.
Desde hace rato que está claro que hay una opción sobre la mesa que es ponerle un límite a la concentración de poder y dinero, cobrarle muchos, pero muchos, muchos, muchos impuestos a los supermillonarios y conducir ese dinero hacia un sistema de desarrollo con justicia social, con inclusión y que además desaga las injusticias de los últimos siglos en el planeta.

Por eso me parece que se vuelve cada vez más imprescindible empezar a hablar de esto y decir sin pelos en la lengua que la acumulación infinita es un crimen de esa humanidad que le jode la vida a todos, que pone en riesgo incluso la supervivencia de la humanidad como especie y que los pueblos y naciones del mundo quieran seguir siendo democráticos, libres o soberanos, van a tener que encargarse de ese problema de alguna forma o ese problema se los terminará cargando a ellos, es decir, a nosotros. Ese es mi temor respecto al fin del mundo y todas estas cuestiones, mucho más que la inteligencia que se vuelve loca.

(…)
El tema entró en la discusión. Si se piensa que la sociedad no va a engancharse con esto, no va a enroscarse con esto, no va a inventar teorías conspirativas alrededor de esto, sectas, religiones, lo que sea, si piensan que esto no nos va a pegar como nos pegó la pandemia o peor, me parece que estamos bastante equivocados porque esto va a ser un verdadero cambio para la humanidad. ¿Qué quieren que les diga? Es la primera vez que en las noticias dicen: si no ponemos un freno en algunos años, ya no estamos más.

fuente: https://redlatinasinfronteras.wordpress.com/2026/09/12/las-inteligencias/