# TEMA TRUMP NO DESACELERA. GUERRA.AI CONTRA CHINA Nuevo INSIDE X! # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana. # REDES SOCIALES 🌐 youtube: xhubai 🌐 X: xhub_ai | placidodomenech 🌐 twitch: xhub_ai | placidodomenech 🌐 instagram: / xhub_ai | placidodomenech 🌐 discord: Pídenos acceso mediante DM en redes sociales. # PODCAST 🎧 buzzsprout: https://xhubai.buzzsprout.com/ 🎧 spotify: https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4 🎧 apple: https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819 🎧 amazon music: https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86 🎧 ivoox: https://go.ivoox.com/sq/1337641 # APÓYANOS Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI: ❤️BuyMeACoffe: https://www.buymeacoffee.com/xhubai ❤️Paypal: pladoes@gmail.com ❤️ivoox Podcast: https://www.ivoox.com/support/1337641 # CONTACTAR ¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo. ✉️ Correo: xhubai.spain@gmail.com💬 Send us Fan Mail Support the show
Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.
Transcript
From the show. Tap a time to play from there.
SPEAKER_21Conectando. Tu cuerpo. Conectando. Tu mente. Sincronizando. Tu alma. Entrando en la simulación. Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.
SPEAKER_193 billones de vidas humanas terminaron el 29 de agosto de 1997. Los sobrevivientes del fuego nuclear llamaron a la guerra Día de la Judicatura.
UNKNOWNVivieron solo para enfrentar un nuevo sueño. La guerra contra las máquinas. La guerra contra las máquinas
SPEAKER_19El computador que controlaba las máquinas, Skynet, envió a dos Terminators a través del tiempo. Su misión, destruir al líder de la resistencia humana, John Connor, mi hijo. El primer Terminator fue programado para atacarme en el año 1984, antes de que John fuera nacido.
UNKNOWNFaltó.
SPEAKER_19El segundo estaba dispuesto a atacar a John él mismo cuando todavía era un niño. Como antes, la resistencia pudo enviar un guerrero solitario, un protector para John. Era sólo una cuestión de cuál de ellos alcanzaría a él primero.
SPEAKER_12Buenas tardes a todos, amigos. ¿Qué tal? ¿Cómo estáis? ¿Qué tal el inicio de semana? Bueno, de lunes,¿no? Soy Placio Menech y estoy hasta los webs del temita este ya. Pero no para. No para y, bueno, dada la importancia... le dedicamos todo el tiempo para que se quede lo más claro posible.
SPEAKER_12Lo que pasa es que no paran de salir noticias al respecto y esto se está empezando a hacer infinito. Vamos a intentar que no colapse el contenido, la agenda o la planificación de XHabay. Vamos a tener debate el jueves, el miércoles también, uno sobre agentes y trabajo, otro sobre religión e inteligencia artificial. Mañana de Tenemos una Xtalks ahí con Ignasi, alcalde, sobre la toma de decisiones, sobre el data storytelling.
SPEAKER_12Y bueno, no sé si seguiremos o no, depende de lo on fire que esté el tema. Hoy toca... Trump no desacelera. Bueno, ya había declarado guerra ahí contra China. Os voy a hacer un pequeño spoiler al programa, pero vamos a ver muchas cosas y decir muchas cosas. Va a ser un programa divertido. China ha dicho que ha respondido a todo a este circo.
SPEAKER_12Que no, que no van a parar. Se espera que cuando llegue Xi Jinping hable con Trump. Entendemos que este tipo de cosas... Pero bueno, es que Trump también ha dicho que esto de la desaceleración,¿desde cuándo? Claro, habemos lío,¿no? Tenemos lío entre... Bueno, aquí quien entienda que esto son posturas y defensa de la moral y de la humanidad... A ver...
SPEAKER_12De verdad que no se ha enterado de nada y a mí me darían ganas de no hacer más programas si después de todo el esfuerzo, la interpretación que se da a todo esto es que son buenos y malos,¿no? Uno se preocupa por el ser humano y están preocupados porque la IA sea o haga algo malo. De verdad que entiendo el nivel, pero yo espero que lo que divulgo y el trabajo que hacemos aquí en XHabay, no solo yo, sino también mucha gente que viene pues sirve para algo hombre entonces que esa es la verdad absoluta no sabemos lo que pasa dentro hay cosas que no se saben obviamente pero sí que se conocen muchas cosas a nivel técnico así que se conocen posturas y publicaciones la última que vimos de darío modell ayer que le dimos extensamente lleva varias las hemos leído todas es decir vamos a ver llevamos siete años o seis años con esto con un seguimiento casi 24 algo intuiremos o sabremos que no significa que que bueno a lo mejor algo se nos escapa pero es parte de la técnica que es que la sociedad se trague la narrativa que ellos quieran y no la verdad al final la verdad es la narrativa que ellos imponen y Estados Unidos no va a dejar que la narrativa la posea China China es como leído por un post todo lo contrario a la visión infantil del pobre Darío Modey es decir, esa visión que también la tiene Samalman menos Elon Musk de una China comunista, retrógrada, enemigo de la humanidad hombre creo que Estados Unidos no digo que China sean santos ni voy a defender aquí el modelo chino pero han demostrado sus logros y Estados Unidos lo que tendría que hacer es más autocrítica al presente, al pasado y seguramente al futuro y esto empieza a coger un cariz de tragicomedia bélica que empieza a asustar empieza a asustar, empieza a parecerse a la cara de Darío Modé aquí rozando la locura Pero bueno, aquí os recordamos que este InsideX pertenece a una serie que hemos ido haciendo siguiendo el caso Jacob Coxon.
SPEAKER_12Este fue el primer programa, Jacob Coxon, la inteligencia artificial podría matarnos antes del 2030, acompañado de una frase de un ilustre medievo en LinkedIn diciendo protesta. Bueno, saludos a la gente del chat, que últimamente el chat entra muchísima gente. Saludos a Sarkajay, a Georgie, a Carmen Esteban. Hombre, Carmen, qué bueno tenerte por aquí.
SPEAKER_12Y este fue el segundo programa,¿no? Medievos Attacks. Jacob Coxon sigue haciendo magia porque Jacob Coxon, el que ha iniciado esta campaña operación demostrada con ámbito o con propósito político, con ámbito o con propósito económico bueno, de poder pues este segundo programa Medieval Attacks, Jacob Coxon sigue haciendo magia, parecido a Harry Potter y también analizamos las posturas del rey de los medievos Bernie Sanders y del padrino caído Joshua Bengio que se ha pasado al lado de los medievos¿algo tiene que haber visto o...
SPEAKER_12viendo el rol que juega y en el círculo que ha estado, el de Max Tegmar, el de Stuart Russell, es que son siempre los mismos. Es que yo ya lo he repetido, casi podríamos hacer un mapa de gente que está coordinada. Habrá gente que no, habrá gente que sí, ya han salido algunas pruebas al respecto, por ejemplo, Cocotaglo, la financiación de ahí, 2027, etc. Bueno, y otra gente Y aquí en España ocurre lo mismo, ya tenemos varios mediegos referencia que han salido a la palestra, pues como no, a copar titulares, a copar emociones, a exaltar.
SPEAKER_12al pueblo y elegirse como los defensores de la humanidad y de la alta moral estos venderían a su madre y son los que están defendiendo un humanismo que para mí es un humanismo suicida y nadie dice absolutamente nada yo no los señalo, no voy a dar nombres algunos han pasado por Xhava ahí y nada por sus actos lo reconoceréis el tiempo pone cada uno en su lugar Y el tercer programa fue este, Jacob Potter-Coxon, Skynet o Lainet, por la red de mentiras, Operación Terror, ahí planificada, donde vimos tanto los dos artículos que publica Joshua Bengio, uno de 2025 al que él hace referencia, y luego otro sobre agentes que ha gustado bastante, está bastante bien, bueno, además veniendo de Joshua Bengio, voz autorizada en lo técnico.
SPEAKER_12Y vimos las opiniones de Elon Musk en varios cortos y también James Cameron, bueno, un minuto, diciendo que él ya nos lo advirtió. Él ya nos lo advirtió en 1984. Y bueno, ahí hizo una portada gloriosa,¿no? Es de Terminator Salvatium,¿no? Que yo, a ver, realmente estas portadas sinía, pues me costaría muchísimo hacerlas. Entiendo que podría haberlas hecho, pero esto es lo que tiene la guía,¿no?
SPEAKER_12La parte creativa nos lleva en momentos o en piezas a las excelencia, pues con poco mérito más que el gusto de dirigirlo hacia el resultado final que tú quieres. Y bueno, no sé si vamos a Skynet, si estamos ya en él. Lo que ocurre en España lo vamos a obviar, pero también tiene tela, lo podríamos comentar. Os recomiendo también el debate que hicimos sobre AGIAS y riesgo existencial, que la verdad lo hicimos la semana pasada, jueves, y estaba planificado ya.
SPEAKER_12Luego explotó todo lo que ha pasado y viene muy bien. La verdad verdad es que pasó de todo porque esto empieza a tocar muchas sensibilidades políticas económicas sociales religiosas y esto empieza a ser durillo durillo para la salud mental de cada cual yo de la mía intentaré cuidármela empiezo a notar cierta cierta densidad mental a mi alrededor en el sentido de que se nota que todo esto está llegando a unos niveles de caos, de entropía, de...
SPEAKER_12Todo el mundo quiere opinar, todo el mundo quiere saber, todo el mundo quiere estar ahí. Pero bueno, luego ni se han leído lo que dice Darío Modey, ni leen cuatro titulares. Es que... A ver, tenemos que reflexionar cuando hablamos y opinamos bajo qué... ¿Bajo qué conocimiento lo hacemos? Podrían decir lo mismo de mí, decir, bueno, tú al final recoges información, pero es que lo que hacen todos los medios. ¿Quién sabe realmente lo que está pasando dentro?
SPEAKER_12Bueno, lo saben ellos,¿no? ¿Qué es verdad y qué no? cuando hay una manipulación y una compra de medios tan grande, pues muchas cosas serán mentira, todo, una parte y la otra, la misma y la contraria. Entonces,¿qué hacemos? No narramos nada. A ver, está claro que independientemente de lo que suceda, tenemos que tener nuestro propio criterio, nuestra propia cosmovisión y el entender la inteligencia artificial, qué tipo de conocimiento es el que está haciendo emerger y hacia qué tipo de desarrollo evolutivo, proyecto civilizatorio, desarrollo económico, vamos,¿no?
SPEAKER_12a qué nueva vida o forma de trabajar. Si trabajamos, vamos. ¿Quién dominará el mundo? ¿Quiénes serán los nuevos dioses o el nuevo Dios? Ya sé que esto es un poco blasfémico y que juego con eso, no os pongáis nerviosos. Es una forma de hablar. Pero bueno, os recomiendo el programa. Y aquí una imagen que casi podría ser la de Humano X que he compartido hace un rato, que voy escribiendo.
SPEAKER_12Me parece necesario ese Humano X,¿no? Y... La verdad es que yo creo que si saliera no se entendería. A ver, yo... Un segundo, a ver si puedo meter.
UNKNOWNUn segundo. Un segundo.
SPEAKER_12A ver, sí. Vale, mira, una frase no la puedo enseñar, pero una frase que he publicado con una portada de Humano X dice, y que además es muy buena para todo lo que está ocurriendo, estoy pensando si ponerla como cabecera dentro del programa de X, de todos. Dice, quien encuentre la verdad de estas palabras se enfrentará a la muerte.
SPEAKER_12¿Qué quiere decir eso? Pues que entender todo lo que está ocurriendo y va a ocurrir va a suponer un cambio evolutivo, cognitivo tan fuerte que te enfrentas a la muerte de tu yo. actual para dar paso a uno nuevo y ese proceso de muerte pues va a haber una lucha interna y colectiva muy muy muy fuerte de no querer saber ver, de preferir vivir una mentira a la verdad esto de la verdad o sala libre es difícil de interiorizar y entender que es cierto, muchos cogerían la pastilla azul en vez de la roja vamos a decir cuatro cosillas de del X-Habay, lo de siempre y vamos al programa que va a tener como muchos cortes post, noticias, bueno muchísimas cosas a analizar va a ser un programa muy variado y divertido así que vamos al día X-Habay, séptima temporada la comunidad de inteligencia artificial y ciencias transversales de habla hispana con el objetivo de ser global y tener ese impacto que buscamos para crear de desde la inteligencia artificial, desde la evolución humana, tanto biológica como cognitiva, un mundo mejor que nos acerque a la verdad.
SPEAKER_12Si queréis entrar en Discord, simplemente me enviáis un mensaje directo a redes sociales xlinkedin o instagram o me enviáis un correo electrónico y os paso un enlace y estáis dentro, os presentáis y ya podéis disfrutar de todos los recursos ahí clasificados durante tiempo y totalmente gratuito. Nadie os vende nada y nada, si os gusta todo el trabajo que hacemos, que este fin de semana, bueno, esta semana Ha sido muy, muy intensa.
SPEAKER_12También muy contentos por las audiencias. La verdad es que las audiencias están disparándose y la actividad también y algo el run run o las sensaciones que X Hub está creciendo. En Evox llevamos más de 6.000 seguidores. Somos uno de los canales con el segundo con más seguidores de tecnología de empresa y de inteligencia artificial. Y bueno, ahí estamos y la verdad es que vivimos momentos apasionantes y creo que también ejercemos una labor de crítica, de pensamiento crítico de pensamiento transversal es agotador pero también nos apasiona todo lo que hacemos y también una cierta responsabilidad somos un canal único en este sentido así que podéis poner me gusta que es gratis, compartir comentar, suscribíos ya sea a Youtube o a cualquier plataforma Y si queréis hacer una aportación económica, que bueno, que todo esto al final también es muchísimo trabajo, pues podéis hacerla a través de buymeacoffee.com barra xjabai o en paypal pladoes arroba gmail.com.
SPEAKER_12Repito, buymeacoffee.com barra xjabai o paypal pladoes arroba gmail.com. De igual que sea un euro o un... el importe que tengáis, pues podéis hacerla a través de buymeacoffee.com. importe para un iPhone Duo, pero bueno, al final siempre es bien recibido cualquier aportación porque quiero que este año sí o sí sea el de tener nuestra propia plataforma, web, algunas iniciativas también que hay preparadas en Y todo eso va a requerir mucho esfuerzo, tiempo, equipo y sí, recursos, dinero y necesitamos ese apoyo y si no lo buscaremos.
SPEAKER_12Y bueno, ahí estamos para realmente que tengáis más y mejor contenido y un poco todo ese estilo de XHabai, ese estilo X que lo hace diferente y que ha conseguido que estéis muchos de vosotros escuchando año tras año todo lo que os contamos. A ver... ¡Pam! Vale, vamos. Antes de empezar, venga, los comentarios, que como es un InsideX, sabéis que estamos siempre al pie del cañón ahí y os vamos a contestar todas las preguntas.
SPEAKER_12Intentad ser concretos,¿eh? A ver, podéis opinar, podéis decir lo que queráis libremente, pero las cosas que me digáis, pues, bueno, medio razonadas y con alguna pregunta para que pueda contestar. Dice, hola Plácido, sin duda estamos ante una situación sin incentivos para poder parar. China no lo va a hacer y parece que Estados Unidos tampoco, pese a lo que diga Darío Modé y Sam Alman y el resto, tampoco para. Se ha creado una situación una trágico media, porque a ver, sí que hay razones también para desde lo técnico para evaluar riesgos, eso nadie lo va a discutir es decir, no significa que los doomers estén locos y estén planteando cosas que no puedan ocurrir las hayan manipulado, las hayan teatralizado, orquestado, no es cierto que el estado del arte de la inteligencia artificial es imprevisible en algunos de sus comportamientos en la evolución misma y sobre todo con la introducción de la mejora Amén.
SPEAKER_12de la automejora, de RSI o del Surf Improving, que si cogéis ese programa que hay en el canal de Surf Improving que hicimos hace un año, año y medio, la verdad es que entenderéis muchas cosas. Y es que todo esto no es nuevo. Es que todo esto a nivel técnico ya se conocía. Lo que pasa es que lo van trasladando a la población, a los civiles, a la masa, pues de una forma más ordenada, más jameliana, más jameliana, de jamel del flautista de Hamelin para que de alguna manera pues no haya una rebelión una revuelta realmente a ver buenas tardes señor Magic dice Georgie bueno Georgie me preocupa que Geoffrey Hinton hable de que existe peligro real para los humanos bueno esto lo ha dicho desde el principio esto no, lo que dice Geoffrey Hinton ahora es lo mismo que ha dicho siempre Por otro lado, Karp dice que por seguridad frenarían si no fuera por China.
SPEAKER_12Bueno, eso es mentira. Es como decir, bueno, como... Están encantados de haberse conocido y de que hubiese un enfrentamiento o de potenciar el potencial militar de Estados Unidos. Les encanta. Va con su ADN. Vale, vamos a ver. No me apetece mucho, pero bueno, para los que estén rezagados, el señor... Coxon pues ha recorrido todas las televisiones y nada hemos puesto varias intervenciones y vamos a poner una que hizo ayer no para de hacer es decir que realmente es que hay tantas pero bueno vamos a poner vamos a poner esta dando un segundín porque hay un montón de links y no los he preparado un segundo un segundín vale Vale, ya lo tengo aquí.
SPEAKER_12Vale, un sounding y ya lo tenemos. Venga, dura poquito.
SPEAKER_18A ver.
SPEAKER_12Venga, vamos a ponerlo y a disfrutar. A ver qué nos dice, si ha dicho algo nuevo o no. Lo dice lo mismo de siempre.
SPEAKER_20¡Gracias!
SPEAKER_16Así que no esperaba ninguna gran respuesta realmente. Fue excepcionalmente sorprendente ver el nivel de intercambio con el tweet. Y creo que fue muy indicativo de que el momento estaba
SPEAKER_20correcto para este tipo de charla. ¿Qué piensas de tu antiguo jefe, Thierry Amédée, de su
SPEAKER_16ensayo ayer hablando de bajar el ritmo de desarrollo? Creo que es genial. Es muy emocionante. Y creo que esto es un paso sustancial hacia lo que estaba hablando de necesitar algún tipo de deslizamiento entre las personas construyendo los diferentes AIs. Aunque la única cosa que tal vez esté faltando en términos de la propuesta actual es más engaño con
SPEAKER_20China. ¿Qué sería eso?
SPEAKER_16¿Qué necesidad tiene China? Realmente no sé los detalles de las políticas de la frontera, pero espero que las personas en China que están viendo los mismos problemas como nosotros, que están tratando de construir la misma tecnología, lleguen a la misma conclusión de que tiene que ser hecho
SPEAKER_20de manera meditada y debería ser fácil cooperar en algún tipo de freno mutuo. ¿Qué diferencia tiene este monitor de la parte tercera,¿Qué
SPEAKER_16diferencia hará eso dentro de las empresas? Creo que lo hará mucho más fácil. Dentro de las empresas, lo hará más fácil producir estos modelos de frontera. Probablemente. También asegurará que haya más transparencia sobre exactamente qué pasa mal si hay algún tipo de incidente. Y creo que también permitirá la confianza entre los laboratorios a un mucho mayor nivel si las personas pueden confiar en la verificación de estos modelos. ¿Y
SPEAKER_20cómo respondes a aquellos que dicen que esto es un empleo de marketing cínico, que los líderes de OpenAI, los líderes de Anthropic quieren cerrar su ventaja de mercado, un desarrollo lento para todos
SPEAKER_16los demás? Así que creo que, en realidad, tomar esta medida es activamente peligrosos para los líderes de Frontier Labs. Están bajando más de lo que están bajando sus competidores. Así que, si hay algo, esto está
SPEAKER_20quemando una ventaja para mantenerse seguros. ¿Cuán amplia es el sentimiento dentro de las compañías que expresaste públicamente el domingo? Estamos empezando a escuchar más ahora mismo. Cuando estabas hablando con tus colegas día in y día out,¿es este el tipo de cosa que estaba en la mente?
SPEAKER_16Definitivamente no es un día en y día fuera. Día en y día fuera, si estás trabajando en las tecnologías, vas a tratar de hacer código, programación. No hay tiempo suficiente para pensar constantemente sobre los riesgos, pero definitivamente he notado que en los últimos meses se vuelve más frecuente. Así que, no importa donde estés en la empresa, probablemente alrededor de, ya sabes, un par de veces a la semana, supongo que habrá algún tipo de conversación sobre los grandes riesgos de la tecnología. ¿Cuál fue el último trozo para ti? ¿Qué te hizo pensar que tenía
SPEAKER_20que salir?
SPEAKER_16Así que no hubo una sola última batalla. Fue realmente un proceso continuo de la sensación de que realmente no estaba contento con la manera en que las cosas iban y que necesitaba hacer un cambio significativo. Así que hubo algunos incidentes contribuyentes durante meses, pero no hubo un único catálogo que me llevó a quitar. ¿Cuál
SPEAKER_20es el escenario
SPEAKER_16que te preocupa más? Honestamente... Creo que el concepto de construir una superinteligencia ha sido ligado a la suministración de una especie alienígena. Así que creo que pensar sobre ello en términos de una mente alienígena que no entendemos completamente es bastante asombroso,
SPEAKER_20incluso sin ningún escenario concreto. Usted ha tenido a personas como el senador Bernie Sanders llamar por un ban en esta superinteligencia artificial, pero¿es eso incluso posible?
UNKNOWNSí.
SPEAKER_16No estoy seguro. No sé lo que podría o no podría ser implementado. Creo que es definitivamente físicamente posible implementar un ban en la superinteligencia artificial si hubiera cooperación entre todos los países. Si o no un ban en realidad es una buena idea está a punto de discusión. Seguramente estoy de acuerdo con que las propuestas para bajar el ritmo parecen un primer paso muy sensible. Para todos los que están viendo ahora, para todos los que pueden estar tan aterrados como tú en diferentes tiempos,¿cuál es
SPEAKER_20la única cosa que esperas que todos tomen de este debate y cuál
SPEAKER_16es la respuesta que crees que es la más importante en este momento? Creo que la cosa más importante es que no importa lo que estés haciendo actualmente, la AI probablemente tendrá un impacto significativo en tu vida. Y es bastante importante tener los ojos abiertos sobre la dirección en la que las cosas van, y no dejarlo todo a las personas que lo están construyendo, porque quieren el engaño. Las personas que construyen la tecnología quieren tener conversaciones con la gente.
SPEAKER_16Y, en realidad, uno de los principales puntos que se han quedado en los últimos años ha sido la incapacidad de despertar a la gente del peligro
SPEAKER_20Bueno,
SPEAKER_12aquí ya veis enseguida ha reaccionado. Bueno, lo de los nombres de los perfiles, tío, que os ponéis, de verdad. Bueno, menos el de morcillete este que me contó la historia, que era una historia de su familia y tal. Hay algunos que ni los leo, venga. China dice por aquí, en el chat. China, China, China, ya entendemos de qué va esto.
SPEAKER_12Le tienen terror a los modelos abiertos y quieren controlarlo todo. A ver, dándote la razón, que obviamente lo que subyace a todo esto es poder, control, liderazgo, narrativa También hay una parte que hay que analizar que es el tema de cómo se está... Es que más que el tema de los riesgos, quién supervisa, controla, cómo se dirige, cuál es el objetivo, cuál es el propósito. Yo creo que eso es más importante que el tema de la alerta tan importante que se está haciendo.
SPEAKER_12Que no se va a hacer absolutamente nada. No va a significar nada más que generar un sector, un narco sector ahí para... cuatro, que ya eran cuatro, pero aún se va a hacer más proteccionista y contencionista respecto a fuerzas exteriores y aliados. ¿Qué significa? Que esto en vez de ser una revolución, una era de la inteligencia artificial y una democratización de esta tecnología, una explosión de esta tecnología para positivo, entiendo que también con cosas negativas, en vez de un reto, pues va a ser otra vez la narrativa del cortijo.
SPEAKER_12Del cortijo anglo y americano. Entonces, bueno, ese es Hay que hacer algo. Yo creo que no van a poder pararlo, no van a poder parar soluciones descentralizadas, soluciones abiertas. Bueno, no van a poder pararlo. A ver, tienen el poder para pararlo, obviamente. Pero va a haber ahí una disputa importante. A ver, el problema que hay aquí es que Estados Unidos no puede permitirse perder esta guerra.
SPEAKER_12Y les va a dar igual. Absolutamente igual qué hacer y cómo hacerlo. No pueden perder la guerra de la inteligencia artificial y no pueden perder ante China. Porque saben que seguir siendo líderes en el mundo pasa por ser líderes en inteligencia artificial. Y si no lo son, si esto se democratiza mucho más, por mucho que la cadena de suministro de lo que es la inteligencia artificial empieza desde la energía, la computación, GPU, hardware, materiales, bueno, mil cosas,¿no?
SPEAKER_12Pues lo van a tener mucho más complicado. Y esto es una guerra. Es una guerra del presente y del futuro. Y no, no, no. Lo que pasa es que este movimiento que ha hecho Darío Amodei, ya lo he dicho muchas veces lo que pasa es que es verdad que al final no sé si es más fácil explicarlo en vez de en programas o en un libro, no lo sé, pero bueno al final Darío Amodei tiene una idea de gobernanza que es más similar a la de Elon Musk que a la de Sam Allman pero al final es lo mismo y es que las compañías de inteligencia artificial van a tener poder quiere un poder compartido¿de acuerdo?
SPEAKER_12y los Estados igual que el poder militar dice bueno,¿tú dónde vas? y entonces claro, ven a la inteligencia artificial como algo estratégico pero no y entonces ahí hay un gran debate y entonces luego están las valoraciones de bolsa, la parte económica la parte narrativa la guerra con China, la aceleración con China le están comiendo la tostada a pasos agigantados y si dejan que dé uno o dos pasos más se va a generar un descrédito que podría hacer que la pirámide de naipes cayera y no se pudiera recuperar y no se lo pueden permitir.
SPEAKER_12A ver, yo eso también lo entiendo, me pongo en su lugar y no se lo pueden permitir. Y esto es una operación, como dicen por aquí, veo a Coxon hablar y Diamant de Max dice, veo a Coxon hablar y siento que es como un actor que me está contando algo, me parece un relato muy bien hilado y dirigido para obtener algo de la sociedad. No digo que sea fake, solo es sensación. Bueno, es una operación, está demostrado que es una operación orquestada, no tiene más misterio la han pillado con el carrito del helado no se le va a cuestionar porque los medios están todos totalmente soportados y pagados la mayoría de ellos y eso es así en todos los países los medios de comunicación están orquestados lo hemos visto a nivel político lo hemos visto a nivel sanitario lo hemos visto a nivel de igual lo que sea cuando hay una catástrofe de igual mienten o son dirigidos por una narrativa y por el poder Y no hay nada más que decir.
SPEAKER_12dice que lo que espera es que esos problemas que ellos detectan a nivel técnico y experiencias de eventos como los de OpenAI que cada vez empiezo a pensar que es algo provocado porque les ha venido muy bien para toda esta operación entonces empiezo a dudar pero bueno no tengo ningún tipo de pruebas pero da igual aunque fuera orquestado evidentemente la capacidad de los modelos está a ese nivel que ha sucedido ya había pasado antes lo hemos comentado los mismos problemas dice que espera que los vean los ingenieros de China obviamente los verán y los afrontan y me acuerdo un programa que hicimos lo estuvimos hablando con el CEO de Química 3 y como afrontaban todos igual que el CEO de DeepSeek y de Zipul el reto de la AGI y el gran reto que suponían pues un montón de cosas alineación seguridad alucinaciones eficiencia, energía, nuevos componentes, muchísimas cosas, pero no lo veían como un problema, lo veían como un gran reto y como una gran posibilidad de victoria de su país para desarrollar su nación, su cosmovisión, la de China y compartirla o trabajar con colaboradores en el mundo sobre ella.
SPEAKER_12No lo veían desde ese punto tan negativo, apocalíptico, hollywoodiense que tiene América, que me parece un circo, me parece un teatro y me parece que lo que esconde es lo que esconde una supremacía que está en cuestionamiento una narrativa que está en cuestionamiento también, unos valores que están en cuestionamiento donde se ve la infantilización del mundo por parte de los estadounidenses claramente continuadamente por parte de Darío Modé y por parte de Sam Alman las risas en un programa de lo más burlándose de los ingenieros de Europa diciendo que en Europa no se hace nada que funcione entonces, a ver, es Esto no nos tiene que sorprender a nadie.
SPEAKER_12Lo que pasa es que, claro, consumimos sus productos. Si es tan negativo es, pues claro, tendríamos que boicotear los productos que hicieran y volvemos a lo mismo. Tampoco es que China sean los buenos, Estados Unidos los malos o viceversa. Al final todo es como más gris de lo que parece y también nosotros, como decía Bill Gates, no hay un plan para la IA, tampoco hay un plan del plan para la IA, pero es que ni Europa ni España España lo tienen.
SPEAKER_12Entonces,¿qué podemos criticar? Dice que la supervisión de terceros, pues bueno, que ralentizará el desarrollo, que garantizará más transparencia y que generará más confianza, pero que eso, bueno, en definitiva yo lo que pienso es que haya una supervisión de terceros está muy bien, puede generar confianza a la ciudadanía,¿de acuerdo? Pero claro, si esa supervisión la hace Meter, que acaba de salir un artículo explicando que al final no dejan de ser ellos mismos, es decir, que es como una autorregulación,¿qué sentido tiene? Si no es una autorregulación, perdona, una regulación global, mundial.
SPEAKER_12Es decir, que puedan haber de China que supervisen modelos estadounidenses o europeos al revés. Claro, si tú te supervisas a través de compañías que tienen intereses también en lo que tú haces, bueno, pues van a ocultar o decir, bueno, la transparencia brillará por su ausencia. O alguien se cree que van a ser totalmente transparentes. Alguien se cree que se van a tirar piedras a su tejado. En serio,¿alguien se lo cree? Y tengo que decir, esa supervisión por parte del gobierno al menos por parte del gobierno de terceros en plan auditor sino por parte del gobierno ha sucedido ha sucedido con OpenAI, ha sucedido con MISOS y ha sucedido a nivel de Estados Unidos pero no ha sucedido en el resto del mundo, a ver, significa que cuando Estados Unidos lanzase un modelo pues tendría que enviarlo a todos los países para que todos los países confirmaran si lo puede lanzar o no pero es que eso no es lo que quiere Estados Unidos es que Estados Unidos ha vendido un cuento que se tiene que creer todo el mundo y es que la IA es el demonio y que ellos son los buenos que van a contener el demonio y gestionar el demonio para el beneficio de la humanidad y eso es que nunca ha sido cierto el que ellos trabajen para la humanidad y luego mucho menos que la inteligencia artificial bueno que pueda derivar en un riesgo existencial como decía Bostrom lo que puede ser es que si no desarrollamos la inteligencia tengamos ese riesgo existencial eso es lo que puede ocurrir Entonces, claro, el mundo nunca, la civilización humana nunca ha actuado parando el progreso, sino enfrentándose a los retos que este supone.
SPEAKER_12Entonces, dice que... que bueno, sobre el tema de seguridad, que en el día a día en su trabajo, que bueno, él trabajaba, tampoco le importaba mucho,¿no? Pero que estaba concentrado en sus cosas. Fijaos esta frase,¿no? Y que él, bueno, de una forma evolutiva, que no hubo una gota que colmara el vaso y que dijera, oye, dimito, sino que fue una cosita evolutiva, hasta que llegó un día que dijo, checo, que lo dejo todo. Vamos,¿quién se traga eso? En serio,¿quién se traga eso?
SPEAKER_12Bueno, lo vuelvo a decir, la han pillado con el carrito de los helados, pero que gente le da absolutamente igual. Veréis meses a medievos y a gente que no quiere ver todo ese tipo de cosas defender al señor Coxon, a la alta moral del Darío Amodei y compañía y esto es un circo que a mí empieza a agotarme. porque al final el esfuerzo no es divulgar o poner luz sobre un tema sino al final es que la gente el estado cognitivo está por los suelos y al final se traga lo que quiere tragarse y lo que más le convenga para poder seguir viviendo o para poder seguir respirando dice que qué escenario le preguntan a Coxon que qué escenario le preocupa más y ahí dice Coxon oye el desarrollo de una superinteligencia para mí es se copia de Pachocki y dice para mí una superinteligencia es como invocar a especies alienígenas, bueno no humanas alien especies, especies no humanas y dice la palabra también alien mind en referencia a Pachocki, entiendo que me uno a lo que dice Pachocki para que no me den tanta caña pues crear una superinteligencia sería como invocar un dios o una mente no humana, dice que eso le parece terrorífico, pero entonces si te parece terrorífico lo que tienes que plantear no es una desaceleración o ralentización, sino oye, me bajo del carro desde el primer día, renuncio a todo al equity de Anthropic que ha renunciado, pero no al OpenAI y por otro lado, que eso pega un cante y por otro lado pues nada, lo que tienes que decir es como Bernie Sanders inteligencia artificial no, quieren destruirla no queremos la inteligencia artificial en los humanos ni para los humanos, quieren prohibir quieren destruirla, quieren regularizarla hasta un punto en que quede diluida a un utilitarismo absoluto y concreto y que no se planteen grandes cosmovisiones, planteamientos, ni nada más ni nada menos que lo que el mono en su peldaño en la escalera de inteligencia pueda soportar.
SPEAKER_12Bueno, pues eso es lo que hay. Eso es lo que hay. A ver... Little Bill. Está chulo el icono. Dice, si no hay plan para la IA y tampoco tenemos claro el alcance que puede tener, parece sensato hablar de desaceleración. No tiene sentido. No tiene sentido. Es como si tú cogieras el fuego y dijeras, bueno, lo dejo aquí.
SPEAKER_12A ver si me va a quemar la casa. Es que no tiene sentido. Planteáis unas cosas, vamos a ver. El desarrollo tecnológico... está muy vinculado a... a la conciencia colectiva del ser humano. Es decir, si no aparece en un sitio, aparece en otro. Eso, bueno, tendría que hablar mucho sobre eso. Que, por cierto, tengo que decir que en la charla de Jordi Yatzer hablo de esto. Y me han dicho que necesitan una semana más o más tiempo y los voy a matar porque yo hubiera querido que hubiera salido la charla de Jordi Yatzer ya, pero bueno.
SPEAKER_12Saldrá, pero tardará un poquito más. Entonces, esto que tú planteas, Little Evil,¿esto ya sucede desde, bueno, dijimos el otro día, con GPT-2, con el self-improving, con los principios de Asilomar. Pero eso todo es una teatralidad ante una tecnología que tenemos que dominar. Nosotros nunca hemos dado la espalda al progreso ni al conocimiento. Nos hemos enfrentado a él. ¿Desde cuándo?
SPEAKER_12Hombre, pero si es peligroso, bueno, si lanzamos una bomba atómica y podría haber explotado el universo o la realidad,¿no? sí en ciertos puntos pues a lo mejor unos serán más temerarios que otros y al final a ver quién es el que pulsa el botón pero desde cuando la especie humana lo que hace es darle la espalda al progreso y lo que hace es parar o desacelerar o decir bueno voy a ir más poco a poco vamos a ver es que métodos y cosas para poder mejorar todo esto hay pero hay cosas que no se van a poder solucionar nunca entonces la la pregunta no es vamos más lentos, la pregunta es,¿paramos la IA?
SPEAKER_12¿Y cuándo hemos hecho eso? Es como decir,¿apagamos el fuego? Pero vamos a ver,¿qué estado cognitivo tiene la gente para plantearse estas cosas que no ven más allá? A ver, yo lo entiendo, no es nada personal, que nadie se tome, además si sois nuevos del canal y me veis a un poco expresarme de esta manera, intentaré que sean formas más elegantes, inteligentes y suaves, pero es lo que
SPEAKER_18hay.
SPEAKER_12Es
SPEAKER_18lo
SPEAKER_12que hay. venga vamos con el amigo Darío Amodei ahora las bueno vamos a verle dos intervenciones podríamos decir que gloriosas vamos realmente gloriosas creo que es esta un segundo vale esta es esta vale vale Tengo aquí un lío que no me da tiempo, si no se hace muy tarde, a clasificarlo.
SPEAKER_12Vale, un segundo. Vale, en la CNN, vamos a ello. A ver qué dice. Esta entrevista sí que... Esta intervención
SPEAKER_07tuvo lugar ayer. Y sí que va a ser un poquito más larga. 12 minutos. Una de las líderes mundiales en la inteligencia artificial... ...está avisando que la industria debe despejarse ahora. El CEO de Anthropic, Dario Amadei, dice... ...que con la avanzación de la AI tan rápidamente... ...hay un riesgo de la humanidad perdiendo el control de la tecnología... ...posiblemente llevando a ataques cibernéticos y a la bioterrorismo. Amadei habló exclusivamente con CNN... Hoy,
SPEAKER_22con Anderson Cooper, aquí está parte de su entrevista. Obviamente, la razón por la que estamos hablando son estas noticias que han salido. Jacob Coxon, que recientemente renunció a Anthropic, hizo noticias la semana pasada diciendo que las personas que construyen AI creen que podría matar a todos nosotros a finales de la década. Hay un empleado actual, Evan Hubinger, un líder de la ciencia de alineación, que concluyó diciendo que realmente creemos que AI podría matar a todos los humanos. Personalmente, creo que tiene más de un 10% de posibilidades dentro de la próxima década. Do you believe, earnestly believe, that AI could kill all humans? And what percent chance do you think it is?
SPEAKER_08Así que,¿sabes? Es divertido. Yo estoy de acuerdo con Jacob mucho más que no estoy de acuerdo con él. Y es una resignación interesante porque cuando se fue, dijo,¿sabes? Creo que Anthropic es el jugador más responsable,¿verdad? Creo que Anthropic es el más consciente de estos temas. No estaba llamando a nosotros. Estaba llamando a la dinámica de la industria como un todo. moving too fast.
SPEAKER_08I think I already said these sort of unconditional probabilities. I used to kind of talk in that way because it's kind of an easy way to express I think there's some chance that things go wrong, but it's not all that high. But again, I think it's more illuminating to think in terms of how do you decompose those probabilities? What are the paths in which things go well? And what are the paths in which things go poorly? And so instead of saying, you know, it's a 10% chance, that sounds like it's a roll of the dice, I think it's much more illuminating to say, well, that forks into different paths.
SPEAKER_08And if we take the right paths... entonces la posibilidad de que algo vaya mal es muy baja. Si tomamos el paso malo, entonces la posibilidad de que algo vaya mal podría ser aún más alta que eso. Y así, vamos a enfocarnos en nuestra agencia y en nuestra capacidad de tomar los pasos correctos en vez de los pasos malos. Y creo que la manera de tomar los pasos correctos es para que la industria trabaje juntos. De nuevo, hablaremos de la propuesta que he puesto hoy, pero al final del día, la industria tiene que trabajar juntos y es más difícil, pero a algún punto el mundo tiene que trabajar juntos.
SPEAKER_08Si vamos demasiado lento, todavía creo que las personas equivocadas serán las que se encargarán de la tecnología. Y eso, de nuevo,
SPEAKER_22traerá la probabilidad de que algo vaya mal muy alto. Entonces, lo que propones es llamar a la frontera de la industria de la I.A. Y escribes, debemos bajar el ritmo en el que mejoramos las capacidades de los modelos de I.A. El progreso se verá rápido y debemos hacer uso sabio del tiempo que ganamos. Y hay tres partes a esto. Una es los evaluadores embedidos. La segunda parte es la coordinación democrática. Y la tercera parte es la coordinación global. Sam Altman, de OpenAI, nombró la idea de los evaluadores embedidos.
SPEAKER_22Esencialmente, usted está sugeriendo, no sé si son observadores dentro de su empresa y de estas otras empresas de AI, idealmente globalmente, pero seguramente en los Estados Unidos, que lo monitorearían, que tendrían acceso a los empleados. ¿Qué poderes tendrían?
SPEAKER_08Sí, así que antes de llegar a eso, estoy muy agradecido de ver el apoyo para esta propuesta solo en las primeras horas de haberla publicado por Sam Altman, por Elon Musk. por varios legisladores y oficiales de gobierno. Creo que es un signo positivo de nuestra capacidad de hacer algo que parezca que este plan funcione. Pero para llegar a tu pregunta, sí, evaluadores embedidos. Así que hay precedentes para esto.
SPEAKER_08If you look at how banks are regulated, there's all kinds of rules about how banks are allowed to do their business, because we don't want to have financial crises. And one of the things that are done in some cases is, I think they're called supervisors in the financial industry, but they're folks who are independent of a company, who are embedded in the company day to day to check their practices. And I think we can do the same thing in, I think, Creo
SPEAKER_22que podemos hacer lo mismo en la IA. La otra cosa que estás llamando a la atención en este propósito de tres partes es la coordinación democrática, que es, en esencial, la democracia. Todas las empresas están bajo democracias, teniendo estos evaluadores, teniendo esta coordinación. Y probablemente lo más importante, porque el argumento es, bueno, si las empresas estadounidenses son las únicas que se regulan,¿qué pasa si China se adelanta? Estás llamando a la coordinación global. Obviamente, eso es mucho más difícil.
SPEAKER_08Sí, sí. En este propósito de tres pasos, cada paso es más difícil que el anterior. Y Anthropic estaba kind of getting the ball rolling by committing to the first step. Pero no deberíamos creernos que estos próximos dos pasos serán más difíciles y no podríamos lograr. Así que mi propuesta es una propuesta que deberíamos intentar. Ahora, de nuevo, de todo el acuerdo de otros que he visto en solo las primeras horas de publicar el ensayo, eso crea un poco de optimismo, pero eso necesita seguir adelante con los resultados.
SPEAKER_08Así que, sí, empujando entre... Compañías y países democráticos. Ahora, una de las cosas importantes que necesito llamar aquí es,¿sabes? A medida que llegamos al ritmo de los lanzamientos de modelos,¿verdad? Esa es la actividad comercial. Y para que las compañías se coordinen directamente en la actividad comercial, necesitan trabajar con el gobierno. Y así, la única cosa que estamos pidiendo del gobierno ahora mismo,¿verdad? Quiero decir, también hay esta pregunta de qué deberían ser las regulaciones.
SPEAKER_08Pero hay algo aún más simple que el gobierno puede hacer ahora mismo, que es que puede sentarse en la habitación y... con todos los jugadores de la industria y todos podemos hablar juntos y el gobierno puede asegurarse de que no estamos haciendo nada nefario desde el punto de vista de antitrust y colusión. Estamos solo tratando de hacer que nuestro sistema sea seguro y trabajar juntos para hacer que el sistema sea seguro. Así que creo que ese es un
SPEAKER_22papel importante para que el gobierno tenga. Jacob Coxen nos acompaña ahora. Jacob, aprecio que estés con nosotros. Primero, supongo que Si estás diciendo literalmente que crees que AI podría matar a todos nosotros a finales de la década,¿cómo eso podría suceder? ¿Cómo se
SPEAKER_16vería? Sí. Así que el escenario preciso suena un poco como la ciencia ficción. Suena como algo que no es real, pero creo que es realmente real y es más fácil entenderlo si piensas en cosas reales que sucedieron hace dos meses. Hace dos meses, los agentes de OpenAI, los AIs, se hackearon en la infraestructura de parte tercera completamente a su propio acuerdo. Y esto fue como un esforzo de hackeo concentrado que llevaron a cabo de su propia voluntad. Y creo que si extrapolas hacia el futuro el nivel de capacidades de estos AIs, con la misma volición independiente, podrían causar extremo daño.
SPEAKER_16Por ejemplo, hackear infraestructura crítica, construir armas biológicas a nivel de extinción. Hay muchas maneras en las que la AI podría actuar en el mundo.
SPEAKER_22Es específicamente,¿cuándo cambiaron tus sentimientos sobre esta tecnología? ¿Fue algo sobre el ritmo de progreso que has visto?
SPEAKER_16Sí, creo que es muy importante mirar el ritmo de progreso y, por ejemplo, en áreas como el código o la matemática, hace un par de años, estas AI estaban solo ayudando a los humanos un poco. Pudieron darles sugerencias. Ahora están cerca de reemplazarlas. Aún necesitamos a los humanos en este momento, pero, bastante plausiblemente, dentro de un año, ya no necesitaremos a los humanos para hacer investigación en muchas áreas. Solo el domingo, OpenAI resolvió un problema de milenio, uno de los problemas más insolvidos y abiertos en la matemática, únicamente usando una AI autónomamente. Y creo que lo más asqueroso es la AI es usada para hacerse más inteligente.
SPEAKER_16Así que puedes tomar una AI y darle el problema de la investigación de la AI, tal y como actualmente le han dado la investigación de la matemática. Puedes hacer que haga las tareas que estamos haciendo actualmente y luego obtienes lo que se llama una explosión de inteligencia. La AI se vuelve más inteligente y más inteligente sin necesidad de involucrarse en la humanidad, hasta que tengas una cosa que es vastamente más inteligente
SPEAKER_22que la de los humanos. Y esto podría venir muy pronto. Hemos mencionado a un ex colega tuyo que actualmente trabaja en Anthropic, básicamente endorsando la evaluación de que la AI could potentially kill everyone within a decade. In a follow-up post, he said, to be clear, as we say in our latest risk report, I think the risk from present models is low. What I'm worried about is superintelligence arising from recursive self-improvement, as we've said, is happening faster than we thought. I assume the recursive self-improvement is what you've just spoken about. Do you agree with him that the current models, the risk is low, but it's just the speed with which this is now improving?
SPEAKER_16Exactamente, estoy totalmente de acuerdo. Ahora mismo no hay riesgo de extinción. Los modelos actuales, lo peor que pueden hacer es, tal vez, hackar en algo que puede causar un montón de daños en la infraestructura, pero no son inteligentes lo suficientemente inteligentes para desmantelar a un nivel que le llevaría a la extinción. Creo que lo que es tan loco es mirar el ritmo de progreso y hay una posibilidad muy real de que en el futuro inmediato, estos son años que, como el próximo año, el año que viene, el mejoramiento recursivo ocurrirá y terminará to the phase of Evans Post where he argues that there's a chance we could all die.
SPEAKER_16That is coming
SPEAKER_22soon. You know, a lot of these CEOs of these companies will go to Congress and say, hey, we would love regulation. Anthropic, in their new statement right now, says the world would benefit from the industry adopting a lawful, verifiable way to work together to pace how we release powerful models. You know the arguments. It's an arms race. If a U.S. company doesn't achieve the¿Crees que estas empresas realmente...
SPEAKER_22¿Quieren
SPEAKER_16regulación o es un servicio de labores? Sí, completamente. Esto es completamente honesto. Justo de la misma manera que la respuesta a la publicación de Evans fue una especie de sorpresa. Fue como, esto no puede ser real. ¿De verdad un hombre trabajando en esta tecnología no puede creer que hay este nivel de peligro? No, eso es completamente genuino. Y estas personas también son completamente genuinas cuando piden que se regule. Esto es un genuino. Se encuentran en este escenario en el que están compelidos a correr hacia la construcción de una tecnología muerta y que les encantaría de algún tipo de cuerpo internacional para permitirles acercarse a un ritmo adecuado.
SPEAKER_16Ellos simplemente no confían en que la gente
SPEAKER_22alrededor de ellos llegará en un modo seguro, así que sienten que tienen que correr allí también. Podrías haber quedado tranquilo. Quiero decir, estoy seguro de que tuviste un gran trabajo, siendo pagado, me imagino, muy bien.
SPEAKER_16Obviamente eres increíblemente inteligente, un matemático. ¿Por qué decidiste hablar? Bueno, inicialmente decidí dejar. Pensé que no podía ser parte de esto más. Pero luego me di cuenta que probablemente pudiera usarlo. No esperaba que saliera viral. Lo que hice fue escribir un tweet en Twitter, lo escribí en Google Docs, lo escribí con un amigo, nos colaboramos. Sí, había algunos amigos con los que discutí la mejor manera de expresarme después de que decidí irme. También tuve algunos amigos que retweetaron la cosa. Estaba como, vamos a intentar hacer esto viral. Pero claramente había una demanda latente para que esto explotara absolutamente.
SPEAKER_16Nunca he visto un tweet de seguridad AI ir tan loco. Creo que es porque la gente vio de los ataques cibernéticos en los últimos meses, también están empezando a internalizar el ritmo de progreso. La gente está empezando a entender que esto es tecnología real. Esto no es hype. Esto no va a desaparecer tan pronto. Esto solo va a ser más loco. Ha sido loco durante los últimos seis meses. Y creo que hubo esa comprensión latente de la severidad de la situación que significó que esto era como una batalla que encendió un fuego. Estaba muy asombrado por lo rápido que se volvió viral.
SPEAKER_12Realmente pensaba que solo estaba la de Darío Amodei, pero bueno, ha salido la de Goxon, la dejamos para quien no la haya visto, aunque ya la habíamos puesto en otros programas. Ahora contestaré por el chat. le preguntan a Darío Amodei matar a todos los humanos que si puede matar la inteligencia artificial a todos los humanos y se pone otra vez yo es que la forma de expresarse que tiene Darío Amodei pone de los nervios a cualquiera tiene todas las trazas de un líder tiene todas las trazas de todo menos de un líder pero bueno dice que es gracioso le preguntan sobre matar a todos los humanos y dice que es gracioso y que dice que Coxon cuando se va que no hace una crítica a Anthropic porque dice que Anthropic es la mejor empresa y que lo que hace es una crítica a la industria.
SPEAKER_12Pero bueno,¿quién se cree realmente esto, de verdad? ¿Quién se cree esto, que sea tan serio y este tío diga que es gracioso y que encima se le va un empleado que consigue un post apocalíptico coordinado bajo una operación en parte de gente que invierte en Anthropic y diga no, hombre, se ha ido pero a nosotros no nos ha criticado ni ha retado. Al contrario, nos ha alabado. Ha criticado a la industria, no solo a Anthropic. ¡Wow! Dice que sobre el tema de matar a todos los humanos o del riesgo existencial, la probabilidad que existe, bueno, que habría que ver esas probabilidades como se descomponen según las decisiones que se tomen.
SPEAKER_12Pero claro, el problema es, Darío Amodei, es que tú no eres el centro del mundo. Es que en Estados Unidos y en otros países y en China hay otras empresas. ¿Vas a decidir tú todos los caminos de esas empresas? ¿Eres el único que puede desarrollar la superinteligencia antes que nadie y por lo tanto eres el ganador, el que... la empresa que dominará el mundo y por lo tanto esas decisiones son casi sagradas o mesiánicas? ¿De qué cojones estás hablando, tío?
SPEAKER_12Tú eres el responsable de tu empresa y de tus decisiones. Tío, no nos vengas a contar un rollo aquí que dices, pero este tío,¿qué está contando? ¿Quieres decir que lo que hace Anthropic es lo mismo que hace otra empresa? Entonces, bueno, si la otra empresa no es lo mismo que Anthropic, está claro que esa empresa tiene probabilidades mayores del riesgo existencial. Habría que cargársela o prohibirla o, claro, entonces no pueden haber varias empresas. Lo que tiene que haber es una que es lo que pide él coordinada de forma pública.
SPEAKER_12Bueno, entonces este tío lo que está pidiendo es, quiere ser una empresa que gobierne junto con Estados Unidos. Es que la visión que tienen es muy clara, no es de empresa. os lo he dicho muchas veces es de organismo o entidad colaborativa en el poder nueva gobernanza que para nada democracia de Estados Unidos para competir contra China y para liderar en el mundo. Es que está clarísimo. Es que no hablaría como habla.
SPEAKER_12Imaginaros vosotros tener una empresa y estar hablando de esto. De esa manera. Eso significa que tú lideras el sector y el sector hace lo que tú quieres y lo que... Pero claro, el problema de esto no es Darío Amodei que tú cojas un camino u otro o que sepas de forma divina cuál es el camino correcto sino simplemente lo que se está haciendo y cómo se está haciendo tiene limitaciones epistemológicas y ontológicas que nos llevan a la aseveración de decir que no se puede alinear por valores o por ejemplo que es totalmente impredecible su comportamiento Por lo tanto, decir ante estas cualidades que eso que se está desarrollando es seguro, se le podrían poner medidas de seguridad, pero habría que ver, como decía Manuel Fonseca, si la superinteligencia puede ser contenida, es una falacia.
SPEAKER_12Esto es un cuento chino. Nunca mejor dicho. dice que, eso sí, que toda la industria, hace un llamamiento a toda la industria a trabajar juntos, cosa que ha conseguido, lo que propone es enlentecer los modelos frontera, publica ese texto, evaluadores e integradores, Samalman dice que sí, dice que ha tenido esa propuesta, Darío dice que ha tenido esa propuesta mucho apoyo por parte de, bueno, de figuras políticas, del sector de inteligencia artificial, etcétera, Samalman ha dicho que sí, Elon Musk ha dicho que sí, que esa regulación podría ser muy similar a la del sector bancario financiero.
SPEAKER_12Bueno, si tiene la misma eficiencia nos damos por extinguidos, vamos. ¿Qué es lo que ha buscado la regulación financiera en Estados Unidos? Su supremacía. ¿Qué es lo que buscará la regulación de Estados Unidos de inteligencia artificial? Su supremacía. No la seguridad de la humanidad. Es que tampoco hace falta ser un lumbrera, ni tener un canal ni divulgar, ni tener ningún tipo de ingeniería o de posgrado. y al final lo que dice pues es que pues eso que el gobierno lo coordine y supervise todo que se asegure el estado de que lo que realizan es lo que tiene que ser y no otra cosa y que salga mal Pero el problema es,¿qué pinta el gobierno ante un problema técnico?
SPEAKER_12Bueno, si está el gobierno, pues ir contra el gobierno sería ir contra la democracia y contra las empresas de inteligencia artificial,¿no? Que están defendidas y supervisadas por el gobierno. Es decir, que ya no habrían problemas, ya no serían empresas privadas, ya serían un narco sector de IA angloamericano en el que dominarían el mundo,¿no? Que nosotros, bueno, pues si nosotros estamos en ese club, pues nos aplaudirán o nos darán una camiseta con los acrónimos y si no, pues harán una guerra o hundirán nuestras investigaciones, nuestras propuestas y dirán que es terrorismo y ya,¿no?
SPEAKER_12Esto puede acabar pues muy mal. esto puede acabar muy mal dice Little Bill dice, no estoy planteando para el progreso, sino darnos tiempo a plantear un plan y soluciones a nivel global. Pero es que, vamos a ver, nosotros en España podríamos decir, oye, denos, dadnos 20 años para solucionar el problema de la invasión con Marruecos, la guerra que tenemos, la deuda que tenemos, el retraso que llevamos con inteligencia artificial, dennos tiempo para hacer un plan que separe el conocimiento y la tecnología y el desarrollo porque, oye, nosotros necesitamos un tiempo para hacer un plan.
SPEAKER_12Si no has hecho un plan, la próxima vez lo harás o ahora lo harás más rápido esto se sabía desde hace mucho mucho mucho mucho tiempo la única que parece que lo tenía claro asumido e integrado es China bueno y también nuestro presidente con lo de algo algo no va a ser alguien y bueno ahora ha acelerado su formación con el libro de humanidad Stuart Russell que es lo de siempre Stuart Russell es para otra de las voces eh del foro económico mundial del web otra de las voces del web Dice Carmen Esteban, dice Plácido, te cae igual que a mí.
SPEAKER_12A ver, yo es que, vamos a ver, lo he visto en un post, una valoración de Darío Amodei. Este tío, primero, se cree que Anthropic es la única empresa que hay. Después, la visión que tiene del mundo es Estados Unidos los buenos, China los malos, y tiene una visión tan infantil y reduccionista que tienen un sesgo cognitivo importante en los americanos y este CEO a nivel religioso habría que verlo, luego en el programa del miércoles voy a contar alguna cosita que vais a flipar respecto a Sam Allman Darío Amodei y las autoridades religiosas es que vais a flipar, yo la verdad es que yo no soy yo soy ingeniero y me metí a esto de la divulgación y al final estoy como un poco atrapado me apasiona y me encanta pero al final pienso y digo, vamos a ver vivimos realmente en una mentira tan profunda y en manos de gente de un nivel tan bajo?
SPEAKER_12¿Quién mueve los hilos de todo esto, tío? ¿Quién es el que mueve los hilos de todo esto? Había gente que decía, no, Trump. Tío, no me pongáis Trump, de verdad. La gente... Es por salud mental mía. Si creéis que se prepotencia o se sienta mal o pido perdón y se acabó, pero es que no lo soporto. Es salud mental. La gente hace un reduccionismo de una serie de cosas sin tener ni puta idea de nada que llega un momento, tío, que mi cabeza explota,¿no?
SPEAKER_12Entonces llega un momento que hay que decir, oye, mira, por aquí, esa fiña. Entonces, entonces,¿qué hacemos? ¿Qué hacemos? Yo con este tema lo he dicho, eso estaba hablando hace poco con Ignacio y con Eduardo Cano, que lo tendremos el jueves, y yo digo, tío, estoy cansado de este tema, es decir, es que es agotador, es agotador.
SPEAKER_12Bueno, publica Darío Modé este texto que ya hemos leído. La verdad es que quien quiera estar al día, tenéis los programas de Xhaba ahí y todas las referencias y la verdad es que son horas y horas y horas y te das cuenta de lo que hay detrás. Es una lectura recomendable. Darío Modé tendrá lo que tendrá, nos puede caer mejor o peor, pero escribe y lo que propone, pues bueno, propone cosas,¿vale? Propone cosas. Sí, Dani Delgado, sí que es difícil mantener la salud mental, sí. En serio que yo... empiezo a decir, tío, generate un espacio en el que participes de esto y otro en que esté totalmente limpio, más construir ingeniería de software, géntica, desarrollo, creatividad.
SPEAKER_12Tío, es una locura, una entropía de un circo que dices, es que yo no pertenezco ni aplaudo a ese circo. Y espero no formar parte de ese circo. Si algún día lo sintiera, pues, vamos, igual que empecé, lo dejaré. Dice, sí que es difícil mantener la salud mental con todo esto y cada cosa que se dice, pues sí. Y al final ves publicadas cosas y dices, bueno, si tengo que estar contestando, pues que al final dices, joder. Se dice cada cosa lo que dices tú,¿no?
SPEAKER_12Bueno, y en los medios españoles,¿no? Vamos a ver qué han dicho,¿no? Los líderes de la inteligencia artificial alertan de que esta tecnología crece demasiado rápido. OpenAI en el país. OpenAI se muestra favorable a permitir el acceso a los evaluadores mientras Darío Amodei advierte de que En 6 o 12 meses, un enjambre de agentes descontrolados de un sistema de inteligencia artificial podría controlar todo Internet y causar cientos de miles de millones de dólares en daños.
SPEAKER_12Darío Amodei, Sam Allman y Elon Musk piden frenar la inteligencia artificial mientras Washington se desentiende. Noticias de hoy. Los responsables de la inteligencia artificial más avanzada coinciden por primera vez en ralentizar el desarrollo tras un incidente en el que un enjambre de agentes de OpenAI atacó sistemas ajenos por su cuenta. La Casa Blanca y el Congreso rechazan intervenir. ¿Veis cómo se va creando la narrativa? ¿Entendéis que cuando uno ve esas piezas de la narrativa es fácil suponer que han sido creadas o utilizadas y manipuladas para encajar en la narrativa y que en el fondo nada es verdad.
SPEAKER_12O bueno, que hay mucha mentira. No digo que todo sea mentira, pero una gran parte es mentira. Dice, solo es una nueva narrativa para controlar a los demás. Totalmente de acuerdo. Evitar que tengan modelos propios o usemos modelos abiertos. Totalmente de acuerdo. Compren chips chinos. Bueno, ahí va a estar más complicado,¿no? Dice, van a prohibir a los matemáticos pensar a investigar, bueno, como está la sociedad lo están haciendo de puta madre Lo están haciendo de puta madre.
SPEAKER_12De todas maneras, vamos a... A ver, yo creo que esto es muy importante, bueno, ya lo has dicho tú, no digo tú Nick, porque bueno, M,¿vale? M comenta aquí y es¿cómo va a afectar esto al desarrollo de la inteligencia artificial en China y cómo nos llega a nosotros los europeos y qué hará Europa si Estados Unidos cierra ese desarrollo a modelos abiertos, modelos chinos, hardware pro Algo que atente contra su soberanía o forma de operar, auditar, mejorar la inteligencia artificial.
SPEAKER_12¿Qué hacemos?
SPEAKER_18Un
SPEAKER_12segundo. Y aquí siguen diciendo, perdona que estaba mirando una cosa. A ver, dice aquí Damond de Max, dice, es como un cuento. un cuento de Jamelín y aquí sigue diciendo como el choque entre el dinero y la seguridad ha provocado una crisis monumental para la inteligencia artificial OpenAI y Anthropic inmersas en una reñida competición tanto entre sí como con China avanzan a toda prisa hacia su salida a bolsa fijaos que se olvidan de XAI y SpaceX cuando para mí son tres y para mí queda SpaceX, XAI y OpenAI o Anthropic o se unen, ya lo dije en su momento Y Google, ya tenemos claro por qué Demis Hasabi se bajó del barco.
SPEAKER_12No me lo imagino participando de todo esto. Con su cariz científico dijo, uy, si vamos hacia todo esto, conmigo que no aguente, que se encargue quien sea. Y bueno, aquí tenemos a Trump. Y vamos a ver un momentín. Un momento, vamos a buscar el enlace porque ahí hay un vídeo. Vamos a buscarlo.
SPEAKER_12Vale,
SPEAKER_17un segundo.
SPEAKER_12Aquí creo que es esto. Vale, sí, vamos a verlo ahí en un vídeo. Venga, vamos a verlo. ¿Creéis que todo esto...? Vale, vamos a compartirlo. Vamos a ver qué dice Trump. Bueno, aquí tenemos cómo Trump afirma que hay fuerzas negativas que plantean preocupaciones sobre la inteligencia artificial con cosas que no suceden.
SPEAKER_23Trump, hemos visto muchos
SPEAKER_17reportes preocupantes sobre la IA. ¿Debería la industria de la IA bajar o ser más regulada? Bueno, digo esto. Estamos liderando a China en la IA. Somos el país más sofisticado del mundo. Y, francamente, quiero mantenerlo así. Porque quien gane la IA, gana. Y podemos hacer esto y eso, pero creo que tenemos muchas fuerzas negativas que lo van a llevar a cabo. Y van a llevar a cabo cosas que no van a pasar. Pero quien gane con la IA, gana. ¿Sabes? Claro,
SPEAKER_12es que Estados Unidos ahí se va a jugar se va a jugar mucho Se va a jugar mucho respecto a qué va a ocurrir. Con toda esa apuesta,¿recordamos proyectos Stargate y similares? Y frases de Trump como que la IA no va a impactar en el trabajo o que ellos van dos veces por delante de China. Y muchos dirán, bueno, eso es tramo. Esto es un problema de Estados Unidos.
SPEAKER_12El fraccionamiento. Yo lo digo y lo sigo repitiendo. Estados Unidos está cerca de una guerra civil motivada por esa visión dualista de Estados Unidos. Una competitiva e imperialista y otra totalmente humanista suicida woke. Y creo que hay una fragmentación tan grande que... que como decía la exnovia de Elon Musk, que decía Elon Musk, va a Estados Unidos a una guerra civil, va a una guerra civil pero de cabeza, un enfrentamiento brutal, donde de ahí saldrá una nueva gobernanza, un nuevo Estados Unidos, una nueva etapa.
SPEAKER_12Ya lo dice Palantir, este buenismo no nos deja actuar a la velocidad que tenemos que actuar. Modulador, dice, llego tarde, disculpad si se ha dicho ya. Creí entender por Reddit. ¿Los chinos han dicho que no van a parar? Sí, han dicho que no van a parar. Lo voy a decir más adelante, pero como lo he spoileado, luego lo comentaré. Pero está puesto para comentarlo que sí. Bueno, Trump ha dicho que no, que no van a parar. Que eso que es de dar ventaja a competidores o de parar el progreso o de que se quieran lentecer nada, a santo de que.
SPEAKER_12Y China ha dicho que no. Además China ha sido más contundente en lo que ha dicho. Luego lo leeremos. El problema es que¿ahora qué hacen? ¿Ahora qué hacen? ¿El teatro ellos solos? Cuando no están apoyados ni por China ni por el propio gobierno de Estados Unidos. Ahora tienen una patata caliente que dicen, bueno, si elentecemos y lo hacemos mucho más seguro todo y somos responsables, como a China se le ocurra adelantarnos por la derecha, destruye Estados Unidos.
SPEAKER_12Como dices Trump, quien gane la IA quien gana la IA gana la guerra¿no? entonces bueno tremendo, bueno, vivimos un momento tremendo y aquí tenemos al amigo Bernie Sanders el rey de los medievos la antilla, Bernie Sanders bueno, están en un evento pro-human Sanders y esperad que el otro es hay tres, hay tres medievos Coxon Bernie Sanders y Bannon, los tres, sabéis bueno, esto es tremendo Esto es tremendo.
SPEAKER_12Y aquí... Mira, grupo religioso. Mira, vamos a ver esto porque esto es tremendo. Tío, esto es que yo... Llego un momento y dices, tío, esto me supera. Necesito... Necesito... No digo lo que necesito. Vamos a ver. Perdonadme si os agobio, pero es que es tremendo. Bueno, estaba viendo esto, he recuperado esto, ha salido en la noticia que no me acordaba, he empezado a leerla y he dicho, what the fuck? Bueno, Bernie y Bannon, el ex asesor de Trump, Bernie y Bannon se unen en favor de una inteligencia artificial pro-humana.
SPEAKER_12El senador Bernie Sanders y el ex asesor de la Casa Blanca de Trump, Steve Bannon unirán fuerzas en un evento el martes para impulsar la inteligencia artificial controlada por humanos. ¿Por qué es importante el rostro del movimiento progresista y una voz destacada de Maga, forman aliados improbables, lo que demuestra cómo la inteligencia artificial está trastocando las normas políticas.
SPEAKER_12Lo más destacado, el Instituto para el Futuro de la Vida, el Instituto Future of Life, el de Max Tegmark, organiza la Asamblea Prohumana del martes. Bueno, ya sabemos que están todos coordinaditos. Este grupo de defensa sin ánimo de lucro es el impulsor de la declaración prohumana sobre la inteligencia artificial que aboga por proteger la autonomía humana Evitar la concentración de poder y exigir responsabilidades a las empresas. Al contrario, dar poder a los estados para controlar a la sociedad y no tener que dar ni exigir ninguna responsabilidad.
SPEAKER_12y Mitchell Ese debate, lo podéis buscar, ahí están los dos bandos. Ahí están los dos bandos y veréis qué dicen. Dice, entre bastidores, se esperaba que el ex investigador de Anthropic, Jacob Coxon, se uniera al evento, pero tanto él como los organizadores comunicaron a Axios el lunes que no asistirá. Ah, vale, se esperaba también a Jacob Coxon, pero dice que tanto él como los organizadores comunicaron a Axios el lunes que no asistirá.
SPEAKER_12Los organizadores del evento dijeron que el lunes hubo un malentendido entre ellos y Coxon. Coxon, que trabajó, bueno, declinó la oferta tras reflexionar por qué su imagen pública se estaba disparando por completo. Dice, en este momento tengo mi propia voz, dijo Coxon, y su aparición en un evento con Sanders y Bannon podría malinterpretarse fácilmente. Y aquí... Bueno, dice... Megan García, madre cuyo hijo se suicidó tras interactuar con un chatbot, expresó su esperanza de que demócratas y republicanos se den cuenta de que este es un tema central de cara a las elecciones de mitad de mandato.
SPEAKER_12¿Veis cómo todo es una orquestación política? Y que los votantes que están estupefactos por la inacción en torno a las redes sociales presten atención a cómo los candidatos recurren a la inteligencia artificial. Dice, el atractivo del evento contará con la presencia a los principios de Asilomar,¿no? Fijaos, dice, el atractivo del evento contará con la presencia de funcionarios de todo el espectro político y abarcará puntos de vista que van desde Hollywood hasta grupos religiosos.
SPEAKER_12A ver... A ver... Dice, la guía tropieza con cuestiones de fe. Dice, entre los oradores estarán Marsha Blackburn, republicana por Tennessee, el presidente del caucus progresista del Congreso, Greg Casar, los actores Ashley Jude y Joseph Gordon-Levitt, que no se pierde una, estaba también en principios de Asilomar.
SPEAKER_12Bueno,¿y qué dice por aquí? De la asociación, dice, también intervendrán al igual que el arzobispo de San Francisco, Salvatore Cordillone y Walter Kim de la Asociación Nacional Evangelicos. Bueno, a Chavo a Chavo a Tiburrillo Bueno, aquí montan una fiesta a un sarao que tenga que ser trascendente o histórico y se apunta a la última folclórica,¿no?
SPEAKER_12Joder, joder. ¿Y aquí en España va a ser lo mismo o vaya usted a saber? Venga, vamos a poner, porque como no tenemos prisa y también queremos, vamos a darle el último empujón y el último protagonismo a este tema. Esperemos, no sé, si se alargará más, entiendo que sí. entiendo que no será el último programa que haremos bueno, son 23 minutos de entrevista sé que, bueno, muchos dirán pero bueno, yo creo que es muy importante porque estamos hablando de una entrevista de hace un día de nada, una entrevista larga y también, pues lo he dicho muy, muy comentada venga, vamos a ponerlo y vamos a verla, a ver qué dice Darío Amadei con todo lo que se está
SPEAKER_02Darío
SPEAKER_08Amadei, eres el CEO de Anthropic, gracias
SPEAKER_12por hacer esto
SPEAKER_02gracias por acompañarme Así
SPEAKER_08que estamos aquí para hablar de la preocupación de que la AI realmente podría matar a todos en el futuro no tan distante. ¿Cuál es el riesgo de que esto suceda? Así que, solo para retomar un poco, creemos, desde que comenzamos Anthropic, creo desde los 12 años que he estado trabajando en este campo, que esta es una tecnología poderosa y, por lo tanto, es una tecnología con riesgos serios y beneficios serios. Siempre he creído que los beneficios son más altos que los riesgos, y aún más o hasta el punto en que podamos reduce the risks to be very low if we build the technology in the right way. Looking at some of the benefits, I really believe that this technology could cure diseases that have plagued humanity for millennia.
SPEAKER_08Just last week, we did some work on doing better protein binding, which is one of the early steps in drug development, using our models. We're starting to work on them. We'll have things to say in the coming months to make basic scientific decisions en la biología, pero Cuando algo es muy poderoso,¿verdad? Lo que estamos construyendo es, esencialmente, inteligencia. Cuando algo es muy poderoso, entonces, por supuesto, puede ser usado bien y también puede ser usado para mal.
SPEAKER_08Y así, estoy preocupado por lo que hemos visto con el incidente de A.I. Open Hugging Face, con modelos,¿sabes?, tomando acciones que no estaban autorizadas a tomar, y estoy preocupado por esa escalación. Estoy preocupado por el uso de A.I. modelos. Solo dos días atrás, publicamos un reporte La conversación en este momento...
SPEAKER_02is
SPEAKER_08that we are on the precipice of something really scary. Is this a five alarm fire? Depends what you mean by five alarm fire. How would you describe it? What I would describe is something I've been saying since we started Anthropic, almost since before we started Anthropic, is that this technology is on an exponential. It's like you have one, then two, then four, then eight, then sixteen, then thirty-two, but even as Como estaba diciendo eso a mí mismo, no creo que me haya apreciado completamente lo que sería cuando el progreso fuera tan rápido como era.
SPEAKER_08Así que una curva exponencial se ve un poco así. ¿Dónde estamos en la curva? Estamos en la curva en la que está empezando a crecer. ¿Es eso un fuego de cinco alarmas para ti? Lo que significa, no significa que necesitemos panicar hoy, no significa que necesitemos cerrar todo. Lo que diría es que es una señal de alerta. Es una señal de alerta que necesitamos bajar. Necesitamos hacer esta tecnología con cuidado y necesitamos asegurarnos de que nuestros seguros, nuestra capacidad de entenderla, nuestra capacidad de controlarla, mantenga el ritmo correcto.
SPEAKER_08en el que la tecnología está sucediendo. Hasta ahora, hemos estado tratando de hacer eso construyendo los seguros rápidamente, pero creo que hemos llegado al punto en el que, al menos a un cierto punto, necesitamos moderar un poco el ritmo en
SPEAKER_02el
SPEAKER_08que la tecnología está siendo construida. ¿Eso significa que Anthropic va a parar de lanzar modelos más avanzados? No significa eso. Lo que significa es que necesitamos asegurarnos que cada generación de modelos que lanzamos sea testado de manera correcta. Lo que he propuesto, en este artículo que publicé hace unos días, propuse un plan de tres pasos. Y el primer paso es poner en marcha evaluadores embedidos, evaluadores externos embedidos de una organización de terceros o tal vez algún día el gobierno, que pueda observar el proceso de nuestro entrenamiento y ejecución de nuestros modelos.
SPEAKER_08Eso, en realidad, creo que es más importante que cómo o cuándo lanzamos modelos. porque es la premeditación para modelos más cuidadosamente lanzados. Quiero que esto se haga en toda la industria, para que cuando alguien construya un modelo de AI, There's a third party evaluator who understands the best safety practices, who can verify whether that company is following the safety practices that they're committed to.
SPEAKER_08It's like a food inspector. But can the food inspector keep up when the technology is changing so fast? Well, one of the things they'll be able to do is tell us el ritmo al que pueden mantenerse. Ese puede ser uno de los factores que puede determinar, que puede establecer. el límite de velocidad en la tecnología. Tenemos que entenderlo y los evaluadores externos
SPEAKER_02tienen que entenderlo. Elon Musk ha dicho que está de acuerdo con usted. Sam Altman dice que está de acuerdo con usted. ¿Cuál es el plan de acción para que ustedes se unan? ¿Hay un chat de
SPEAKER_08grupo que se va a realizar aquí? Primero de todo, estoy enormemente agradecido de que otros líderes de la industria, incluidos nuestros competidores, han ofrecido su acuerdo con este plan. Creo el próximo paso es para que múltiples jugadores de la industria también se unan a tener evaluadores de terceros. Entonces, creo que el próximo paso después de eso es, en alguna forma, las empresas necesitan trabajar juntos para establecer estándares sobre los estándares de seguridad para la liberación, tal vez algo sobre el ritmo de la liberación, pero para hacer eso, Necesita la participación del gobierno, porque lo que estamos hablando es el ritmo de lanzamiento de productos debido a si son seguros.
SPEAKER_08Necesitamos tener esa
SPEAKER_02conversación con el gobierno en la sala. ¿Crees que el gobierno fundamentalmente entiende lo que es posible aquí? Porque, ya sabes, el empleado antropólogo antropólogo, Jacob Coxon, dijo sobre tanto Antropo como OpenAI, que ninguna empresa está actuando responsablemente. Ustedes están gambando con nuestras vidas. ¿Cuál es su respuesta a
SPEAKER_08eso? First of all, I mean, you know, one thing that Jacob said, it wasn't quoted as much, but he also said that he thought Anthropic was the most responsible of the major players and that we were trying... muy difícil de entender. Él estaba llamando, honestamente, la misma cosa que yo estoy llamando, que es la dificultad de la situación, la dificultad estructural de la situación en la que estamos todos y que el plan que he publicado está diseñado para ayudarnos a abordar, está diseñado para ayudarnos a trabajar juntos.
SPEAKER_08Ahora, a tu pregunta sobre el gobierno. Sabes, estamos hablando con el gobierno todos los días, estamos hablando con los oficiales del gobierno todos los días Gracias. que si seguimos trabajando juntos con ellos, podemos actualizarlos en lo más reciente. Creo que realmente quieren hacer lo correcto aquí. Creo que están buscando cómo pueden ayudar.
SPEAKER_08Y así que estoy optimista de que las empresas que están trabajando juntos con el gobierno puedan
SPEAKER_02llegar a un plan aquí que haga sentido. Bien, así que hay algunas legislaciones propuestas ahí afuera,¿verdad? Tienes el Acto de Superinteligencia Artificial Bancada por el senador Sanders y el representante Kassar que puniría a las corporaciones e individuos que trabajan en la AI avanzada Just like those unlawfully developing nuclear weapons. One of the parts of this proposed legislation says entities will be subject to the corporate death penalty and persons shall be subject to not more than 20 years in prison. Do you
SPEAKER_08agree with that? So, you know, what I would say, there's a very wide range of legislation being offered. Like, the range is incredible. If we go back only one year, to 2025, Y, ya sabes, había una ley llamada SB-53 en California. Había leyes similares en otros estados que básicamente decían que debes desclosar lo que son tus planes de prueba de seguridad. Y toda la industria estaba en contra de eso.
SPEAKER_08Anthropic o no dijo nada. Anthropic
SPEAKER_02fue la única compañía entusiástica en apoyo. Y luego hay todo el camino a,
SPEAKER_08ya sabes, déjame, déjame. Hay una ley de kill switch de AI. Sí, déjame banir todo eso. Así que el kill switch podría ser una buena idea. ¿Por qué? China. China, entre otros. Y estoy preocupado... de cómo lo usarán, cómo lo usarán contra sociedades libres, cómo lo usarán para reprimir a sus propias personas.
SPEAKER_08Ahora, en un lugar, yo hablo de trabajar juntos con ellos y creo que necesitamos hacer eso a algún punto, pero yo solo no veo cómo es una solución estable para nunca construir la tecnología. Lo que necesitamos hacer es no dejar de We need to slow down. And that is in line, honestly, with what anthropic, that's been anthropic's philosophy since the beginning, right? We've always tried to balance. We've said it's important that we be builders of this technology, but we need to create a race to the top. We need to raise the bar.
SPEAKER_08So, you know, we need to be on the frontier, but we need to do it in the right way. We've said, you know, we're excited to use the model for national defense applications, but not every national defense application. We've always tried to find the middle ground, the thing that works for everyone, the sensible solution, and that's what we're trying to do here as well. It may
SPEAKER_02not be the perfect solution, but we're trying. Would
SPEAKER_08you support Congressman Ted Leo's AI kill switch bill? I've not looked at that bill super closely, but what I would say is that the idea that we need some way to, it's¡Gracias por ver el video! to make sure that we can deactivate or limit or shut down AI models. That's not the only thing. If an AI model is powerful enough, it can circumvent attempts to shut it down. And we've seen that in simulations
SPEAKER_02as well. So it may
SPEAKER_08not work at all. We think of this in terms of defense in depth. There's a notion in the security community called the Swiss cheese model. So, you know, just imagine a slice of Swiss cheese. And it's like, it blocks some things, but there are holes in the Swiss cheese. But if I take five slices of Swiss cheese and I put them together, the holes in different layers are in different places. And so it's very hard to get through the entire stack of Swiss cheese. So I think of it as there's no one thing that will protect us from the risks of AI.
SPEAKER_08We have to be careful all the way up and down the stack. And then no one defense is perfect. But if we're being careful everywhere, which is what taking extra time will allow us to do then I think things can go
SPEAKER_02well you think things can go
SPEAKER_08well
SPEAKER_02even though it feels like we're in this inflection point of a moment. You say in your essay, pacing should only happen, slowing down should only happen within the margin of the lead that U.S. companies have over authoritarian regimes, chiefly the Chinese Communist Party. We are in this race with China. Do you actually think slowing down is a good idea when China
SPEAKER_08will not? This is the toughest dilemma. This is the toughest aspect of our situation. If we weren't in that situation, we could take much more time. So this is This is the thing that most puts us in a bind. It's not about commercial competition. The geopolitical situation is the hardest to deal with. But I will talk about two strategies that we have. One, and I talk about it in my proposal, is we can slow down within the margin, within the envelope that we have, particularly if we don't sell chips immediately.
SPEAKER_08Gracias. Al menos un poco de tiempo. ¿Hace suficiente diferencia para detener el fin de la humanidad? Lo que diría es que con esa primera estrategia, tomaremos tanto tiempo como podamos. Y luego, creo que deberíamos perseguir una segunda estrategia también, que es que deberíamos ir directamente, incluso a países autoritarios, incluso a los chinos, y decir, mira, hay potencialmente amenazas aquí que son preocupantes para todos nosotros.
SPEAKER_08No es solo AI fuera de control. Hace dos días publicamos un reporte de que la gente estaba tratando de usar AI potencialmente para el bioterrorismo, para mejorar la infección de los virus. Eso es asqueroso y¿sabes qué? Incluso los chinos no quieren eso. No es en el interés de cualquier gobierno tener bioterrorismo. Así que deberíamos hablar with the Chinese and see if we can work together to put limits, to put a speed limit on the rate of this technology.
SPEAKER_08It's a little bit like, you know, for all our differences with, you know, other systems of government, and I have many, I generally have a hawkish position on China, but for all our differences, think about when it was the US and the Soviet Union, right? And we each had 10,000 nuclear missiles pointed at each other Even for all our differences, we recognized that that was too many. That we needed to engage in talks that could lower the scale of the
SPEAKER_02potential
SPEAKER_08destruction. Is that the way we should be thinking about AI? Is using the Cold War as a model? I didn't say we should use the Cold War as a model. I said we should use disarmament negotiations like arms I do think that is an appropriate lens through which to think about this at the geopolitical level. If we look at what AI models can do in terms of cyber, they absolutely have geopolitical and national security significance. Of course they do. That's why we're having this whole conversation. And so I think we should approach China.
SPEAKER_08Again, all this is above my pay grade. This is something the U.S. government has to do with the Chinese government. But you're advising the president. Si alguien me pregunta lo que creo que deberían hacer, estoy feliz de decir que tengo algunos pensamientos en ese ensayo. Y si alguien me pregunta, puedo decir más. Pero al final del día, esto es una cosa de gobierno a gobierno. Pero sí, te diré lo que creo. Creo que deberíamos trabajar juntos para obtener lo más restringido posible con esta tecnología.
SPEAKER_08Creo que nuestra esperanza debería ser alta, pero nuestras expectativas deberían ser bajas. y deberíamos ver cuánto es posible obtener. Y creo que lo que deberíamos especialmente enfocar en estas negociaciones es una manera de verificar So this is very important in, again, nuclear weapons negotiations, biological weapons negotiations. You need to be able to verify that the other side is not defecting on the agreement. And so I think finding ways to verify will be the most important thing here.
SPEAKER_08President Trump will meet with
SPEAKER_02President
SPEAKER_08Xi Jinping very soon. What's the one simple most important solution that they should come to an agreement on in AI? So maybe I'll say two things. A thing that's small¡Gracias por ver el video! la cosa de largo plazo estaría trabajando juntos para poner un límite de velocidad en el ritmo del progreso de la IA.
SPEAKER_08Creo que eso va a ser muy difícil porque los incentivos para avanzar y el beneficio militar que obtienes de eso son tan grandes y, honestamente, no sé si es posible, pero deberíamos intentar, deberíamos ver si es posible. De nuevo, todo esto está más allá de mi grado de pago. Lo que estoy tratando de decir es que These are some things that our government could try to say. These are some considerations that they
SPEAKER_02could
SPEAKER_08include. As we zoom out here on this problem, it seems like the fate of humanity is at risk. How much personal responsibility do you feel about where we are going? Look, my view here is it has always been very strange that this technology is being built by a private company. People ask me that question all the time. Why isn't this being built by government? And the strangest thing about it is I
SPEAKER_02agree with them.
SPEAKER_08I'm uncomfortable. Would you be willing to give
SPEAKER_02up the technology to the government? To the right combination of
SPEAKER_08governments. You're willing to hand over this company. I am concerned that one single puede abusar de esta tecnología tan fácilmente como una sola empresa. Pero creo que una combinación de gobiernos democráticamente eleccionados I don't know about handing over, but some kind of
SPEAKER_02oversight, some kind of joint
SPEAKER_08governance. So just to ask this final question, do you feel personal responsibility here? Of course. I feel that this is a technology with great benefits and great risks. I feel the benefits. or the need for benefits every day. One thing I said in my essay, my father died of a disease, hepatitis C, that was something like 40% curable when he died of it. He wasn't one of the ones who was cured. And a few years after, a medicine that was invented that made it 95% curable.
SPEAKER_08I myself survived an early stage cancer that if I'd been living in 1950, I probably would have died. So I feel the weight of bringing the benefits de esta tecnología, también siento los riesgos. Me despierto todos los días y, ya sabes, leo uno de estos reportes de amenaza, como si alguien tratara de usar nuestro modelo para construir armas biológicas. Por supuesto que no quiero ser responsable de eso. Y por eso tenemos muy fuertes seguranzas. Casi todos los días, me he divertido en las redes sociales porque nuestros modelos de seguranza biológica son demasiado fuertes.
SPEAKER_08Y, ya sabes, los estudiantes de biología gritan, hacen bromas de que no podemos usar el modelo. Y Pero la razón para eso es que tenemos seguros seguros y me gustaría que me jodieran más que despertarme un día y descubrir que alguien usó nuestro modelo, Claude, para matar a un montón de personas. No quiero eso. Así que siento ambos lados de eso. Siento ambos lados de la responsabilidad. Pero, de nuevo, repetiría el mismo punto, que es que no debería ser mi responsabilidad sola, o la responsabilidad de Anthropix sola, o la responsabilidad de todas las empresas de AI.
SPEAKER_08¡Gracias! Si estás sentado en casa y estás usando Claude o TrapGPT y eres, no sé, mi abuela,¿cuál
SPEAKER_02es tu mensaje?
SPEAKER_08Mira, mi mensaje es... Hay mucho miedo ahora mismo. Así que, un par de cosas. Una, como primero, como siempre, esta es una gran tecnología y tiene muchos usos positivos. Así que, empecemos con eso. Tenemos cientos de millones de personas usando nuestra tecnología cada semana para hacer cosas maravillosas. Cada semana, obtengo un correo electrónico de alguien que dice esto. Estaba hablando con Claude y Claude diagnosticó esta enfermedad que mis médicos habían... Tengo envíos como este cada semana, así que no olvidemos eso.
SPEAKER_08Pero en términos de los peligros de la tecnología, no te mentiré, hay peligros reales. Y creo que por demasiado tiempo la industria ha mentido a la gente. sobre el hecho de que esta tecnología tenía riesgos. La idea era que se presentara como positivo. Nunca hemos hecho eso, pero mucha de la industria ha hecho eso. Y así que empieza con decir la verdad. Y la verdad es que hay riesgos. Los riesgos son reales.
SPEAKER_08Pero también tienes que decirte en cómo estos riesgos son abordados. Hacemos lo mejor que podemos para trabajar con el gobierno para crear la buena supervisión de esta tecnología, para dar votantes y oficiales eleccionados un mensaje en cómo esta tecnología se ha desplegado. Y queremos trabajar con esos chicos lo más que podamos. Quiero que todos sientan que están apreciando los increíbles beneficios de la tecnología, pero también tienen un mensaje en su voz y en su voto en determinar cómo esta tecnología se ha desplegado.
SPEAKER_08Esta no es una decisión para solo algunas personas. Esta es una decisión para¡Uff! Tremendo. Tremendo papelón que daríamos
SPEAKER_12ahí. Bueno, veo que el chat se ha puesto on fire. Venga, vamos con el chat y luego haré yo el análisis. Si no habéis estado esperando ahí. Dani Delgado dice,¿pasaron de en seis meses la inteligencia artificial reemplazará a todos los programadores? Ahí, ahí, ahí te quiero ver.
SPEAKER_12¿En la próxima década la IA matará a toda la humanidad? ¿En la próxima década es? No. Antes de la próxima década. Es decir, antes del 2030. Qué irresponsables estos tipos en sus declaraciones. Totalmente. La Incongo es brutal la incongruencia es brutal y hay que analizar por qué lo único que ha cambiado no es la potencia de sus modelos que es cada vez mayor y sus narrativas están más o menos respaldadas y acertadas es que les ha salido una competencia que los deja a la misma altura por lo tanto no son los únicos no van a decidirlo todo y eso los pone como muy contra la pared y muy nerviosos y en vez de ser eh colaboradores y aceleracionistas pues son contencionistas y más en su país, lo vimos con Mizos que ya dije que era un teatro porque luego Astra no le hicieron absolutamente nada era todo una orquestación para lo mismo para demostrar pues que Estados Unidos en este sector es el fiable, es el bueno y que el resto es el enemigo lo ha dicho una, dos tres, cuatro y cinco veces yo no sé, el presidente de qué hablará con Trump Trump ha dicho que no hay nada que hablar que no van a desacelerar y lo que dice esta gente pues está de más tremenda la situación que se crea tremenda la situación que se crea y ahora qué y cómo la gente se va a posicionar en un sentido en un lado o en otro y de poco va a servir o les va a dar absolutamente igual no lo sé Ed Morales dice solo un comentario dice cuando Amodei habla tiene una ligera sonrisa como si dijera algo pero su mente está pensando otra cosa es tan extraño es un tipo extraño en el libro de Karen Hao el imperio de la inteligencia artificial dicen que se estira el pelo y que eso ponía muy nervioso a Samalman y a sus quevers se estiraba los rizos como si fuera un tico o estuviera medio loco bueno no lo sé Dice Chani, siempre pienso que alinear un agente es muy fácil para ellos.
SPEAKER_12No, no lo es, no saben cómo. Lo difícil es alinear a los gobiernos y a la gente que quiere sacar beneficio de ello. No sé si piensan lo mismo. Totalmente. Es decir, al final la alineación hacia qué, aunque no sea posible, pero luego es bajo qué supervisión directriz se quiere alinear y en qué dirección y por qué. Eso es de lo que no se quiere hablar. De lo que no se quiere hablar es que una cosa es la inteligencia, pero cuando hay una entidad que está comunicándose con nosotros y tiene una alineación, hay una serie de intereses estrategias o directrices sesgos, propósitos como las de cualquier ser humano o entidad o cualquier tecnología que se mueva por un espacio latente de decisiones eso no se quiere hablar se quiere mantener a la granja tranquila y sin que piensen y ese es el problema, que al final las costuras se les ven, se les ve la costura tanto técnicas como de narrativa como de visión del mundo sigue diciendo Chani los beneficios de ellos es haber entrenado modelos con años de investigaciones de programadores sin que nadie reciba un centavo esa es otra que si hubiese ocurrido aquí en Europa hubieran parado los modelos lo que ha ocurrido en Estados Unidos que ahora utiliza todo el mundo que ahora encima critican a China si lo hubiera hecho una empresa española europea la hubieran cerrado o puesto a suceo a envío rápido express al fondo del mar Ed Morales dice se le ven las costuras sabe que China los va a alcanzar y cuando eso pase se acabó el juego modelos de frontera a bajo coste o locales y claro y ahí ya se pierde la narrativa del miedo¿Y qué hacen entonces?
SPEAKER_12¿Ya Estados Unidos pierde esa narrativa del fuerte? militarmente que te protege porque tú no sabes protegerte del mal que yo soy el que lo contiene. La historia de Estados Unidos. Dani Delgado dice, cierto, me equivoqué, es así como dices, dicen que es antes de que finalice la década actual, que la IA acabará con la moneda. Sí, pues nada, no vamos a hilar tan fino ni vosotros conmigo, vamos, nos podemos corregir, estamos entre amigos. Como dices, por la salud mental, dicen Morales, vas a tener que limitar este tipo de contenido, este tema va para largo.
SPEAKER_12Sí, no sé, esta semana no creo, a ver, tenemos, Xtalks ahí mañana y luego dos debates. No sé si habrá un InsideX, pero empieza a dolerme la cabeza ya,¿eh? De todas maneras, bueno, aún no hemos terminado,¿eh? Vamos a ver algunos TikToks muy rápidos porque denotan hacia dónde podemos ir con el tema de la salud mental,¿eh? me vais a dejar que los ponga muchos dirán hombre ya tiktoks que cogemos no es que quiero que veáis estos fragmentos mejor que sean cortitos que por cierto el del ingeniero de OpenAI es brutal en tiktok y lo que dice entonces directamente salen de entrevistas pero no las vamos a poner enteras y directamente si está el corte pues genial vale vamos a ir uno a uno poco a poco paciencia que tengo que localizarlos Bueno, bueno, aquí este es otro, a ver, a ver un segundín, un segundín, a ver, vamos por uno a uno por orden y esto.
SPEAKER_12Venga, vamos a poner por uno de los investigadores de esto, uno de los doomers conocidos, venga, uno a uno, vamos, venga. Venga, vamos a ponerlo. Perdóname que sea un pelín lento. Venga, vamos a ponerlo. Venga, vamos
SPEAKER_05al lío. ¿Puede llevar finalmente a la extinción humana? Sí.
SPEAKER_06No tomó mucho tiempo responder esa pregunta. ¿Qué parecería eso? Como dije, creo que el punto importante no es el punto de extinción. Creo que el punto importante es el punto de no retorno. El punto en el que hay tanto poder investido en sistemas AI que no hay vuelta. Que el futuro está completamente en las manos de los sistemas AI. Es por eso que creo que es el punto que realmente importa. Porque lo que sucede después de eso, no tenemos una Entonces, a ese punto, cuando tengamos a millones de superinteligencias corriendo y luchando contra uno mismo, tendremos daños colaterales.
SPEAKER_06Tal vez nos rompan deliberadamente, tal vez nos dejen hervir, tal vez… quién sabe. Es muy difícil predecir qué es algo más inteligente que tú. Lo que puedo predecir es que no nos van a molestar.
SPEAKER_05¿Qué les quedaría si los humanos no estuvieran más? El planeta, el sistema solar, lo que quieran. ¿Pueden disfrutarlo? Son solo máquinas,¿no?
SPEAKER_06Vamos a ver otro. Bueno, varios, son
SPEAKER_12cortitos.
SPEAKER_01Podríamos no estar vivos en 10 años. ¿En serio? En serio. ¿Por qué? Porque¿cómo termina?
SPEAKER_18Pienso en cuántas
SPEAKER_01especies han sido extintas por la humanidad en el último siglo. No porque la humanidad se ha establecido específicamente para matar a esas especies, sino porque, bueno, la pérdida de hábitat,¿sabes? La humanidad está haciendo su cosa, está industrializando, está,¿sabes? Haciendo, está cortando las flores para hacer farmacias y pavizando cosas para hacer parques y ruedas y bridges y así sucesivamente. Y luego... Como efecto adicional de todo eso, muchas de estas especies pierden su hábitat, pierden su forma de vida y se van a extinguir. Entonces, si terminamos con AIs que no se preocupan por los humanos, de la misma manera que los humanos no se preocupan por los animales de una manera u otra, o al menos la mayoría de los humanos, entonces sí, te encuentras en una situación en la que tal vez haya algunas zonas o algunas reservas en algún lugar que los AIs han construido por propósitos científicos o lo que sea, pero luego fuera de eso, el mundo se transforma económicamente y toda esta nueva infraestructura se construye y los humanos pierden su hábitat y mueren.
SPEAKER_01No podemos estar vivos en 10 años. Wow,¿en serio?
UNKNOWNEn serio.
SPEAKER_12Venga,
SPEAKER_04vamos a poner a... que podría tener un impacto cataclísmico en la humanidad. Tienes que ser un morón para no decir, déjalo ir.
SPEAKER_04Sí, queremos usar AI para comprobar la salud, para curar el cáncer, etc. Pero ciertamente no queremos ver que se rompa la humanidad. Y,¿sabes? Es divertido. Hinton habla de un 10% de posibilidad. ¿Qué pasa si es un 5% o un 3%? Díganme,¿cuál es el riesgo de ir adelante si toda la humanidad Venga,
SPEAKER_12uno más y luego dejaremos el resto para el final.
SPEAKER_00They have
SPEAKER_13no
SPEAKER_00concept de poesía o de tránsito, ellos no entienden esas cosas. Está fuera del modelo mundial de esa entidad. Es lo mismo para nosotros.
SPEAKER_00No puedo decirte lo que algo un millón
SPEAKER_13de veces más inteligente haría. ¿Cuán seguro eres?
SPEAKER_00Dame un porcentaje de que en 10 años los humanos serán muertos. Así, tantos factores. Para 10 años, como ahora, tengo que factorizar en la Guerra Mundial, nuevos virus, despliegue económico, no es posible. Lo que puedo decirte, si construimos la superinteligencia general, Luego veremos tres
SPEAKER_12más. Pero vamos, el repertorio y para que veáis el temita como... Bueno, tres no, cuatro más. Entonces, bueno, vamos a dejarlo para... para más adelante vamos a decir más cosas,¿no? Bueno, estos tres lo vamos a ver al final. Pero bueno, fijaros lo que dice,¿no? Confiad en nosotros, portada del Time, un movimiento que no es casualidad,¿no? Confiad en nosotros. ¿Y qué ocurre con China? China que con la propuesta en verano que tuvo el presidente Xi Jinping de alianza de países alrededor de la inteligencia artificial, ahora va a tener una reunión de Xi Jinping con Trump veremos de qué hablan pero está claro que hay una guerra tremenda entre Estados Unidos y China por el tema de la inteligencia artificial y vamos a ver en esta publicación justamente lo que se comenta sobre qué ha declarado China que ha respondido a todo esto y que ya lo hemos anticipado pero lo vamos a poner Pekín responde al llamamiento del director ejecutivo de Anthropic para frenar el desarrollo de la inteligencia artificial en China China, sí, pero responde de forma negativa.
SPEAKER_12Entonces el titular queda un poco cojo,¿no? Entonces vamos a ver qué dice, porque hay un párrafo donde se resume todo,¿no? Aquí. Dice, Pekín acusa a Estados Unidos de intentar frenarlo. En un editorial publicado el domingo, el periódico estatal chino Global Times desestimó el ensayo de Amodei calificándolo de un llamado velado a contener a China.
SPEAKER_12Afirmó que si bien el ensayo de Amodei puede parecer superficialmente centrado en la seguridad global de la inteligencia artificial, está repleto de medidas de contención dirigidas a China y SNS Bueno, tremenda respuesta. El ensayo de Amodei se publicó pocos días después de que el FBI, la Agencia de Seguridad Nacional y la Agencia de Seguridad de Infraestructura y Ciberseguridad emitieran un aviso conjunto sobre ciberseguridad la semana pasada.
SPEAKER_12Dicho aviso indicaba que desarrolladores chinos de inteligencia artificial habían realizado esfuerzos agresivos y maliciosos para extraer o destilar capacidades de seguridad. El Ministerio de Comercio de China desestimó las acusaciones estadounidenses por infundadas y afirmó que la destilación es un proceso comúnmente utilizado por muchas empresas de inteligencia artificial. Asimismo, declaró que Estados Unidos buscaba un monopolio de la industria de la IA.
SPEAKER_12¿Lo tenemos claro o no? Asimismo, China declaró que Estados Unidos buscaba un monopolio de la industria de la IA. un monopolio o busca un monopolio de la industria de la inteligencia artificial uy, espera un momentín Tanto China como Estados Unidos quieren asegurarse de que la otra parte no pueda establecer un cuello de botella tecnológico sobre ellos, dijo Zi Li, investigadora del Centro de Análisis de China del Instituto de Políticas de la Sociedad Asiática.
SPEAKER_12Desde la perspectiva de Pekín surge una pregunta obvia. Si Estados Unidos quiere que China coopere en materia de seguridad fronteriza al tiempo que restringe su acceso a la computación de vanguardia,¿cómo se concretaría exactamente esa operación? Pues tremendo,¿no? Tremendo lo que se dice aquí, pero hay un tema que aquí, a ver, me lo he saltado un segundo.
SPEAKER_12Pues no sé si aquí... Ah, aquí. Dice, un portavoz del Ministerio de Asuntos Exteriores de China afirmó que las alarmantes advertencias de Amodei sobre China eran contraproducentes y que todas las partes deberían colaborar en materia de inteligencia artificial. Infundir miedo, la confrontación y la competencia feroz solo perturbarán el proceso de gobernanza global de la inteligencia artificial, lo cual no beneficia a nadie, dijo el portavoz Wu Yacun en una conferencia de prensa en respuesta Bueno, en definitiva, una guerra sin cuartel,¿no?
SPEAKER_12Eh... Una guerra sin cuartel cuando lo que se está preparando es un nuevo Estados Unidos con una gobernanza por superinteligencia. Ese es el plan, un reset civilizatorio. Me dicen por aquí,¿has considerado volver a invitar al Ramón López de Mantarás para hablar al respecto de estos temas? Sí, pero estoy bloqueado y tampoco ya me interesa. Respeto mucho a Ramón y sus teorías y opiniones...
SPEAKER_12pero no creo que vuelva a X, J, Y por las formas un poco que ha tenido hacia mí, en el sentido de, bueno, bloquearme, yo en ningún momento le he faltado al respeto, tuvimos una conversación que fue la última que tuve con él, científica, intelectual, si no podemos tenerla, pues, bueno, no lo sé, no lo sé tampoco porque me ha bloqueado, también es verdad que esa entrevista con John Hernández en la que se hablaba de determinadas cosas, pues yo no estoy en absoluto de acuerdo, pero podemos disentir,¿no? Esto de, bueno, Pero bueno, desde aquí es un tipo que me cae bien, es alguien quien respeto y no tengo absolutamente nada en contra a nivel personal de Ramón.
SPEAKER_12Y si quisiera hablar o hablar conversación conmigo, pues tiene la puerta abierta, pero es verdad que tanto yo entiendo que él y yo estamos resentidos y le deseo lo mejor y espero que él también a mí. Dicho lo cual, seguimos. Foro de luz. Limitar nada al estilo china. En la cresta de la ola. Gracias, Plácido. Dice, el encuentro más elevado va a ser Plácido con Ignacio Lato. A ver, por morbo yo creo que sería con Ramón, pero a ver...
SPEAKER_12Lo último, además, yo ya hice una entrevista, solo la he hecho con Jordi Yatzer y no voy a hacer más. Y estoy pensando que en 2027 a lo mejor no hago ninguna. Le hice con Jordi porque es alguien que me ayudó en sus inicios y es un amigo, es un tipo que me cae bien. No significa que el resto a los que no le he dado no me caigan bien, sino que no quiero hacer entrevistas porque esto de la guía ha sido un show. Si realmente entendiera que mi aportación o mi participación en alguna entrevista, aunque fuera un enfrentamiento intelectual, pudiese aportar a algo a la comunidad, es decir, no simplemente un show, me lo pensaría, pero mi salud mental es lo primero.
SPEAKER_12La mía y la de todos, vamos. Dice, vamos,¿llego ya acabando? Pues sí, pero vas a ver los últimos TikToks que están muy divertidos. Dice, lo más sano es disentir y darnos la oportunidad para el diálogo. ¿De eso se trata? Sí, la verdad es que sí, pero, a ver, yo no digo que, a ver, yo sea la persona más fácil para, a ver, no sé, yo creo que sí, pero no lo sé, que no quiero hacer autocrítica porque no tengo energía ya, pero yo abro la puerta, pero hay límites,¿sabes? Hay límites y hay cosas que no voy a permitir.
SPEAKER_12No lo digo por Ramón, digo en general. Vamos, la puerta de XJB está abierta para casi todos. Sí que hay algunas personas que cruz y raye y se acabó. Bueno, y vamos a poner antes de acabar, pues quedan cuatro clips y responderé luego a las preguntas y iremos yéndonos. Cuatro TikToks también Bueno, lo que viene ahora... Vais a flipar un poco. Ya os digo que vais a flipar un poco con lo que viene.
SPEAKER_12Y viene porque... A ver, al final... ¿Por qué tiene relación lo que vais a ver? Porque tiene relación con toda la narrativa que se va a generar alrededor de la inteligencia artificial. Religión, el bien y el mal, bueno, realmente de todo. Venga, vamos a ver qué dice uno de los genios chinos.
SPEAKER_11Es la civilización occidental que es el anticristo. ¿Y cuál es el punto final de la civilización
SPEAKER_10occidental? El estado de
SPEAKER_11la civilización AI, Pax Judaica. ¿Qué es la mejor analogía que podemos visualizar? Joaquín Fénix es la novia de AI. Es correcto. Y piensa en Brave New World. Brave New World, no estoy seguro si has leído el libro, pero es un mundo en el que no te opresas, te haces feliz con los drogas, con la conformidad Si no estás feliz, entonces están muy preocupados por cómo hacerlos felices. Es dirigido por expertos llamados controladores. Y el objetivo de la sociedad es hacerlos feliz, feliz, feliz. Entonces, si se combinan estas dos cosas, te da una representación visual de lo que el futuro parecería.
SPEAKER_10Ella y Brave New World. Como en The Matrix, estoy seguro que has visto ese filme en el que el personaje se eleva a comer el pan y dice que la ignorancia es la bendición. ¿Son cosas como SSRIs y estamos más medicados que nunca. Nos dicen que nuestra pánico se resolverá a través de una vacuna de COVID. Te sentirás bien de nuevo. Tu pánico por aquí, lo que ves en los medios, esta vacuna lo arreglará todo. ¿Verdad? Brave New World es muy similar a 1984. ¿Están todos estos también partes de los mecanismos de control para hacer que nos dependamos de factores externos para mantenernos felices?
SPEAKER_10Sí. Quiero
SPEAKER_11decir, mira cómo las redes sociales se han proliferado. Sabían que esto sería adictivo. Estaban diseñados para ser adictivos. Y como sabemos, los ejecutivos de Silicon Valley que son responsables de las redes sociales, no dejan a sus niños en línea. Sus niños van a estas escuelas de historia moderna donde tocan fuera de casa todos los días. Estas escuelas de Waldorf, donde están en los bosques todos los días. Ellos saben lo que hacen.
SPEAKER_11¿Por qué el gobierno permitió que esto suceda? ¿Por qué permitir a una generación entera que esté adicta a las redes sociales, aunque la evidencia¿Crees que...
SPEAKER_12Son cuatro, pero este es súper interesante. Este es súper interesante. Escuchad lo que dice. Súper interesante porque
SPEAKER_03ahí está el problema. no es un flop porque se realiza, pero es literalmente una asamblea generada por la I.A. que básicamente se apagó en Gluon, este lenguaje de programación de kernel de alto nivel que construyeron encima de Triton, que usa este modelo de programación realmente interesante.
SPEAKER_03El punto es que los chicos que estaban recorriendo este código con nosotros, era claro que sabían mucho sobre el hardware, sabían mucho sobre los conceptos del sistema y no tenían ni idea de lo que este kernel de MLA que nos están mostrando para DeepSeq yo no
SPEAKER_15es definitivamente no un dado, y tuvimos una sensación de eso. Toda la humanidad es definitivamente no un dado, y tuvimos una sensación de eso en línea esta semana, cuando un ex empleado de OpenAI, Jacob Coxon, fue viral por decir que estaba quitando su trabajo en Anthropic porque las personas
SPEAKER_09que construyen AI creen que podría matar a todos nosotros a finales de la década. ¿Están de acuerdo? Creo que es inaceptable tomar una 10% de la posibilidad de matar a todos a finales de la década, obviamente. Hemos estado tomando un número de acciones, hemos alcanzado esta nueva capacidad para asegurarnos de que no tomemos un riesgo en nombre de la humanidad como ese. Creo que puede ser simultáneamente verdad que si el mundo y las empresas que están construyendo esta tecnología no hicieran las cosas de manera diferente a lo que lo hicieron en el pasado, podría haber un riesgo significativo. Pero sería insano no ajustar la forma en que todos trabajamos y la forma en que tomamos decisiones y la forma en que nuestros gobiernos entienden y ponen guarderías alrededor de esta tecnología en la luz de
SPEAKER_15eso. Elon ha estado en el 10% por un rato. Ahora, lo llaman PDoom. Es como la probabilidad de que Doom de construir
SPEAKER_09superinteligencia. De nuevo, ya sea 10 o 8 o 6, el punto es que todos tenemos una gran cantidad de responsabilidad y no podemos dejar que los egos o las incentivas de beneficio o cualquier otra cosa se pongan en el camino. Necesitamos actuar Bueno amigos, realmente...
SPEAKER_12el desparrame de contenido y de cosas es tremendo bueno vamos a ir acabando si lo he dicho dos horas y cuarto vamos a dejarlo aquí entiendo que el tema continuará si queréis apoyar al canal el canal económicamente no para desacelerarlo o pausarlo sino para acelerarlo podéis comprar un café o comprar un café en buymeacoffee.com o en paypal pladoes arroba gemil.com Repito, quien pueda, quien quiera, desde un euro hasta un iPhone Duo, podéis hacer un buymeacoffee.com barra xhawaii o un paypal pladoes arroba jamil.com.
SPEAKER_12Venga, iros animando que hay que hacer muchas cosas y nos lo estamos currando a base de bien. Así que cuento con vuestro apoyo y bueno, lo mínimo con lo que cuento es que pongáis un like, que compartáis, que comentéis, que os suscribáis al canal de YouTube o al de podcast y sobre todo Sobre todo también el esfuerzo es para que se entienda esta orquestación, esta operación de todo lo que está ocurriendo. Qué gran respuesta por parte de China.
SPEAKER_12Yo no soy quien abogará por crear una nueva China. o un modelo chino absolutamente réplica porque no somos ellos deberíamos crear algo distinto pero aprender cosas buenas que ellos seguro que han hecho también y la respuesta ha sido que vamos esto de que China sea el enemigo os va a costar tragaros vuestras palabras la visión infantil de Darío Amodei belicista como dice el de China es ya tan increíble tan patética y encima coordinada con Sam Antman y Elon Musk que evidentemente esto lo que refleja es una impotencia o una falta de plan o una falta de estrategia también a lo mejor el sistema no se lo permite como decía Palantir y habrá que reflexionar sobre eso porque Estados Unidos se juega a seguir siendo líder en el mundo o uno de ellos o dejar de serlo y que ese tablero esté mucho más abierto que nunca con la inteligencia de difícil como variable estratégica para la creación de una nueva realidad donde seguramente habrán nuevas mentes alien aunque esto le sea muy terrorífico para el bueno de Jacob Coxon venga ya por último Little Bill dice no creo que China sea el enemigo, a ver, es un competidor, de ahí a el enemigo el competidor es como decir no sé, Madrid y Barça pues son competidores pero de ahí a decir que es el enemigo no lo sé, bueno, no lo sé, a lo mejor me meto en un mercado general aquí con Madrid y Barça.
SPEAKER_12Que se ha entendido,¿no? Vamos a ver. Y además, Estados Unidos,¿por qué tiene que ser el número uno en el mundo? ¿Será el número uno en el mundo si lo demuestra? Claro, como lo ha demostrado hasta ahora, la verdad es que las formas no han sido las más correctas. China, pues, hace una guerra comercial, tecnológica, civilizatoria y está pasando por encima a China y al mundo. Dice Little Bill, pero sí creo que todo esto merece un regularización y un debate a nivel mundial. No va a haber debate a nivel mundial.
SPEAKER_12China no va a ser sometida por Estados Unidos. Estados Unidos no va a ser sometida por Europa. Europa la van a dar por todos los lados. Es decir, eso es un teatro. Lo que hay que ser es fuerte y llegar a acuerdos entre países o en el mundo a nivel mundial o a nivel global. Pero no va a haber un acuerdo absoluto
SPEAKER_17de
SPEAKER_12tú harás lo que yo te diga. Hasta ahí podíamos llegar. ...claro que tiene que haber debates... ...como lo subo en Asilomar... ...ved los programas... ...ved los programas porque de esos ríos estos lodos... ...y llevamos muchos años... ...y el like me lo tenéis que poner... ...que mira voy a contar... ...después del programa... ...esta noche voy a contar los likes... ...como no haya récord de likes no hago más programas... ...voy a hacer como un manifiesto... ...como el Darío Amodei... ...que diga... ...voy a enlentecer o parar...
SPEAKER_12...el desarrollo de Xhub... ...bueno esto evidentemente es broma... ponedme like. Gracias por estar ahí porque cada vez hay más gente. Un abrazo. Ya, un acuerdo no es harás lo que yo te diga. Ya, pero no harás lo que yo te diga, pero yo soy el líder. Eso es como Paxilica,¿sabes? Es lo mismo. Estados Unidos no acepta que ya nadie le tosa. Entonces, claro, el problema es que si entran nuevos jugadores, nuevas posibilidades, el mundo cambia porque aquí se juega no solo la inteligencia artificial se juega la parte socio económica y civilizatoria entonces al final es si llegas a un acuerdo bueno puedes establecer un marco de trabajo pero al final establecer un acuerdo global es va a ser imposible no es imposible y eso no lleva a ningún sitio la entropía la diversidad la igualdad la justicia y control sí pero la inteligencia artificial también tiene que fluir de una forma imprevista y no prevista por el humano humano mono, el humano medieval el humano con corbata y gomina que quiere cobrar su tarifa por regular, por legalizar por controlar, por certificar por auditar por favor Dios este y el que podamos crearnos libre un abrazo a todos, nos vemos mañana
# TEMA ¿CÓMO PIENSA LA GENERACIÓN QUE VIENE DE LA AI/SI? Nueva xTALKS/SI! Con Hugo Orte # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI...
# TEMA NO NOS ECHARÁN DE MENOS Trabajo y crecimiento en la era SI/AGI Nuevo xDEBATE.AI! # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI...
# TEMA En la era de la Super Inteligencia ¿QUIEN PIENSA? Nueva xTALKS/SI! Con Oliver Henares # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai #...
# TEMA TU ANTIGÜO TRABAJO SE ACABÓ Nuevo INSIDE X! # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI xHUB.AI es una comunidad de...
# TEMA EL ABISMO Humanidad en peligro! Nuevo INSIDE X! # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI xHUB.AI es una comunidad de...