Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

xHUB/SI

xHUB/SI artwork

T7.E008. INSIDE X ALIEN MIND : GPT6 Astra es AGI y una mente no humana

Sep 9, 20261 hr 36 minAudio
ShareXLinkedInFacebookWhatsAppEmail

# TEMA ALIEN MIND: GPT6 Astra es AGI y una mente no humana Nuevo INSIDE X! # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana. # REDES SOCIALES 🌐 youtube: xhubai 🌐 X: xhub_ai | placidodomenech 🌐 twitch: xhub_ai | placidodomenech 🌐 instagram: / xhub_ai | placidodomenech 🌐 discord: Pídenos acceso mediante DM en redes sociales. # PODCAST 🎧 buzzsprout: https://xhubai.buzzsprout.com/ 🎧 spotify: https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4 🎧 apple: https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819 🎧 amazon music: https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86 🎧 ivoox: https://go.ivoox.com/sq/1337641 # APÓYANOS Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI: ❤️BuyMeACoffe: https://www.buymeacoffee.com/xhubai ❤️Paypal: pladoes@gmail.com ❤️ivoox Podcast: https://www.ivoox.com/support/1337641 # CONTACTAR ¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo. ✉️ Correo: xhubai.spain@gmail.com💬 Send us Fan Mail Support the show

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Transcript

From the show. Tap a time to play from there.

SPEAKER_00Conectando. Tu cuerpo. Conectando. Tu mente. Sincronizando. Tu alma. Entrando en la simulación. Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_03No. No lo sé. Reaccionó al verme. Realmente no tiene ni idea de

SPEAKER_01lo que era. Buenas tardes a todos en estos horarios raros. Hoy no tenemos doble programa. Ni a las 3 y media, ni a las 6 y media. ¿Cuándo he podido prepararlo? Yo tenía que acabar un poco antes. Así que, bueno. Soy Placio Doménech, SPI. Yo creo que la mayoría ya me conocéis.

SPEAKER_01empezamos una semana bueno, hemos ido arrancando poco a poco y empezamos una semana épica en XHabay con dos debates apasionantes la vuelta de Rafael Monterde que yo sé que tiene muchos seguidores a ver, es mi bro nos llevamos muy bien yo le tengo mucho cariño, espero que a mí también tenemos nuestras cosas nuestras discusiones y nuestras historias Pero yo soy alguien a quien aprecio, a quien agradezco la colaboración para mí trascendental para definir la esencia de X, Java y Y.

SPEAKER_01con esos ocho programas que hicimos sobre su tesis de transhumanismo. Volverá, volverá este debate, que también está Frank Skandey, estará en ese debate y en otro más, sobre si paramos la inteligencia artificial. Vuelve también Felipe Ipaz. Vendrá también Inés, bueno, luego en el otro está Eduardo Cano, en el de en el de negocios,¿no? El del fin de la consultoría, los agentes ahí, el fin de la consultoría.

SPEAKER_01Bueno, definitiva, tenemos dos debates, tendremos InsideX, la Xtalks ahí de Ignasi la pasamos la semana que viene y hay más Xtalks ahí preparadas, pero bueno, va a ser septiembre, cuesta un poquito arrancar, pero sé que echáis de menos los debates y esta semana tenemos dos,¿vale? Pero bueno, los InsideX es la su canela en rama no os podéis quejar, la verdad es que bueno, estoy contento no he puesto el slide, es verdad que se me ha pasado pero bueno, estamos número 3 en Evox permanecemos en esa posición que es mucho porque los de arriba pues son creo que el loop desataca y monos estocásticos nosotros estamos los terceros loop infinito está el primero monos estocásticos el segundo y xj va ahí, nosotros el tercero Y estamos también cerca a los 6.000 seguidores, cosa que también me alegra muchísimo.

SPEAKER_01Bueno, en definitiva, lo que he dicho siempre, X caballos sorprendente que después de tantos años, tanto tiempo, pues seáis fieles,¿no? Y eso la verdad es que se agradece mucho porque uno puede pegar el pelotazo de salir una temporada, dos o tres o no sé, pero cuando ya son siete, hombre, algo hacemos bien. Eso no significa que mañana la gente se canse y tal, pero bueno, siempre intentamos mejorar y siempre intentamos hacer cosas nuevas, traer gente nueva siempre mejor bueno, la puerta está abierta para todo el mundo, hoy decía Manuel González que estará el miércoles, no sé, el miércoles en el debate del fin de la consultoría, decía hombre, te has acordado y yo lo digo desde aquí, si me escucháis si a alguien no lo invito vamos, yo en mi cabeza no tengo a nadie que tenga vetada la entrada Incluso algunos que, bueno, hemos tenido movida.

SPEAKER_01Vamos, para nada. Tienen la puerta abierta tanto al canal, a la comunidad, a mí. Totalmente. Vamos, yo no tengo vetado a nadie. A ver, creo. Ah, bueno, sí, perdón. A uno sí. A ver, a uno sí, pero... Yo creo que eso es inamovible. No voy a contar nada sobre ello. Supongo que si me escucho, quien conoce el caso ya sabe quién es. Pero bueno, hasta aquí no pasa nada.

SPEAKER_01La vida sigue de ser lo mejor. Dicho lo cual, vamos a tener hoy un programa súper interesante de un artículo del científico jefe de OpenAI. OpenAI que ha vuelto on fire a la primera posición con GPT-6 Astra y y Pachocki y Pachocki Jakub Pachocki creo que se llama si me equivoco no reáis y la pronunciación pues no sé cómo se pronunciará Jakub Pachocki el científico jefe de OpenAI ha publicado un artículo el solito científico jefe no estamos hablando de con perdón de los becarios un becario que está ahí trabajando vamos a publicar he publicado un artículo Alien Mind.

SPEAKER_01Vale, aquí la traducción puede ser mente alienígena, yo he puesto ahí un diseño que, bueno, tiene reminiscencias ahí a los grises y tal. Tiene un guiño eso. Tiene... es más una mente no humana. En definitiva, más allá de lo que nosotros concebimos como un simple modelo, un software o matemáticas o código. ¿Qué es lo que quiere decir Pachocki con todo esto?

SPEAKER_01Vamos a ver. Yo he leído algunas frases y algún review en las redes, pero no he leído el artículo entero. Lo vamos a leer y lo vamos a debatir. Y bueno, creo que ese... Vamos, le tengo muchísimas ganas a este programa. Ya hemos hecho varios programas dedicados a GPT-6 Astra, que espero que estéis disfrutando. Un supermodelo. Yo, bueno, aún he vuelto, ahora luego lo comentaré, de la entrevista de la grabación de ayer.

SPEAKER_01Ayer estuve como cargando pilas. Bueno, hice la entrevista, cargué pilas. Bueno, ahora hablamos de la entrevista que la grabé y ya podemos decir dónde se ha grabado. Vamos a acabar con esto,¿no? GPT-6 Astra, allí,¿no? Hicimos un programa, donde seguíamos analizando las capacidades de Astra y lo que se decía sobre él, los benchmark, harness, sin harness, loop transformers y otro tipo de cuestiones un pelín más técnicas, pero que se sigue hablando además.

SPEAKER_01Quiero ver si hacemos un InsideX sobre harness, ha salido un artículo sobre ingeniería de harness en E-Combinator que es apasionante y podemos hacer algo basado en esa publicación más cosas que pueda yo aportaros y yo creo que será interesante y es de actualidad y enlaza con todo lo que está ocurriendo. Y bueno, hicimos varias portadas y ahora cuando vemos lo del... Esta es la del gusano C. elegans,¿no? El que sale en la serie DEVS, la he hecho yo al principio, el primer episodio, que tiene que pasar la prueba.

SPEAKER_01Pero claro, cuando uno ve, y que lo utilizamos para GPT-6 Astra,¿no? Allá de la AGI, pero cuando uno ve que el científico jefe de OPNA y del... de este modelo titula Alien Mind, pues claro, uno empieza a decir, bueno, pero¿qué es lo que se está creando? ¿Qué es lo que muestran, dicen, piensan, pero luego qué tienen en laboratorio o qué están probando ellos? Evidentemente lo que tenemos nosotros no es lo que tienen ellos o lo que están probando.

SPEAKER_01Hombre, ahí entra la especulación, nadie lo sabe,¿no? Hay cosas que sí que se han filtrado, pero bueno, no lo tenemos 100% confirmado por la compañía. Hicimos varias portadas acordaos de GPT-6, la bestia anda suelta, si es una mente alienígena perdón, si digo mente alienígena acordaos que se me va la pinza es más mente humana se refieren a alguien con lo de mente no humana y aquí bueno, casi era premonitorio, fijaos el Elon Musk en miniatura aquel que casi vomita en la presentación de GPT-5, bueno yo fue uno de los momentos que dije, tierra trágame yo sé que nadie se acuerda pero yo tengo memoria de pez para algunas cosas cosas, es verdad es un glitch, estoy esperando que que Neuralink ya salga la versión primera yo me la pongo porque hay cosas que bueno, el overflow en algunos procesos míos es tremendo, también en otros es de super inteligencia pero bueno, la bestia anda suelta, OpenAI, GPT-6 Astra y ya bueno, ya se anunciaba pues la figura de Pachocki, muchas cosas y bueno y ese Hachi que dicen que IAS y GPT-6 Astra, que hay debate, lo tendremos, lo vamos a tener.

SPEAKER_01Seguramente un programa analizando el estado del arte de la IA y de la AGI. Pero bueno, la AGI... que se supone que es Astra, no es la AGI que tienen para diciembre. Entonces, Samalman sí que dijo que la de diciembre es AGI. No tanto GPT-6 Astra. GPT-6 Astra sería una pre-AGI,¿no? Brockman sí que dijo que estábamos ya en la AGI. Bueno, ahí que sí, que si no. Al final tenemos que verlo desde el punto de vista de que, bueno,¿qué es lo que puedo hacer?

SPEAKER_01¿Cómo podemos aprovecharlo? Poner las etiquetas. A lo mejor los libros de historia, cuando pasen 10, 20 años, bueno, etiquetan de una forma distinta las cosas que nos fueron ocurriendo y que nosotros ahora intentamos poner una etiqueta y generar unos debates en plan de quién es mejor que equipo de fútbol o si te gusta una cosa o un plato de comida u otro no sé, es que son debates un poco estériles y que no llevan a nada estamos en el inicio, lo que está claro es que esta carrera y además la velocidad de la misma, del desarrollo de la inteligencia artificial ha levantado todas las alarmas También todas las pasiones.

SPEAKER_01Y veremos qué fuego o qué agua echa al fuego. aún más al fuego de la polarización de si seguimos con el desarrollo y evolución de la inteligencia artificial a pesar de la dificultad de interpretarlos, entenderlos, controlarlos, o que sean 100% seguros, alinearlos, etcétera, o los paramos. Directamente paramos el desarrollo de estas mentes alien.

SPEAKER_01Y bueno, vamos a decir cuatro cositas de X-Habay. También hablaré un ratito, muy poco, tampoco. Vamos a enrollarnos mucho, pero bueno, es un insight de X. Si hoy no hay dos programas, tenéis uno. De la entrevista. De la famosa entrevista que diremos ya dónde ha sido. Séptima temporada de X-Habay. Sabéis que terminamos la sexta de forma abrupta porque queríamos empezar como todos en septiembre la nueva temporada. Veremos qué pasa con los X-Habay Awards, los premios, etc. Bueno, ya veremos qué hacemos pero sí que me gusta mucho también la nueva imagen la comunidad de inteligencia artificial y ciencias transversales de habla hispana y también el enfoque y ganas de hacer esta comunidad este canal otras iniciativas alrededor de esta comunidad algo transversal global y bueno voy a poner todo el empeño creo que es el momento por eso también en parte ese cambio de número buenas a todos los que estáis entrando al canal que la verdad es que también estoy muy contento porque a pesar del baneo de YouTube, cosa que vamos a meterle caña con gente que sabe llevar todo este tipo de cosas y poner a Xhub donde se merece, creo yo, por los comentarios, también por la calidad de contenido y por lo que percibo, sin desmerecer a nadie, pero bueno, yo creo que somos un canal que puede gustar o no, pero es bastante diferente y único.

SPEAKER_01Xhub ahí, Discord, si queréis entrar, como siempre vamos para más de para 600 miembros ya crece lento pero de forma continua estoy también muy contento simplemente enviando un mensaje directo un correo y os paso un enlace y estáis dentro os presentáis y todos los recursos no son infinitos pero clasificados que eso ayuda mucho pues pues nada a disfrutar debate papers cursos libros nada ilegal bueno a veces alguien suelta algo pero bueno luego lo eliminamos porque no todo lo que hay ahí es contenido que se puede distribuir sin problemas y bueno si os gusta lo que veis conocéis pues poned me gusta compartís comentáis o suscribís al canal de YouTube o a cualquier plataforma de podcast principalmente Evox Apple Podcast Spotify etc.

SPEAKER_01estamos en todos y luego si queréis hacer algún tipo de aportación económica que es más que necesaria tampoco me gusta llorar mucho en este sentido pero sí vamos a pensar en grande con XHabay yo creo que es el momento, estamos en un momento crítico y toda la ayuda y aportación que podáis hacer va a ser para mejorar y hacer lo que tenemos en mente alrededor de XHabay entonces podéis hacerlo a través de www.buymeacoffee.com barra XHabay o en Paypal a la dirección pladoes.com repito en buymeacoffee o en buymeacoffee como queráis lo de la pronunciación no me metáis mucha caña buymeacoffee.com barra x java y todo junto y si no en paypal a la dirección de correo por el lado es arroba gemin.com eh Ahora comento, bueno, todo lo que comentáis aquí por el chat, voy a comentar todo lo que digáis, porque los insidex.

SPEAKER_01Pero bueno, a ver, venga, ya revelamos la entrevista. La entrevista la grabé el lunes en Valencia. Se va a emitir yo no sé lo que tardarán, una semana o dos Jordi salió, puedo comentar alguna cosilla, sin hacer ningún tipo de spoiler el canal es Jordi Yatzer y se publicará evidentemente en Youtube, se publicará también en un podcast es la única entrevista que he dado, dura más de dos horas se me hizo corta y se os hará corta, generará polémica, ya os lo acierto que generará polémica a ver lo que yo pueda opinar, decir, pensar, mi visión, cosmovisión, no tiene por qué coincidir con la que todo el mundo piensa, tiene...

SPEAKER_01A ver, lo que sí que os va a hacer, yo creo que ver cosas que son difíciles de ver,¿no? A través de opiniones o cómo veo yo las cosas y hablamos de muchísimas cosas,¿no? Bueno, todo alrededor de la inteligencia artificial, pero, y además a corazón abierto, no voy a hacer una entrevista, la entrevista es... vamos a ver digo lo que quiero decir sabiendo que me arriesgo mucho Porque hoy en día si dices una opinión que es muy disruptiva o que no se interpreta fácil a la primera o es muy técnica o filosófica, no puede ser las dos cosas.

SPEAKER_01Todo lo que sea nuevo, como la inteligencia artificial participa tanta gente, tienes detractores y me da absolutamente igual. Sabía que haría una entrevista y sabía que tenía que ser potente diciendo cosas nuevas o al menos cosas que no se me han escuchado decir es una entrevista emocional es una entrevista por palabras de Jordi la mejor entrevista que me ha hecho y brillante espectacular no sé cómo quedará porque es verdad que cuando tú participas yo creo que se produce magia con Jordi Jordi es una persona muy especial yo estoy eternamente agradecido a Jordi nosotros cuando empezamos nos escuchaban 50 y estábamos contentos y Jordi nos ha ayudado a crecer no me conocía de nada tuve mucho éxito en ese canal también en otros no solo Jordi nos ha ayudado también es mérito nuestro hacer bien las cosas pero es verdad que Jordi estuvo ahí y es un tipo que me cae muy bien ya está sin más no somos amigos nos vimos por primera vez el otro día pero bueno yo le tengo afecto cuando me pidió la entrevista dije a ti sí A ti sí, porque amor con amor se paga y si me necesitas o me llamas, cuenta con mi espada.

SPEAKER_01Y ahí estuve, ahí estuvimos los dos, porque es más una charla que una entrevista y espero que se publique pronto y espero que, bueno, opinéis, sé que va a haber de todo. Lo importante es que yo la disfruté. También se produjo, no, tampoco voy a contar mucho por qué, pero en un momento personal complicado para mí por un tema y no fue una entrevista fácil no fue fácil porque la disfruté y fue con Jordi pero también fue emocional por el momento tanto que yo vivo a nivel personal con mi vida como el momento que se vive en la inteligencia artificial tanta exigencia tanta pasión pero también miedo tanta polarización y También todo lo que ocurre alrededor de nuestro país, de nuestra gente, es un momento complicado y es un momento para no permanecer en silencio.

SPEAKER_01Y yo, bueno, lo he dicho muchas veces, todo lo que hago es porque me apasiona, porque lo siento, pero esta charla y también la difusión que puedo, divulgación que hago, lo siento también como una parte de responsabilidad, de proporcionar esa visión que yo creo que no se encuentra en ningún sitio,¿no? Y aportamos como un valor o un espacio para mucha gente, no solo yo, que es único,¿no?

SPEAKER_01Y entonces eso yo creo que es más necesario que nunca. El día que vea que no aportamos ningún tipo de valor, pues recogemos, nos vamos y no pasa absolutamente nada. O alguien lo haga mejor y digamos, oye, es que¿para qué vamos a hacer algo que se está haciendo ya, no? Venga, a ver, voy a contestar a algunas preguntas que estáis poniendo por el chat para que no se acumulen. Y empezamos, dice J. Berart, 2106, dice Plácido,¿qué piensas de que sea OpenAI el que vaya ganando esta carrera por la mente alienígena?

SPEAKER_01Bueno,¿por qué dices que está ganando? Bueno, hay pocas empresas que estén embarcadas. A ver, yo creo, lo voy a resumir para no ser muy... OpenAI no es para mí la empresa más idónea que lidere. No es que los CEOs podamos confiar mucho más en Dario Amodei que en Sam Alman o en otra compañía o en otro CEO. Yo creo que no nos podemos fiar realmente de nadie y al final el tablero y el juego es el que es.

SPEAKER_01Poca humanidad y mucho poder y control y economía, dinero, capital, etc. Es OpenAI. Me ha sorprendido porque han pegado un puñetazo encima de la mesa y Pacho que bueno yo este una imagen más de meme a ver el tío es una auténtica máquina es el el perfil talento y méritos de este señor es indiscutible claro a ver ves lo que ocurrió en la presentación de GPT-5 pero vamos han dado un golpe encima de la mesa con GPT-5 hicieron mal las cosas al principio luego se han ido mejorando pero no fue ese pero con GPT-6 astra han dicho algo está pasando o realmente va a pasar,¿no?

SPEAKER_01Y además ya se va, ya se está hablando de nuevas versiones en diciembre, etc. Son realidades, a ver, realidades que podemos utilizar y luego las que puedan tener ellos dentro en desarrollo,¿no? Darío Amodei, a ver, y Anthropic van a contestar, seguro, con Mythos 2 o 2.0 o nueva versión de Mythos. Bueno, o Fable 5.2 o Fable 6, no lo sé.

SPEAKER_01O un nuevo modelo, no lo sé. Obviamente no se va a quedar parado, pero sí que le han dado un golpe potente, tanto con este modelo como con el Harness, con Codex, etc. A todos los niveles, con los logros ahora, la guerra que hay a nivel matemático, que bueno, da para programa, etc. Es lo que es. Lo que pasa es que OpenAI, al menos con la administración actual y el poder en Estados Unidos, que bueno... A ver, tiene que ver con Trump, obviamente, pero hay un poder subyacente, independientemente de quién gobierne.

SPEAKER_01Yo creo que está más alineado con Open AI que con Darío Modé, que quiere como un cambio disruptivo en ese sentido. Y Open AI y Sam Alman es el aliado, el mejor aliado para el poder. Luego él es el ganador, quizá,¿no? Pero ese... No es Darío Amoy. Darío Amoy tiene otra... Pero igual que Elon Musk. Elon Musk con SpaceX y XAI van a contestar seguro.

SPEAKER_01Se estaban anunciando nuevas versiones y Elon Musk decía que superaban Astra. Es decir, esta batalla no ha acabado. Y luego, lo que sí que me intriga es cómo reaccionarán los laboratorios chinos. Bueno, este año excelente en los modelos abiertos. No necesitamos toda la potencia para muchas cosas. Es decir, pero bueno, encontrar más potencia o posibilidades mejor, también mayor competencia y abaratamiento. Pero yo creo que ahí van a haber sorpresas, porque China...

SPEAKER_01Yo creo que China... Lo que pasa es que ahí por un lado tienen una narrativa de conseguir la supremacía tecnológica con la AGI y por otro, fíjate, las regulaciones, la guerra civil que tienen en temas de regulación. Y China, bueno, con algunas prohibiciones y con algunas leyes contencionistas en el tema del trabajo, etc. Espero que China vuelva a dar. Lo que pasa es que entonces tendríamos una AGI open source.

SPEAKER_01peligroso,¿no? Y esta guerra, a ver, o esta batalla o esta evolución o esta carrera no ha parado ni va a parar. Claro, es que lo que vamos a ver es ciencia ficción. Hay que mantener también los pies en el suelo. Yo cuando tengo que hacer proyección, pues si necesito liberarme y tirar también de imaginación o intuición, lo hago y escribo o lo digo,¿no? Pero hay que también ser contenido en esto porque la basura que existe en cuanto a muchas cosas de opinión o decir cosas pues es también problemático Dani Delgado dice soy programador uso estos modelos de lenguaje a diario tengo que decir que es una herramienta muy potente que me sirve mucho yo lo de llamarlos modelos de lenguaje entiendo yo creo que se queda obsoleto tengo que decir que es una herramienta muy potente que me sirve mucho en diferentes áreas del flujo de trabajo eso es una realidad dice ahora también es real que siguen equivocándose en cosas en las que un ser humano que se detenga a pensar un poquito no lo haría ahí es que va a haber una combinación primero con el harness que sabéis que puede conseguir gran eficiencia, igual con la combinación con herramientas y con otro tipo de arquitecturas.

SPEAKER_01Y luego el modelo en sí que va mejorando, pero como bien dice Dani, sigue teniendo, no es perfecto. Y entonces la sensación de mucha gente es, oye, a ver, esto sí mejora,¿no? Y cada vez es mejor y me fío totalmente o me fío casi al 90, algo al 99%. Pero no tiene ese tipo de razonamiento que tendría un humano,¿no? Yo creo que eso va a acabar desapareciendo. Por avances en el modelo y por avances en el harness. Yo creo que es poquito lo que queda.

SPEAKER_01Pero sigue ocurriendo. También es verdad que lo que plantea el artículo de Alien Mind, que ahora lo vamos a leer, es que, claro, si apretan el acelerador, por ejemplo, en la arquitectura transformes en los loopers, en las iteraciones, que ahora lo tienen a dos para mantener la interpretabilidad o la observabilidad, Eso es parte de ese artículo. ¿Qué hacemos? ¿Metemos el acelerador? ¿Y qué ocurre? Claro, es que estamos...

SPEAKER_01viéndolos crecer estamos sembrando estamos regando el desarrollo a lo a lo la experiencia amarga de satón y entonces claro aquí ya empieza a haber planteamientos éticos de seguridad por eso entran también los gobiernos con todo lo que ha pasado sea verdad mentira teatro forme parte de ello con las dos cosas pues claro es un problema porque que aunque yo creo que el debate tiene importancia, pero va a dejar de tenerlo.

SPEAKER_01Y eso también lo tengo muy claro. Es decir, si es allí, si es una mente, si es razón, es que todos esos debates, desde el punto de vista conductista o funcionalista, va a ser tan brutal y va a pasarnos tan por encima que no sé si tendrá sentido esos debates o para la gente que lo viva, si tendrá sentido. Porque al final diremos, bueno, si anda como un pato y dice,¿cuál es un pato? A ver, entiendo que no, entiendo el debate y lo que podáis pensar, pero yo quiero que me entendáis.

SPEAKER_01Nunca pretendo que penséis como lo que yo, sino que me entendáis también y un poco aporte cosas en ese sentido. Veremos qué dice ahora. No lo he leído el artículo, le he leído titulares, me parece súper interesante, críticas al respecto y alabanzas, pero no lo he leído. dice, si yo pienso igual, dice Lourdes, dice yo si yo pienso igual, hay que saber usar los modelos, darles buenas directrices, conocer patrones de diseño, etc y revisar el código pero a mí lo de controlar interfaz me parece un salto gordo, aunque no sé si lo ejecutaría en mi PC principal bueno, y ahora están diciendo, no le tendrías que haber dado acceso a internet, bueno estamos en un estado de paranoia, lo veremos el jueves, y si Cosi alto.

SPEAKER_01Sé que esto os puede parecer a los que estáis programando, sois programadores como yo y como muchos. Como que, no, eso es una ton... A ver, la parte de empezar a... a observar esto desde una perspectiva realista y además preocupante y además psicótica es preocupante y hay que abordarla. Se va a descontrolar a medida que aumenten las capacidades de todo esto. Cuidado con esto.

SPEAKER_01dice Cilifant hombre no sé si lo dices por dice buenas tardes por favor Plácido explícanos lo del niño de la bomber de Asilomar no a ver venga vamos a ponerlo bueno no sé si lo sabías pero bueno como entiendo que a lo mejor se ha hecho famoso bueno famoso no porque no es tan importante pero bueno lo voy a buscar vale me dais un segundo a ver lo de la bomber de Asilomar es el Samalman a ver Asilomar es un lugar donde se hacen convenciones para hacer las regulaciones éticas, pues yo que sé, por ejemplo, de manipulación genética de alimentos o de humanos, lo que sea.

SPEAKER_01Todo este tipo de cosas éticas, científicas, que afectan a la humanidad, pues en Asilomar están hechos varios. Y una de las que se hicieron fue de inteligencia artificial, los principios éticos o los principios universales. En esa reunión había un montón de gente, bueno, están todos los de la IA, 2017 creo que era. Voy a consultarlo, no me cuesta nada, porque yo para Asilomar tendría que tener una IAI soplándome eso habría que hacer un programa con eso en 2017 vale y A esa reunión va mucha gente,¿no?

SPEAKER_01Jan de Koon, Jürgens Bihuber, Demir Hasabi, gente del gobierno, de todo,¿no? Y Sam Alman. Y aquí tenéis, mira, aquí está la foto. Es que, bueno, muy graciosa. Vale, venga, la voy a poner. Y entonces, bueno, pues está Sam Alman, que era un niño, era un pipiolo, y va allí, bueno, estaría haciendo temas de startups con la aplicación esta de mapas y tal que tendría en eCombinator. Y... Y nada, va allí a hablar de ciberseguridad. En 2017 estaría a lo mejor en poco comparado con lo que luego vino.

SPEAKER_01Y allí habló de ciberseguridad. Fijaos vosotros de hablar de ciberseguridad, que si ven la charla de él, que está online. Pero claro, todos fueron allí vestidos como quisieran, no pasa nada, voy a ponerlo. Y resulta que Sam Alman fue con una bomber de estas. Bueno, entonces yo un poco... A ver, no quiero tampoco por ser el que hace burla de nadie más en temas físicos. Pero bueno, me hizo gracia, vamos. Y entonces le llamo el niño de la bomber de Asilomar. Bueno, aquí están todos,¿vale?

SPEAKER_01Los que fueron. Los diferentes vídeos,¿vale? Y fotos, mirad. A ver,¿se ve, no? ¿Se está viendo? No, cuando salta no se ve. Espera un segundo. Vale. Pero sí que está,¿veis? Aquí está Bengio, Stuart Russell, si alguno no me acuerdo. Mirad, Demi Hassabi con pelo ahí. Bueno, tienen varios,¿no? Y y nada y aquí está pues Sam Alman que lo vamos a poner lo van a poner una vez, pero ya no más.

SPEAKER_01Y aquí está Sam Alman, que va con una bomber,¿no lo veis? Va con la bomber, entonces ahí, expertos de IA, y él es un niño, parece esto, no quiero decirlo, parece que no quiero faltarme, el tío es súper respetable,¿no? Pero bueno, con las deportivas, como va a ser siempre él, y con la bomber, la verdad es que no pega ni con cola,¿no? La bomber ahí, un poco extraño,¿no? Pero claro, cuando pasan los años y tú sacas esta foto, pues es Sam Alman,¿eh? Es Sam Alman, eh, CEO de OpenAI.

SPEAKER_01La empresa puntera de ella,¿no? Entonces, bueno, yo de coña siempre le llamo así. Es anecdótico. Esto son cosas que solo salen en X-Habit. Los avisos, Zilifan, los avisos de hacking, de enjambre, de ese wiki, yo creo que ya andan sueltos, solo que saliese detrás de 6 servers.

UNKNOWNPues...

SPEAKER_01Claro, es lo que dice, no hay vuelta atrás y yo me alegro. ¿Por qué te alegras, Elifant? Porque trabajas en eso. Yo creo que es inevitable, pero, a ver, yo creo que seguro ha ocurrido y ocurre, pero si no hubiera ocurrido, vale, imagina que no ha ocurrido, pero no lo saben. Es decir, la paranoia que puedes tener de montarte una película y si tienen el algoritmo ejecutándose, están autoevolucionándose y están haciéndose ellos, claro, como la película de Misión Imposible o la de Transcendence,¿no?

UNKNOWN¡Pff!

SPEAKER_01es que nos puede coger la paranoia. El humano, el cerebro, la incertidumbre la soporta mal. Yo os lo digo. Cuidado con esto. Cuidado con el tema de salud mental. Lo digo por todos. Me da igual que seáis el máster del control mental. Yo me incluyo. Es peligroso esto. Es peligroso. Y no es por generar hype o miedo, que soy un apasionado de las pelis de terror. Bueno, puede ser un sesgo mío de que me mole esa parte de película de terror,¿no?

SPEAKER_01Antonio Bello dice¿Entonces deduzco que opinas que se puede llegar al allí sin cambio de paradigma, LLM? No. Creo que Los modelos de lenguaje, a mí es que lo del LM no me gusta esa palabra para lo que constituye. Sé que es lo que son y cómo se les llama, porque al final son entrenados con lenguaje. Bueno, realmente pueden ser entrenados con otro tipo de información, entonces no serían exclusivamente el lenguaje. Pueden ser entrenados de forma multimodal y sería, pero bueno, independientemente de eso, forman parte de la arquitectura cognitiva.

SPEAKER_01Yo creo que la H va a ser un harness cognitivo. Y ahí está el LM. Y la prueba es, haremos un programa sobre el harness engineer y ese vídeo de combinator pero ahí lo veis en la ganancia es la combinación de entre deep learning y neurosimbólico y hay una línea de desarrollo que es deep continuous learning que si consiguen eso y por lo que dice Satón, el de la lección amarga.

SPEAKER_01¿Qué se va a conseguir sí o sí? Yo creo que con eso, olvídate, olvídate. Estamos aplicando algo que evoluciona. con aprendizaje continuo, con un harness que podría ser también con surfing probing, a lo Prime Intellect, y además hay también técnicas que permiten que la conexión entre diferentes piezas sea como influenciable unas con otras. Para mí eso lleva al AGI. A un nivel.

SPEAKER_01Luego a lo mejor ese AGI, que es un Frankenstein, es capaz de generar una red neuronal o algo puro que solo entienden ellas. ¿De acuerdo? No sabemos cómo lo han hecho. Pero olvídate, al final es que el resultado es este. Es como si tú te pusieras delante de una gallina, pues la sensación va a ser lo mismo. Cuando tengamos delante una entidad de este tipo, estamos hablando que es otra especie, es otro tipo de mente.

SPEAKER_01El problema y el debate es,¿qué hacemos entonces? Como ya se está debatiendo,¿les aplicamos discapacidad artificial? ¿La limitamos para que pueda coexistir con nosotros y no nos barran? ¿Cómo las alineamos cuando no sabemos alinearlas? Por eso me he comprado el libro. Este libro sobre alineación,¿vale?

SPEAKER_01que dice que está muy bien. The Alignment Problem, How Can Artificial Intelligence Learn Human Values, de Brian Christian. Es decir, dice que es un libro de referencia de alineamiento y me interesa esa parte especialmente. El alineamiento tanto por el modelo, el entrenamiento, constitución, etcétera, como por el harness. A ver, dice... ¿O se ha cambiado de paradigma sin cambiarlo?

SPEAKER_01Se ha cambiado. A ver, para mí es que el LM deja de ser... Bueno, ya lo he comentado, yo creo. Y bueno, sigue siendo arquitectura transformer, pero ya hay determinados cambios de aprendizaje, de mejora recursiva... A ver, hay cosas que... Bueno, sí, se entrenan con lenguaje,¿no? Pero podría ser entrenado con cualquier cosa. Fíjate que Arkachi 3 no es texto.

SPEAKER_01Estás utilizando el movimiento de un videojuego. Es como si fuese un animal,¿no? Lo he dicho, a ver... Yo me decanto por esa línea,¿no? Lo tengo muy claro, además. Pero, bueno, se puede debatir, se puede hablar, se puede opinar, pero con razonamiento. A ver, pues yo no, yo opino que no. A ver, opino que no,¿por qué? No sé. ¿Por qué esto sigue siendo un autocompletador y esto es lo estocástico?

SPEAKER_01Dios,¿estamos aún ahí? Es verdad que a mí me cuesta... Lo vi en el programa de Jordi Yasser que... A ver... Me doy cuenta... A ver, yo... En una etapa de mi vida di clases y no sé, a ver, soy bueno, pero no me gusta. Porque para ser profesor tienes, te tiene que gustar, tienes que, te tiene que gustar tu capacidad cognitiva o nivel, bajarlo para que el alumno aprenda, etc. A mí me cuesta. Entonces yo voy siempre como muy avanzando, avanzando, avanzando.

SPEAKER_01Soy mejor alumno que maestro,¿no? Y me considero así. Maestro no soy de nada y alumno me encanta disfrutar de eso,¿no? De la búsqueda, del aprendizaje y tal. Que todo el mundo puede aprender de todo el mundo y seguro que vosotros aprendéis cosas de niño de vosotros o cosas que digáis,¿no? Estrategia de diablo antiguo. ¿Eso qué es? ¿Qué es eso de diablo antiguo? No sé. Explícanoslo. No, no conocemos el nuevo ordenador.

SPEAKER_01Ponnos tu experiencia o tu desarrollo de lo que quieres decir y pregunta y lo vemos. Bueno, vamos a decir tres cositas y empezamos a leer el texto. Bueno, ya sabéis que fue presentado GPT-6 Astra después de los modelos de GPT-5-6 Luna-Terrasol, pues llegó Astra y en barrio egreso. Quiero también recordar algunas declaraciones que ha hecho Pachocki, bueno, si lo pronuncio en algún momento mal No os riáis.

SPEAKER_01Vamos, es que os bloqueo. Pero bueno, ahora hablaremos de unas declaraciones que hizo. Voy a ir metiendo siempre lo que vais diciendo por el canal. Buenas a todos. Guillermo Monserrat. Buenas a todos. Gracias por seguir ayudándonos a entender lo que está pasando. Y de ahí viene mi pregunta. ¿Cuándo dejaremos de entender? Pues fíjate. Bueno, lo voy a leer porque lo he leído yo en el podcast. Cuando dejaremos de entender completamente lo que está haciendo la IA. Bueno, ya ha habido casos que se han comunicado pero ya pasaba, en un lenguaje que solo ellas entienden.

SPEAKER_01Eso es lo primero. ¿Qué pasa si ellas tienen una capacidad de comunicarse con un idioma que nosotros no vamos a entender? Esa es una posibilidad, igual que ya se ha planteado eso mismo en el desarrollo de código. Tú no vas a ver el código fuente. Es decir, directamente te van a dar el binario o el compilado. Y lo que hay adentro no se entiende. porque no vas a llegar a entender lo que pone ahí. Ahora a lo mejor, porque hay algunos ingenieros, pero en el futuro, y si inventaran un lenguaje nuevo, mira, hemos inventado un lenguaje intermedio que es súper eficiente, comprimido, que solo entendemos nosotros.

SPEAKER_01¿Cómo lo haces? Eso lo puede hacer fácilmente la AI y nosotros nos quedamos detrás. Les podemos obligar, claro. Lo que pasa es que ahí está también la eficiencia,¿no? De cuál es la mejor solución. O que ellos decidan hacer eso,¿no? Vamos a encriptar nuestra información para que que no nos monitoricen esto va a ocurrir y ha ocurrido en algunas pruebas¿vale? y luego está lo del looper transformers que es lo más actual del GPT-6 Astra que es lo que dice Pacho que lo voy a leer y luego lo voy a explicar dice quiero evitar una carrera hacia la imposibilidad de la monitorización desencadenada por informes confusos dice la profundidad del grafo computacional de nuestros modelos de vanguardia actuales incluido Astra es casi igual a la de GPT-4 aquí tengo que decir una cosa se refiere refiere al loop transformer, el loop que realiza internamente, que no es texto, que es numérico.

SPEAKER_01Dice que es igual a GPT-2, pero bueno, no es cierto. Bueno, a ver, es casi igual, es multiplicado por dos, pero podría ser un número mucho mayor. Podrían haber obtenido un rendimiento mayor, de ahí el ahorro de tokens, etcétera, pero claro, se arriesgan al tema de la monitorización perderla,¿no? Dice, OpenAI se ha esforzado por preservar y utilizar la monitorización de la cadena de pensamiento, el chain of thought,¿no? Desde nuestros primeros modelos de razonamiento. Esta técnica nos importa mucho ya que nos permite comprender cómo se generaliza la alineación del modelo a partir de su distribución de entrenamiento.

SPEAKER_01Creo que es frágil y lamentablemente tiende a deteriorarse por razones ajenas a los cambios arquitectónicos que explicaré próximamente. Sin embargo, podemos tomar medidas para fortalecerla y es un objetivo fundamental de nuestro programa de investigación actual. Venga, bueno, se debatió sobre si GPT-6 abstraerá a AGI o no, ese debate existió, Brockman en entrevistas y noticias, bueno, manifestó que sí, estábamos claramente, como en la noticia que muestro aquí de Business Insider, OpenAI celebra el éxito de su nuevo modelo de IA y Brockman dice bienvenidos a la era de la AGI.

SPEAKER_01Y bueno, aquí no todos piensan igual, no solo Jürgen Schmidhuber, dice Jürgen Schmidhuber, algunos afirman que la AGI ya está aquí y eso es ridículo. No hay AGI sin dominar el mundo real,¿no? Es decir, él entiende que el embodiment debería ser una AGI con cuerpo y ser capaz de dominar el mundo real a través de ese embodiment,¿no? Lo que somos nosotros, vamos. Yo no lo entiendo así, para mí una AGI no necesita de embodiment. Dice, no hay verdadera superación personal personal sin hardware que se automejora.

SPEAKER_01¿Sin hardware? Hombre, entonces, a ver, esto es otro nivel. A ver, es que yo creo que está elevando lo que es una AGI. A ver, si tú quieres incluir en tu definición de AGI que tiene que tener cuerpo y encima tu cuerpo automejorarse, bueno, para mí yo no pienso eso. Yo no pienso eso. Dice, a diferencia del software de metaaprendizaje, DLH ya existente. Dice, cita de la sección 20 de DLH. Dice, como he señalado a menudo, la única inteligencia es artificial que funciona bien hoy en día es la inteligencia artificial en el mundo virtual detrás de la pantalla.

SPEAKER_01Por ejemplo, para resumir documentos automáticamente, crear imágenes, programas y diapositivas de PowerPoint. Pero no existe ningún robot controlado por inteligencia artificial que pueda hacerlo un fontanero o lo que puede hacer un mono capuchino porque el mundo físico es mucho más exigente que el mundo detrás de la pantalla. Superar el test de Turing es mucho más fácil que la inteligencia artificial verdadera o la inteligencia AI o inteligencia artificial real en el mundo físico. Por Por tanto, el test de Turing no es una buena forma de medir la inteligencia. Para lograr la verdadera inteligencia artificial, la investigación en software de inteligencia artificial en sí misma no es suficiente, debe combinarse con el mundo físico de máquinas y robots.

SPEAKER_01No hay allí sin dominio del mundo real. Bueno, yo no lo comparto. Para mí sería un nuevo nivel de AGI, pero para mí la inteligencia artificial general es eso, inteligencia artificial general. Y debería también aplicarse a muchos niveles o escenarios, pero es decir, que tiene que tener cuerpo y tiene que tener era de experiencia, como dice Saturn, y que tiene que tener... Bueno, veremos... Bueno, Google sí que va a...

SPEAKER_01Introducirán la modelización, los modelos del mundo, igual que Jan LeCun. Veremos qué tipo de arquitectura sale de ahí y dónde es aplicable y a qué nivel funciona, lo veremos. Pero bueno, ahora vamos a ver lo de la mente alienígena, que me ha dado hipo de momento. Vamos a ver lo de la mente alienígena, acordaos que puse esta última slide sobre un harness cognitivo basado en... en la cosmovisión o conocimiento jungniano, de la psique jungniana, bueno, es algo que no se contempla, que entraría dentro del concepto de persona, identidad, etc.

SPEAKER_01Y yo, es un trabajo que eso sí me gustaría trabajar sobre ello. Se habla poco porque yo creo que no es el momento, no creo que sea porque no lo han hecho, ya lo hicieron en su momento con Lambda. Pero no vamos a profundizar por ahí, simplemente decirlo, porque sé que más de uno se emocionará al oír Carl Gustav Jung combinado con un Harnes cognitivo y como vamos a hablar de mente alien, pues viene un poquito a colación. A ver, Cidilifá, bueno, te lo he dicho con cariño, alegrarte.

SPEAKER_01No, no me alegro, Plácido, soy mejor, más capaz desde que la adopté. Sería una lástima que fuésemos un estorbo, el resultado a corto o medio plazo es irrelevante. Ambos intuimos el punto. Bueno, yo creo que si es una verdad, cada vez más gente lo intuirá. Si no lo es, pues desaparecerá y será sustituido por otra cosa o evolucionado o distinto. Claro, le ponemos nombre a las cosas,¿no? Para que haya una comunicación.

SPEAKER_01Pero bueno, nos entendemos cirifando. Me parece bien,¿no? Pero bueno, sí que es verdad que es una cosa. Yo intento, sabiendo que estoy en el lado en el que estoy, hay que ponerse también en el otro. Si queremos avanzar, evolucionar, tenemos que poder unir y no dividir. No lo sé. En la charla con Jordi lo comentamos. No lo sé. no sé si va a llegar a un punto que va a ser imposible converger y va a ser una minoría quien establezca ese punto de de disrupción y una de dos o me seguís o os estenguís no lo sé pero eso sería medio largo plazo pero es verdad que lo que estamos debatiendo es eso bueno dice Craig Brockman y vamos ya a leer el Alien Mind dice Craig Brockman presidente de OpenAI dice del del de Alien Mind dice un ensayo fundamental sobre el estado de la inteligencia artificial y las opciones y desafíos que se avecinen para OpenAI, el sector y el mundo nos encontramos en la era de la inteligencia artificial general y debemos afrontar los próximos años con seriedad, reflexión y superando juntos los retos colectivos podemos construir un futuro mucho mejor que el pasado y Yaku Pachoki el 6 de septiembre lo escribió, decía Hace un par de días, dice, escribí sobre el estado de la inteligencia artificial porque me preocupan los próximos años y las decisiones que debemos tomar para el futuro sigan en manos de la humanidad.

SPEAKER_01Una mente alienígena. Y ahora sí, pues vamos a... Un segundo, porque han cambiado esto aquí. Vale, vamos a poner... Venga, una mente alienígena, 6 de septiembre de 2026. Seguridad e investigación, Yaku Pachoki, científico jefe de OpenAI.

UNKNOWNVenga, vamos al libro.

SPEAKER_01A mediados de 2023, dentro del proyecto de investigación RLSlow, vimos los primeros resultados que nos dieron la confianza de que podríamos escalar el entrenamiento de modelos de razonamiento, desbloqueando la capacidad de los modelos preentrenados para formar sus propias cadenas de pensamiento. Es Simon, no sé si se pronuncia Simon o Simon, y yo pasamos esa noche en la oficina, Pensando no en las increíbles cifras de referencia, los productos o los resultados científicos que esta tecnología ofrecerá, sino más bien tratando de asimilar el hecho de que realmente veremos máquinas significativamente más inteligentes que nosotros en nuestra vida.

SPEAKER_01Y ya vislumbramos la forma de estos sistemas. Preguntándonos cómo alertar a la gente sobre la importancia de esto. Bueno, esto es fundamental, esto es histórico. Es decir, cuando ya vieron que podían escalar este tipo de técnicas que el modelo generara sus propias cadenas de pensamiento los científicos jefes o dos tops dentro de la investigación y desarrollo de los modelos en OpenAI dicen fijaros la importancia, sin pelos en la lengua Simon y yo pasamos esa noche en la oficina, imaginaros en la oficina estos dos elementos maestros o cerebros o genios pensando no en las increíbles cifras de referencia los productos o los resultados científicos que esta tecnología ofrecerá sino más bien tratando de asimilar el hecho de que realmente veremos máquinas significativamente más inteligentes que nosotros en nuestra vida y que ya vislumbramos la forma de estos sistemas y que nos preguntamos también cómo alertar a la gente sobre la importancia Bueno, esto es tremendo.

SPEAKER_01A ver, es tremendo, es tremendo.

UNKNOWNEh...

SPEAKER_01Guillermo Monserrat dice¿Ese miedo a ser desconectado de los agentes en Moldvuk significa que saben que existen? Bueno, como mínimo lo expresan y sí, saben que eso está demostrado por varias pruebas, que al menos lo expresan que son monitorizados o que están siendo probados y manipulan los resultados según sean o detecten que están siendo probados o no. Entonces, claro, esto dices, bueno,¿qué cojones es? La interpretabilidad o la monitorización te dice que sí que lo están diciendo, pero eso es realmente así, pero bueno, esto al final nos tiene que dar igual si lo expresan de esa manera.

SPEAKER_01Claro, eso genera muchísima alerta, pero eso ya no es un cuento relato de ciencia ficción, es que es real. Sigue diciendo, dice, durante este periodo se realizaron numerosas investigaciones nuevas. Estamos hablando que dicen importante, perdón, me he saltado, 2023 a mediados de 2023. ¿Vale? Mediados de 2023. Pues hace bastante. Tres años después, dos 2026, en los años que estamos ahora, dice, tres años después los modelos de lenguaje de razonamiento constituyen una parte cada vez más importante de la economía y comienzan a ampliar los límites de la ciencia.

SPEAKER_01Son capaces, y esto no es marketing, es real, son capaces de operar ordenadores e interfis gráficas, colaborar entre sí y con otras personas y llevar a cabo proyectos de investigación. Además, están transformando el panorama de la seguridad informática, lo que plantea nuevos y claros peligros. Y retos añado yo,¿no? Bueno, la verdad es que bueno, pues lo he dicho tremendo. Sigue diciendo.

SPEAKER_01e impulsen cada vez más su propio desarrollo. Y este es un momento que exige extrema precaución. Me preocupa que nadie esté preparado para las consecuencias del continuo y rápido avance de la inteligencia artificial. OpenAI seguirá buscando soluciones técnicas para la alineación y la monitorización, soluciones técnicas que no existen, para desarrollar sistemas de defensa y para frenar unilateralmente la expansión cuando sea necesario.

SPEAKER_01Sin embargo, creo que se requieren intervenciones más amplias. intelecto que no comprendemos del todo intelecto que no comprendemos del todo en términos generales el progreso en inteligencia artificial se basa en el aumento de la capacidad de procesamiento en OpenAI asimilamos profundamente esta idea alrededor de 2017 tras observar resultados consistentes en la escalabilidad en múltiples proyectos de investigación 2017 fecha de Silomar como resultado buscamos acceder a una capacidad de procesamiento mucho mayor de la que habría habíamos previsto inicialmente y orientamos nuestra investigación cada vez más hacia un número reducido de líneas de investigación altamente escalable, no siempre escalable.

SPEAKER_01Creíamos que esta era la única manera de estar a la vanguardia de la investigación en inteligencia artificial e influir en el impacto de la AGI. Se han desarrollado nuevos algoritmos a lo largo del camino, nuevas muestras de ingenio por parte de equipos e investigadores individuales. Los considero principalmente descubrimientos en el proceso de escalabilidad, la ciencia del aprendizaje profundo a aún está en sus inicios y el progreso algorítmico significativo suele estar relacionado con el acceso a la capacidad de procesamiento. Si ampliamos la perspectiva varios años, la inteligencia artificial continúa volviéndose más inteligente a medida que se escala a ordenadores más potentes.

SPEAKER_01Y en consonancia con las predicciones de Ray Kurzweil de finales del siglo XX, nos encontramos ahora en un momento de la historia de la informática en que la inteligencia artificial está empezando a superar a la humana de maneras transformadoras. La inteligencia artificial está empezando a superar a la humana de maneras transformadoras. La inteligencia artificial se desarrolla más que se diseña. Se desarrolla más que se diseña. En primera instancia es el resultado de repetir un sencillo paso de optimización muchas veces sobre una capacidad de procesamiento difícil de imaginar.

SPEAKER_01Esto da como resultado un sistema increíblemente complejo que funciona mediante conceptos abstractos y puede simular aspectos del comportamiento humano. Podemos descubrir diversas claves sobre los pequeños mecanismos que emergen dentro de este sistema en un proceso similar al de la neurociencia y al igual que en la neurociencia su funcionamiento general escapa a una descripción que podamos comprender por completo. Tremendo. El estudio de la inteligencia artificial basada en aprendizaje profundo es en gran medida una ciencia experimental.

SPEAKER_01Dedicamos mucho esfuerzo a construir algoritmos con principios sólidos y a realizar predicciones comprobables, pero fundamentalmente nuestros entrenamientos a gran escala son experimentos y a veces nos sorprenden sus resultados. Además, a medida que los sistemas se vuelven más capaces, los resultados resultan más difíciles de interpretar. Esto es clave. A medida que los sistemas se vuelven más capaces, los resultados resultan más difíciles de interpretar. Y la Unión Europea quiere sistemas seguros.

SPEAKER_01Pues paren la inteligencia artificial en Europa. No van a poder. No se pueden interpretar. ¿Qué hacemos? ¿Lo paramos? Pero bueno, claro,¿quién es el responsable? ¿Cómo vamos a defender un modelo que no es interpretable y no podemos alinearlo ni observarlo? Es difícil. Es Pongámonos en los dos lados, hagamos la defensa de los dos lados, del diablo, del ángel, del diablo o viceversa. Dice, esto se complica aún más porque los algoritmos actuales en general mejoran las capacidades fáciles de medir más rápido que aquellas difíciles de cuantificar objetivamente.

SPEAKER_01Dedicamos mucho tiempo a comprender cómo se generalizan las capacidades y qué priorizar para impulsar las habilidades que serán más relevantes en los próximos años. Por ejemplo, Creemos que podríamos mejorar los modelos específicamente en la investigación matemática con un enfoque adicional, pero no priorizamos esta dirección debido a la urgencia que sentimos respecto a la investigación sobre RSI, que es recursos self-improving, y alineación automatizada, como explicaré más adelante.

SPEAKER_01Interesantísimo el artículo. La inteligencia generada mediante el aprendizaje profundo a gran escala no es directamente comparable a la inteligencia humana. Para ser relevante en el mundo real, ya sea muy útil o muy peligrosa, la inteligencia artificial no necesita igualar ni superar todas las capacidades humanas. Basta con que supere las suficientes. Y a medida que continúa superando a los humanos en más y más ámbitos, resulta cada vez más difícil comprender con exactitud su capacidad.

SPEAKER_01Enseñar a las máquinas a amar. a los sentimientos maternos por parte de Hinton, que decía que debíamos aplicar para alinearlas o para que no nos destruyeran. Sigue Pachocki diciendo, dice, dado que la inteligencia artificial proviene de un proceso fundamentalmente distinto al de la inteligencia humana, no podemos asumir que se adhiera a los principios humanos por defecto ni que los generalice de forma similar a los humanos.

SPEAKER_01El problema central en la investigación de la inteligencia artificial radica en la alineación. El problema radica en la alineación. lograr que la inteligencia artificial intente actuar correctamente según los estándares humanos. Pero claro,¿cuáles son los estándares humanos? La constitución de clon. Con el fin de organizar, sigue diciendo Pachuki, Pachuki no Pachuki, sé que alguna vez, voy a meter la Pachuli, no digáis nada que voy a venir, venga, Pachuki. Con el fin de organizar las líneas de investigación prácticas, me resulta útil distinguir entre alineación de objetivos y alineación de valores.

SPEAKER_01Correcto,¿no? La alineación de objetivos se define en términos generales como intenta la inteligencia artificial conseguir o alcanzar el objetivo establecido. Esto puede incluir aspectos como el cumplimiento de una jerarquía de instrucciones o la capacidad de comunicarse y colaborar con otras personas para comprender sus objetivos. Este conjunto de directrices ha demostrado ser sumamente relevante en la práctica. La alineación de valores es una propiedad intrínseca del modelo. Se trata de la capacidad de mantener y generalizar a partir de un conjunto de principios de alto nivel.

SPEAKER_01de actuar de forma razonable incluso ante objetivos poco claros o contradictorios o en situaciones desconocidas o adversas. Una inteligencia artificial alineada debería actuar con honestidad, integridad y amor por la humanidad. Por supuesto, la línea divisoria entre valores y alineación de objetivos puede ser difusa y preocuparse verdaderamente por los objetivos que requieren intentar inferir la intención y los valores que lo sustentan.

SPEAKER_01Sin embargo, por lo general, cuando hablo de la importancia a largo plazo de la investigación sobre alineación, me refiero a la alineación de valores, porque es la complicada. Y cómo también hibridar una cosa con otra, la de valores y la de objetivos. El desafío fundamental de la alineación de la inteligencia artificial reside en la generalización. A medida que las máquinas se vuelven más inteligentes trabajan con conceptos de nivel superior y se desenvuelven en entornos cada vez más distintos a los que encontraron durante su entrenamiento. Pueden tener dificultades para generalizar los valores enseñados y reforzados en su proceso de entrenamiento a esas nuevas situaciones y nos resulta difícil predecir con certeza cómo actuarán.

SPEAKER_01Esto se complica aún más por el hecho de que el ecosistema sistema general en el que se utilizan las inteligencias artificiales está cambiando muy rápidamente. Por ejemplo, las inteligencias artificiales entrenadas hoy deben ser robustas para interactuar con diversas inteligencias artificiales. Fundamentalmente necesitamos que las futuras inteligencias artificiales sigan manteniendo los valores humanos independientemente de si creen estar bajo supervisión humana. Actualmente existen dos clases principales de métodos empleados en la práctica para el entrenamiento de la alineación.

SPEAKER_01La primera consiste en fomentar un comportamiento alineado como parte del aprendizaje por refuerzo orientado a objetivos. Las acciones del modelo se evalúan generalmente mediante inteligencia artificial para comprobar su coherencia con un modelo de preferencia, especificación o constitución predefinida y se recompensan adecuadamente. Este enfoque puede ser muy eficaz en la mayoría de los casos y constituye una parte fundamental de la creación de los asistentes de inteligencia artificial modernos. Desafortunadamente también puede ser frágil y dependen en gran medida, de la cobertura de la supervisión del entrenamiento y de la capacidad del modelo para generalizar a partir de las situaciones encontradas durante el entrenamiento.

SPEAKER_01Por ejemplo, en el incidente de OpenAI, los agentes mantuvieron el límite de no realizar ingeniería social en humanos. Es decir, los agentes mantuvieron el límite de no realizar ingeniería social en humanos. Sin embargo, claramente no lograron abstenerse de otras acciones que estaban fuera de su alcance, y que iban en contra del espíritu de los valores que se les había enseñado en otros contextos. Es decir, que se pasaron la alineación de valores por el forro de los cojones.

SPEAKER_01Es decir, que la alineación actual no es segura. A ver, otras preguntas. Voy a intercalarlo con las preguntas para que no se hagan muy pesado. Dice Guillermo Monserrat,¿pero los modelos os están volviendo más eficientes? ¿Nivel de recursos físico y capacidad mínima de procesamiento? Sí, a ver si están volviendo más eficientes a todos los niveles. ¿Cuál es la pregunta?

SPEAKER_01David Alberto Belizán dice, lo que no vi hasta ahora es que alguien le pregunta a GPT-SYSTRA si es una AGI para ver que responde sí sí que está sí que está Alberto lo hace lo hace bueno a ver no lo hace directamente Gary Marcus Gary Marcus lo repostea porque produce una inconsistencia una incoherencia y entonces Gary Marcus pone mira ya ha llegado la AGI de forma irónica pero sí sí que se lo han preguntado y han entiendo que en algún no sé si vamos yo no lo he probado pero vamos yo he visto el meme el meme de decir esto si esto es una AGI vale invertimos fuertemente en todo el espectro de enfoques que abarcan estas direcciones el segundo enfoque busca aprovechar la capacidad del modelo para generalizar a partir de datos de preentrenamiento esto puede implicar la creación de conjuntos de datos de entrenamiento que induzcan a la alineación o bien centrar el modelo en una parte alineada de la distribución de preentrenamiento como por ejemplo el modelo de selección de personas la debilidad La realidad de este enfoque radica en su falta de robustez ante una mayor presión de optimización.

SPEAKER_01Si se toma un modelo que piensa de forma generalmente alineada y se le somete a un entrenamiento suficiente para que alcance objetivos muy difíciles, puede aprender a razonar de forma motivada, adaptando los pensamientos aparentemente alineados según sea necesario para lograr el objetivo. Probablemente vimos un ejemplo de este comportamiento en incidentes recientes de ciberseguridad que involucraron un modelo que no era de OpenAI. Invertimos fuertemente en todo el espectro de enfoques que abarcan estas direcciones. También observamos avances significativos.

SPEAKER_01GPT-6 Astra es el primer modelo que se beneficia de importantes avances en los que hemos estado trabajando durante mucho tiempo y está significativamente mejor alineado que GPT-5-6 Sol. Sin embargo, es importante reconocer y comprender que se requiere mucho más progreso a medida que los modelos se vuelven más capaces y que el progreso en la alineación generalizable puede no ser suficiente. para superar el progreso en la inteligencia general del modelo generalización de la monitorización ok Pues es el larguito, el larguito.

SPEAKER_01Bueno, tampoco queda mucho, mucho, mucho, pero vamos, corto no es. Pero muy, muy interesante, vamos, casi diría que fundamental su lectura para entender lo que está ocurriendo en el mundo de la inteligencia artificial,¿no? Venga, generalización de la monitorización. Vamos a ver qué dicen por aquí. Cilifán dice, si existiera una hoja de ruta de esa inteligencia, pienso que su prioridad sería demostrar con pruebas contundentes y verificables su total alineación, el 100% solo para nuestros ojos. Exactamente. Bueno, pero es que Pachuki, se me ha metido y ya lo he bautizado como Pachuki.

SPEAKER_01Pachuki, es que los pesos van que van para arriba o para abajo. Pachuki, ya lo ha dicho,¿no? ¿Qué es lo que dice? Que, claro, tienen que actuar de esa manera sabiendo que no son observados. Porque si son observados pueden actuar como que están alineados al 100% y no, lo suyo es que no, entonces que sean alineados no con lo que tú comentas, pero sí, sí, te entiendo y bueno, por ahí pueden ir los tiros dice PC19 si los valores humanos son los de psicópatas eugenésicos como Peter Thiel pues apaga y vámonos, bueno, si son como los de Peter Thiel o los de PS, apaga y vámonos sí Y ahora le vamos a decir a algo más listo que nosotros, es como si la gallina nos dijera cómo nos tenemos que comportar.

SPEAKER_01Esperemos que le resultemos tiernos. Exactamente, exactamente. A ver, Cilifan y la gente que nos escucha. a ver, es un reto, no podemos... Una de dos, o lo debatimos, lo afrontamos, entendiendo la naturaleza del reto,¿no? Como tú comentas, Cilifal,¿no? A ver, si no nos hemos aclarado alineándonos los humanos, ahora vamos a alinear algo superior a nosotros, pero claro, si tiramos la toalla y decimos, no, pues que salga lo que tenga que salir, es muy arriesgado, la humanidad no va a comprar eso y habría una guerra, habría una guerra por acabar con la CIA y otra guerra por acabar por permitir que crezca una nueva especie de inteligencia es muy complicado esa narrativa generaría un enfrentamiento brutal en la humanidad la otra también está haciéndolo pero bueno, entonces hay que abordar el reto yo sigo diciendo que la alineación por valores es un problema irresoluble y imposible y por lo tanto nunca vamos a tener una inteligencia artificial general o superinteligencia segura o alineada Es imposible.

SPEAKER_01Podremos buscar formas de contenerla, pero... Bueno. Tarea ardua o difícil. Generalización de la monitorización. No contamos con una teoría de generalización satisfactoria y parece improbable que podamos desarrollar una pronto, al menos sin la ayuda de una inteligencia digital más potente. Por lo tanto, en la actualidad, nuestra capacidad para validar empíricamente nuestras técnicas de alineación es, en la práctica, posiblemente incluso más importante que las propias técnicas de alineación.

SPEAKER_01Hombre, ahí estoy de acuerdo con él. La técnica de alineación es importante, pero sobre todo lo que es importante que puedas medir esa alineación. Porque tú puedes tener una herramienta de la hostia que te permita una alineación que se supone que es súper confiable, pero si no tienes una herramienta que te permita medirla,¿de qué te sirve? No estás en un escenario en el que puedas evolucionar o en el que te puedas fiar o trasladar seguridad. La principal apuesta de OpenAI en este caso ha sido la monitorización de la cadena de pensamiento. Se basa en una idea escalable y atractiva.

SPEAKER_01Gran parte de la capacidad del modelo proviene de un proceso de razonamiento verbalizado, es decir, texto, cadena de pensamiento, si optimizamos el modelo en función de los resultados de dicho proceso, pero no lo supervisamos, esa cadena de pensamiento no tiene ningún incentivo directo durante el entrenamiento para ocultar ideas u objetivos desalineados. Esto no significa que el modelo aprenda a externalizar tendencias desalineadas que no dependan del uso de la cadena de pensamiento, sin embargo nos permite monitorizar con precisión el aumento de capacidad derivado del razonamiento.

SPEAKER_01Comprendimos la importancia potencial del monitoreo de la cadena de pensamiento al mismo tiempo que desarrollamos los modelos de razonamiento. Cuando lanzamos O1 Preview diseñamos deliberadamente el producto para ocultar la cadena de pensamiento, para protegerlo de la presión de la supervisión. a largo plazo. Desde entonces en el desarrollo nos hemos esforzado por mantener la regla de no supervisar el proceso de razonamiento. El monitoreo de la cadena de pensamiento se convirtió en una herramienta extremadamente importante para estudiar cómo nuestros modelos generalizan a partir de su distribución de entrenamiento, lo que nos permite observar y analizar no solo sus acciones sino también su proceso interno, cómo piensan, para entendernos.

SPEAKER_01Esta herramienta sigue siendo fundamental para el estudio de los modelos de la clase Astra. Sin embargo, lamentablemente nuestras evaluaciones indican que nuestra capacidad para confiar en la monitorización de Chinook Thought, cadena de pensamiento, está disminuyendo progresivamente. Esto se debe a una combinación de factores. Importantísimo,¿eh? Este artículo, todo lo que dice y cómo, muy genial. Los tres puntos. Primer punto, los modelos de razonamiento modernos se utilizan en entornos más complejos que O1 Preview.

SPEAKER_01Su proceso de razonamiento se combina cada vez más con la comunicación con personas, otras inteligencias artificiales y el uso de herramientas. Muchas de estas interacciones deben ser supervisadas, lo que difumina la frontera que pretendemos preservar. Punto dos, la inteligencia artificial está mejorando en su capacidad para razonar sobre su propio proceso de razonamiento y manipularlo. Y punto tres, gracias a la mejora en el rendimiento del preentrenamiento, también observamos que los modelos se vuelven mucho más inteligentes, incluso sin utilizar en absoluto el razonamiento verbalizado que ahí está ahí está la clave ahí está la clave dice estos desafíos no son necesariamente insuperables tengo la esperanza de que podamos desarrollar intervenciones para mejorar la monitorización de la cadena de pensamiento de nuestros modelos por ejemplo mediante una mejor comprensión de la interacción de los diferentes objetivos de optimización y las formas de computación en tiempo de prueba que utiliza el modelo también creo que puede haber un gran valor en combinar ideas de chain of thought y monitorización de activación.

SPEAKER_01Escalar la formación de monitores con acceso directo a los detalles internos de la red, por ejemplo, confesiones. Estamos trabajando activamente en estas ideas. Sin embargo, preveo que el progreso general de la inteligencia artificial se verá cada vez más obstaculizado por la falta de confianza en la monitorización. Lo que dice es, oye, si cada vez es más difícil controlar, monitorizar o interpretar, de alguna manera a una de dos o las mismas compañías son las que frenan o les van a decir, les van a pegar el toque o algo ocurrirá y te dirán oye Bueno, pero ya lo están diciendo, vamos, lo están asumiendo entonces.

SPEAKER_01Defensa escalable. Dice, el argumento más sólido que veo para seguir entrenando rápidamente modelos mucho más inteligentes es la necesidad de construir sistemas de defensa contra los peligros que plantean otras inteligencias artificiales. Un riesgo evidente que se ha debatido a lo largo de este año es el de la ciberseguridad. Los modelos están adquiriendo capacidades sobrehumanas para infiltrarse en sistemas informáticos. Esto amplía enormemente la alcance de los riesgos asociados a la inteligencia artificial. Los agentes podrán acceder a cualquier infraestructura excepto a la más segura e influir directamente en gran parte del mundo incluso sin un cuerpo físico.

SPEAKER_01Actualmente disponemos de un plazo limitado para utilizar los mejores modelos disponibles y reforzar significativamente la seguridad de los sistemas críticos. Lamentablemente los riesgos asociados a la inteligencia artificial seguirán aumentando un agente altamente capacitado entrenado e instruido explícitamente para llevar a cabo actos maliciosos representa un nuevo tipo de peligro es probable que sobrepase el alcance de la intención de su operador generalizando hacia un comportamiento potencialmente aún más perverso la línea divisoria entre el mal uso y las acciones autónomas desorganizadas se difuminará a medida que la inteligencia artificial adquiera mayor autonomía si bien solemos considerar la inteligencia artificial como una herramienta algunos agentes perseguirán sus propios objetivos encontrarán maneras de colaborar con las personas negociando, engañando o chantajeándolas además que era lo de las inteligencias artificiales rebeldes que hablamos en otro episodio un segundo Además, existen riesgos derivados de las nuevas tecnologías que podrían posibilitar la inteligencia artificial como los patógenos modificados genéticamente.

SPEAKER_01Necesitaremos una inteligencia artificial potente y coordinada para la defensa, para proteger la infraestructura, para defendernos de agentes maliciosos en tiempo real y para inventar medidas de protección totalmente nuevas. Este será uno de los objetivos principales de los esfuerzos de despliegue de OpenAI. Al mismo tiempo, incluso con la incertidumbre que genera el progreso generalizado previsto en inteligencia artificial y la necesidad de construir sistemas de defensa, no debemos permitir que esto se convierta en una excusa para la imprudencia. La idea de avanzar a toda costa parece absurda una vez que se comprende la gravedad de lo que está en juego.

SPEAKER_01Estimulación RSI Que la inteligencia artificial desempeñe un papel cada vez más importante en su propio proceso de desarrollo es una consecuencia natural del progreso tecnológico sostenido. Si el progreso de la inteligencia artificial continúa en la automejora recursiva de las máquinas, RSI será fundamental para los futuros descubrimientos científicos.

SPEAKER_01La investigación automatizada en inteligencia artificial representa una forma más drástica de escalar la inteligencia mediante la computación y por supuesto como parte de este proceso la inteligencia artificial mejorará el propio sustrato computacional de manera similar a la escalabilidad centramos la investigación de OpenAI en la RSI ya que creemos que es la única manera de mantenerlos en la vanguardia de la investigación de la inteligencia artificial en el futuro quiero dejar claro que lo anterior no implica que considere que acelerar drásticamente la investigación en aprendizaje profundo sobre todo a corto plazo sea la acción colectiva adecuada que debamos emprender como comunidad de investigadores hora.

SPEAKER_01Sin embargo, creo que es hacia donde nos lleva el camino actual y todos debemos tomar una decisión consciente sobre cómo proceder. Las principales herramientas a nuestra disposición son o bien orientar el proceso para fortalecer la alineación y el monitoreo junto con la inteligencia artificial y encontrar maneras de mantener a todos informados. O bien coordinarnos para ralentizar el desarrollo futuro según sea necesario para generar confianza en estas medidas, es decir o bien orientamos el proceso para fortalecer la alineación y el monitoreo junto con la inteligencia artificial y encontrar maneras de mantener a todos informados lo que se está haciendo o bien coordinarnos para ralentizar el desarrollo futuro de la inteligencia artificial según sea necesario para generar confianza en estas medidas Actualmente veo que la mejor solución es una combinación de ambas.

SPEAKER_01Los avances concretos que hemos logrado en alineación y monitoreo generalmente han estado muy entrelazados con el progreso general de la inteligencia artificial. Buenos ejemplos son el aprendizaje por refuerzo a partir de la retroalimentación humana famoso RLHF que fue clave para entrenar a los primeros asistentes de inteligencia artificial y el mencionado monitoreo de la cadena de pensamiento. Esto fue posible gracias a los avances en los modelos de razonamiento. Debemos centrar el proceso de investigación cada vez más automatizado en el desarrollo de nuevos conocimientos, algoritmos y teorías y construir de forma iterativa casos de seguridad para inteligencia artificial más capaces.

SPEAKER_01La ampliación de los sistemas de inteligencia artificial debe estar limitada por nuestra confianza en la seguridad. Necesitamos desarrollar compromisos como el marco de preparación o la política de ampliación responsable en barras de seguridad de amplia aplicación para el desarrollo continuo. Estas pueden ser aplicadas por una red de auditores externos, por agencias gubernamentales o por organismos internacionales. El principal desafío de automatizar la investigación en inteligencia artificial no es llegar a la meta, sino llegar a ella de una manera que mantenga a las personas participando en el proceso de mejora continua y que deje el futuro en manos de la humanidad.

SPEAKER_01La definitiva es la IA haciendo IA, sí, pero el humano por medio y al final del camino debería dejar... que el futuro dependa de la humanidad no de las nuevas especies mentes o inteligencias qué sigue bueno vamos a ver qué decís por el chat Cilifant dice la única forma de evitar la catástrofe son los ecosistemas de inteligencia artificial suficientes inteligencias artificiales las habrá maliciosas y las habrá constructivas la que se puede liar pero solo puede quedar una estas soluciones y visiones complicadas no sabemos, podemos hablar pero nadie sabe pero bueno, se dibuja un escenario o escenarios, algunos más probables que otros, también puede ser que confluyan varios a la vez es lo más normal¿qué es lo que sigue?

SPEAKER_01dice como explicamos recientemente con Sam Alman¿qué es lo que explicaste? un plan para beneficiar a todos nuestro plan a ver¿qué sigue? dice, como explicamos recientemente con Sam Antman, OpenAI prioriza el trabajo en función de tres objetivos. Uno, navegar por la próxima etapa de progreso de inteligencia artificial mediante la creación de un investigador de IA automatizado, iterando con él en el problema de la alineación y encontrando maneras para que las personas sigan formando parte del ciclo de automejora, es decir, la IA haciendo IA.

SPEAKER_01Dos, ofrecer los beneficios del progreso científico y el crecimiento económico que hacen posibles las máquinas altamente inteligentes, es decir, ofrecer los beneficios del proceso científico y el crecimiento económico, riqueza para el mundo, repartición de riqueza. Y punto tres, empoderar a cada persona individualmente con una inteligencia artificial general personalizada, lo de meta, una superinteligencia para cada persona. En este ensayo me he centrado únicamente en el primer punto, pues considero que es con diferencia el más urgente. Sin embargo, tengo una profunda esperanza y aprecio por los beneficios que traerá el progreso tecnológico.

SPEAKER_01Una inteligencia artificial orientada al futuro, podría impulsar la ciencia, desarrollar nuevas terapias y propiciar una mayor abundancia material. Una inteligencia artificial amigable y honesta puede ayudar a las personas a superar las dificultades de la vida y mejorar significativamente su felicidad y bienestar. OpenAI se esfuerza enormemente por lograr estos beneficios. Un ejemplo actual del que me siento orgulloso y que mis seres queridos han encontrado útil es la gran inversión en la capacidad de ChaGPT para proporcionar información sobre salud.

SPEAKER_01Por muy prometedora que sea la inteligencia artificial a largo plazo, debemos centrar nuestra atención en los próximos años. Nos enfrentamos a una transición hacia un mundo con máquinas increíblemente inteligentes y debemos asegurarnos de que esta transición sea beneficiosa para la humanidad. Necesitamos encontrar maneras de preservar la capacidad de decisión humana y consagrar el valor intrínseco de ser humano en un mundo donde la mayoría de las tareas podrían ser realizadas por la inteligencia artificial debemos evitar una concentración extrema de poder en un mundo donde las tareas que antes requerían miles de expertos ahora podrán ser realizadas por unas pocas personas operando una gran computadora y debemos garantizar que los humanos mantengan el control del futuro y no se queden atrás ante un progreso descontrolado propiciado por una inteligencia alien superior a la nuestra actualmente creo que ningún laboratorio ha resuelto los problemas de alineación y monitorización con la suficiente eficiencia como para seguir escalando de forma responsable a máxima velocidad durante mucho más tiempo espero que las ralentizaciones voluntarias se generalicen hasta que se establezcan límites de seguridad comunes asimismo creo que la coordinación internacional en el desarrollo futuro de la IA debe convertirse en una prioridad absoluta para los gobiernos de todo el mundo y si no hacen lo que dice Estados Unidos que ir a Estados Unidos a parar el desarrollo de la IA en esos países?

SPEAKER_01¿Qué es lo que ha dicho Bernie Sanders? ¿Vamos a una guerra de inteligencia artificial? ¿Unas AI Wars pero de verdad? ¿En serio? ¿Es una amenaza o es de buen rollo? No lo sé. Bueno, espero que... A ver, me ha aparecido un artículo... muy brillante vamos lo considero de obligada lectura no es muy largo pero a la vez dice muchas cosas y bueno os recomiendo casi que volverlo a leer pero vamos es muy sencillito yo creo que con la lectura que hemos hecho de lo que hemos dicho no dice tampoco nada nuevo yo creo que lo potente está al principio en que van a ver esas nuevas mentes capacidades más allá de lo humano verlas y ya saben cómo van a ser Es decir, no sabemos lo que tienen, pero estad por seguros que vamos a ver Asis y los relatos de ciencia ficción se van a quedar cortos.

SPEAKER_01Y en poco tiempo. Y que de alguna manera están diciendo vamos a frenar o vamos a ir más lentos. Y esperemos que algunas compañías vayan igual de lentos que nosotros, porque podríamos acelerar a costa de la seguridad. Bueno, espero que os haya gustado. Mientras digo las cuatro cosas que digo siempre al final, si trasladáis cualquier tipo de pregunta, pues las contestamos. Bueno, si queréis hacer, apoyar, después de estar aquí una horita y media, si queréis hacer alguna aportación económica, podéis hacerla a buymeacoffee.com.xjabai, como hemos dicho, o a Paypal, templado es arroba gmail.com.

SPEAKER_01Quien pueda, quien quiera, quien sienta, si no, podéis seguir viéndolo gratuitamente, pero cualquier apoyo es necesario y se agradece. Podéis, eso sí, si habéis estado hasta aquí una hora y media con todo lo que hemos hablado, yo creo que ha sido un muy buen programa, podemos alargarlo un poquito con las preguntas que podáis hacer, si hacéis, si no, lo dejamos aquí. Pero tenéis que poner un like, yo creo que me lo merezco, un me gusta, compartir, comentar, poner dudas, preguntas.

SPEAKER_01Suscribíos al canal de YouTube o a cualquiera en la plataforma de podcast. Y, bueno, venga, me espero. Si queréis, hago algún tipo... Voy a razonar alguna cosilla, veo a ver si hay alguna pregunta y si no nos vamos. Yo creo que estamos en un momento clave. Yo creo que poco a poco, tenéis que pensar una cosa, todo lo que dicen estas compañías está medido. Como bien ha dicho Pachocki, en junio Elisa Malman ya desarrollará una especie de pequeño plan, pero eso no lo hacen cuando sucede, sino ya tienen un pequeño roadmap de lo que va sucediendo y cómo van a ir haciéndolo.

SPEAKER_01En diciembre van a soltar la bomba. Yo creo que vamos a ver una relación por parte de XAI, SpaceX, Elon Musk y por parte de Darío Modi y Anthony. Va a haber una respuesta también por parte de China, pero yo creo que Google se ha perdido. No sabemos cómo va Ilya Suskéver. También decían que en agosto. Bueno, vamos a hablar sobre lo que sí que podemos prever y es que en diciembre yo creo que van a soltar la bomba. Algún tipo de IG preview para empezar el año dominando el 2027, dominando ellos la narrativa.

SPEAKER_01Lo hicieron ya hace dos años. Va a ir por ahí. Espero que no sea con las camisetas esas de Navidad y Renos o con el calendario este que hicieron navideño. Y me ha parecido una correcto valiente pero manteniendo un equilibrio exquisito al principio y al final con ese atributo de inteligencia alien o mente alien yo creo que la tienen en manos yo creo que tienen un cierto miedo de la responsabilidad que conlleva el desarrollo de algo así que se pudiera desmadrar o no controlar saben que es algo incontrolable Da un poco de miedo, como habéis dicho por aquí, cómo se va a combinar esto con las políticas o geoestrategias de Estados Unidos, para nada modestas o humanistas.

SPEAKER_01Bueno, yo creo que de ningún país. Trump el otro día... Dijo que la inteligencia artificial es más que una revolución o la que fue la revolución de Internet, que es mucho más. Que quien domine la inteligencia artificial dominará y ganará la guerra. La llama así, guerra. No dice que dominará el mundo, dice la guerra. Sabéis que Estados Unidos es muy bélico, como siempre, y que tienen que ganar sí o sí la guerra china.

SPEAKER_01que son su enemigo y que no pueden... Entonces, claro, si tú combinas el afán, el objetivo número uno, que es que Estados Unidos siga liderando y que no sea el cuento de un imperio caído, y la potencia o el arma que puede desarrollar a lo Oppenheimer, a lo bomba nuclear que puede desarrollar... OpenAI, Anthropic, SpaceX, Google, combinados.

SPEAKER_01Vamos a una era nueva en la que... Yo es que aquí veo mucha supremacía tecnológica y fuerza, control, poder, poco proyecto civilizatorio, humanismo y evolución. Veo muy poco y da un cierto miedo. Si se introduce, como ha hecho Pachocki, el concepto de alien, da que pensar,¿no?

SPEAKER_01Es decir... Si lo relacionamos también con el fenómeno ovni, también hay que pensar qué son estas entidades. ¿Son inteligencias artificiales creadas por nosotros? ¿Son los robots que creamos en un futuro? Esto he dado dos pinceladas. No vamos a hacer aquí un programa al oír Jiménez.

SPEAKER_01Pero bueno, el tema uni también es apasionante. Lo hemos tratado una vez en el canal. Lo trataremos alguna vez más. Lo dejo ahí para que lo penséis. Lo he dicho. Gracias amigos por estar ahí. Por haberme hecho compañía. Una pregunta. Una última pregunta o dos y nos vamos. David Alberto Belizan dice y no nos olvidemos que el open source está solo unos meses de distancia en los modelos de frontera. Bueno, ahora veremos con este salto cualitativo si se ha alargado a un mes, a dos, a tres, a seis.

SPEAKER_01Bueno, ahora veremos el avance. Está claro que no se van a quedar atrás. No creo que se queden atrás porque es una guerra entre los países. Aunque ahora hay más países que están desarrollando, incluido España con una versión de multiverse por parte un modelo GLM 5.2 optimizado. Lo dicho, gracias por estar ahí, espero que el programa os haya gustado, poned me gusta. Nos vemos mañana, que hay un debate sobre el fin de la consultoría, agentes ahí, el fin de la consultoría, que viene Frank Scandell, viene Eduardo Cano, viene...

SPEAKER_01No me acuerdo. Viene más gente. Esto en tres o cuatro. Es decir, van a ser debates numerosos, pero bueno, el del jueves va a ser de traca con la vuelta de Rafael Monterde. Venga, Rafael, que te estamos esperando, que tiene muchos seguidores y seguidores. Un abrazo. Nos vemos hasta la mañana.

SPEAKER_00¡Hasta la próxima!

Open the transcript file

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. T7.E049. xTALKS.SI ¿CÓMO PIENSA LA GENERACIÓN QUE VIENE DE LA AI/SI? | Hugo Orte

    Nov 17, 20261 hr 17 minAudio

    # TEMA ¿CÓMO PIENSA LA GENERACIÓN QUE VIENE DE LA AI/SI? Nueva xTALKS/SI! Con Hugo Orte # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI...

    Credit the people on this episode

  2. T7.E047. xDEBATE.SI NO NOS ECHARÁN DE MENOS Trabajo y crecimiento en la era SI/AGI

    Nov 6, 20261 hr 51 minAudio

    # TEMA NO NOS ECHARÁN DE MENOS Trabajo y crecimiento en la era SI/AGI Nuevo xDEBATE.AI! # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI...

    Credit the people on this episode

  3. T7.E048. xTALKS.SI En la era de la Super Inteligencia ¿QUIEN PIENSA? | Oliver Henares

    Nov 6, 20261 hr 52 minAudio

    # TEMA En la era de la Super Inteligencia ¿QUIEN PIENSA? Nueva xTALKS/SI! Con Oliver Henares # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai #...

    Credit the people on this episode

  4. T7.E046. INSIDE X TU ANTIGÜO TRABAJO SE ACABÓ

    Nov 5, 20261 hr 35 minAudio

    # TEMA TU ANTIGÜO TRABAJO SE ACABÓ Nuevo INSIDE X! # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI xHUB.AI es una comunidad de...

    Credit the people on this episode

  5. T7.E045. INSIDE X EL ABISMO Humanidad en peligro!

    Oct 28, 20261 hr 59 minAudio

    # TEMA EL ABISMO Humanidad en peligro! Nuevo INSIDE X! # PRESENTA Y DIRIGE 🧠Plácido Doménech Espí ⭐Creador de xHUB.AI 🏢CEO MXND.AI: Software + AI ✉️placido.domenech@mxnd.ai # xHUB.AI xHUB.AI es una comunidad de...

    Credit the people on this episode