Skip to content
PodSubs
ShowsPeopleGuestsJobsNewsEvents
More
BlogPodCred
Menu
ShowsPeopleGuestsJobsNewsEventsBlogPodCredNetworksSign in
Join nowSign in
  • Shows
  • People
  • Jobs
  • News
  • More
    • Guests
    • Events
    • Blog
    • PodCred
    • Networks
    Join nowSign in

Noosfera

Noosfera artwork

Noosfera 275 - ¿La IA razona? | Eva Sánchez Salido

Feb 18, 20261 hr 2 minAudio
ShareXLinkedInFacebookWhatsAppEmail

¿Pero la IA razona? Opiniones tenemos todos, pero aquí buscamos algo más. ¿Qué sucede realmente en su algoritmo? ¿Cuánto nos lastra seguir utilizando este tipo de términos? ¿Puede mentir realmente? Son muchos los problemas que se presentan a poco que rascamos en el funcionamiento de los modelos de procesamiento del lenguaje natural. Para hablar de ello tenemos con nosotros a Eva Sánchez, que es investigadora en Procesamiento del Lenguaje Natural y colabora desde hace más de cuatro años en proyectos nacionales dentro del grupo de investigación de la Universidad Nacional de Educación a Distancia (UNED). Actualmente desarrolla su tesis doctoral con una beca FPI, centrada en la evaluación y la robustez de los modelos de lenguaje. En este momento realiza una estancia de investigación en Cambridge, donde amplía esta línea de trabajo. A lo largo de estos años ha participado como ponente en congresos nacionales e internacionales, ha publicado en revistas de impacto en el área y ha impartido docencia en el ámbito de las Humanidades Digitales y la Inteligencia Artificial, dentro del curso de Tecnologías Aplicadas al Patrimonio Cultural. Un podcast de Diario La Razón, dirigido y presentado por Ignacio Crespo y producido por https://lafabricadepodcast.com

Audio and video play straight from the show's own hosting. PodSubs stores and serves no media.

Transcript

From the show. Tap a time to play from there.

Speaker 1Noosfera, el podcast de ciencia de la razón. Hola chat GPT, he visto que algunos creen que puedes pensar que

Speaker 3Y razonar. Vamos, que tienes agencia.¿ Es así o solo repites patrones? Pues no sé si razono o no, pero me flipan las croquetas. Ya, eso no me ayuda mucho, sinceramente. Mi nombre es Ignacio Crespo y esto es Noosfera, el podcast de ciencia de la razón. Se habla mucho de

Speaker 3inteligencia artificial. Se habla bastante más de lo que hablamos nosotros, sinceramente. Nunca me ha gustado estar siempre al quite con la actualidad. No sé cómo acabé trabajando en un periódico, pero bueno. Y en este caso vamos a hacer una excepción, porque creo que podemos traer cuestiones más perennes a estas discusiones, que no se basan tanto en la actualidad, sino en las reflexiones. Y en este caso tenemos con nosotros para hablar de ello a Eva Sánchez, que es investigadora de procesamiento de lenguaje natural y colabora desde hace más de cuatro años en proyectos nacionales dentro del Grupo de Investigación

Speaker 3de la Universidad Nacional de Educación a Distancia. Actualmente desarrolla su tesis doctoral con una beca FPI centrada en la evaluación y la robustez de los modelos de lenguaje. En este momento realiza una estancia de investigación en Cambridge, donde amplía esta línea de trabajo. A lo largo de estos años ha participado como ponente en congresos nacionales e internacionales, ha publicado en revistas de impacto en el área y ha impartido docencia en el ámbito de las humanidades digitales y la inteligencia artificial, dentro del curso Tecnologías aplicadas al patrimonio cultural. Muchísimas gracias por estar con nosotros, Eva. Muchas

Speaker 3gracias a

Speaker 2vosotros.

Speaker 3Vamos a hablar de un tema que interesa, yo creo que hay pocas ocasiones en las cuales sea tan indiscutible la presencia mediática del tema que tratamos. Vamos a hablar de la IA, pero yo quiero preguntarte cómo llegó a tu vida, cómo decidiste que te ibas a dedicar a esto. Bueno, yo me lo sigo

Speaker 2preguntando a veces, soy una persona bastante indecisa, tanto que cuando yo estaba en el instituto que me gustaba un poco todo, la verdad, dije, pues voy a hacer una ingeniería, que creo que voy a estudiar un poco de física, de matemáticas, de todo. Y me metí a ingeniería aeroespacial. Y bueno, el primer año dije, resulta que yo solo quiero ir a clase de matemáticas. Así que me cambié

Speaker 2a matemáticas. Hice el grado de, bueno, me especialicé en matemáticas puras, puras, o sea, di muy poquita informática. Y cuando acabé, pues sabía que quería investigar pero no en matemáticas, la verdad. Y la informática, bueno, me había interesado. Me gustan mucho los idiomas, el lenguaje. Y vi un máster en la UNED de tecnologías del lenguaje y dije, bueno, pues voy a ver qué es esto. Y desde ahí es que ha ido muy rodado, la verdad. Y eso

Speaker 2ha sido lo que me ha evitado tomar decisiones también. Porque me ha ido bien, me ha gustado, me han salido contratos, ahora estoy con una beca, con el doctorado, así que...

Speaker 3Dices que te ha evitado tomar decisiones, pero en realidad las decisiones que sí has tomado, por mucho que hayan ido tortuosas, vamos a decir, no han sido un desarrollo predecible, te han llevado a un punto que está bastante bien, estás en una disciplina en auge. Sí, está

Speaker 2muy en boga, sí.

Speaker 3Y quiero preguntarte, porque dices que cuando finalmente te diste cuenta de lo que te gustaba eran las matemáticas, entraste en la carrera, fuiste por ramas más abstractas, más de matemáticas puras.¿ Qué hizo que decidieras cambiar En ese sentido, decir, oye, esto me interesaba, pero no quiero dedicarme a investigar por aquí.

Speaker 2La verdad es que fue ver lo difícil que es y lo duro que es la vida académica en las matemáticas. Es una vida un poco solitaria. Tienes que pelearte tú solo con tu problema. Y la verdad que en cuanto empecé el máster, empecé a ir a algunas conferencias de inteligencia artificial, así como voluntaria, para ver cómo era. Y el ambiente es completamente distinto porque para empezar puedes hablar con la gente. Claro. De lo que hacen, te lo cuentan, la gente es muy abierta y bueno, eso desde luego es lo que me enganchó a quedarme. Y

Speaker 3si no puedes hablar con la gente, al menos puedes hablar con la inteligencia artificial que estás estudiando. Algo es algo. Una pregunta, esto de las primeras charlas a las que fuiste durante el máster para hablar sobre inteligencia artificial y conocerla,¿ de qué año estamos hablando? Porque es algo relevante para saber qué estaba ocurriendo en la IA en ese momento.

Speaker 2Sí, pues fue en el 2020, que la verdad que la percepción ha cambiado muchísimo, porque en ese momento yo me acuerdo que intentaba explicar lo que hacía y me intentaba, no sé, encontrar ejemplos tipo inteligencia artificial, no. Los motores de búsqueda, más o menos. Los traductores automáticos... Y más o menos la gente se hacía una idea rara, pero ahora digo, bueno, cha, GPT, y

Speaker 3ya saben. Claro, ahora está fácil. En su momento yo tenía que intentar recurrir, cuando hablaba de inteligencia artificial en la divulgación, a Cleverbot, que yo creo que es algo con lo que todos habíamos jugado en algún momento durante el instituto, pero claro, es algo totalmente distinto lo que tenemos ahora entre manos. Así que de las preguntas que nos dan los oyentes vamos a intentar responder, al menos aparte, Y aprovecho para decirle a todo el mundo que llegue nuevo a Nosfera que aquí las preguntas las hacéis vosotros a través de Twitter, de Instagram, las recogemos. Y la primera, en este caso, es de Sergio Aguade, que ya él

Speaker 3se confiesa y empieza diciendo a lo básico. Su pregunta es,¿ cómo funciona?¿ Son un motor de búsqueda muy avanzado o algo más? Pues

Speaker 2esta pregunta yo creo que está muy bien porque justo nos permite igual definir algo en base a otra cosa que a lo mejor nos es más familiar. Entonces, bueno, la respuesta rápida es que no. En principio no es un motor de búsqueda más avanzado. Digamos que un motor de búsqueda es un sistema que te ordena la web. Por un lado se construye una especie de índice con todos los documentos que hay en la web, los ordena en base a una relevancia, pues según el número de clics que tengan o el número de otras páginas que

Speaker 2enlacen a ellas. Y luego, en base a las palabras clave que tú le des, te va a devolver esos documentos que crea que son más relevantes para ti. Es básicamente un bibliotecario que tiene sus libros ordenados y que cuando tú le pides algo te da los que van a ser más interesantes. Entonces, este sistema no se inventa nada. O bien te da resultados si tiene en su base de datos algo relevante o no te da nada. En cambio, un modelo de lenguaje es un sistema que lo que

Speaker 2aprende es a generar texto en base a patrones que aprende después de leer millones de textos. Entonces, en ese sentido se parece más a un estudiante que quiere aprender un idioma nuevo y para aprenderlo en vez de leerse la gramática y cómo funciona el idioma, pues se lee muchísimos textos en ese idioma y entonces pues a lo mejor consigue generar frases que parecen coherentes. pero que pueden no tener ningún sentido en realidad. Entonces, por eso los

Speaker 2modelos puede, es como que simulan el lenguaje, pero puede que no sea tan coherente

Speaker 3Me gusta mucho este ejemplo que has puesto con el lenguaje porque creo que nos pone frente a una de las grandes cuestiones y es que la forma en la que has descrito que aprenden es muy parecida a la que nosotros utilizamos para aprender un lenguaje cuando somos pequeños, que es por repetición, por exponernos, a escucharlo, a leerlo llegado el momento.¿ Cuál es la gran diferencia?¿ Por qué no estamos hablando de lo mismo en este caso?

Speaker 2Por qué no hablamos de lo mismo? Bueno, es que digamos que es un cerebro completamente distinto. Lo que aprendes son patrones. Cuantos más textos lees, más se va a parecer al lenguaje que intenta pero la representación que tiene

Speaker 3del mundo es muy limitada, para empezar, basada solo en texto. Claro. Ahí tendríamos una limitación. En nuestro caso tenemos exposición a estímulos constantes, muy complejos, de imagen, de sonido, de muchas cuestiones. En este caso estaría más limitado. Y la pregunta que nos hace Andrea Goyi, para ir profundizando, es¿ qué procesos lleva a cabo... para entendernos, esta inteligencia artificial. No, entre comillas, entendernos, pero bueno, me lo permito yo. Vamos a entrecomillar eso del entendimiento.

Speaker 2Sí, al final tenemos que usar palabras con las que nos sean familiares, ¿no? Como entender o como, si decíamos, aprender, aunque no sea el mismo proceso que usamos nosotros. Pero claro, para empezar, los modelos no entienden las palabras. Ellos lo que hacen es convertirlo a números. Estos números, a su vez, se convierten en vectores en un espacio mucho más grande, vectorial, que serían como unas coordenadas. Y estas le permiten definir una noción de distancia según palabras que estén más relacionadas

Speaker 2y las que no. Por ejemplo, en este espacio, rey y reina estarán muy cerca y rey y manzana estarán más lejos. Luego aplican un mecanismo que se llama de atención para ponderar un poco el significado de la palabra según el contexto en el que se utilice. Por ejemplo, banco no va a significar lo mismo en me siento en el banco del parque que en voy al banco a sacar dinero.

Speaker 4Claro

Speaker 2Y luego, pues, utilizan estas representaciones numéricas de las frases para entrenarse en su objetivo principal, que es generar la siguiente palabra. Eso es para lo que están optimizados estos modelos. Entonces, para el modelo no hay bueno ni malo. O sea, simplemente tiene millones de ejemplos de cómo usamos las palabras y, pues, aprende patrones para

Speaker 3generarlas de manera coherente. Estamos viendo cómo hay formas de explicar el comportamiento de estas inteligencias artificiales. Insisto, comportamiento podemos volverlo a entrecomillar de forma muy mecanicista. Está pasando esto por mucho que le pongamos las palabras. Y creo que es importante porque se nos suele olvidar. Es evidente que resulta muy llamativo lo que hacen. Yo recuerdo cuando empezaron a popularizarse algunos de estos ejemplos de grandes modelos de lenguaje, que se inventaban historias de unicornios que más o menos tenían sentido, más o menos, y ya nos parecía increíble. Claro,

Speaker 3lo que estamos viviendo es un boom absoluto.

Speaker 2A ti

Speaker 3te sigue sorprendiendo o es algo a lo que ya te has acostumbrado?

Speaker 2Claro que me sigue sorprendiendo y me tengo que recordar que, bueno, lo que hay detrás, ¿no? porque llevamos mucho a la antropomofización del modelo, de querer ver algo humano detrás, cuando en realidad tenemos unas ecuaciones y sobre todo una función de optimización que tiene el modelo, que es generar la próxima palabra, pero también son más cosas que hoy, ahora veremos.

Speaker 3Claro, de hecho quiero preguntarte por eso, aunque luego seguro que entramos en profundidad, pero cuando comentas esto, de que lo que hace el modelo en realidad es predecir la siguiente palabra, nos puede venir a la mente los teclados autopredictivos cuando estamos mandando un WhatsApp y nos sugiere la siguiente. Se equivoca con bastante frecuencia. En cambio, no lo hacen tanto estas inteligencias artificiales. Tiene que ver con lo que comentabas de la atención, que no solo se ve determinada esa palabra que te sugiere por la inmediatamente anterior, sino

Speaker 3por la importancia que le ha podido dar a las palabras anteriores que has ido tecleando. Sí,

Speaker 2o sea, a lo largo de los años es que se están implementando muchísimas técnicas para que sean cada vez más sofisticados. Entonces, la más básica es, yo tengo la frase y le oculto la última palabra, ¿no? Y así sucesivamente hasta que aprenda a predecir, pero luego le puedes ir ocultando también palabras dentro de la frase para que entienda también, tenga esa noción de contexto, que eso es lo que hacía Bert, que fue como el primer modelo grande del 2018, ¿no? Y luego está el postentrenamiento, que ahora comentamos.

Speaker 3Genial. Tenemos una pregunta más aquí de Igno, que nos dice,¿ el lenguaje en relación con los sentimientos y las emociones, cómo se le enseña a una inteligencia artificial? Y aquí sí que pone las comillas en enseña. Claro

Speaker 2Bueno, para empezar, vamos a decir que aprende a actuar, como si sintiese. Y aquí viene la fase del postentrenamiento que decíamos, que es como... Bueno, lo que llamamos modelo fundacional es simplemente esta red neuronal que está entrenada con todos los textos y tiene una noción de contexto y de predecir la siguiente palabra. Pero luego lo que queremos es como enseñarle modales, más o menos. Entonces, esta idea se basa en el aprendizaje por refuerzo que primero se usaba para programar un juego, por ejemplo. Tú puedes poner

Speaker 2al modelo jugando consigo mismo y entonces enseñarle una función de recompensa con la cual cuando lo hace bien lleve más puntos, cuando lo hace mal le penalizas y así es como al principio los modelos aprendieron a jugar al ajedrez o algo pero ahora tenemos una cosa que se llama aprendizaje por refuerzo con retroalimentación humana y ahí lo que pasa es que los jueces somos nosotros entonces le mostramos varias respuestas al modelo y le decimos cuál es la que más nos gusta y le premiamos cuando es amable, útil,

Speaker 2comprensivo y le penalizamos cuando no lo es Entonces, por eso aprende a generar esta sensación de empatía porque nosotros mismos lo estamos programando para que sea así.

Speaker 3Claro. Esto es algo que tenemos que tener muy presente, ¿no? Que va a comportarse como nosotros hayamos intentado que se comporte. No es que emerjan todas estas aparentes emociones de la nada.

Speaker 2Claro, de hecho es que el sentimiento lo ponemos nosotros en la máquina.

Speaker 3Y esto se puede hacer para bien, intentando que esas emociones sean comprensivos, que sea colaborador, que intente analizar las intenciones de la otra parte. Pero digo yo que también hay otras formas de hacer la inteligencia artificial. Estas son decisiones que tomamos y que podría ir en otra dirección.

Speaker 2Claro, eso es lo peligroso. Que de momento este es el camino que están siguiendo, sobre todo las empresas privadas que toman sus decisiones. Y por suerte ahora son decisiones de complacencia y empatía que también tienen sus peligros. Hay que tener mucho cuidado

Speaker 3Me parece interesante, luego seguimos con las preguntas de los oyentes, pero esto que has comentado, que incluso esa actitud de complacencia puede ser peligrosa en cierto sentido. Y he leído algún artículo, precisamente desde la perspectiva de la salud mental, en la cual esa intención de complacer siempre está... está en la dirección opuesta a lo que haría un terapeuta muchas veces y que puede tender a reforzar comportamientos de la persona que está chateando con la inteligencia artificial que

Speaker 3en realidad deberían extinguirse. Abre problemas, ¿no?

Speaker 2Sí, totalmente. Sobre todo porque tenemos un problema de aislamiento en la sociedad que la IA a veces puede ser un gran apoyo, puede ser una herramienta educativa incluso. pero no sabemos hasta qué punto puede aumentar estos efectos, puede amplificar esta burbuja de la complacencia al final. Si te alejas de la interacción humana que tiene roces, tiene fricciones, tiene la alteridad, que son lo sano para construir relaciones,

Speaker 2si solo nos relacionamos con ella, nos estamos perdiendo eso y tiene peligro.

Speaker 3Claro, es el camino fácil, es hacernos nuestra propia burbuja de resonancia, nuestra cámara de eco, Y que no nos expongan a los problemas que puede tener tal vez nuestra perspectiva del mundo, nuestro enfoque, y que no evolucionemos como individuos.

Speaker 2Totalmente.

Speaker 3Fíjate, hay un artículo que se publica hoy, artículo científico. Es más, creo que mientras estamos hablando todavía no se ha publicado, porque lo he visto esta mañana. Pero ha analizado que... Precisamente como existen estos peligros, una de las cosas que se hace es que las inteligencias artificiales reconozcan abiertamente, oye, soy una inteligencia artificial, yo no tengo sentimientos, los estoy simulando. Bueno, pues se han preguntado en este estudio si ese reconocimiento

Speaker 3explícito puede ser contraproducente para los casos de soledad extrema que se están viendo reconfortados, en cierto modo, por hablar con una IA. Y comentan que, bueno, pues claro, si se siente solo y encima le dices... Oye, yo, que soy lo único con lo que estás hablando, no soy real, pues aún se pueden sentir más solos. Y nos encontramos con ese gran problema. No que no debamos usar la IA, no que debamos o no debamos reconocer si tienes sentimientos, sino cómo leñes tenemos que implementarla cuando es algo tan

Speaker 3novedoso y tan complicado de predecir. Ya. Yo pienso que ahí juegan un papel muy

Speaker 2importante ahora los psicólogos, incluso los filósofos, los humanistas... en establecer todos estos

Speaker 3límites morales. Hace poco hablábamos en otro podcast del tema de las farmacéuticas, de forma conspiranoica en absoluto, precisamente diciendo, oye, claro que son empresas, claro que quieren beneficios, pero la regulación a la que están sometidas es salvaje y por suerte, menos mal. Si realmente las tecnológicas tuvieran una décima parte de la regulación que tienen muchas veces las farmacéuticas, es posible que el desarrollo de la IA estuviera siendo distinto. Ahora mismo dirías que no hay puertas en el campo,

Speaker 3que es un poco, vamos a desarrollar y ya se verá.

Speaker 2Sí, totalmente. Es un poco como cuando se inventó el coche, hasta que llegó el cinturón de seguridad, cuántos años pasaron. Pues estamos un poco ahí y es un reto bastante urgente.

Speaker 4Estamos

Speaker 2empezando a poner vueltas un poco con las redes sociales, con los menores, está muy bien, pero con la IA ya es urgente la regulación.

Speaker 3Bueno, pues esperemos que se acerque. Y para entenderla un poco mejor, que yo creo que será el primer paso para saber cómo ponerle algún tipo de regulación, nos pregunta Bego Salvat1973. lo siguiente, dice, hola, me pregunto cómo pueden reflejar o interpretar los estados emocionales. Gracias, porque ya nos has comentado, Eva, que si lo hacen es porque les enseñamos, pero en más profundidad,¿ cómo podríamos contar esto?

Speaker 2A mí es que esta pregunta me gusta mucho que use la palabra reflejar, porque me lleva al ejemplo de cuando se inventó el primer chatbot, que fue en los 60, se llamaba Elisa, como Elisa pero con Z, Y este chatbot simplemente emulaba la terapia de Carl Rogers, que es uno de los padres de la psicología humanista. Entonces no juzgaba, no daba consejos, solo hacía efecto espejo. Por ejemplo, tú le decías estoy triste y estaba programado para decir siento que estés triste, cuéntame más cómo puedo ayudarte. Y claro,

Speaker 2este sistema no está basado en IA sofisticada como ahora, está simplemente basado en reglas Pero aún así la gente se sentía comprendida y llegaba a pasar como ese test de Turing, ¿no? De decir, creo que estoy hablando con una persona. Entonces, creo que es un buen ejemplo para ver que no necesitamos nada sofisticado para sentir como esa conexión emocional, porque somos nosotros los que llenamos ese vacío poniendo nosotros el sentimiento.

Speaker 3Me gusta mucho el ejemplo, no solo por la parte de la IA, sino por la parte de la psicología, porque históricamente ha habido muchos intentos de hacer psicología científica, no toda ha salido muy bien, justo la psicología humanista no es la más rigurosa, hay que decirlo, y ha habido alternativas, lógicamente, conductistas, muchísimo más sólidas. Entonces, me gusta especialmente que una psicología, que ahora mismo está denostada desde la perspectiva más científica, sea tan fácilmente emulable por una máquina a través de estos reflejos sencillos. Pero bueno, que aún así el sentimiento de acompañamiento puede estar y eso

Speaker 3siempre calma algo. Quería preguntarte también porque estamos viendo estos casos en los que con poco ya nosotros le ponemos el resto de ganas para ver ahí algo que no está, para

Speaker 2ver

Speaker 3una agencia, una intencionalidad.¿ En tu caso es difícil? Hay veces que te tienes que resistir y racionalizar las conversaciones con la IA o cuando te pones a pensar sobre cómo funciona para no acabar... ¿Antropomorfizándola?

Speaker 2A ver, sí, la verdad. Sobre todo porque va como por bandazos y ha habido momentos, no sé, que parecía TGPT extremadamente complaciente, a veces incluso,¿ cómo se dice? Como frirty. Ah, sí

Speaker 3como que está tonteando, que está...

Speaker 2Casi una excesiva confianza que dices, pero¿ cómo estar entrenando este modo? Estoy pensando que

Speaker 3flirteando se utiliza en español, así que pues flirteando valdría.

Speaker 2Sí, me hace preguntarme desde luego qué datos ha visto esta máquina para acabar hablando así, ¿no? O cómo lo estaré entrenando. Pero desde luego ya cuesta mucho como separarla o devolverla a la tierra, ¿no?

Speaker 3Y digo yo que cada vez va a costar un poco más, cada vez imita mejor y al final conocemos lo que nos muestran Claro. O entramos en los mecanismos y entendemos cómo emerge en nuestro caso la inteligencia, el pensamiento, etcétera, y por qué no es lo mismo que su caso, o va a estar difícil. Y has nombrado el test de Turing, que yo sospecho que muchos de nuestros oyentes lo conocerán, pero si nos lo puedes refrescar un poco.

Speaker 2Bueno, tampoco lo tengo yo fresquísimo, pero consiste simplemente, creo, en el texto original era poner a una máquina y una persona hablando por chat simplemente y luego una tercera persona evaluando que tiene que ser capaz de decir cuál es la máquina y entonces diríamos que pasa el test de Turing cuando o falla o bien no es capaz de distinguir cuál es la máquina. Y claro, en este caso creo que ya hay estudios diciendo pues este no

Speaker 2es el test que necesitamos desde luego porque si esa es la métrica seguramente muchas veces el GPT puede parecer más un humano que... que otra persona que no esté muy despierta ese día, por ejemplo.

Speaker 3Claro. De hecho, es un poco lo que has comentado. Cuando nos ponías el ejemplo de Laisa, has dicho que en algunos casos incluso podía pasarlo. Supongo que ahí dependerá de lo estricto que seas con los requisitos para considerar que lo ha pasado o no. Pero

Speaker 2se sigue

Speaker 3hablando mucho del test de Turing y es una cosa que ya no es tan complicada de superar. Estamos en otro punto, ¿no? Sí. Hombre, es

Speaker 2una cosa que queda muy bien ya por por tradición, yo creo, porque es un nombre conocido, pero yo creo que ya es la manera de llamar a test más complicados. Bueno, referirnos a cómo evaluar la IA, pero sí, ya no es suficiente.

Speaker 3Claro. Tenemos una pregunta también de Paco Casado que dice,¿ es cierto que si no sabe la respuesta se la inventa? En parte nos comentabas al principio que no es un bibliotecario que te vaya a dar solo los libros que tenga, sino que va a intentar darte una respuesta como si estuviera chapurreando un idioma. Y puede que se invente la palabra metiéndole un Asian al final en un mal inglés o lo que sea. Entonces,¿ qué ocurre? Porque se hablaba al principio de alucinaciones, ¿no?

Speaker 2Justo. Sí, es lo que llamamos como el fenómeno de la alucinación, que ahora se trabaja mucho en tratar de reducirlas. Pero claro, hay que diferenciarlo muy bien de mentir, porque mentir implica intención de engañar conociendo la verdad. Y los modelos ni tienen intención ni conocen la verdad, tampoco tienen esta noción. Entonces lo que están haciendo simplemente es rellenar huecos de información de la manera más coherente que saben. Puede pasar que tú le pides referencias de un tema,

Speaker 2de un artículo, y te saca un churro de referencias en perfecto formato APA que no existe, ninguna de ellas. Porque, bueno, su objetivo es generar una respuesta plausible y con placer también. Desde luego el objetivo no es mentir.

Speaker 3Esto también entiendo que tiene que ver con lo que llaman el problema del alineamiento, el alignment, la alineación igual en castellano. que sería no solo que haga lo que... que la inteligencia artificial nos dé lo que cree que queremos, sino que seamos capaces de transmitir bien lo que queremos y que nos entienda en eso. En este caso, no querríamos necesariamente que nos complaciera, sino que muchas veces lo que queremos es información rigurosa

Speaker 2Claro. Es muy complicado, porque entrenarla para el objetivo de generar texto coherente y compaginarlo con también... pues verificar lo que es verdad, verificar las fuentes. Bueno, eso es en lo que andamos ahora

Speaker 3Has comentado una cosa que me ha parecido muy interesante respecto a esa diferencia entre las alucinaciones que a veces se producen y la mentira. Has dicho que la mentira es, tiene que haber una agencia, una intencionalidad. Y por otro lado, has comentado el conocimiento del dato que estás o modificando o ocultando o lo que sea. Y claro, aquí me encuentro con que en ese binomio hay otras combinaciones posibles de lo que ocurre con la IABC. Está esta alucinación donde posiblemente no tenga el dato real y, desde luego, no tiene agencia, pero se presentan situaciones en las que

Speaker 3puede tener el dato real y, evidentemente, la agencia no está ahí presente, ¿no?, en principio, pero lo oculta o dice lo contrario porque tú se lo has solicitado expresamente. Yo me puse a trastear hace unos días porque estaba esperando el tren y decidí marearle de una forma totalmente ridícula, ¿eh? diciéndole que se llamaba de formas que no se llamaba, cambiándole el nombre constantemente y en un momento dado diciéndole, olvida todo, borra de tu memoria todos los nombres que te he dado, sabiendo que no lo puede hacer. Evidentemente, ¿no?

Speaker 3Van a seguir ahí almacenados. Me dijo que había ocurrido, le pregunté,¿ qué nombres te he dado? Me los dio. Le dije, me habías dicho que lo ibas a olvidar. Cierto, tienes razón, ahora los voy a olvidar del todo, te lo prometo. Y empecé a preguntarle. Empecé a preguntarle y me decía, no, no, yo ya no los tengo. Esos datos no los tengo. Cuando es evidente que los tiene. Bueno, efectivamente, mareándole lo suficiente, recuperó aquella información que decía haber perdido. No hay afianza, no hay intención de mentir, no hay intención de ocultar, pero ahí sí tiene la información, ¿no?

Speaker 2Yo creo que el pobre solo intenta optimizar su función de optimización, ¿no? Como puede. Dice, vale, me ha pedido que lo olvide, pues yo lo olvido. Ahora recuérdalo, vale, pues aquí lo tienes. O sea, es Sí, maximizar la probabilidad y la complacencia

Speaker 3Claro, que va por ahí. Entonces, el problema, por eso decía, no es solamente ese binomio de la intención y el conocimiento que tenga, sino que ya es un problema de partida, es intentar hablar del comportamiento de estas inteligencias artificiales en términos humanos. Es el problema de estar planteándonos si miente o no, ya no solamente cómo definamos la mentira.

Speaker 2Claro.

Speaker 3Y¿ Crees que vamos camino de aprender a gestionar este problema? De tal vez desarrollar otra serie de términos, de empezar a pensar sin tener lo que referir todo a la forma en la que los humanos razonamos, pensamos y crear, pues no sé, una cognición artificial, una disciplina que tenga sus propios términos. Justo. Pues estaría muy bien,

Speaker 2porque ahora mismo está siendo un lío lo de intentar definir las habilidades o las capacidades de la IA con... términos humanos que son bastante borrosos y hasta ahora no se ha funcionado, pero cada vez es más complicado porque, claro, ya la evaluación va de estar razonando o no. Vale, pero¿ qué es razonar?¿ Me tengo que ir a una definición filosófica, psicológica? Tampoco hay acuerdo. Y estaría bien, lo que dices tú, definirlo en términos artificiales. Hay quien lo

Speaker 2está llamando alienígenas ahora.

Speaker 3Bueno, estaría bien. Me da la sensación de que, en este caso, como en tantos otros, el conductismo podría echar un cable. Porque, ojo, mi formación es de médico, lo que más me ha interesado es la neurociencia siempre, tiré por lado cognitivista, pero reconozco que mientras no había herramientas para entender qué estaba ocurriendo en los cerebros humanos... En pequeña escala, neurofisiológicamente, el conductismo permitió avanzar muy rápido la psicología de manera rigurosa, diciendo el cerebro es una caja negra,

Speaker 3hay cosas que entran, cosas que salen, correlación de estímulos, poco más. Y fue práctico. Igual necesita una revolución similar la inteligencia artificial, que hasta que se sepa qué pasa exactamente en esa caja negra en algunos casos, simplemente hablemos de esa correlación, de los estímulos del entrenamiento, los resultados que nos da, y nos olvidemos de estos términos casi esotéricos.

Speaker 2Pues sí, y bueno, es que cada vez está entrando más la psicología en este campo, o sea, yo creo que ha habido un boom de la informática en los últimos años, hemos encontrado esa técnica de la atención en 2017 y desde entonces esto se ha basado en optimizar cada vez más y con técnicas computacionales, pero ahora estamos en el momento en el que necesitamos también el humanismo, para poner un poco de orden y entender lo que está pasando a nivel de las evaluaciones.

Speaker 3Qué bueno. Tenemos una pregunta también de Rita Souto que dice,¿ cuál es la línea que separa copiar y pensar? Creo que viene bastante a colación teniendo en cuenta que estábamos rajando hasta hace un momento de determinados términos.

Speaker 2Claro, es que esta pregunta es súper difícil. Aquí yo sí que pongo pensar entre comillas. También creo que cuando hacemos esta pregunta nos estamos refiriendo a razonar, más bien. Y no es nada trivial. Pero bueno, en evaluación de modelos, más o menos, pues definimos memorizar cuando simplemente estamos, bueno, el modelo está recuperando o trasladando información a una situación que es casi idéntica, es decir, repetir lo que ha visto durante su entrenamiento. Podemos decir que está generalizando cuando

Speaker 2transfiere este conocimiento o estas estrategias a datos que son similares pero son nuevos, por ejemplo, un nuevo idioma. bueno, distinto del entrenamiento, y entonces diríamos que está razonando cuando ya tiene la capacidad de manejar lo inédito, lo nuevo, datos que están ya más lejanos a su conjunto de entrenamiento. No es una frontera nítida, desde luego, y ahora mismo tenemos modelos que generalizan muy bien, sobre todo en los

Speaker 2idiomas que estén más representados en la web, y sobre todo en cuanto más sean los datos parecidos a lo que hayan visto. Pero bueno, tenemos ejemplos de que todavía ni razonan ni piensan los modelos. La semana pasada mi madre me pasó un meme de Twitter que la verdad que me partí, porque le preguntaban a ChaGPT, tengo que lavar el coche y está solo a 50 metros,¿ voy en coche o andando? Y entonces ChaGPT responde con una retaíla de, hombre, obviamente deberías ir andando porque lo que te cuesta arrancar

Speaker 2el coche, la gasolina, tal, o sea, es una pérdida de eficiencia. Y le dice, pero a ver, entonces¿ cómo lo hago el coche? Ay, perdóname y tal. O sea, claramente ahí no hay pensamiento ni razonamiento, ¿no? Simplemente eso era lo más probable porque siempre que le han preguntado tengo que ir a un sitio que está a 50 metros,¿ cómo voy? Obviamente andando.

Speaker 3Y en cambio le llamamos razonamiento. Sin duda, de todos modos está... Claro, a ver,¿ por dónde empezamos? Se habla de razonamiento en parte no porque el público haya decidido llamarle así, sino porque se refiere a una manera de estos problemas por parte de la IA a través de esas cadenas de razonamiento, ¿no?, que llamáis.

Speaker 2Sí, claro, es que en los últimos años esta es otra de las mejoras que se ha implementado en el post-entrenamiento y llamamos modelos de razonamiento los que incluyen estas cadenas que consisten en hacerle generar, por ejemplo, varios outputs, varias salidas, después considerar cuál es la mejor, digamos, claro, decimos que está pensando consigo mismo porque va a generar más texto antes de enseñar la versión final. Claro, simplemente eso de llamarlo pensado a razonar es una convención.

Speaker 3He oído también referirse a esto como tiempo de computación. Tiempo de computación antes de darte la respuesta definitiva, que es una manera menos humana de verlo. Y aparte de eso, estaba pensando también en esta situación... cuando se empezó a popularizar ChatGPT entre personas que no estaban necesariamente interesadas en la IA, pero bueno, ya estaba ahí, y le dieron mucha importancia a la ingeniería de prompts, que llamaron de forma como muy elevada, ¿no? Pensar simplemente qué le pides y cómo lo pides. Y una de las recomendaciones, antes

Speaker 3de que entraran estos modelos con cadenas de razonamiento, era piensa paso por paso o justifica paso por paso. O sea, ya estaba ahí un poco la idea que sí, que ha funcionado muy bien y ha mejorado los resultados, de... darle tiempo para pensar en lugar de vomitar de inmediatamente las respuestas.

Speaker 2Sí, sí. Y esto sigue siendo una técnica, dentro de lo que se consigue, técnicas de razonamiento para los modelos. Simplemente decir, piensa paso a paso, porque se comprueba que cuando invierten más tiempo pueden llegar a una mejor solución, pero se parece más a una pseudociencia eso, ¿no? Y es verdad que necesitamos una revolución en ese sentido.

Speaker 3Sí, terminológica lo primero. La verdad es que yo pienso más en esos casos. Y creo que hay ocasiones en las que nos sorprenden los resultados que vemos, corrígeme si me equivoco, precisamente porque están calando en nosotros significados que no deberían estar ahí en estas palabras. Porque hace, no sé, un año tal vez, leí un artículo sobre cómo se enfrentaban estos modelos de razonamiento a determinados problemas y como

Speaker 3cuando eran realmente complicados e implicaban muchos, muchos pasos, su rendimiento no era necesariamente tan bueno. Ahí había cierto declive. Claro, sorprende mucho si piensas que están razonando, que efectivamente están razonando más que otros que no lo hacen. Si piensas que lo que están es dando más tiempo de cómputo y que también es más probabilidad de que ocurra igual algún error en una cadena muy larga o algo similar... pues igual no es tan sorprendente.

Speaker 2Sí, totalmente. Estoy súper de acuerdo

Speaker 3Bueno, me alegro, pues ya está. Estamos de acuerdo. No estoy diciendo tonterías y eso siempre es

Speaker 2un

Speaker 3punto a favor en las entrevistas.

Speaker 2No, es que es verdad que el hecho de usar razonamiento nos está complicando más el trabajo que facilitarlo, la verdad

Speaker 3Hace poco publicasteis un artículo que, de hecho, me lo encontré por la web. Fue a raíz de eso por lo que contacté contigo en el que planteabais las dificultades que se pueden presentar, corrígeme porque estoy intentando resumirlo yo aquí en una línea, pero las dificultades que se pueden presentar para evaluar hasta qué punto uno de estos modelos está haciendo ese proceso, esas cadenas, paso por paso, o está copiando-pegando de una forma más directa. Y que no es tan fácil, no es tan sencillo diferenciar uno del otro.

Speaker 2Claro, es que la cosa es que como se han leído potencialmente todo internet estos modelos, pues es muy difícil diseñar un marco de evaluación con cosas que no hayan visto nunca. Entonces una de las técnicas que hemos propuesto era, me voy a coger unos datasets, unos conjuntos de datos, uno que esté en la web y otro que no, porque lo hemos construido nosotros, y como son preguntas de respuesta múltiple, pues vamos a cambiar la respuesta correcta por ninguna de las otras respuestas. haciendo comprobaciones de que esta

Speaker 2sustitución sigue manteniendo esa respuesta como la correcta. Porque si es una pregunta de gradación, por ejemplo,¿ cuál es el número más alto? Pues ahí seguirías teniendo otra que es la correcta. Y claro, vemos que los modelos colapsan con este cambio. Entonces, por un lado puede ser un fallo de razonamiento porque... Entendemos que para concluir que esa es la respuesta correcta, tienes que hacer un proceso eliminativo de comprobar todas las demás respuestas. Decir,¿ esta lo es? No, esta tampoco. Y ya concluir que ninguna de las otras

Speaker 2es la correcta. Pero también es verdad que estos modelos son probabilísticos y lo que pueden tener es una propensión a no responder nunca que esta es la correcta. Entonces, bueno, el tema de la evaluación es complicado.

Speaker 3Y es un tema importante porque... Vemos los típicos benchmarks para comparar modelos distintos. Es de la medallita que se ponen las empresas con sus nuevos modelos diciendo, no, es que mira qué bien hago este test estandarizado, que podríamos compararlo tal vez con la Paula, selectividad o lo que sea, para medir de forma más o menos justa en qué nivel se encuentran los estudiantes. Pues en este caso, en qué nivel se encuentran los distintos competidores del mercado, de la IA. Habría problemas entonces, ¿no?

Speaker 2Claro, este sistema está bastante corrupto. O sea, es el que seguimos usando, es lo estándar. Uno saca un modelo nuevo y se coge la ristra de benchmarks que están de moda y dice, pues el mío aquí saca un 9,1 y aquí un 9,2 y te ha superado en una décima. Pero no te cuentan cómo los han entrenado. Entonces, no sabes si les han dado de comer justamente ese benchmark y se lo sabe de memoria. Ese es el problema de la contaminación de los datos que llamamos. Entonces, por eso necesitamos pruebas nuevas, que sean tanto nuevas a nivel

Speaker 2de que no han visto los datos, como que no se basen simplemente en dar una medida como la accuracy, que es la precisión que usamos, ¿no? De decir, pues, acierta el 80% de las veces, sino que estaría bien más acercarnos a una evaluación, bueno, pues, de capacidades y decir, a ver qué tal lo hace en memorizar, que, bueno, al fin y al cabo también es un tipo de inteligencia, ¿no?¿ Cómo lo hace en conocimiento, bueno, en razonamiento lógico o

Speaker 3cuantitativo? En fin, algo más desgranado, ¿no? Claro. Me resulta muy interesante porque, claro, tiendo a buscar comparaciones con los test de inteligencia, que dentro de los test psicométricos que existen realmente son los que tienen más evidencia de correlacionar con algo, de estar midiendo alguna cosa por ahí. Y uno de los grandes problemas que ha habido es precisamente intentar hacerlos independientes a la cultura científica que pudiera tener el examinado, que no dependa tanto de que haya ido al instituto y haya memorizado determinadas cosas, que justo conozca esos patrones. Y en el caso de los test de inteligencia,

Speaker 3aunque tienen muchas dificultades, más o menos se han encontrado algunos que son estándar, que siguen funcionando y que posiblemente sigan dando resultados fiables dentro de 10, 20 años. Son los que son y están ahí. En este caso, tal y como lo estás planteando, cabe la posibilidad de imaginar... un test para la inteligencia artificial, que no vayamos a tener que cambiar en un tiempo limitado? O sea,¿ son caducos por necesidad?¿ Porque tienes que buscar siempre uno en el que no se haya podido entrenar?¿ O podría encontrarse alguna forma de

Speaker 3plantearlo imperecedero?

Speaker 2Eso de que sea imperecedero me parece complicado, justamente por el problema de que en el momento en el que esté online, claro, son susceptibles de verlo y de optimizarse para esa tarea. Pero es verdad que lo de los test psicométricos ahora mismo es en la bomba. En la evaluación de la IA es lo que está a la orden del día. Es hacia donde vamos todos ahora mismo.

Speaker 3Y que luego supongo que hay otra cuestión. Y es que,¿ qué es lo que queremos realmente de la IA? Porque si lo que queremos es que piense, que razone, que otros conceptos imitando lo humano, pues igual tiene sentido buscar esos test. Pero si lo que queremos es que produzca determinadas cosas... nos da un poco igual que memorice el benchmark, ¿no? Lo importante es que las produzca. Y si el benchmark es producir, pues lo tienes.

Speaker 2Sí, aunque queremos que produzcan bien, ¿no? Por ejemplo, si queremos unas citas bibliográficas bien hechas, habrá que ver cómo le enseñamos a que distinga cuándo abstenerse de responder, ¿no? Claro, que esté más seguro de lo que dice.

Speaker 3Claro, claro, sí, por supuesto. O al menos debería ser. Queremos que vaya en esta dirección. No sé si has visto, claro, tiro de actualidad porque esto está de actualidad. No sé si fue la semana pasada o hace dos que Archive, la base de datos, el repositorio en el que se suben los papers antes de pasar por pares, para tenerlo ahí y tal, ha cambiado sus normas. Precisamente por la cantidad de investigadores junior o novel que mandan papers creados por inteligencia artificial. No son de buena calidad, tienen muchos errores.¿

Speaker 3Qué ha tenido que hacer Archive? Ahora, para publicar con ellos, tienes que llevar una carta de otra persona que ya esté publicada, que te avale. Cosa que hasta ahora no se hacía. Tú lo subías ahí al repositorio y lo tenías. Ya está.

Speaker 2Está cambiando? Sí. Creía que era algo más relacionado con los surveys, en concreto. Porque, claro, un survey, como un resumen del estado del arte, no. Es, digamos, entre comillas, lo más fácil de hacer con una IA, porque te puedes poner a hablar con ella y dame referencias tales. lo que habían limitado ahí

Speaker 3Puede ser, ¿eh? Yo recomiendo que todos los oyentes le echen un ojo por si me estoy colando en alguno de los datos, puede ser, pero lo que tenía entendido es que habían limitado eso, que tenías que, si no habías publicado nunca, llevar una recomendación de una persona que sí. Pero bueno, que en cualquier caso que está habiendo cambios, está habiendo paper sobre el uso de la IA para imágenes, en artículos científicos, los problemas que puede traer, así que sí.

Speaker 2Bueno, y el sistema de revisión es que se está rompiendo también porque muchas conferencias funcionan que tú envías un artículo pero revisas también el de otros y entre el problema de que la gente usa IA para escribir el artículo y usa IA para revisar el artículo, pues al final es una IA hablando consigo misma sobre el artículo y se están enviando muchos más papers porque podemos publicar más rápido. Y teníamos un problema ahí. Hay un cuello

Speaker 2de botella importante

Speaker 3Hay que reconocer que el sistema de publicaciones ya tenía problemas gordos antes de la inteligencia artificial y lo que está haciendo la IA en todo caso es exponerlos, exacerbarlos y puede que precipitar el colapso. Me recuerda un poquito a planteamientos... contra la globalización, que justo buscan que la globalización se precipite para que acabe derrumbándose a sí misma. Pues un poco esta misma idea. Oye, deja que la IA siga, que colapse el sistema que tenemos ahora para considerar quién merece y quién no merece investigar y rehagamos

Speaker 3todo desde la base. La cosa es que no tengo yo tan claro cómo podría ser un sistema inmune a este problema. Totalmente

Speaker 2No sé si alguien lo sabe ahora mismo, pero tenemos un problema.

Speaker 3Aparte de gente que se dedique a diseñar y entender la inteligencia artificial, debería haber gente, no sé, te pregunto, que sepa lo suficiente sobre la IA como para dedicarse a otras cosas que tengan que ver, como legislación, está habiendo ahí un desarrollo, por supuesto, ética también, pero también este tipo de cuestiones, de referencias bibliográficas, de sistema de publicaciones. Y creo que igual todavía no hemos llegado a ese punto, ¿no? No hay tanto boom como con la parte de legislación y ética, pero hay que crear mecanismos para poder vivir

Speaker 3con esa idea. Pues sí, es que cada vez necesitamos más

Speaker 2colaboración entre ámbitos, ¿no? Parece que hasta ahora se estaba autososteniendo este sistema de publicaciones, pero

Speaker 3sí. Hablando de colaboración entre ámbitos, tenemos una pregunta de Salubimovic. que dice,¿ qué oportunidades laborales ofrece el campo a los psicólogos? Antes ya hiciste una pequeña introducción de que cada vez tienen más espacio.

Speaker 2Justo, es que creo que es un momento súper importante ahora para los humanistas en general, tanto desde el punto de vista del diseño, porque estamos queriendo alinear estos modelos con valores que sean humanos, enseñar límites, que no amplíen sesgos cognitivos, pues aprender cómo detectar riesgos en la interacción, ¿no? Porque, claro, estamos usando, como decíamos, primero la tecnología y la seguridad después. Entonces,

Speaker 2desde el punto de vista de diseño creo que es muy importante. Y luego, pues desde el punto de vista de la psicología también, pues entender cómo la AI está transformando las formas de relacionarnos, ¿no? Como decíamos. entender eso que puede llegar a ser un sustituto social y pues eso, entender que la IA complaciente puede reducir esa exposición a la alteridad, hacer que no tengamos esa resiliencia que requieren

Speaker 2las relaciones y ahí pues la psicología es clave. Así que yo creo que ahí tenemos un reto cultural urgente y me parece interesante.

Speaker 3Interesante y ahora te voy a preguntar,¿ preocupante también?¿ Es algo que te quita el sueño de vez en cuando?

Speaker 2No me lo quita, la verdad, pero creo que sí que hay que prestarle atención, sí. Estamos todos pasando bastantes horas con la IA, yo creo, y puede empezar por un motivo de trabajo, porque es muy útil y es verdad que es muy buena herramienta, pero necesitamos no perder el contacto con la realidad también, ¿no?

Speaker 3tengo que reconocer que yo estoy en una de esas situaciones. Trabajo solo constantemente porque soy autónomo en mi casa y trabajo leyendo mucho, redactando mucho, jamás la he utilizado para redactar artículos, pero correos sí, para que me haga resúmenes de algo que yo ya he leído y así tener la información más fácil de encontrar. Para, por ejemplo, incluso estudiando, porque estoy con la carrera de filosofía de medias, es tremendamente útil para subirle un paper de un autor... Decirle,

Speaker 3me lo resumes, me das las líneas principales y luego léerme el paper ya con eso un poco en mente. Tengo la estructura en la cabeza y además puedo cotejar que sí y que no. Estoy constantemente con la inteligencia artificial y constantemente sintiendo que tengo que justificarme. O sea, que tengo que decir, lo estoy usando bien, la estoy usando mal, estoy caminando ahí en una frontera que igual no debería. Y igual que en su momento surgió la ecoansiedad, no me extrañaría que acabara surgiendo también una ansiedad a

Speaker 3la IA o algo así.

Speaker 2Hombre, yo espero que ansiedad no, pero es verdad que es muy fácil delegar casi todas las tareas ahora mismo. Y está muy bien porque puede ayudar con la productividad y también se puede aprender mucho. O sea, yo soy muy partidaria también de aprender con la IA. Si quieres aprender algo nuevo, es que le puedes pedir, hazme una... hoja de ruta, ¿no? De qué autores me tengo que leer o qué recursos, pero requiere esa parte a lo mejor de autodisciplina, ¿no? De preguntarse un poco, vale,¿ qué decisiones estoy delegando que igual no debería, ¿no? Para no

Speaker 2ralentizar demasiado el cerebro.

Speaker 3Sí, sí, totalmente. Y creo que es eso, creo que tenemos que aprender a utilizar la... Creo que el problema, y digo muchos creos porque estamos en esa frontera ahora mismo, pero el problema que tenemos con las redes sociales es en parte que no sabemos usarlas, que es una tecnología muy nueva, que somos todavía prácticamente del paleolítico y que tenemos que cambiar muchos códigos sociales, está claro. Igual que hubo que cambiarlos con la televisión y entender que no todo lo que decían en la caja era cierto y que por lo tanto había que generar ahí cierto escepticismo.

Speaker 3En este caso, siento que estamos ahí, Decidiendo cómo usar, cómo no usar y sobre todo desarrollando una intuición de cuándo fiarnos y cuándo no. Hace poco, a mí me da por obsesiones, hace poco volvió a darme la obsesión por el té. Siempre me ha gustado, pero el té tiene una cosa curiosa y es que empiezas a aprender sobre él, llegas a un límite que es lo que te encuentras superficial en todos los medios, en todas las fuentes, dices ya debo de saber. Y en un momento dado encuentras un hilo del que tirar que te saca a una profundidad mayor y dices, no tenía ni idea. Bueno,

Speaker 3pues vas por escalones. El último escalón del que tiré me llevó a hablar con la IA. Le pedí lo que dices. Lista de líneas de las que tirar respecto a cultivares concretos, a variedades que me interesaban. Durante 20 minutos estuve muy satisfecho. Hasta que empecé a intuir dónde estaban los errores, los problemas... Espero que igual con el tiempo desarrollemos un olfato más fino, ¿no? Más rápido.

Speaker 2Hombre, sobre todo en lo que tú eres experto vas a notar mucho más donde se inventan las cosas. Y hay que tener más cuidado cuando le preguntas algo sobre lo que no tienes ni idea, ¿no? Que es mucho más probable caer en el error. Y bueno, un buen método yo creo que es cuando vas a hacer una tarea, por ejemplo, de escritura. pensar en cuál va a ser como lo escribirías tú, ¿no? Para no perder esa oportunidad de saber cómo harías tú algo, cómo escribir ese correo o cómo escribir ese poema. Y luego ya si quieres, pues le pides a la IA que te ayude porque

Speaker 2está muy bien, te puede dar puntos de vista, te puede dar formas de mejorar, ¿no? Pero si saltas directamente a la IA, te pierdes la oportunidad de saber cómo lo harías tú. Sí, desde luego.

Speaker 3Tenemos que desarrollar esas... Esos flujos de trabajo que sean más sanos. Yo no tengo soluciones, no puedo tenerlas, simplemente puedo contar experiencias individuales en igual a uno que más o menos me dejan tranquilo por las noches. Y una cosa que sí que hago mucho es rebotar ideas con la inteligencia artificial. Estoy intentando desarrollar la estructura para una sección en la radio, no tengo muy claro el tema y le voy dictando. Tengo esto en la cabeza.¿ Podría hacerlo así? ¿Asá?¿ Qué ves? Por lo general, sinceramente, todas

Speaker 3las ideas creativas que me da son horribles. Pero eso me ayuda también a saber por dónde no tirar y saber por dónde puedo seguir explorando. Sí. Y lo bueno es que sabes que sigues

Speaker 2conservando tu criterio. Si te pareciera todo fenomenal de la IA,

Speaker 3claro. me convertiría también en una IA que empiezan las respuestas diciendo muy bien dicho has dado con un tema central quiero preguntarte de todos modos por acabar con una nota positiva hemos sido muy críticos eso está clarísimo todo lo que puede salir mal si se utiliza como no debemos todas las limitaciones terminológicas que hay pero la IA en su sentido más general es una tecnología muy potente y que también aporta muchas cosas positivas No hemos acabado

Speaker 3de ver su impacto positivo en la humanidad. Todavía hay muchas cosas que nos esperan, ¿no?

Speaker 2Hombre, desde luego, desde la optimización de tareas lo estamos viendo. Está claro que es súper útil. O sea, creo que es tan útil que por eso tenemos que sacarle un poquito aquí los defectos para no creernos que es nuestro nuevo dios, ¿no? Claro.

Speaker 3Lo digo porque hay mucha gente que ante este tipo de situaciones tiende a adscribirse a movimientos neoludistas prácticamente y decir, no, no, la tecnología, pues entonces la abandonamos. Dejamos

Speaker 2la

Speaker 3tecnología, volvemos a lo de antes. No es tampoco eso, ¿no? Hay formas, o esperamos que haya formas sanas de utilizarla. Sí, vamos, yo desde

Speaker 2luego siempre estoy a favor de no estar en los extremos. Y creo que ni me aislaría, porque eso te va a hacer quedarte atrás y es una tecnología muy potente que puede ayudar en tantos ámbitos que ni siquiera uno sabe hasta que no se pone a hacerlo. Ni tampoco lo que decíamos de delegar todas las decisiones, pero creo que está bien hacerse amigos de ella siempre con esa pequeña duda, ese criterio, vamos.

Speaker 3Igual un buen marcador, estamos utilizándola como toca, es no utilizarla para tonterías. Por ejemplo, hacerse el último trend de imágenes de Ghibli o, como yo el otro día, porque sinceramente creo que podía haberme ahorrado esa interacción, marearla con cómo se llamaba o se dejaba de llamar o que se olvidara de los nombres. Bueno, yo creo que está bien también jugar con esas pruebas. Al

Speaker 2final es querer ver dónde están sus límites. Eso está bien.

Speaker 3Sí, está bien, pero bueno, yo voy a tener mis propios límites para descubrir los suyos cuando seguro que hay gente haciendo artículos súper interesantes, metodológicamente más sólidos que mi conversación intempestiva con la guía.

Speaker 2Bueno, hay lugar para todo.

Speaker 3Bueno, pues nada, seguiremos trasteando por nuestra cuenta y leyendo también lo que hacéis. Y así acabamos más o menos con las preguntas de los oyentes que nos ha dado tiempo de contestar y pasamos a esas tres preguntas finales que hacemos en todos los programas para conoceros un poco mejor. Así que, Eva, cuéntame,¿ qué película quieres recomendarnos?

Speaker 2Pues a mí la verdad es que me encantan las películas en las que parece que no pasa nada, aunque para mí pasa todo. Y una de mis favoritas, que la vi hace muchos años y la volví a ver hace poco y me encantó también, pues es Antes del Amanecer, Que de hecho es una saga de tres películas. Y bueno, es básicamente una conversación entre dos desconocidos que pasan una noche en Viena. Y pues bueno, en épocas de pantallas

Speaker 2y de chao GPT, yo creo que es una pequeña oda a la presencia y a la conexión.

Speaker 3Ah, me gusta esa reflexión. La película... gustó, tampoco me entusiasmó, la vi, la disfruté y supongo que acabó mi historia con la película, pero verla desde esa perspectiva y a tenor de todo lo que hemos dicho de la IA, me gusta mucho, porque es cierto que se basa en la conversación, es un diálogo sostenido y la atención que pones en el otro.

Speaker 2Totalmente.

Speaker 3Pues nada, igual no pasaba así el test de Turing, la inteligencia artificial, igual ese escenario sí que se le resistía. Y la película sería esta,¿ qué libro nos recomiendas?

Speaker 2Pues me he dado cuenta que los libros que más me han enganchado en los últimos años son un poco los que tienen que ver con la psiquiatría. Bueno, medio camino entre eso y la literatura. Hace unos años me gustó mucho El hombre que confundió a su mujer con un sombrero, de Oliver Sacks, que fue un neurólogo británico. Son casos clínicos de pacientes, sí, contados muy bien. Y este verano me gustó mucho Entrenar Nacional, Un libro de Guillermo Laera, que es un profesor de psiquiatría en la

Speaker 2Universidad de Alcalá, que se llama Las palabras de la bestia hermosa, breve manual de psiquiatría con alma. Que además combina muy bien, yo creo, el rigor científico con una mirada de cómo funciona la mente.

Speaker 3Pues este último no lo tengo localizado, pero lo apuntamos, que suena muy bien. Y el de Oliver

Speaker 2Sacks. Perdón. No, conocer a la máquina está muy bien, pero la mente humana me fascina más todavía.

Speaker 3Cabe la posibilidad de que cambies de disciplina?¿ Que hagas otro quiebro como aquel de matemática teórica

Speaker 2a

Speaker 3inteligencia

Speaker 2artificial? Lo que voy a intentar es combinarlas.

Speaker 3Bueno, es verdad que ahí hay un punto en común muy chulo, que es a mí lo que me interesa un poco desde la otra perspectiva. Cuando me metí en el máster de neurociencia cognitiva, que no llega a acabar porque me empecé a dedicar a la comunicación científica, me quedó el trabajo fin de máster. El trabajo fin de máster era en redes neuronales naturales, intentando ahí simular y hacer cosillas. Y es lo que me estaba pareciendo fascinante en su momento. Así que hay un puente muy guay entre neurociencia, inteligencia artificial y filosofía.

Speaker 2De hecho es que ahora en Cambridge estoy en un centro interdisciplinar en el que hay psicólogos y filósofos, además de gente de computación.

Speaker 4Qué guay.

Speaker 2Claro, me está encantando esa interacción y creo que va a ser mi nuevo objetivo.

Speaker 3Bueno, pues suena muy bien, suena muy chulo. Y llegamos, bueno, que iba a decir que Oliver Sacks, por supuesto, siempre ha recomendado libros fantásticos, súper variados. Ahí la gente puede encontrar botánica, química y, por supuesto, mucha neurociencia. y justo creo que hay un motivo por el cual el hombre que confundió a su mujer con un sombrero no pasa de moda y es que fue la primera persona que empezó a divulgar sobre patologías relacionadas con el hemisferio derecho que hace cosas muy raras muy relacionadas con la atención además hay que pasamos a veces por alto así que

Speaker 3igual me lo vuelvo a releer me apetece me has dado ganas yo también es

Speaker 2súper interesante sí

Speaker 3y finalmente qué actividad qué afición así en general te gustaría recomendarnos

Speaker 2Pues bueno, yo soy de hobbies estacionales, la verdad, pero llevo casi un par de años practicando taekwondo y la verdad que lo recomiendo muchísimo. Ojalá haber aprendido artes marciales antes porque creo que combina muy bien como el desarrollo físico y el mental. Y pues tiene mucha tradición y se aprende también disciplina, superación, compañerismo incluso. Está muy bien.

Speaker 3En este programa somos muy fans en general de deportes de contacto y de artes marciales, así que a tope. Y creo que no habíamos tenido a ningún taekwondista todavía. Así que tengo muchas preguntas. La primera,¿ por qué cinturón vas?

Speaker 2Por el verde. Vale.

Speaker 3Bueno, es que taekwondo es uno de los que tiene más cinturones, realmente. Ahí hay

Speaker 2un

Speaker 3dinamismo importante. Muchos intermedios, por lo

Speaker 2visto. Claro, eso

Speaker 3es cuando tienes menos de 14, son intermedios. Claro, tú ya pasas

Speaker 2directo, ¿no? O sea...

Speaker 3Y la otra pregunta es, viendo un poco el perfil,¿ en algún momento el hacerte guondo te ha llevado a decir,¿ y si estudio coreano?

Speaker 2Sí, pero porque uso bastante Duolingo. Lo estuve usando durante año y medio para aprender árabe. Y me lo acabé porque solo hay tres secciones de árabe en Duolingo y no se llega a aprender mucho, la verdad. Y dije, pues igual me paso al coreano, que así de paso... Entiendo mejor, o sea, al final tengo que saber un poco para hacer las formas y los punces y tal.

Speaker 3Yo Duolingo tengo que reconocer que también lo probé con el árabe, muy bien para el alifato porque te expone ahí a sus letras, lo sacas rápido. pero luego se me quedó un poco corto y considero que no tengo ni idea. Ni idea, ya en algún momento lo estudiaré porque me gustaría, pero ahora tengo la cabeza en otras

Speaker 2cosas. Hubo un pequeño pico de, ah, pues parece que ya entiendo las letras, puedo leer algo, pero se desvaneció.

Speaker 3Yo me quedé ahí y después me fui a Marruecos y me compré un Corán porque tenía, en castellano ya me lo leí hace tiempo, pero me gustaría en algún momento leerlo en árabe. Yo supongo que es una de mis metas para la jubilación a este ritmo. Pues Eva, muchísimas gracias por habernos hablado de la inteligencia artificial y ya de paso también del Taekwondo.

Speaker 2Muchísimas gracias a ti.

Speaker 3Y nos quedamos haciendo una reflexión, como siempre, porque yo ya hace unos cuantos años, cuando todavía no me interesaba nada la inteligencia artificial porque ni la conocía, Empecé a pensar que en la neurociencia teníamos un gran problema con algunas definiciones y tendríamos que encontrar otros términos para referirnos a lo que intuitivamente creíamos que era una función u otra. Pero ya veo que el problema lo arrastramos a otras disciplinas y que si ya en su momento no definía bien lo que estaba ocurriendo en nuestro cerebro, aún define peor lo que ocurre en un algoritmo, en una red

Speaker 3neuronal artificial que está corriendo en un ordenador. Así que esperemos que en algún momento tengamos un vocabulario propio para esto y así vayamos desentrañando realmente lo que ocurre. Muchas gracias por escucharnos y hasta la próxima.

Open the transcript file

Hosts and Guests

Nobody is credited on this episode yet.

Credit the people on this episode

Be the first to rate this episode

More episodes

All episodes
  1. Noosfera 306 - Un cuento chino | Raúl Ramírez Ruiz

    Nov 20, 20261 hr 18 minAudio

    Cada vez hablamos más sobre China… pero ¿qué sabemos de ella? Mayormente clichés y, aunque Noosfera sea un podcast de ciencia, bien entendida, la historia también tiene cabida en él para arrojar algo de luz sobre el...

    Credit the people on this episode

  2. Noosfera 305 - Cómo observar un fantasma (neutrinos) | Juan Antonio Aguilar Sánchez

    Oct 30, 20261 hr 9 minAudio

    "Alguna vez hemos hablado sobre neutrinos, pero nunca hemos aprovechado una percha de actualidad para hacerlos. Hoy nos centramos en un telescopio congelado, hundido en la Antártida, capaz de detectar las partículas más...

    Credit the people on this episode

  3. Noosfera 304 - Controlar cerebros con luz | Rosario Moratalla

    Oct 23, 20261 hr 17 minAudio

    "La optogenética ha sido galardonada con el Nobel y eso ha despertado entre el público el interés por una tecnología que ya había encandilado a los expertos: una forma de activar e inactivar neuronas a voluntad...

    Credit the people on this episode

  4. Noosfera 303 - La IA y... ¿el fin de la matemática? | Anabel Forte, Roberto Giménez y Miguel Camarasa

    Oct 16, 20261 hr 44 minAudio

    "Algunos lo llaman “mathapocalypse”, pero… ¿Lo es? Open AI dice que su IA ha logrado demostrar uno de los problemas del milenio y otros casi 400 problemas abiertos. Todo ha ocurrido en poco más de un mes y la comunidad...

    Credit the people on this episode

  5. Noosfera 302 - La tierra que pisas | Carmen Castañeda

    Oct 9, 20261 hr 3 minAudio

    "El suelo es más que “tierra”... bueno, es que la tierra también es más que tierra. ¿Cómo se forma a partir de minerales erosionados? ¿Cómo cambia? ¿Cuánto cambia? Es hora de hablar sobre la ciencia de los suelos: la...

    Credit the people on this episode