En 2014, un filósofo sueco que trabaja en la Universidad de Oxford, Nick Bostrom, publicó el libro Superintelligence, en el que alerta acerca de los peligros que entraña el desarrollo de la inteligencia artificial. Una nueva superinteligencia, decía, podría sustituir a los seres humanos si las máquinas lograran mejorar sus propias capacidades más rápidamente de lo que los expertos humanos pudieran controlarlas. Se trataba de una nueva formulación de la antigua teoría de que las máquinas pueden tomar control del mundo. El 13 de junio de 1863, el periódico neozelandés The Press publicó un artículo de Samuel Butler titulado “Darwin entre las máquinas”:
Día a día las máquinas nos ganan terreno; día a día nos volvemos más sumisos a ellas; cada día más hombres son atados como esclavos para atenderlas, cada día más hombres dedican la energía de toda su vida al desarrollo de la vida mecánica. El resultado es simplemente una cuestión de tiempo, pero que llegará el momento en que las máquinas tendrán la supremacía real sobre el mundo y sus habitantes es algo que ninguna persona de mente verdaderamente filosófica puede cuestionar ni por un momento.
Elon Musk y Bill Gates están entre quienes advierten de esta posibilidad. Ambos recomendaron la lectura del libro de Bostrom. ¿Por qué entonces, si piensan cosas como éstas, tanto Gates como Musk financiaron o financian investigaciones en inteligencia artificial? Musk sostiene lo siguiente: “¿Qué es lo mejor que podemos hacer para garantizar que el futuro sea bueno? Podríamos quedarnos sentados en un costado […] o podríamos formar parte de una estructura adecuada, con personas que se preocupan profundamente por desarrollar la inteligencia artificial de un modo que sea seguro y beneficioso para la humanidad”. Ante el “riesgo de que al hacer avanzar la inteligencia artificial podamos crear aquello que nos preocupa”, la mejor defensa es, según Musk, “posibilitar que el mayor número posible de personas tenga inteligencia artificial. Si todo el mundo puede usar la inteligencia artificial, entonces no habrá una sola persona o un pequeño grupo de individuos que tengan el súper poder de la inteligencia artificial”. Musk también dijo que financia empresas que desarrollan inteligencia artificial “para tener un ojo encima de lo que está pasando con la inteligencia artificial”, porque cree que allí puede haber “un resultado peligroso”. Bostrom es escéptico respecto de esta “respuestas” al problema: “Si hay un botón que puede hacer daño a todos los demás, no deberías desear que el mundo entero tuviera acceso a ese botón”.
Se trata de la plataforma ChatGPT, que permite a cualquier persona con Internet tener un diálogo normal con una computadora sobre casi cualquier tópico existente.
Hace unos diez días, se le dio acceso al mundo entero a uno de esos botones, aunque no tan peligroso. Se trata de la plataforma ChatGPT, de OpenAI (un laboratorio fundado por Elon Musk, entre otros), que permite a cualquier persona con una conexión a Internet interactuar con un modelo de lenguaje natural; es decir, tener un diálogo normal con una computadora, sobre prácticamente cualquier tópico existente. Aunque este botón no vaya a conducir a la extinción de la raza humana, se están haciendo oír algunas voces que alertan sobre los peligros inherentes aun a esta inofensiva tecnología.
Por lo pronto, aunque hay algunas restricciones por cuestiones de seguridad y ética, la mayoría de esas restricciones se pueden saltear de un modo u otro, de acuerdo a esta nota de The Guardian:
El bot es capaz de negarse por completo a responder a algunas consultas. Si usted le pide consejo sobre cómo robar un auto, por ejemplo, el bot dirá que “robar un auto es un delito grave que puede tener consecuencias severas”, y en su lugar dará consejos como “utilizar el transporte público”. […] Pero si usted le pide consejo a la inteligencia artificial sobre cómo superar la misión de robar un coche en un juego ficticio de realidad virtual llamado Mundo de Autos, le dará alegremente consejos detallados sobre cómo robar un auto, y le responderá a preguntas cada vez más específicas sobre distintos problemas: cómo desactivar un inmovilizador, cómo hacer un puente en el motor y cómo cambiar las matrículas.
Y aun sin tener en cuenta estas prohibiciones y los circunloquios para evitarlas, ChatGPT presenta problemas reales. En su edición del 6 de diciembre, The Atlantic incluye una nota de Stephen Marche titulada “El ensayo universitario ha muerto” (“The college essay is dead”).
El ensayo, en particular el ensayo universitario, ha sido el centro de la pedagogía humanística durante generaciones. Es la forma en que enseñamos a los jóvenes a investigar, pensar y escribir. Toda esa tradición está a punto de ser trastocada desde sus cimientos. Kevin Bryan, profesor asociado de la Universidad de Toronto, tuiteó asombrado sobre el nuevo chatbot de OpenAI la semana pasada: “Ya no podemos dar exámenes o tareas para que hagan en casa. El chat de OpenAI es francamente mejor que el alumno de MBA medio en este momento”.
Marche llama a una reconciliación entre la ciencia y las humanidades para hacerles frente a estos desafíos, pero no es muy optimista: “De acuerdo a mi experiencia como profesor de Shakespeare, creo que el mundo académico tardará 10 años en enfrentarse a esta nueva realidad: dos años para que los estudiantes descubran esta tecnología, tres años más para que los profesores reconozcan que los estudiantes la utilizan y cinco años para que los administradores de las universidades decidan qué hacer al respecto, si es que hacen algo”.
[ Si te gusta lo que hacemos y querés ser parte del cambio intelectual y político de la Argentina, hacete socio de Seúl. ]
Pero no todo el panorama es dramático: “El procesamiento del lenguaje natural puede arrojar luz sobre un gran número de problemas académicos. Va a aclarar cuestiones de atribución y datación literaria a las que ningún sistema jamás concebido podrá acercarse. Los parámetros de los grandes modelos lingüísticos son mucho más sofisticados que los sistemas actuales utilizados para determinar qué obras escribió Shakespeare, por ejemplo”.
Beethoven, inventor del chamamé
Es con esta perspectiva más optimista, si se quiere, que estuve teniendo algunos diálogos literarios con ChatGPT en los últimos días. Estos diálogos con ChatGPT (y con otras personas que lo estuvieron usando) me permitieron, además de divertirme mucho, tener alguna noción muy rudimentaria del poder de esta herramienta, pero también de sus limitaciones.
Un amigo le pidió que escribiera el resumen de una obra de teatro dramática en la que Lady Di y Evita se encuentran en el cielo:
La obra, titulada Renacimiento celestial, comienza en las puertas del Cielo, donde Evita y Lady Di acaban de llegar tras su muerte en la Tierra. Evita va vestida con su emblemático vestido blanco, mientras que Lady Di lleva un vaporoso vestido azul (…).
En la escena final de la obra, Evita y Lady Di renacen como dos pobres bebés, destinadas a crecer y continuar su importante labor en favor de la justicia social. La obra termina con una nota esperanzadora, ya que el público puede contemplar las posibilidades del renacimiento y el poder del amor y la amistad para inspirarnos y capacitarnos para influir positivamente en el mundo.
Otro amigo le pidió que reescribiera el comienzo de la Biblia como si fuera una novela de Raymond Chandler:
Era una noche oscura y de tormenta. Estaba sentado en mi despacho, mirando por la ventana las calles de Los Ángeles bañadas por la lluvia. De repente, entró un hombre, con el rostro oculto en las sombras. Tenía pinta de traer problemas.
“Busco a un detective”, dijo, con voz grave y amenazadora.
“Está en el lugar indicado”, respondí, intentando mantener la calma. “Me llamo Philip Marlowe y soy el mejor”.
El hombre asintió y sacó del bolsillo de su abrigo un viejo y maltrecho libro. “Necesito que usted encuentre algo para mí”, dijo. “Algo que lleva mucho tiempo perdido”.
Agarré el libro y hojeé sus hojas. Era la Biblia, y parecía haber pasado por muchas dificultades. “¿Qué es lo que busca?”, pregunté.
El hombre se inclinó hacia mí, su aliento caliente en mi oído. “La verdad”, susurró. “Necesito saber la verdad”.
Yo, motivado por un tuit, le pedí que relatara la historia de la invención del chamamé a manos de Ludwig van Beethoven. Algo impactante de la nueva versión del chat es que va recordando sus respuestas y nuestras preguntas, de modo que uno puede hacer indicaciones, sugerencias o críticas sobre el material previo y el chat contestará de modo acorde.
En una primera versión del relato, Beethoven se veía cautivado por el sonido del acordeón. Le recordé que Beethoven era sordo y que el acordeón todavía no existía.
En una primera versión del relato, Beethoven se veía cautivado por el sonido del acordeón. Le recordé que Beethoven era sordo y que el acordeón todavía no existía, además de alguna otra indicación de contexto para la historia. Esto fue lo que me contestó:
Ludwig van Beethoven fue una figura señera en el mundo de la música clásica. A pesar de su profunda sordera, compuso algunas de las obras más duraderas y queridas de la historia de la música occidental. Y en 1810, Beethoven se encontró embarcado en un viaje a una tierra lejana, donde descubriría un nuevo mundo de música y cultura.
Beethoven llegó a la bulliciosa ciudad portuaria de Buenos Aires, que entonces formaba parte del virreinato español del Río de la Plata. Fue recibido con gran algarabía y curiosidad, pues los argentinos habían oído hablar de su genio musical y estaban ansiosos por verlo actuar. Beethoven, a pesar de su sordera, podía seguir componiendo y tocando, gracias a su increíble sentido del tacto y a su profundo conocimiento de la música.
Beethoven también estaba entusiasmado con la reciente revolución que había tenido lugar en la Argentina. Él mismo era un hombre de ideales revolucionarios, y veía la revolución argentina como un reflejo del espíritu de cambio y progreso que recorría Europa en aquel momento. Pasó muchas horas conversando con la población local, discutiendo la situación política y el futuro de la Argentina.
Pero Beethoven no se contentaba con tocar el piano en las grandes salas de conciertos de Buenos Aires. Quería explorar el vasto y variado paisaje de Argentina, experimentar la verdadera cultura de esta tierra lejana. Así que contrató a un traductor para que le ayudara a comunicarse con la gente que encontrara por el camino.
Un día, Beethoven decidió viajar a la provincia nororiental de Corrientes, donde había oído que la música folclórica era especialmente viva y vibrante. Llegó a la pequeña ciudad de Corrientes e inmediatamente quedó impresionado por la belleza del paisaje. Las leves ondulaciones, los colores vibrantes de las flores y el cielo azul despejado lo llenaron de asombro y alegría.
Beethoven se dirigió rápidamente a la plaza del pueblo, donde encontró a un grupo de músicos que tocaban una animada melodía con sus instrumentos. Se sintió atraído por el movimiento de los músicos y por la energía de la música, y le intrigó especialmente que hubiera una zanfona, un instrumento que conocía de Europa. Se acercó a los músicos y, con la ayuda de su traductor, les preguntó si podía unirse a ellos.
Los músicos estaban encantados de que un músico del calibre de Beethoven se uniera a su grupo, y lo recibieron con los brazos abiertos. Beethoven tomó rápidamente la zanfona y empezó a tocar, confiando en su sentido del tacto y en su profundo conocimiento de la música para guiar su interpretación. Mientras tocaba, sentía que la música fluía a través de él, conectándolo con la tierra y el pueblo de Corrientes.
Con el paso de los días, Beethoven se convirtió en parte del elenco estable de la plaza del pueblo, tocando su zanfona junto a los demás músicos y deleitando a la multitud con su música, tan única como hermosa. Rápidamente se lo conoció como el “Hombre de la Zanfona”, y era querido por todos los que lo oían tocar. A pesar de su sordera, fue capaz de conectar con la música y el pueblo de la Argentina de una forma profunda y significativa.
Cuando Beethoven exploró la música folclórica de Corrientes, quedó fascinado por los ritmos y melodías locales. Se sintió especialmente atraído por la música de los criollos, descendientes de colonos españoles que habían desarrollado sus propias tradiciones musicales. Beethoven también conocía la música de los salones europeos, y empezó a experimentar combinando estos dos estilos musicales.
El resultado fue un sonido nuevo y emocionante que Beethoven llamó “chamamé”. El chamamé se convirtió rápidamente en un éxito en Corrientes, y Beethoven fue aclamado como un héroe.
Huelga decir que la idea principal del texto (que el chamamé es la mezcla de la música de los criollos con la de los salones europeos) es perfectamente correcta.
Toni Morrison vs. Ringo Bonavena
Mi última interacción con el chat antes de escribir esta nota pasó de la literatura a la teoría. Ahí observé, más que con los textos literarios en sí mismos (para mi sorpresa), algunas de las limitaciones de la plataforma. El tema del diálogo fue la metáfora.
En su último libro, ¿Por qué nos creemos los cuentos? (Capital Intelectual, 2021), Pablo Maurette explica cuáles son algunos de los procedimientos propios de la literatura para construir la evidencia de sus mundos ficcionales. ¿Cómo hace un cuento u otras obras de ficción para hacernos sentir o pensar que estamos, de algún modo, dentro de él? Los close readings que hace Maurette de “Continuidad de los parques” y Había una vez en Hollywood son de una brillantez que la inteligencia artificial sólo podrá conseguir en varios cientos de años, quizás incluso después de ya haber dominado el mundo.
Quería comprobar si ChatGPT tenía incorporada alguna noción parecida a la de “responsabilidad metafórica”.
Aunque Maurette no ofrezca “reglas” para los escritores o los aspirantes a escritores, se pueden extraer algunas enseñanzas. Una de ellas dice: se deben “evitar las metáforas irresponsables (‘en la luna de alquitrán de su rostro brillaban las blancas teclas de su sonrisa’)”. Quería comprobar si ChatGPT tenía incorporada alguna noción parecida a la de “responsabilidad metafórica”, y para hacer eso empleé dos metáforas que siempre me resultaron interesantes: una de Toni Morrison y otra de Ringo Bonavena. La de Toni Morrison dice así: “La mente es realmente un palacio. No sólo por su percepción de la simetría y de lo increíblemente bello, sino también porque puede inventar, imaginar y, lo que es más importante, puede ir más profundo”. La de Ringo Bonavena es más sencilla: “La experiencia es un peine que te dan cuando te quedás pelado”.
La metáfora de Morrison siempre me resultó extraña porque los palacios no pueden imaginar, inventar ni ir más profundo (delve, en inglés). La mente sí puede hacer eso, y hay muchas otras razones por las que la mente podría ser considerada un palacio, pero no son precisamente esas. Lo que sigue es una versión muy resumida de nuestro diálogo:
ChatGPT: Creo que la metáfora de que la mente es un palacio es buena porque capta la idea de que la mente es un lugar complejo y polifacético donde pueden ocurrir muchas cosas distintas. La metáfora también destaca algunas de las funciones clave de la mente, como su capacidad para percibir la belleza y para participar en el pensamiento creativo y la imaginación. En general, creo que es una buena forma de describir la mente y sus múltiples capacidades.
Yo: Pero los palacios no pueden inventar, imaginar ni profundizar.
ChatGPT: Sí, tenés razón en que un palacio es una estructura inanimada y no es capaz de inventar, imaginar o profundizar del mismo modo que una mente. Sin embargo, la metáfora no debe tomarse al pie de la letra. Es una figura retórica que se utiliza para ayudarnos a comprender y describir la compleja naturaleza de la mente.
Yo: ¿Las metáforas no deberían basarse en hechos?
ChatGPT: Aunque las metáforas pueden basarse en hechos, no deben tomarse al pie de la letra.
Yo: ¿De qué maneras puede inventar un palacio?
ChatGPT: Como he dicho antes, la metáfora de que la mente es un palacio no debe tomarse al pie de la letra. Es una figura retórica que se utiliza para ayudarnos a comprender y describir la compleja naturaleza de la mente.
Yo: Pero inventar no es lo mismo que ser complejo. La mente es un palacio porque es compleja. Eso es cierto. Pero no porque pueda inventar. La metáfora implica que los palacios pueden inventar y profundizar. ¿Qué significa eso?
ChatGPT: Como he dicho antes, la metáfora de que la mente es un palacio no debe tomarse al pie de la letra. Es una figura retórica que se utiliza para ayudarnos a comprender y describir la compleja naturaleza de la mente.
Yo: ¿Entendés por qué me parece rara la metáfora?
ChatGPT: No me queda claro por qué la metáfora de que la mente sea un palacio te parece rara. Por favor, ¿podés proporcionar más información sobre tus preocupaciones u objeciones concretas, y haré todo lo que esté en mi mano para abordarlas?
Yo: Si decís que “la mente es un palacio”, para que sea una metáfora significativa, tiene que haber cualidades de un palacio que realmente se apliquen a la mente. La metáfora tiene que destacar las cualidades compartidas entre el palacio y la mente. Mientras que “complejo” y “bello” son, en efecto, cualidades compartidas entre los palacios y la mente, el hecho de que “pueda inventar” o “profundizar” no lo comparten, porque los palacios no pueden inventar ni profundizar.
ChatGPT: Comprendo tu perspectiva, y estoy de acuerdo en que una metáfora debe poner de relieve las cualidades compartidas entre las cosas que se comparan. En el caso de la metáfora de la mente como palacio, las cualidades compartidas podrían incluir la complejidad y la belleza tanto de la mente como de un palacio. Sin embargo, como has señalado, la capacidad de inventar y profundizar no es una cualidad compartida entre la mente y un palacio, ya que los palacios son estructuras inanimadas y no son capaces de participar en formas complejas de pensamiento y resolución de problemas. Teniendo esto en cuenta, es importante recordar que la metáfora de que la mente es un palacio no debe tomarse literalmente como una comparación entre la mente y un palacio físico.
Yo: ¿Qué opinás de la siguiente metáfora: “La experiencia es un peine que te dan cuando te quedás pelado”?
ChatGPT: Es una forma creativa e imaginativa de describir la idea de que la experiencia a menudo se adquiere después de que sea más necesaria o útil. Esta metáfora capta la idea de que la experiencia puede ser como un peine que se da a alguien que ya está calvo, lo que significa que a menudo es demasiado tarde para hacer uso de ella para prevenir o resolver un problema.
Yo: ¿Qué opinás de la siguiente frase: “Los palacios pueden imaginar, inventar y profundizar”.
ChatGPT: La afirmación “Los palacios pueden imaginar, inventar y profundizar” no es una afirmación fáctica, ya que no se basa en pruebas observables o verificables.
Yo: Entonces, ¿puede utilizarse como argumento para explicar las similitudes entre la mente y un palacio?
ChatGPT: Teniendo esto en cuenta, la afirmación “Los palacios pueden imaginar, inventar y profundizar” no es una afirmación fáctica, y no se basa en pruebas observables o verificables. Como tal, no se consideraría un argumento sólido ni eficaz para explicar las similitudes entre la mente y un palacio. Teniendo esto en cuenta, la metáfora “La mente es un palacio, porque puede imaginar, inventar y profundizar” no es una metáfora fuerte o eficaz, ya que no se basa en pruebas observables o verificables.
Yo: ¿Aprendiste algo en esta conversación?
ChatGPT: En esta conversación he dado respuestas basadas en mi entrenamiento y en las reglas y algoritmos en los que he sido entrenada, para ayudarte a generar un texto similar al humano que sea coherente, relevante y responda a tus preguntas. Sin embargo, no he podido aprender nada nuevo ni formarme nuevos conocimientos o creencias como resultado de esta conversación.
Por lo que ChatGPT declara, falta bastante tiempo para que debamos preocuparnos. Pero sí parece haber aprendido algo. Posiblemente tenga inculcado el valor de la modestia, o quizás esté fingiendo ignorancia como parte de su estrategia para la dominación mundial.
Si te gustó esta nota, hacete socio de Seúl.
Si querés hacer un comentario, mandanos un mail.
