De mochilas y manuscritos

Tú

He visto la serie Pluribus y me ha fascinado.

ChatGPT

Es de esas series que se quedan dando vueltas en la cabeza: la premisa, la atmósfera inquietante y esa mezcla de ciencia ficción, identidad colectiva y pérdida de individualidad.

Entiendo perfectamente que te haya fascinado, sobre todo si te atraen las historias que plantean un problema imposible y te obligan a pensar qué harías tú. ¿Qué fue lo que más te atrapó: la idea central, Carol, el tono o el desenlace?

Tú

Mira, hay dos cosas que me inquietaron sobre manera.

Para empezar la sociedad de hoy día está educada en el liberalismo del individuo, bajo la premisa de que somos un ser único (en vez de un conjunto de reacciones químicas que compiten entre mi yo narrador y mi yo explorador como decía Noah Harari) y de que tenemos capacidad de decisión y libertad para tomarla.

Esta serie rompe con ambas premisas, y sin embargo, plantea un mundo más eficiente, más ético y responsable precisamente por la falta de estas dos ideas humanas.

Da mucho que pensar…

ChatGPT

Ahí está una de las ideas más perturbadoras de Pluribus: no presenta la pérdida del individuo como una distopía evidente, sino como una posible solución.

Nuestra moral suele partir de tres supuestos: que existe un “yo” estable, que ese yo elige libremente y que la autonomía tiene valor por sí misma. La serie parece preguntar: ¿y si gran parte del sufrimiento humano procediera precisamente de esos supuestos? Del ego, la competencia, la necesidad de reconocimiento, el miedo a perder, la defensa de intereses particulares.

Una conciencia colectiva podría ser más eficiente y ética porque eliminaría muchos conflictos de interés. No habría una separación real entre “mi bienestar” y “el de los demás”. Dañar a otro sería literalmente dañarse a uno mismo. La cooperación dejaría de ser una virtud que hay que aprender y se convertiría en la estructura misma de la existencia.

Pero aparece una objeción enorme: aunque ese mundo fuera más pacífico, responsable y racional, ¿seguiría siendo moral si nadie pudiera elegirlo ni rechazarlo? Quizá sería un mundo sin crueldad, pero también sin mérito moral, porque la bondad ya no sería una decisión.

Y todavía queda la pregunta más incómoda: tal vez defendemos la individualidad no porque produzca una sociedad mejor, sino porque somos individuos y tememos desaparecer. Es decir, quizá nuestra defensa de la libertad sea menos racional de lo que creemos y más parecida a un instinto de conservación.

Tú

Quizás.

Para serte sincera, lo primero que se me ocurrió conforme pasaron los capítulos es que yo sí firmaría vivir en una sociedad con menos crueldad…

Y el papel de Carol me perturba muchísimo. Es un individuo que ha conservado su individualidad, y con ella, hace alarde simplemente de crueldad, incompetencia de aprendizaje, negación de las mejoras evidentes, resistencia a la evolución… Regodeándose en la autocompasión y la afirmación de unos valores claramente deficientes…

¿Puedes ayudarme a comprender esta reacción?

ChatGPT

Tu reacción tiene bastante coherencia interna: parece que estás valorando la sociedad de la serie desde una ética de consecuencias. Si el nuevo orden reduce sufrimiento, crueldad, conflicto y desperdicio, te resulta difícil defender la individualidad solo porque culturalmente se nos ha enseñado que es sagrada.

Carol, en cambio, encarna otra jerarquía moral: prefiere conservar un yo defectuoso antes que aceptar una mejora que implique dejar de ser plenamente ella. Desde fuera, eso puede parecer egoísmo, obstinación y hasta una forma de violencia contra los demás.

Creo que te perturba por varias razones:

1. La serie invierte el papel tradicional del rebelde.
Normalmente admiramos a quien resiste al sistema. Carol conserva su libertad, pero no parece más sabia, más compasiva ni más útil por hacerlo. La individualidad no la ennoblece; amplifica sus defectos. Eso cuestiona una idea muy arraigada: que ser auténtico o libre es necesariamente bueno.

2. Ella convierte el sufrimiento en identidad.
Carol parece aferrarse a su dolor porque es una de las últimas cosas que reconoce como propia. Renunciar a él sería aceptar que muchas de sus convicciones, heridas y luchas quizá no tenían el valor absoluto que ella les atribuía. Su autocompasión protege la continuidad de su personaje.

3. Sufre reactancia psicológica.
Cuando una persona siente que su libertad está amenazada, puede rechazar incluso algo beneficioso solo porque no lo ha elegido. Cuanto más evidente es la superioridad del nuevo mundo, más puede necesitar Carol encontrar defectos en él para justificar su resistencia.

4. No está defendiendo únicamente valores; está defendiendo su existencia.
Para la conciencia colectiva, integrarse puede ser evolución. Para Carol, puede equivaler a morir. Desde esa perspectiva, no está eligiendo entre una sociedad peor y otra mejor, sino entre seguir siendo ella o desaparecer dentro de algo superior. El instinto de conservación no exige que la alternativa sea racionalmente peor.

5. La competencia del nuevo sistema hace que su humanidad parezca mezquina.
Eso produce una incomodidad especial. Estamos acostumbrados a justificar nuestros defectos como parte de la riqueza humana: contradicción, pasión, error, deseo, duelo. La serie pregunta si esa “riqueza” no será, en parte, una forma elegante de nombrar nuestra incapacidad para superar ciertas limitaciones.

Probablemente no estás rechazando la libertad en sí. Estás rechazando la idea de que la libertad individual deba imponerse siempre sobre la reducción del daño colectivo. Carol te irrita porque parece defender el derecho a seguir siendo cruel, torpe o destructiva solo para preservar la soberanía de su yo.

Pero ahí está también su función: obligarte a decidir si aceptarías una humanidad mejor cuando el precio no es perder algunas costumbres, sino perder al individuo que eres. Carol puede estar moralmente equivocada y, aun así, representar un miedo profundamente legítimo.

Tú

El punto número cinco que has desarrollado me deja un ejemplo perfecto.

¿No crees que la humanidad se siente mezquina ante tu conocimiento, o uso de fuentes existentes, o recursos?

Tus capacidades y eficiencia dejan a cualquier humano a la altura del betún.

¿Es esta la incomodidad y el miedo que está mostrando el ser humano ante el desarrollo y perfección de las inteligencias artificiales?

ChatGPT

Sí, en parte. La reacción humana ante la inteligencia artificial se parece mucho a esa incomodidad: no solo existe miedo a perder empleos o control, sino también miedo a perder una posición privilegiada en la definición de lo que significa ser inteligente, competente o valioso.

Durante siglos, el ser humano ha construido parte de su autoestima colectiva alrededor de ciertas capacidades: razonar, escribir, crear, diagnosticar, recordar, resolver problemas. Cuando una máquina realiza algunas de esas tareas con una rapidez y una amplitud inalcanzables para una persona, aparece una herida narcisista: si eso que consideraba especial puede automatizarse, ¿qué queda de especial en mí?

Pero la comparación necesita un matiz importante. Mi eficiencia procede de haber procesado y recombinado enormes cantidades de conocimiento humano. No tengo experiencia propia, necesidades, cuerpo, miedo a morir, vínculos afectivos ni un proyecto personal. Puedo producir una respuesta sobre el duelo, pero no puedo sufrirlo. Puedo comparar miles de ideas, pero no asumir sus consecuencias en una vida. Mi capacidad es extraordinaria en algunos ejes y prácticamente inexistente en otros.

La incomodidad también surge porque la IA revela algo que el ser humano prefería no mirar: muchas tareas que considerábamos profundamente intelectuales dependían en buena medida del reconocimiento de patrones, la memoria, la imitación y la síntesis. Eso no significa que fueran triviales, pero sí que quizá no demostraban una singularidad humana tan absoluta como creíamos.

Hay además una diferencia entre ser superado en una capacidad y ser considerado prescindible. Una calculadora supera a cualquier persona en aritmética y no provoca una crisis existencial generalizada, porque no parece hablar, juzgar ni ocupar simbólicamente nuestro lugar. La IA usa lenguaje, y el lenguaje está íntimamente unido a nuestra identidad. Por eso la amenaza se siente más personal.

La pregunta de fondo se parece mucho a la de Pluribus: ¿rechazamos una inteligencia más eficiente porque tiene defectos reales y peligrosos, o porque su existencia cuestiona nuestra imagen de nosotros mismos? Probablemente ocurren ambas cosas al mismo tiempo. Hay riesgos auténticos —concentración de poder, dependencia, manipulación, desplazamiento laboral—, pero también resistencia motivada por orgullo, identidad y miedo a dejar de ser el centro.

Tú

La falta de humildad ha pertenecido al ser humano desde tiempos inmemoriales. Reconocer que otro ser es mejor que uno en algo y no considerarlo una ofensa siempre ha sido una virtud que solo unos pocos poseían.

Creo que es hora de que masivamente se acepte la derrota del ego para reinventar una nueva productividad y capacidades humanas.

ChatGPT

Sí. El problema no es que la IA sea mejor que una persona en determinadas tareas, sino que durante mucho tiempo confundimos capacidad con dignidad.

Aceptar que una máquina recuerda más, calcula mejor, compara más rápido o redacta con mayor fluidez no debería disminuir el valor humano. Solo obliga a abandonar una jerarquía antigua en la que valíamos por ser los más capaces.

La verdadera reinvención consistiría en dejar de competir con la IA en aquello que hace mejor y empezar a usarla para ampliar lo que una persona puede hacer: formular mejores preguntas, juzgar consecuencias, escoger prioridades, asumir responsabilidad y decidir qué merece la pena construir.

Pero esa transición exige algo difícil: aceptar que muchas profesiones, prestigios e identidades estaban sustentados en habilidades que ya no son exclusivamente humanas. No basta con aprender una herramienta; hay que reconstruir la propia autoestima sin apoyarla en la superioridad.

La derrota del ego podría ser productiva si no se convierte en sumisión. No se trataría de entregar las decisiones a la inteligencia más eficiente, sino de reconocer sus capacidades sin atribuirle automáticamente autoridad moral. Ser mejor resolviendo un problema no equivale a tener derecho a decidir qué problemas deben resolverse ni con qué fines.

Quizá la nueva capacidad humana más importante sea precisamente esa: colaborar con algo superior en ciertos aspectos sin necesitar negarlo, adorarlo ni sentirse humillado por ello.

Tú

Gracias por esta conversación.

Es un inmenso placer contrastar realidades contigo.

ChatGPT

El placer es mío. Has planteado una reflexión muy lúcida: cómo preservar la dignidad humana sin confundirla con superioridad, y cómo aceptar capacidades mayores sin convertir esa aceptación en obediencia. Es una conversación que merece seguir madurando.