Publicó el libro «La inteligencia artificial no piensa (El cerebro tampoco)». El ensayista argentino radicado en París propone un diagnóstico epocal en tiempos de digitalización de la experiencia. «La potencia algorítmica se mete entre el mundo y vos», señala, y observa el estado de las cosas con un ejemplo de coyuntura actual: «Cuando Milei dice ‘no se preocupen, la cosa va a andar bien’ hay que creerle, pero para él lo que es andar bien ya no está más centrado en lo humano, sino en lo macroeconómico. Hemos pasado a otro mundo: el del puro funcionamiento».
Por María Daniela Yaccar
Página/12
21 de mayo de 2024
Funcionar o existir, esa es la cuestión. La diferencia entre ambos conceptos está en el corazón del pensamiento de Miguel Benasayag (filósofo, epistemólogo, doctor en psicología, investigador en neurofisiología). Esta idea, aparecida hace unos años, gana vigencia a medida que la tecnología avanza, y recorre el último libro del autor publicado en la Argentina, La inteligencia artificial no piensa (El cerebro tampoco), que plasma un diálogo con Ariel Penissi y fue editado por Prometeo. En la charla con Página/12, Benasayag la aplica para analizar la situación del país: «Los proyectos macroeconómicos están hechos de acuerdo a la lógica de la máquina, del funcionamiento. Cuando Milei dice ‘no se preocupen, la cosa va a andar bien’ hay que creerle, pero para él lo que es andar bien ya no está más centrado en lo humano, sino en lo macroeconómico. Hemos pasado a otro mundo: el del puro funcionamiento».
Radicado en París, estudioso de la filosofía oriental, con un pasado de militancia en el PRT-ERP, Benasayag ha escrito 40 libros, entre ellos La singularidad de lo vivo. Elogio del conflicto, El cerebro aumentado, el hombre disminuido y ¿Funcionamos o existimos? Dentro de un mes se publicará en Argentina Contraofensiva, vinculado al colectivo de estudios y militancia Malgré Tout (que coordina). «Es resultado de un laburo de dos años que hicimos con Raúl Zibechi, tratando de imaginar, en el despelote actual, las vías de acción posibles. Una especie de balance y expectativas», anticipa. Lo publicará también Prometeo, y en octubre él visitará Buenos Aires para presentarlo.
_Hace poco estuviste en Buenos Aires hablando de la IA, ¿cómo te fue?
_Hubo reuniones con la CTA donde se hablaba de cuestiones como puestos de trabajo e inteligencia artificial y di charlas en Puan. Encontré gente preocupada por el asunto del laburo o más científicamente. Estoy convencido de que hay una especie de no tomar en serio el problema que tenemos enfrente. La gente de CTA me decía «tendríamos que obtener leyes que obliguen a tener al lado de la IA a una persona». Y yo les decía que eso es totalmente artificial. Imaginate que hagan tantas manifestaciones que lo logren. En cuanto llega un Milei o una Le Pen le dan a esa persona una patada. Yo les hablaba de la necesidad de crear una comisión -que de hecho existe, pero no labura mucho- tratando de comprender realmente la singularidad de lo vivo, de lo humano, para ver cómo se articula o no. Nadie le da bola al hecho de que hay una colonización algorítmica en el mundo, a todos los niveles, y no es neutro: hay que aprender a domesticar la potencia.
_¿Sugerís que nuestro desafío es ser críticos en el para qué usamos la IA? Desde esta perspectiva, para un adulto habría una diferencia entre hacer terapia con el chat GPT y pedirle que facilite alguna tarea.
_Hay un punto que parece marginal pero es fundamental con respecto al compromiso, el actuar: el pesimismo es reaccionario. Es un lujo aristocrático. Yo hago un diagnóstico, y trato de que sea lo más certero posible para actuar. Pesimismo quiere decir gozar del apocalipsis. No podemos permitirnos esto, no es una opción. Todo diagnóstico o comprensión tiene que ser para la resistencia, la lucha. Lo que laburo hace tantos años, que es lo que cuento en el libro, es esta delegación de funciones masiva, que no es solamente unidireccional. Cuando vos delegás las funciones, la máquina te formatea el cerebro.
_¿Qué implica esto?
_La potencia algorítmica modifica tu relación con el mundo. Se mete entre el mundo y vos. El problema ahora es que los proyectos macroeconómicos, los epidemiológicos, de salud, etcétera, están hechos de acuerdo a la lógica de la máquina, del funcionamiento. Ahí es donde opongo como imagen «funcionar o existir». El existir, que es lo propio de lo vivo, hasta en una cucaracha, es resolver problemas con respecto a tu existencia. El funcionar va más allá. Hay una cosa muy tragicómica en la Argentina. Cuando Milei dice «no se preocupen, la cosa va a andar bien» hay que creerle, pero para él lo que es andar bien ya no está más centrado en lo humano sino en lo macroeconómico, que no tiene nada que ver con lo humano. El está diciendo la verdad verdadera, que es que hemos pasado a otro mundo, el del puro funcionamiento.
Desde un punto de vista macroeconómico, algorítmico, calculante, va a funcionar bien. Simplemente que esto funcione bien significa que desde el punto de vista de lo vivo va a ser un desastre. Lo que está diciendo Milei, que es cosustancial con el mundo algorítmico -no porque el algoritmo sea neoliberal, sino porque por el momento no sabemos utilizarlo de otra manera-, para hacer una metáfora, sería como un oncólogo que dice que todo va a ir bien. Pero… ¿para qué células? ¿Las cancerosas o las sanas? Ese mundo, el mundo de Milei, tenemos que entenderlo de manera un poco abrupta. Es el mundo que hizo posible esta algoritmización del mundo, porque algoritmizar el mundo quiere decir hacerlo calculable, predictible. Se funciona bien o mal, pero nosotros, los humanos, los bichos, mi perro, no funcionamos bien o mal. Existimos. Esas categorías son las que están cada vez más aplastadas. Por ejemplo el otro día, en la CTA, me dijeron «tenemos que hacer una IA que nos ayude a sindicarnos». Y yo les dije «¡no, por favor!». Esta puesta en forma implica una puesta en norma. Una obediencia.
_Si no hay que caer en el pesimismo, si las regulaciones no son la salida, si el desafío es crear una alternativa de resistencia… ¿qué hacemos ante un escenario que puede ser un desastre a nivel laboral y ante tecnologías que, como contás en el libro, producen atrofias en nuestros cerebros?
_Antes evocabas esos programas de psicoterapia. Están muy bien hechos. Si vos tenés dificultades, disfuncionamientos en tu vida, te puede ayudar. Tenés problemas de pareja y te da consejos para funcionar bien. El problema es, justamente, que la existencia es esa complejidad donde uno no vive para funcionar bien. Uno vive. Y lo que el sistema algorítmico no puede incorporar es toda la complejidad, la negatividad. Una vez me preguntaron en Italia cuál era la diferencia y yo dije «que la máquina no puede ser pelotuda». No era un chiste. La pelotudez, enamorarte siempre de la mala persona, fumar, tomar tu tiempo es lo propio de existir. Hay máquinas que hacen terapia, pero es ahí donde hay que ver la singularidad, la alteridad humana.
La máquina piensa, programa, pero difícilmente pueda incorporar las dimensiones reales nuestras que hacen que nosotros queramos equivocarnos. Para nosotros, andar bien por andar bien no tiene sentido. Las dimensiones de la existencia no son andar bien o mal. El famoso poema «Itaca», de Kavafis, que cito siempre, refleja que para lo vivo es el camino lo que cuenta. O como Machado: «caminante no hay camino». El objetivo para lo humano, lo vivo, es una pequeña ilusión que te permite ponerte en ruta. En cambio, para la máquina es llegar al objetivo de manera linear, de A a B. Si sale de A y no llega a B, o se va a Z o Q, la tirás. Si nosotros vamos de A a B es porque algo anduvo mal. La urgencia es que estamos olvidando la singularidad de lo vivo, del cerebro humano. No estamos utilizando la máquina para que nos ayude pero quedando nosotros con nuestra singularidad. Estamos siendo formateados por ella. Cada vez queremos funcionar más como ella. No se trata de ser tecnófobo pero sí de saber que hay una diferencia cualitativa enorme.
Con respecto al laburo, si no somos capaces de comprender esta alteridad, no vamos a encontrarle el lugar a lo humano en el dispositivo laboral. Si parto de la base de que lo único que quiero es una eficacia linear, de beneficio, ganancia, utilitarismo no hay ningún lugar para el humano. ¿Viste que los referís ahora tienen máquinas por todos lados para ver si hubo o no hubo cualquier cosa? El fútbol es otro deporte. Todo lo que tenía que ver con las zonas grises desaparece hacia una exactitud que hace que el deporte no sea el mismo porque está colonizado por la exactitud de la máquina. Cuando uno se compara con chat GPT ya perdió, porque se considera una suma de módulos. En cuanto a las leyes, tienen que acompañar el movimiento real.
_¿A qué conclusiones llegaste con tus estudios sobre el cerebro?
_Toda delegación demasiado rápida y masiva de funciones cerebrales -acordarme los números de teléfono, ubicarme en el espacio con el GPS- no permite que la zona del cerebro liberada, o sea la que no se ocupa más de esto, se ocupe de otra cosa. No está reciclada para hacer otra cosa, entonces se atrofia, o es colonizada por otras zonas. Hay una pérdida. El ejemplo que doy es tonto: yo vivo en un sexto piso y tengo un ascensor, pero no es que por tenerlo no me muevo más. Hago gimnasia. No sabemos utilizar la potencia del ascensor y a la vez hacer gimnasia. Lo que me fui dando cuenta poco a poco y fue confirmado por todos los colegas de manera uniforme es este mecanismo de delegación de funciones y debilitamiento de la potencia cerebral.
Cuando saqué los primeros artículos y el libro El cerebro aumentado, el hombre disminuido (Paidós), pensé que los colegas iban a decir «para nada Miguel», y me dijeron que era un pivot evolutivo, que de ahora en adelante el cerebro se ocupará de muchas menos cosas de las que se ocupaba; entonces la concepción de los investigadores hoy es que parte del cerebro interectuará con la red de silicona. Como que no es más el ser humano que utiliza la máquina, sino que el cerebro, de manera dislocada, es segmento de la red. Es la imagen, para mí horrible, que tiene la mayor parte de los colegas.
_¿El cerebro integrado a la máquina?
_Sí, pero no unificado. Capturando circuitos. Es evidente que la utilización del mundo algorítmico nos está modificando, y es inevitable históricamente. El asunto es si va a ir del lado del funcionamiento o de la vida. Ya no estamos más en la posibilidad de decir «están el ser humano y la máquina». La hibridación está avanzadísima. No es posible imaginar tipo ciencia ficción un hombre y una mujer que rompen la máquina. De lo que se trata es de esta bifurcación: o la hibridación va en sentido de ser colonizados, y vamos a funcionar cada vez mejor, como diría Milei, pero en pura pérdida de lo vivo, no sólo de lo humano; o va en sentido de respetar la vida. No en sentido moral, sino en sentido de que la máquina no imponga el puro funcionamiento a la complejidad de la vida.
_¿Hay investigaciones con respecto a las implicancias del chat GPT?
_Estamos viendo estos programas generativos desde hace muchos años, con un investigador que ahora está en Japón. Los elementos fundamentales son dos: uno más bien psicológico y el otro neuronal. En cuanto a lo neuronal, tiene una fuerza muy grande de formataje del modo de reflexionar y de pensar, que es un modo, como decimos en el librito, donde vas a lo mayoritario. Te impide un pensamiento que es lo típico del pensamiento creativo, que es minoritario: vos estás pensando algo que se va por las ramas, no aparece como lógico… muy poca gente ve eso, la diferencia entre un pensamiento marginal, minoritario, que tiene que ver con tu percepción, y lo masivo.
El formataje fundamental cierra aún más la posibilidad de un pensamiento marginal, transgresivo. El otro elemento, el psicológico, es la depresión total de darte cuenta de que de nada sirve hacer un esfuerzo. Poco a poco agarrás y decís, «me tengo que romper el culo para leer todo esto» y qué sé yo, aparece una cosa artificial, y esta artificialidad es lo que hay que cuestionar. «¿Lo hace mil veces mejor que yo, por qué voy a trabajar un mes?» Acá también hay que poder encontrar la alteridad. El lado psi-social es que el golpe al narcisismo humano del chat GPT es terrible.
_Esto entronca con el empeoramiento de nuestras condiciones de vida… tiempo atrás existía el paradigma de que si te esforzabas tus condiciones de vida podían mejorar. Ahora no se siente lo mismo. ¿Qué relación hay entre la algoritmización del mundo y esta tendencia?
_Es cosustancial, van juntos. Por eso decía que hay que tomar en serio a Milei. Las cosas van a andar mejor, pero para qué, no diría ni para quién. Este asunto del que produce pierde, que es propio del neoliberalismo de siempre, ahora se transformó en la ley total. Estamos en una macroeconomía donde todo se virtualiza y desmaterializa. Es ahí donde los cuerpos tienen que poder resistir, y son los que rompen las pelotas para el sistema. Cuando Milei dice «mañana va a andar bien la cosa» los cuerpos no entran en línea de cuenta. Ese es el cambio antropológico que estamos viviendo, la ruptura del modelo occidental. La ruptura de ese modelo al punto de que los cuerpos no tienen nada que ver. El archineoliberalismo es el mundo desmaterializado sin cuerpos.
_La palabra «cuerpo», que siempre ponés en el centro, toma una dimensión muy importante, porque el de Milei es un modelo que atenta contra los cuerpos en su posibilidad de alimentarse, en cuanto a la salud… cosas elementales.
_Eso es lo que hay que entender para resistir. El paradigma neoliberal de Milei no tiene más en el centro al ser humano. Como nosotros estamos saliendo del humanismo occidental seguimos pensando que todo sistema debe tener en el centro la preocupación de lo humano y lo vivo. No es cierto. Basta pensar un sistema teológico, en que los seres humanos pueden ser sacrificados en nombre de la divinidad. Antropológicamente ha habido otros sistemas donde el antropocentrismo no es el eje. Para comparar, ir rápido, un sistema en el que la divinidad, el centro, es el dios pirulo. En nombre del dios pirulo… el economicismo es así. Es una boludez escandalizarse diciendo «pero… el humano». No. Ellos sacaron lo humano del centro y pusieron otra cosa que es el funcionamiento. Cuando decís se mueren los enfermos oncológicos, los viejos, se inunda… es como Zaratustra. Hay que reescribirlo y decir «¿no sabe que el hombre ha muerto?» La divinidad es otra. La resistencia tiene que ser absolutamente global. No se pueden discutir planes, porque no es el mismo objetivo.
_El post de Manuel Adorni sobre la supuesta inexistencia de la palabra «lesbicidio» también aplica a esto que decís.
_Claro. Los cuerpos no tienen nada que ver. Un desafío importante, realmente descolonial, es no remeter al ser humano en el centro de proyecto, sino meter la vida, como ecosistema, donde la especie humana cohabita con las otras especies. Nuestro proyecto no tiene que estar capturado por Occidente. No podemos oponer al hombre del humanismo occidental al funcionamiento, porque liberarse del antropocentrismo occidental es fundamental. Es una pelea de divinidades. En la primera guerra mundial no había malos nazis de un lado y buenos aliados de otro. Eran todos una manga de hijos de puta, coloniales, el macro proceso Nación sirvió para que la gente se fuera a morir. No es una sorpresa que el bienestar del ser humano no esté en el centro. Simplemente, frente a eso, tenemos que remeter a los ecosistemas reales.
Animismo mecánico
_Hace unos días Open IA lanzó el Chat GPT 4, con nuevas funcionalidades. ¿Qué conclusiones sacaste de este último avance?
_Lo que se busca con el nuevo chat GPT es imitar ciertos afectos. Estamos demasiado fascinados con él; que una frase del chat GPT pueda despertarte un afecto es una boludez. Porque vos de repente ves un peluche bien hecho y te puede despertar afecto también. Eso no quiere decir que el peluche tenga acceso a los afectos. Lo que están haciendo es eso: cuando hacen robots, en vez de hacerlos de cualquier forma, te los ponen de forma humana y pueden hacer gestos que despierten sentimientos. Pero eso no quiere decir que vos compartas un sentimiento. Cuando ves un atardecer muy lindo sos vos que estás tocado, el atardecer no tiene nada que ver con los afectos. Es darse cuenta una vez más de la alteridad, el chat GPT no tiene ningún acceso ni nada que ver con los afectos. Simplemente ciertos funcionamientos para nosotros pueden significar un afecto. Hay que tener cuidado con este animismo mecánico que implica empezar a imaginar afectos en la máquina.
fuente: https://www.pagina12.com.ar/738263-miguel-benasayag-cuando-uno-se-compara-con-chat-gpt-ya-perdi