14/12/23

Renunciando a hacernos preguntas creamos una tecnología que solo ofrece respuestas

LA TOTALITARIA CULTURA DE LAS RESPUESTAS

Desde los más catastrofistas que auguran la extinción de la especie hasta las lecturas más cándidas que hablan de la neutralidad y las posibilidades que brinda la tecnología para superar los límites de la humanidad, el debate sobre la aplicación de la Inteligencia Artificial (IA) abarca diversos posicionamientos. Aun cuando parezca imposible llegar a un acuerdo, en lo que todos parecen coincidir es en que, en breve, lo que consideramos “humano”, deberá ser resignificado.

Pero, ¿de qué se trata este cambio? En una entrevista para Zenda, el filósofo alemán Wolfram Eilenberger, autor de libros como Tiempo de magos, responde a este interrogante rastreando los orígenes de la filosofía y el conocimiento humano. Haciendo suya una larga tradición, Eilenberger encuentra en los niños el elemento indispensable para comprender un proceso que, según él, está en riesgo con la IA.

Más específicamente hace referencia al asombro como elemento impulsor del conocimiento y, sobre todo, a la posibilidad de hacer preguntas, aquello que nos diferencia del resto de los animales. Sí, esas preguntas incómodas y metafísicas que suelen hacer los niños hasta determinada edad y que los adultos responden como pueden hasta dar por cerrada la conversación con un “cuando seas grande vas a comprender”.

Cuando comentaba que Eilenberger abraza una larga tradición filosófica, me refería a aquella que comienza en Sócrates y Platón y llega hasta el mundo contemporáneo en análisis como los de Karl Popper.

Si nos remontamos a la Grecia del siglo V AC, Sócrates considera que la verdad ve la luz a través de un proceso de diálogo, de una conversación. Sobre esta base es que él utiliza el método de la mayéutica que consiste en no hacer afirmaciones sino solo preguntas de modo tal que el interlocutor agudice sus argumentos y eventualmente, abandone sus concepciones erróneas. La pregunta es, entonces, más importante que la respuesta y la pregunta adecuada es la que guía el intercambio. Que para esta tradición la verdad sea el resultado de la conversación, es la razón por la cual Sócrates nunca escribió y por la que Platón dio a sus escritos la forma de diálogo. Evidentemente, para ellos, el conocimiento era asunto de dos.

En el caso de Karl Popper, sus reflexiones acerca del método científico reflejan que, en el origen, lo que aparece es una hipótesis, una afirmación sobre un estado de cosas que luego debe ser corroborada o refutada por el mundo. Sin embargo, la hipótesis que se debe contrastar es la respuesta a una pregunta previa, a un problema: ¿Cómo circula la sangre? ¿Cómo ha evolucionado la vida sobre la Tierra? ¿Cómo se explica la órbita terrestre? Se trata solo de algunos de los interrogantes que atravesaron a generaciones de científicos y que recibieron diversas respuestas hasta que alguna de ellas acumuló la suficiente cantidad de evidencia empírica a su favor como para ser la aceptada por la comunidad científica hasta el momento.

En este contexto, Eilenberger plantea algo interesante y afirma que la IA es parte de una cultura que solo ofrece respuestas. Efectivamente, en pocos años, las enciclopedias de papel fueron reemplazadas por la manipulable Wikipedia y ésta, a su vez, está siendo reemplazada por aplicaciones como ChatGPT que ofrece automáticamente los mismos sesgos pero que funciona casi como una suerte de asistente personal para prácticamente cualquier necesidad.

Esta referencia de Eilenberger a una cultura de la respuesta es un aspecto que ya hemos trabajado aquí para dar cuenta del modo que se ha modificado la interacción en el debate público. Ya no hay diálogo democrático, sino facciones monolíticas que ingresan en la conversación “a gritos”, sin preguntas, sin dudas y sin ningún ánimo de, eventualmente, modificar sus posiciones. Sin posibilidad de revisar los puntos de vista, solo queda la imposición, el poder, la fuerza; deslegitimadas las dictaduras, los viejos totalitarismos permanecen larvados en la pretensión de tener todas las respuestas sin salir de uno mismo o, en el menor de los casos, sin salir del grupo de pertenencia. Así, la verdad no es un proceso sino una identidad que tiene propietarios: los muy poderosos y las víctimas (las reales y las que fingen serlo).

Si lo dicho hasta aquí es correcto, aplicaciones como el ChatGPT son solo el emergente de una cultura que fue su condición de posibilidad. En otras palabras, es una sociedad que hace tiempo ha renunciado a hacerse preguntas la única capaz de avanzar en la creación de una tecnología que solo ofrezca respuestas. Paradójicamente, la sociedad infantilizada ha renunciado a hacer lo que mejor hacían los chicos: preguntas.

Sin embargo, habría todavía un motivo para la esperanza en un elemento que Eilenberger parece no ver: siguen siendo los humanos los únicos capaces de hacer las preguntas. Es decir, al menos hasta ahora, no hay IA capaz de asombrarse y de preguntar como preguntan los chicos y no conocemos todavía ni una civilización ni una tecnología capaz de hacerlo.

En síntesis, evitando la ingenuidad de pensar que las tecnologías son neutrales, se impone una reflexión que abarque las consecuencias civilizacionales de este tipo de tecnologías, pero, sobre todo, el contexto que les ha dado lugar.

Y en todo caso, si de desafíos civilizatorios se trata, más interpelante que una tecnología que tenga todas las respuestas, sería una tecnología capaz de hacerse preguntas. Se trataría de una tecnología capaz de reproducir la dinámica del conocimiento humano abriendo nuevas puertas hacia terrenos desconocidos. Sin embargo, como emergente del tipo de sociedad que habitamos, puede que rápidamente intenten hacernos creer que se trata de una tecnología tan superadora que es capaz de haber agotado todas las preguntas posibles, como esa Biblioteca de Babel borgiana que abarcándolo todo devenía inútil y apabullante.

Si el totalitarismo de hoy viene en la forma de tener respuestas para todo, imaginemos lo que podría ser el totalitarismo de mañana, ese que a todas las respuestas le sume la pretensión de brindar todas las preguntas posibles.

DANTE AUGUSTO PALMA

https://disidentia.com/la-totalitaria-cultura-de-las-respuestas/  

No hay comentarios: