RESISTIR EL APOCALIPSIS DE LAS MÁQUINAS
Dejando de lado los matices y condensando tres décadas de investigación y una gran cantidad de pruebas en una frase: ahora estamos hipnotizados por la parte menos inteligente del cerebro humano. Por razones de supervivencia, un hemisferio del cerebro, el izquierdo, ha evolucionado a lo largo de millones de años para favorecer la manipulación (agarrar, obtener y controlar), mientras que el otro, el derecho, se ha encargado de comprender el panorama general. Estos objetivos son tan contradictorios que, en los seres humanos, los hemisferios están en gran medida aislados el uno del otro.
Nuestra aparente capacidad actual para escuchar solo lo que
proviene del hemisferio izquierdo no se debe a que el cerebro haya cambiado
radicalmente en los últimos dos siglos, aunque es cierto que siempre está
evolucionando. Es más bien así: compras una radio y pronto encuentras un par de
emisoras que merecen la pena escuchar. Al cabo de un tiempo, te das cuenta de
que solo escuchas una. No es la radio la que ha cambiado, eres tú. En el caso
del cerebro, no importaría tanto si nos hubiéramos decidido por el canal
inteligente, pero no lo hicimos. Nos
decidimos por aquel cuyo valor no tiene nada que ver con la verdad, ni con el
coraje, la magnanimidad o la generosidad, sino solo con la codicia, el afán de
poseer y el obtener. La manipulación.
Y no, la diferencia entre los hemisferios no es un mito que
haya sido desmentido, como he explicado ampliamente en otra parte. Lo que hay
que desmentir es el viejo mito de la psicología popular según el cual el
hemisferio izquierdo «se encarga» de la razón y el lenguaje, y es aburrido pero
al menos fiable, como un contable un poco soso, mientras que el hemisferio
derecho «se encarga» de las emociones y las imágenes y tiende a ser voluble y
frívolo. Todo esto es erróneo.
Ahora sabemos que
cada hemisferio participa en todo y que, para que conste, el hemisferio izquierdo
es menos estable emocionalmente, así como menos inteligente —me refiero a
cognitivamente, así como emocional y socialmente— que el derecho.
El hemisferio
derecho es una guía muy superior de la realidad; los delirios y las
alucinaciones son mucho más frecuentes, más graves y más persistentes después
de un daño en el hemisferio derecho que después de un daño en el izquierdo. Sin
el hemisferio derecho en el que apoyarse, el hemisferio izquierdo está perdido.
Niega los hechos más obvios, miente e inventa cosas cuando no sabe de qué está
hablando. Y es implacable y vacuamente alegre ante el desastre.
Podrías decir: «¿Y
qué? No me importa dónde se desarrollen las cosas en mi cerebro». Importa
porque cada hemisferio tiene una visión diferente del mundo, y sus visiones no
son estrictamente compatibles. Por lo tanto, cuando reflexionamos, filosofamos
o discurrimos públicamente, nos vemos obligados, sin saberlo, a favorecer una
«visión» u otra.
¿Cómo son estas dos
visiones hemisféricas del mundo? Quizás las reconozcas por experiencia. El
hemisferio izquierdo, utilizando una atención estrecha a un detalle tras otro,
ve lo que es familiar, cierto, estático, explícito, abstracto,
descontextualizado, incorpóreo, categorizado, de naturaleza general y reducido a
sus partes. Todo es predecible y controlado. Se trata de un universo inanimado,
el sueño de cualquier burócrata. Es como un mapa en relación con el mundo
cartografiado: útil en la medida en que omite casi todo. Y su único valor
reside en su utilidad.
El hemisferio
izquierdo percibe todo como una representación. «Representar» significa
literalmente presentar algo de nuevo, cuando ya no está presente, sino muerto y
desaparecido. Por el contrario, el hemisferio derecho no ve la representación,
sino la presencia viva. Al prestar una atención amplia, abierta, sostenida y
vigilante al mundo, ve lo que es fresco, único, nunca completamente conocido,
nunca definitivamente cierto, pero lleno de potencial. Entiende todo lo que es
y debe permanecer implícito: el humor, la poesía, el arte, la narrativa, la
música, lo sagrado, en definitiva, todo lo que amamos; entiende que nada es
estático e inmutable, que todo fluye y está interconectado. Este es un mundo
libre, un universo animado... y la pesadilla de cualquier burócrata. Tiene toda
la riqueza y complejidad de ese mundo que el hemisferio izquierdo simplemente
cartografió.
Cada una de estas
dos formas de ver el mundo es vital para nuestra supervivencia. Debemos
simplificar y distanciarnos para manipular las cosas, ocuparnos de las
necesidades de la vida y construir una civilización. Pero para vivir en esa
civilización, también debemos pertenecer al mundo viviente. Esta división de la
atención nos beneficia cuando utilizamos ambos hemisferios. Pero es una
desventaja, de hecho una catástrofe, cuando solo utilizamos uno.
Como expliqué en El
maestro y su emisario, dos veces en
la historia de Occidente —en la antigua Grecia y luego en Roma— una
civilización comenzó con una fructífera armonía entre el hemisferio izquierdo y
el derecho, pero al extralimitarse, se inclinó hacia la visión del mundo del
hemisferio izquierdo y luego colapsó. Ahora se está siguiendo la misma
trayectoria por tercera vez. Tras el milagroso estallido de creatividad en las
artes, la ciencia, la sociedad y la filosofía que llamamos Renacimiento,
nuestra civilización, desde la Ilustración, se ha ido desplazando cada vez más
hacia la izquierda, embriagada por la creencia de que lo sabe todo y puede
arreglarlo todo. Somos como sonámbulos que caminan hacia el abismo.
Existe un fenómeno
en psicología llamado efecto Dunning-Kruger, según el cual cuanto menos sabes,
más crees que sabes, y viceversa. El hemisferio izquierdo no sabe lo que no
sabe, por lo que cree que lo sabe todo. El hemisferio derecho, que comprende
mucho más, es consciente de esas vastas incógnitas.
Cuando funcionamos
bien, el hemisferio derecho comprueba con la experiencia la teoría del
hemisferio izquierdo sobre la realidad. Pero la visión del hemisferio izquierdo
de una construcción geométrica bidimensional, mecánica y sin vida se ha
exteriorizado a nuestro alrededor hasta tal punto que, cuando el hemisferio
derecho comprueba la experiencia, descubre que el hemisferio izquierdo ya ha
colonizado la realidad, al menos para aquellos de nosotros que llevamos una
vida urbana occidental moderna. Encuentra un simulacro perfecto del
mundo según el hemisferio izquierdo.
Las cosas que solían
alertarnos sobre la insuficiencia de nuestras teorías reduccionistas están
desapareciendo. Eran: el mundo natural; el sentido de una cultura compartida
coherente; el sentido del cuerpo como algo que vivimos, no solo poseemos; el
poder del gran arte; y el sentido de algo sagrado que es real pero trasciende
el lenguaje cotidiano.
La IA —el
procesamiento artificial de la información, no la inteligencia artificial—
podría considerarse en muchos sentidos como una réplica de las funciones del
hemisferio izquierdo a una velocidad aterradora en todo el mundo. El hemisferio
izquierdo manipula símbolos o signos para representar aspectos de la
experiencia. El hemisferio derecho está en contacto con la experiencia misma,
con el cuerpo y las emociones más profundas, con el contexto y el vasto reino
de lo implícito. La IA, al igual que el hemisferio izquierdo, carece de una
visión global, de otros valores o de la forma en que el contexto —incluso la
escala y el alcance— lo cambia todo.
Pero, se preguntarán, ¿no puede la IA ayudarnos al liberarnos
de tareas mundanas y darnos más tiempo libre? Por supuesto, la tecnología de la
información ahorra tiempo al hacer las cosas rápidamente. ¿O no? Los jefes
ahorran salarios, pero nosotros nos convertimos en sus nuevos esclavos
asalariados involuntarios. Mientras tanto, con la automatización de cada vez
más procesos que antes requerían sólo una llamada telefónica de cinco minutos,
nos vemos envueltos en transacciones comerciales de horas de duración con
programas informáticos que nos llevan a bucles cerrados al estilo de Escher,
solo para informarnos juguetonamente: «Vaya, algo ha salido mal...».
Y si después de esto te quedas al teléfono para poder hablar
con una persona real, las personas reales parecen estar cada vez más degradadas
por la aplicación de algoritmos similares a los de las máquinas, hasta el punto
de que bien podrían ser máquinas. La
tecnología de la información, por lo tanto, es muy capaz de empeorar la vida.
Esto ya es evidente en el creciente
estrés de la vida cotidiana y en los muchos pequeños indicios de que estamos
perdiendo nuestra conexión con otros seres humanos. Esta pérdida de
conexión se ha hecho mucho más evidente en los últimos cuatro o cinco años, y
no solo por culpa de la COVID.
A medida que las
máquinas desplazan gradualmente a las personas, ¿qué ocurre con el desarrollo
humano? ¿Qué sucede cuando la dependencia de las máquinas nos despoja de
nuestras habilidades, un proceso que ya está muy avanzado? ¿Y qué ocurre si,
por cualquier motivo —como la escasez de recursos, un apagón prolongado, el
colapso del orden civil o una guerra— ya no podemos confiar en esas máquinas de
forma constante? ¿Cuán resilientes, ingeniosos y hábiles resultaremos ser en
comparación con nuestros antepasados?
Dejando de lado estas posibilidades alarmantes, pero que no
creo que sean meramente alarmistas, consideremos
el impacto de la pérdida del contacto diario con los seres humanos a medida que
se automatizan cada vez más puestos de trabajo. ¿Qué pasará con aquellos que se
queden sin empleo? Algunos pocos inteligentes podrán conseguir trabajo
en el sector de las tecnologías de la información, pero el impulso económico es
muy simple. Las máquinas son más baratas que las personas, por lo que el
objetivo debe ser emplear a menos personas.
¿Y qué hay de nuestra
dignidad como individuos libres? ¿Podemos escapar de la terrible perspectiva,
ya realidad en China, de que dondequiera que vayamos, lo que compremos, con
quien nos vean, cada palabra, cada acción, los pensamientos que expresamos en
nuestros rostros, todo sea monitoreado, potencialmente anotado en nuestra
contra, y cualquier libertad que nos quede sea restringida en consecuencia? Nos
convertimos en no ciudadanos, en no personas.
La única respuesta a esto me parece ser una especie de
carrera armamentística de IA en la que los supuestos buenos utilizan la IA para
adelantarse a la IA de los malos. Pero incluso en este escenario, ¿quiénes son
los buenos? ¿El Foro Económico Mundial? El
problema de aumentar el alcance del poder humano es que, tarde o temprano, se
utilizará con fines malvados. Y una vez que un régimen pernicioso en base a IA
alcance un cierto nivel, puede destruir cualquier intento de resistirse a ella,
lo que conlleva la perspectiva de un totalitarismo sin fin.
Aparte de esa pesadilla, hay mucho que temer si dejamos las decisiones importantes en manos de la
IA. Todas las decisiones que afectan a los seres humanos son decisiones
morales. Y la moralidad no es puramente utilitaria; no puede reducirse a un
cálculo. Cada situación humana es única, y su singularidad surge de la historia
personal, la conciencia, la memoria, la intención, todo lo que no es explícito,
todo lo que entendemos por la palabra aparentemente simple «emoción», toda la
experiencia y el conocimiento adquiridos y almacenados en el cuerpo, todo lo
que nos hace humanos y no máquinas. La bondad requiere mentes virtuosas, no
solo seguir las reglas.
Vale la pena señalar que las personas con esquizofrenia muestran un pensamiento y un
comportamiento coherentes con el exceso de actividad del hemisferio izquierdo y
la hipofunción del hemisferio derecho. Ven un mundo de fragmentos y a
menudo imaginan que las personas se han convertido en seres inanimados,
similares a máquinas o zombis. Para ellas, nada parece real, y el mundo parece
un simulacro, una farsa, una obra de teatro montada para engañarlas: una
persona puede parecer una persona, pero extrañamente no lo es. Para mí, la creencia de que las máquinas
pueden llegar a ser sensibles es la antítesis de la opinión de que nosotros,
los seres sensibles, no somos más que máquinas.
El psiquiatra R. Laing describió a un paciente esquizoide
que veía a su esposa como una máquina: "Ella era «una cosa» porque todo
lo que hacía era una respuesta predecible y decidida. Por ejemplo, él le
contaba (a eso) un chiste divertido corriente y, cuando ella (eso) se reía, eso
indicaba su naturaleza totalmente «condicionada», similar a la de un
robot."
La suposición del «condicionamiento» mecanicista refleja lo
que apenas es una parodia de una postura científica nada infrecuente. También
representa una psicopatología escalofriante. Pero esta mentalidad no difiere mucho de la forma en que podríamos empezar a
vernos unos a otros si los procesos mecánicos de la IA se convirtieran en la
norma del comportamiento humano. A
medida que las máquinas se vuelven más parecidas a los humanos, los humanos se
están volviendo más parecidos a las máquinas, debido a que se ven obligados a
interactuar con ellas.
La perspectiva de
los ciborgs también es sombría. La mejor manera de destruir la humanidad sería
hibridarla con máquinas. No llamo malvados a quienes persiguen este
objetivo, puede que simplemente tengan una falta de imaginación o de
comprensión. Pero el objetivo en
sí mismo es malvado, si es que podemos llamar malvado a algo. Solo puede
degradar aún más nuestra idea de para qué sirve la vida humana y nos abre al
control totalitario.
Somos como el aprendiz de brujo del cuento, que sabía el
hechizo para poner las cosas en marcha, pero no tenía ni idea de cómo
detenerlo. El genio de la tecnología de
la información y otros métodos avanzados ha salido de la lámpara y no puede
volver a meterse en ella (a menos que se produzca un colapso de la
civilización, lo cual, me temo, no es nada improbable). Entonces, ¿qué podemos
esperar?
Lo que importa para
el futuro de la humanidad es la imaginación. El hemisferio izquierdo suele ser
un impedimento para la imaginación, y su objetivo es único y simple: el poder. La IA existe para hacer que las cosas
sucedan, para darnos control; pero solo es buena si avanzamos en sabiduría tan
rápido como avanzamos en conocimientos técnicos. De lo contrario, nuestro
«progreso» es como poner ametralladoras en manos de niños pequeños.
Sin embargo, si se
emplea con prudencia, la IA tiene el potencial de ser una gran ayuda para
nosotros. Por encima de todo, puede ayudarnos a reparar el daño causado por la
industrialización, la destrucción del mundo viviente. Podría ayudarnos a
idear formas de limitar y tal vez revertir la contaminación de los mares, o
formas menos destructivas de generar energía. (Quizás nuestra dependencia de la
energía sea parte del problema, y deberíamos aspirar a utilizar menos energía
en el futuro). Y aunque como médico creo en el tratamiento de las enfermedades,
también reconozco que todos moriremos algún día por alguna causa. Debemos centrarnos en la calidad de la vida,
más que en su duración. Una vez más, creo que la IA puede ayudarnos abordando problemas técnicos específicos, al
tiempo que se mantiene lo más alejada posible de nuestra vida cotidiana.
Para aprovechar al
máximo estas nuevas tecnologías, tendremos que comprender una paradoja: para
tener éxito con la IA, cuyo objetivo es darnos control, debemos renunciar al
control, al menos en gran medida. En otras palabras, debemos abandonar los
mecanismos del hemisferio izquierdo: la burocracia, la microgestión y la
asfixia de los sistemas. Debemos trabajar con la naturaleza, no contra ella. Un
jardinero no puede crear una planta ni hacerla crecer; un jardinero solo puede
permitir y animar a la planta a hacer lo que hace, o bien ahogarla y
estrangularla.
Los seres humanos,
del mismo modo, solo podemos ver obstaculizado nuestro crecimiento por
presiones externas. Necesitamos espontaneidad, apertura al riesgo y confianza
en nuestra intuición para ejercer la imaginación y la creatividad, y para estar
vivos y verdaderamente presentes.
Por lo tanto, si queremos confiar el futuro a buenos
jardineros en lugar de manipuladores, necesitaremos personas con inteligencia y
perspicacia, y tendremos que darles tiempo. Dejen de presionarlos. Dejen de
preguntarles cuántos artículos han publicado recientemente. O cuánto les falta
para obtener una patente. Es cierto que si confían, a veces se sentirán
decepcionados, pero la mayoría de las veces serán generosamente recompensados.
Por el contrario, si los supervisan y controlan, nunca obtendrán más que
mediocridad. Y en este momento no podemos permitirnos la mediocridad.
Lo que hace que la
vida merezca la pena es lo que solo puede llamarse resonancia: el encuentro con
otros seres vivos, con el mundo natural y con los mayores productos del alma
humana; algunos dirían que con el cosmos en general o con Dios. Solo al
encontrarnos con lo incontrolable experimentamos el mundo en su profundidad y complejidad
y nos sentimos plenamente vivos. La resonancia que disfrutamos en una relación
real con otro ser sensible no es posible donde no hay libertad, espontaneidad
ni vida.
Si no queremos
seguir disminuyendo como seres humanos, debemos mantener el control sobre las
máquinas, no caer bajo su control. No estoy hablando de un futuro apocalíptico;
estoy hablando del apocalipsis actual. Ya estamos renunciando con calma y en
silencio a nuestra libertad, nuestra privacidad, nuestra dignidad, nuestro
tiempo, nuestros valores y nuestro talento en favor de las máquinas. Las
máquinas nos prestan un gran servicio cuando nos liberan de las tareas pesadas,
pero debemos dejar los asuntos humanos en manos de los humanos. Si no lo
hacemos, estaremos firmando nuestra propia sentencia de muerte.
Iain McGilchrist
Psiquiatra británico, filósofo y
neurocientífico que escribió el libro El
maestro y su emisario: El cerebro dividido y la creación del mundo occidental.
En 2021 publicó un libro sobre neurociencia, epistemología y metafísica
titulado The Matter with Things.
https://www.climaterra.org/post/iain-mcgilchrist-resistir-el-apocalipsis-de-las-m%C3%A1quinas
No hay comentarios:
Publicar un comentario