Si la IA se vuelve ubicua, creo que hay una solución: volverse plenamente humanos

¡PAREN A LA MÁQUINA!                       

Hoy, nuestro mundo ha llegado a celebrar a aquellos que encuentran lo más grande, el milagro tecnológico, lo nuevo, lo más rápido, lo más fuerte. Estos descubrimientos nos hacen más poderosos, más eficientes en la generación de abundancia y más eficientes y poderosos para matar a nuestros enemigos. Así que celebramos a quienes encuentran el grial. Pero ¿quién está haciendo hoy la pregunta del grial: a quién sirve?

Hay unos pocos que hacen la pregunta. Cuando Ross Douthat le preguntó a Dario Amodei, el CEO de Anthropic, por qué tituló su esperanzador ensayo "Máquinas de gracia amorosa", llamado así por un poema en el que los humanos pierden su soberanía y se vuelven como animales gobernados por máquinas, creo que Ross estaba haciendo la pregunta del grial. Cuando Jonathan Haidt escribió La generación ansiosa  documentando las adicciones a las pantallas de nuestros hijos y su efecto en su salud, estaba haciendo la pregunta del grial.

El título del ensayo de Amodei está tomado de un poema de Richard Brautigan de 1967 que describe un futuro distópico donde los humanos son cuidados por computadoras.

Todo vigilado por máquinas de gracia amorosa

por Richard Brautigan

Me gusta pensar en un prado cibernético donde mamíferos y computadoras vivan juntos en una armonía de programación mutua como el agua pura tocando el cielo claro.

Me gusta pensar en un bosque cibernético lleno de pinos y electrónica donde los ciervos paseen pacíficamente por delante de las computadoras como si fueran flores con pétalos giratorios.

Me gusta pensar en una ecología cibernética donde estemos libres de nuestros trabajos y unidos de vuelta a la naturaleza, devueltos a nuestros hermanos y hermanas mamíferos, y todo vigilado por máquinas de gracia amorosa.

Pero lo que es extraño es que a menudo las personas que desarrollan estas nuevas tecnologías son las mismas personas que nos dicen que bien podrían provocar un páramo, advirtiéndonos de cómo podrían matarnos mientras ellos mismos estiran la mano hacia la lanza. ¿Cómo es que Elon Musk advierte que la IA es más peligrosa que las armas nucleares, primero ruega a todos que dejen de desarrollarla y finalmente comienza su propia empresa de IA?

¿No están todos ansiosos por preguntar a quién sirve Palantir? ¿A quién sirve? Quiero decir, no somos tontos. Sabemos que en la historia de la cual se tomó el nombre Palantir en El Señor de los Anillos, esta tecnología llegó a servir solo al señor oscuro Sauron. Cuando los oligarcas de la tecnología están construyendo búnkeres en islas y preparándose para el día del juicio final, todos deberíamos estar gritando: "¿A quién sirve esto? ¿Para quién es esto?".

Se ha hablado mucho en la última década sobre las trampas de escalada de la teoría de juegos, donde por razones de competencia ciertas tecnologías y sistemas, por peligrosos que sean, deben implementarse, y no solo implementarse, sino que corremos para implementarlos por temor a perder la competencia. Por supuesto, esto fue cierto en la carrera armamentista nuclear.

Es lo que muchos ahora llaman la trampa de Moloch.

Y de repente, estamos de vuelta en las historias antiguas. Historias que son mucho más antiguas que la historia del Grial. Moloch es una antigua deidad cananea que exigía que la gente sacrificara a sus hijos a cambio de poder. Y la trampa de Moloch es cuando la escalada necesaria para mantener el poder a través de la competencia nos hace sacrificar lo que es más preciado, incluso cuando en última instancia va en contra de nuestros intereses.

Así que, por temor que China nos gane en la implementación de la IA, sacrificamos millones de empleos, nuestra agua, nuestra energía, las mentes de nuestros hijos. De hecho, sacrificamos la capacidad misma de distinguir lo que es real de lo que es falso solo para poder ganar la competencia.

Ahora, por supuesto, los teóricos de juegos, no creen que Moloch tenga ningún tipo de existencia independiente. Es más como un mecanismo. Pero incluso los teóricos de juegos pueden ver que Moloch se está moviendo, que quiere algo. Y a medida que competimos entre nosotros, nos convertimos en sus piernas. Nos convertimos en sus manos. Y a pesar de nosotros mismos, hacemos marchar a esta bestia hacia nuestra posible destrucción.

Mientras finalmente todo el mundo se está arrepintiendo de dar a sus hijos tabletas y teléfonos, haciéndolos tontos, deprimidos y adictos, nos damos la vuelta y corremos a integrar la IA en absolutamente todo. Así que, creamos en el Dios cananeo o no, nos encontramos sacrificando a nuestros hijos a él. No obstante, como ha dicho a menudo Jordan Peterson, actuamos como si fuera real y eso es suficiente para que la bestia se siga moviendo.

Y lo que vemos que sucede es que a medida que la IA se inserta rápidamente a través de todos nuestros sistemas, tenemos esta intuición de que en lugar de ser una herramienta que nos sirve, tal vez nos estamos convirtiendo en los que sirven a la herramienta. Y encontramos, como Marshall McLuhan predijo en la década de 1960, que estamos siendo reducidos a convertirnos en los órganos reproductores de la máquina.

¿Estamos construyendo un dios? Algunas personas piensan que sí. Algunas personas que lo están fabricando piensan que sí. Si es así, ¿qué dios estamos construyendo? Si una trampa de Moloch fuera de control y posiblemente la adoración a Mammon están dirigiendo su desarrollo, ¿qué hacemos? Estamos en la trampa. La trampa es real. No pretendo que no sea real, pero no lo sé. Yo no sé qué hacer. Nadie sabe qué hacer. A nivel de sistema, no sabemos. Estamos atrapados. El gato, o más bien la serpiente, ya salió de la bolsa. No se puede volver a meter.

Ahora, Balin (ver el discurso al final) ya ha asestado el golpe doloroso en un frenesí de poder, codicia y competencia. Y esperamos y se nos dice que enfrentaremos ahora una convulsión tan grande que rivalizará con cualquier cosa que los humanos hayan experimentado desde el principio de los tiempos. Así que solo nos queda abrocharnos el cinturón, ¿verdad?

La única solución real en la que puedo pensar, es una solución personal. Es una solución similar a cómo Jordan Peterson nos dijo que hiciéramos nuestra cama. Yo tengo una versión ligeramente diferente de la afirmación. Yo digo vayan a la iglesia. Y lo que quiero decir con vayan a la iglesia es sí, deberían ir a la iglesia. Pero la pregunta más amplia es que si no podemos obtener una respuesta de a quién sirven estas tecnologías, por favor sepan a quién y qué sirven ustedes.

¿Sirven a Mammon? ¿Sirvo yo a Moloch? ¿A quién servimos? Si no podemos evitar que la máquina lo devore todo, entonces ustedes, entonces yo, debemos volvernos verdaderamente humanos. Más humanos que antes para que podamos permanecer, al menos en nuestra vida, como el amo de la máquina y no el esclavo de la máquina.

Y estamos en el lugar correcto porque debemos convertirnos en ciudadanos responsables. Para eso estamos aquí. Pero también en padres responsables, maestros responsables, estudiantes responsables por nuestro propio bien, pero realmente por el bien de todos nosotros.

Saben, desde la revolución industrial, la gente trató cada vez más la educación como algo parecido a aprender una habilidad para poder conseguir un trabajo. Creo que todos se han dado cuenta de que esos días terminaron. Yo digo: vuelvan a las humanidades. Se convertirán en lo más importante. Hagan que los humanos se vuelvan plenamente humanos. 

Conviértanse en el mejor humano que puedan ser. Saben, cuando enseñamos a nuestros hijos a bailar, a tocar música o a practicar deportes, la mayoría de nosotros no lo hace para que nuestros hijos se conviertan en profesionales. Les enseñamos estas habilidades para que se vuelvan más humanos. Y ahora eso es lo que vamos a tener que hacer con todo.

Si la IA nos empuja a colocar la memoria, la habilidad y el conocimiento allá afuera, tendremos que fomentar deliberadamente la memoria, la habilidad y el conocimiento aquí adentro. Aprendan poemas, lean cuentos de hadas, vayan a acampar, cultiven un jardín, involúcrense en su comunidad, su familia, sus relaciones, y no olviden orar.

Esto es, por supuesto, existencialmente obvio y puede sonar un poco cursi cuando lo digo. Lo entiendo. Pero creo que en realidad es técnicamente la solución al problema que enfrentamos. Estas tecnologías nos están haciendo más tontos. Nos están convirtiendo en vasallos. Esta generación joven es la primera en la historia registrada que tiene un coeficiente intelectual promedio más bajo que sus padres.

Por lo tanto, no creo realmente que la solución sea ir a Marte, amigos, o ir a Alfa Centauri. Y lo siento, Eric Weinstein, si estás aquí. Si enviamos mentes de "slop" de IA adictas a TikTok a Marte, no cambiará ni uno solo de nuestros problemas. Es lo mismo.

No es fusionarse con la máquina o tener chips en nuestro cerebro. Elon, nada de esto te hará virtuoso. Y con lo que terminaremos es simplemente con personas rotas muy poderosas. Aquellos que se han vuelto completamente dependientes en mente y hábito de estas tecnologías se convertirán en vasallos del monstruo.

Y realmente creo que son solo aquellos que tienen almas brillantes, que han fomentado la sabiduría y la virtud, que han practicado la verdad y el amor. Ellos son los que sobrevivirán y prosperarán en el apocalipsis de IA que se avecina. Personalmente, comunitariamente y creo que incluso profesionalmente.

Ya sea que las cosas funcionen y la IA se vuelva ubicua y esté allí solo para ayudarnos, o ya sea que nos lleve al páramo, creo que todavía hay una sola solución: volverse plenamente humanos. El tipo de humanos que admiramos de nuestras grandes historias. El tipo de humanos que sirven a algo más que su codicia y su poder. Y entonces, si construimos, cuando construyamos, lo que construyamos será a esa imagen.

Y cuando estemos frente al grial, tendremos los medios para hacer la pregunta: ¿A quién sirve el grial? Y en última instancia, tendremos la presencia de ánimo para hacer y responder la que creo que es la pregunta más crucial de todas, que es: ¿A quién sirvo yo?

----------------------------------------------------------------------------------

Notas

1 - Slop: contenido basura, de baja calidad, automatizado y sin alma generado masivamente por IA para inundar las redes (textos repetitivos, imágenes raras con dedos de más, videos falsos, etc.). Es el equivalente al spam de correo electrónico, pero para contenidos generados por IA.

2 - Mammon es un término de origen arameo que se utiliza desde la antigüedad para referirse a la riqueza material, la codicia y la avaricia, personificado muchas veces como una deidad o un demonio del dinero.

Primera parte del discurso:

Me encantan las historias antiguas. Y a veces se nos dice que las historias antiguas tienen poco que ofrecer para encontrar soluciones a los desafíos que enfrentamos porque nuestros problemas son muy novedosos. Esto, creo, no es sensato.

Es cierto que en la Edad Media no teníamos a Claude o Chad GPT, pero escuchamos que Alberto el Grande creó una cabeza de bronce que podía responder cualquier pregunta. Y leyendas aún posteriores cuentan que su estudiante, un cierto Tomás de Aquino, de quien tal vez hayan oído hablar, molesto por el parloteo constante de la cabeza, la hizo pedazos. Y esta es la primera reacción conocida al "slop" de IA que tenemos en la historia.

La sabiduría antigua a menudo contiene oro tan puro que su brillo puede reflejarse en situaciones que incluso los antiguos no podrían imaginar. Así que quiero contarles una historia. Es una historia muy importante, especialmente ya que estamos aquí en Gran Bretaña.

Hace mucho tiempo, en el Castillo del Grial, donde tanto el Santo Grial como la Santa Lanza de Longinos se guardaban en una capilla, un caballero llamado Balin entró a este castillo. Entró como huésped, pero secretamente estaba allí para matar a uno de los invitados, y por lo tanto, traicionando el antiguo código que ha mantenido unida a la civilización durante milenios.  Después del asesinato, Balin fue perseguido por los pasillos del castillo hasta que se encontró en la Capilla del Grial.

Así que, al ver la lanza que había atravesado el costado de Cristo y la copa que había recibido su sangre, estaba demasiado cegado por su rabia para discernir el propósito más profundo de estos objetos. Balin agarró la lanza y asestó un golpe en la entrepierna del Rey del Grial, dejando al rey impotente y reduciendo a todo el reino a un páramo.

A menudo pensamos en el Santo Grial y la Santa Lanza como estos objetos místicos, pero hay una manera muy importante, en la que son ejemplos de tecnología. La copa del grial era un recipiente constantemente lleno de todo lo que uno pudiera desear comer y beber. Era el generador de la abundancia. Y la lanza, por supuesto, era el arma que había asestado el golpe definitivo, atravesando al dios-hombre mismo.

Estos dos objetos contienen los casos límite de la tecnología hacia los cuales se inclina toda tecnología. Un lado se mueve hacia el interior, hacia el aumento de la abundancia, y el otro se mueve hacia el exterior, hacia las batallas necesarias para ganar o proteger esa abundancia. Y desde el principio de los tiempos, estos han sido dos propósitos principales de la tecnología. La misma pieza de pedernal afilada podía labrar la tierra o podía matar a mi enemigo.

Después del asesinato en la capilla, el Santo Grial se perdió y los caballeros del Rey Arturo emprendieron una búsqueda para encontrarlo. Usualmente nos enfocamos en la búsqueda para encontrar el grial, pero a menudo olvidamos la parte más importante de la búsqueda. El caballero que encuentre el santo grial debe hacer una pregunta: ¿A quién sirve el grial?

La pregunta es más importante que el hallazgo. La pregunta y su respuesta es lo que curará el páramo. Es precisamente esta pregunta la que Balin olvidó hacer cuando agarró la lanza en su deseo de poder. Olvidó hacer la pregunta: ¿A quién sirven el grial y la lanza?

https://www.climaterra.org/post/paren-a-la-m%C3%A1quina