10/6/24

Las empresas tecnológicas han entrenado sus modelos de lenguaje con impunidad

QUE LA INTELIGENCIA ARTIFICIAL SE COMA AL MUNDO

LUEGO YA SE VERÁ SI ES BUENA

Antes de entender los efectos que tiene la inteligencia artificial en la mente humana y en la industria, las grandes compañías de tecnología ya han decidido poner todas sus esperanzas en la IA. Los daños luego serán sopesados

La inteligencia artificial es la nueva cosa caliente en la economía global. El tren del hype ha llegado a una masa crítica, y aunque queda por verse que realmente sea tan "inteligente" y maravillosa como se vende, las grandes compañías de tecnología están metiendo todos sus huevos en esta única canasta. Los efectos que esto tiene serán luego analizados, Primero, lo importante es tener una buena parte del pastel. Es la nueve fiebre del oro. La máxima presea es el dominio del Internet, convirtiéndose en el nuevo Google.

La rápida implementación y adopción de la inteligencia artificial (IA) está creando un torbellino de disrupciones en diversas industrias, y, la prisa con la que se está desplegando, a menudo sin pruebas exhaustivas o consideración de sus impactos más amplios, podría resultar desastrosa. Esta carrera hacia el mercado recuerda la visión de Marshall McLuhan: "Los medios son agentes que 'hacen suceder' pero no 'hacen consciente'. Podemos, si lo elegimos, pensar las cosas antes de ponerlas en práctica.” Es una advertencia preclara, dicha en los sesenta, pero ha sido y será en vano. Antes de pensar en los efectos, la ley de Big Tech es maximizar ganancias, pedir disculpas después.

Esta primavera, varios gigantes tecnológicos han subrayado que la IA será una característica definitoria del paisaje digital, independientemente de la disposición o consentimiento del público. Por ejemplo, Meta introdujo un chatbot de IA en la barra de búsqueda de Instagram y Facebook, mientras que OpenAI lanzó GPT-4, una versión más potente de su modelo de lenguaje. Estos desarrollos han ido acompañados de revelaciones de que se están utilizando datos de los usuarios para entrenar la IA, a menudo con mínima transparencia.

La prisa por desplegar IA no se limita al software. Empresas como Nvidia, que fabrica microchips para aplicaciones de IA, han visto su capitalización de mercado dispararse, reflejando las inmensas apuestas financieras involucradas. Sin embargo, esta prisa está causando errores significativos. El lanzamiento apresurado de Google de "AI Overviews" en su motor de búsqueda produjo resultados defectuosos y potencialmente peligrosos, ilustrando las trampas de priorizar la velocidad sobre la sustancia.

La integración omnipresente de la IA se extiende a los medios y el periodismo. Organizaciones como OpenAI han formado asociaciones con numerosos medios, incluyendo The Atlantic, sugiriendo que el contenido generado por IA pronto dominará la información en línea. Este cambio genera preocupación sobre la sostenibilidad del trabajo creativo y el potencial de la IA para socavar la autoría y originalidad humana. A medida que la IA invade roles tradicionales de los medios, corre el riesgo de reducir narrativas humanas complejas a resúmenes generados algorítmicamente, lo que podría disminuir la riqueza de la información y la expresión cultural.

En la prisa por abrazar la IA, existe el riesgo de pasar por alto su potencial disruptivo en las relaciones humanas, percepciones y formas de conocimiento. La capacidad de la IA para remodelar la comunicación y la difusión del conocimiento podría llevar a una sociedad más fragmentada y menos empática. La velocidad de adopción de la IA ha superado el desarrollo de marcos éticos y medidas regulatorias, llevando a un escenario de "lejano oeste" donde el objetivo principal es la dominación del mercado en lugar de una integración reflexiva.

El panorama de la IA actual, caracterizado por un despliegue rápido e insuficiente supervisión, presenta un recordatorio claro de la necesidad de precaución. Sin una supervisión adecuada y reflexión, la integración de la IA podría exacerbar desigualdades, afianzar sesgos y crear nuevas formas de división digital. La trayectoria actual refleja el ethos de "moverse rápido y romper cosas" que ha caracterizado gran parte de la historia de Silicon Valley, pero con consecuencias potencialmente de gran alcance.

Como señala un artículo en The Atlantic:

Cuando la IA dirige su mirada hambrienta hacia tu pequeño rincón de una industria, ¿cómo se siente cuando la IA devora el mundo? Se siente como estar atrapado. Hay un elemento en estas asociaciones con los medios que se siente como una extorsión. Las empresas tecnológicas han entrenado sus grandes modelos de lenguaje con impunidad, alegando que recolectar el contenido de Internet para desarrollar sus programas es un uso justo. Este es el punto final lógico de la clásica estrategia de crecimiento de Silicon Valley de "pedir perdón, no permiso".

Así las cosas en el nuevo paisaje digital, donde lo importante es perturbar el entorno y capitalizar: a río revuelto ganancia de pescador. Ya estamos viendo efectos desastrosos en la salud mental de los jóvenes debido justamente a los algoritmos de inteligencia artificial que empujan la información en redes como TikTok, los efectos que puede tener la inteligencia artificial en los hábitos cognitivos y en las relaciones humanas son desconocidos, aunque se puede anticipar un incremento de alienación y una pérdida de capacidades como la escritura y la lectura. Pero esto, tan esencial, no importa ante las deslumbrantes pantomimas de los chat-bots y la promesa de riqueza inconmensurable. 

https://pijamasurf.com/2024/06/dejar_que_la_inteligencia_artificial_se_coma_al_mundo_y_luego_ver_si_es_buena/  

No hay comentarios: