Por: Rodolfo Dumas Castillo
Recientemente la revista The Economist publicó un artículo de Yuval Noah Harari en el que analiza la inteligencia artificial (IA) y advierte que esta ha “hackeado” el sistema operativo de la civilización humana. El escritor y filósofo considera que la capacidad de la IA para manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes, le ha permitido tomar el control de los instrumentos culturales creados por los humanos a través de la narración y la escritura, desde los derechos humanos hasta las religiones. Esa capacidad de manipular el lenguaje podría permitirle formar relaciones íntimas con los humanos e influir en sus opiniones o perspectivas del mundo. Con la capacidad de producir relaciones íntimas de forma masiva, el frente de batalla entre las compañías de redes sociales cambia de la atención a la intimidad, lo que significa que la IA podría acabar por tomar el control de la cultura, creando ideas completamente nuevas y una nueva forma de historia. “Lo que estamos hablando es potencialmente el fin de la historia humana. No el fin de la historia, solo el final de su parte dominada por los humanos”.
Aunque no compartimos algunas ideas del escritor, transcribimos varios fragmentos que nos parecieron interesantes: “El lenguaje es la sustancia de casi toda la cultura humana. Los derechos humanos, por ejemplo, no están inscritos en nuestro ADN. Son artefactos culturales que creamos contando historias y escribiendo leyes. Los dioses no son realidades físicas. Son artefactos culturales que creamos inventando mitos y escribiendo escrituras. El dinero también es un artefacto cultural. Los billetes son solo piezas de papel colorido, y en la actualidad, más del 90% del dinero ni siquiera son billetes, es solo información digital en las computadoras. Lo que da valor al dinero son las historias que los banqueros, los ministros de finanzas y los gurús de las criptomonedas nos cuentan al respecto”.
“¿Qué sucedería si una inteligencia no humana se convierte en mejor que el humano promedio para contar historias, componer melodías, dibujar imágenes y escribir leyes y escrituras? Cuando las personas piensan en Chatgpt y otras nuevas herramientas de IA, a menudo se sienten atraídas por ejemplos como los niños que las usan para escribir sus ensayos. ¿Qué sucederá con el sistema escolar cuando los niños hagan eso? Pero este tipo de pregunta se pierde la imagen más grande. Olvida los ensayos escolares. Piensa en la próxima carrera presidencial estadounidense en 2024 e intenta imaginar el impacto de las herramientas de IA que se pueden utilizar para producir masivamente contenido político, noticias falsas e historias para nuevas sectas”.
“En un nivel más prosaico, pronto podríamos encontrarnos en discusiones en línea prolongadas sobre el aborto, el cambio climático o la invasión rusa de Ucrania con entidades que creemos que son humanas, pero en realidad son IA. La trampa es que es completamente inútil que pasemos tiempo tratando de cambiar las opiniones declaradas de un bot de IA, mientras que la IA podría perfeccionar sus mensajes con tanta precisión que tiene buenas posibilidades de influenciarnos”.
“Todos sabemos que, durante la última década, las redes sociales se han convertido en un campo de batalla para controlar la atención humana. Con la nueva generación de inteligencia artificial, el frente de batalla está cambiando de la atención a la intimidad. ¿Qué sucederá con la sociedad y la psicología humana mientras la IA lucha contra la IA en una batalla para falsificar relaciones íntimas con nosotros, que luego pueden usarse para convencernos de votar por políticos específicos o comprar productos particulares?”. “Ahora tenemos que lidiar con una nueva arma de destrucción masiva que puede aniquilar nuestro mundo mental y social el curso de la historia cuando la IA tome el control de la cultura y comience a producir historias, melodías, leyes y religiones”.
“Todavía podemos regular las nuevas herramientas de inteligencia artificial, pero debemos actuar rápidamente. Mientras que las armas nucleares no pueden inventar armas nucleares más poderosas, la inteligencia artificial puede crear inteligencias artificiales exponencialmente más poderosas. El primer paso crucial es exigir controles de seguridad rigurosos antes de que se lancen herramientas de inteligencia artificial potentes en el dominio público. Así como una empresa farmacéutica no puede lanzar nuevos medicamentos antes de probar tanto sus efectos secundarios a corto como a largo plazo, las empresas tecnológicas no deben lanzar nuevas herramientas de inteligencia artificial antes de que se hagan seguras”.
“¿No retrasaría la ralentización de las implementaciones públicas de IA a las democracias con relación a los regímenes autoritarios más despiadados? Justo lo contrario. Las implementaciones de IA no reguladas crearían caos social, lo que beneficiaría a los autócratas y arruinaría las democracias. La democracia es una conversación, y las conversaciones dependen del lenguaje. Cuando la inteligencia artificial hackea el lenguaje, podría destruir nuestra capacidad de tener conversaciones significativas, destruyendo así la democracia”.
Correo: [email protected]