EL presentador muestra una foto ganadora del premio Sony World Awards. Sin embargo –comenta– el artista galardonado acabó rechazando el premio admitiendo que fue usando Inteligencia Artificial. Y luego, el debate generado por una canción clonando la voz de un famoso cantante, igual, creación de IA. La música plagiada podría ser un gran hit, entonces ¿qué tiene eso de malo si gusta al público? El experto la rechaza por dos razones. Porque infringe la ley de derechos de autor y porque los artistas reales quieren hacer su música. Citan a Elon Musk: “Una IA que le importa entender el universo, sería improbable que quiera aniquilar a los humanos porque nosotros somos una parte interesante del universo”. El presentador explica que esta reflexión viene después de haber dicho que “la IA puede llevar al fin de la humanidad, como la conocemos, si lo permitimos, porque sería una fuerza superior de inteligencia; si sucediera que escapara del control humano”.
Y eso –continúa diciendo– trae a la memoria la predicción de Stephen Hawking, en su última entrevista televisiva: “Hay un peligro distinto de la IA –contrastado a los temores que hubo durante la revolución industrial que las máquinas despojarían a los humanos de trabajos– si se le permite que se convierta en un diseño propio y pueda mejorar rápidamente al punto que perdamos el control”. Entonces –le pregunta a Huval Noah Harari– ¿qué tan preocupados deberíamos estar que la IA tome el control? Respuesta: “Deberíamos estar muy preocupados, porque lo que hay que entender es que la IA es la primera herramienta que puede tomar decisiones por sí misma”. “Todos los inventos anteriores en la historia humana, siempre nos dieron más poder porque las decisiones fueron tomadas por humanos”. “Si inventamos un cuchillo, la herramienta no puede decidir si su uso sería para cortar una ensalada o para asesinar a alguien o para salvar una vida en una cirugía”. “El invento de una bomba atómica, de manera similar, la bomba atómica no puede decidir a quién atacar, cuándo y dónde”. “La IA es la primera tecnología que realmente puede tomar decisiones por sí misma”. “Puede tomar decisiones sobre su propio uso y desarrollo”. “Las armas nucleares no pueden hacer mejores armas nucleares, pero la IA puede hacerse mejor”. “Cuando se solicita un préstamo o un trabajo, la IA puede tomar decisiones cruciales sobre tu vida”. “Y aún no hemos visto nada”. “La IA está dando sus primeros pequeños pasos, apenas tiene unos 10 años”. “La vida orgánica 4 mil millones de años”. “Esta es la primera ameba, saliendo de la sopa orgánica”. “¿Puedes imaginar cómo se vería el Tiranosaurios Rex?”. “Bien –le dice el presentador– has logrado asustarme e igual a mis espectadores. ¿Entonces cómo nos salvamos del Tiranosaurios Rex de la IA?”. Respuesta: “Bueno, en primer lugar, todavía tenemos control, pero no sabemos qué sería muchos años después”. “Hay que comprender las capacidades de la IA y ralentizar su implementación, para asegurarnos de que la usamos de manera inteligente y segura”.
“De la misma manera que una compañía farmacéutica no puede lanzar un nuevo medicamento al público sin pasar por rigurosos y minuciosos controles de seguridad”. “Me parece que está bien tener buenas intenciones –me refiero a Elon Musk– creo que mucho de lo que hace es una fuerza para el bien, para ayudar y no dañar el planeta”. “Pero esta IA va a caer en manos de algunas personas bastante malas”. “En regímenes que no van a tener ningún reparo sobre su uso”. “Ese es un peligro real”. “Una vez que las personas equivocadas tengan el control de esto, entonces todo el infierno podría estallar.” “La IA podría ser el fin de la democracia”. “La IA podría ser la base de los peores regímenes totalitarios de la historia humana, porque los dictadores, desde siempre, sueñan con seguir y monitorearnos a todos, todo el tiempo”. “Pero antes no podían hacerlo”. “Stalin no tenía 200 millones de oficiales de la KGB para seguir a todos todo el tiempo y luego analizar lo que ocupa de millones de analistas para analizar los datos recopilados”. “Ahora es posible que no necesites agentes humanos que nos sigan”. “En el siglo 20 algunas personas usaron trenes, radio y electricidad para construir regímenes totalitarios y otras usaron exactamente la misa tecnología para construir democracias liberales”. “Es lo mismo con IA”. “Todavía tenemos la opción sobre cómo emplearla”. “La IA no está ni remotamente cerca de su pleno potencial, pero tampoco los seres humanos estamos cerca de nuestro propio potencial; realmente no comprendemos todo el potencial de nuestros cerebros, de nuestras mentes”. “Solo que invirtiésemos cada dólar y cada minuto en el desarrollo de la IA, igual invirtiéramos en el desarrollo de nuestra propia mente y nuestra conciencia”. “Pero es dudoso que ello suceda”. (¿Y crees –pregunta el Sisimite– que solo los buenos van a tener acceso a la IA? ¿Y vos qué crees? –contesta Winston–. Y no sabemos qué sería más peligroso, ¿que cayese en manos de los malos o de los tontos? ¿Qué diferencia hace –irrumpe el Sisimite– que caiga en manos solo de tontos o de tontos malos? ¿O el resultado sería el mismo?).