Hora 25La firma de Aimar Bretos
Opinión

¿Cómo afectará a nuestras democracias el desarrollo incontrolado de la Inteligencia Artificial?

Que gente de semejante nivel, con acceso a mucha información, esté lanzando este aviso a navegantes, esto nos interpela a todos, principalmente a las autoridades, aunque haga ya mucho tiempo que los avances tecnológicos escapan a la capacidad de control y regulación de cualquier país o comunidad de estados

"Esto no es un grupito de desinformados asustaviejas"

"Esto no es un grupito de desinformados asustaviejas"

Madrid

Desde hace unos meses, el gran público -casi todos nosotros nos incluimos ahí- estamos empezando a ser conscientes del poder de la inteligencia artificial, de lo que implica, de lo que puede hacer. De lo que lleva mucho tiempo haciendo bajo el radar, pero que ahora, en gran parte gracias a aplicaciones como ChatGPT, hemos empezado todos a conocer. Al principio nos parecía muy gracioso, mira el chat, voy a meter mi nombre, a ver qué dice, voy a pedirle que me escriba un texto. ¡Ay, los chavales!, qué gamberros, que van a pedirle al chat que les haga los trabajos de clase. En paralelo, también hemos asistido a cómo la inteligencia artificial crea imágenes. Aquí también: ¡ay qué gracioso!, mira estas imágenes creadas con inteligencia artificial con caras de mujeres representando cada una a una comunidad autónoma. Voy a decirle, diséñame 'nosequé'.

Sin embargo, para muchos, el mayor baño de realidad ha llegado en esta última semana, cuando nos hemos topado con una imagen del papa Francisco con un abrigo blanco enorme, tipo rapero. Y nos lo hemos creído. O hemos dudado. ¿Esto es verdad o no? No lo era. Como tampoco lo eran las imágenes de una supuesta detención de Trump que han corrido por todas partes.

Esto de crear imágenes falsas y que un usuario no pueda saber si son falsas abre una puerta peligrosísima. A todos los niveles. Decimos siempre: ojo con cualquier cosa que favorezca la difusión de información falsa. Pero es que esto lo lleva ya a otros niveles.

Siempre ha habido gente, empresas, grupos de presión, interesados en condicionar elecciones. ¿Qué puede pasar en estas próximas elecciones municipales cuando alguien publique la imagen de un candidato en no sé qué pueblo de España haciendo algo malo, que realmente no haya hecho? O llevándolo a vídeos. ¿Qué poder de desestabilización puede tener alguien con la capacidad de crear un vídeo en el que un mandatario o quien sea aparezca diciendo algo que realmente no ha dicho? O llevado a la voz. Imaginente dentro de meses, años como mucho, que se pueda crear una réplica exacta de mi voz y les llegue una nota de Whatsapp en el que aparezco yo diciendo algo delictivo, por ejemplo. ¿Cuánto vamos a tardar en ver a una turba protestando o incluso linchando a alguien por algo que realmente no ha dicho, pero que sea víctima de un vídeo en el que parezca que sí lo ha dicho? ¿Somos conscientes del nivel de vulnerabilidad al que se exponen nuestros procesos políticos democráticos y nuestras sociedades?

Incluso nosotros mismos. El otro día leíamos un reportaje en 'El país' sobre los falsos vídeos porno. Gente que usando la inteligencia artificial para hacer daño crea vídeos porno hiperrealistas con la cara de personas -casi siempre mujeres- que no han grabado ese vídeo. Pero que van a ver corriendo por internet un vídeo porno con su cara y que nadie sea capaz de detectar que es falso. El paraíso para hombres machistas que encuentran ahí una forma de chantajear o vengarse, por ejemplo, de una mujer que ya no quiera estar con ellos.

Todo esto es real, todo esto está pasando. Estamos en un mundo en el que, progresivamente, va a perder sentido el "yo confío en lo que veo con mis ojos" o el "yo confío en lo que escucho por mí mismo".

Obviamente, la inteligencia artificial tiene mil cosas buenas. Esto es importantísimo subrayarlo. Es una herramienta fundamental hacia el progreso. Y desde luego ningún análisis se puede hacer desde ludismo, del no a los avances tecnológicos. Obviamente no.

Más información

Pero que nos enfrentamos a un escenario incierto, eso es una evidencia. Y por eso tiene una trascendencia enorme la carta que han firmado hoy mil investigadores, intelectuales y empresarios vinculados a la inteligencia artificial advirtiendo de que esto está yendo demasiado deprisa, y pidiendo una moratoria de seis meses en el desarrollo de esta inteligencia. Que se pare, al menos seis meses, la carrera sin control en la que han entrado el desarrollo de esta tecnología. Es verdad que tiene un tono quizá excesivamente apocalíptico, pero también es verdad que si uno se pone a leer lo que plantean, asusta un poco. Dicen:

"Hacemos un llamamiento a todos los laboratorios de Inteligencia Artificial para que pausen de inmediato durante al menos seis meses el entrenamiento de los sistemas más potentes que GPT-4. La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debería planificarse y gestionarse con el cuidado y los recursos correspondientes. Este tipo de decisiones no deben delegarse en líderes tecnológicos no electos".

Es paradójico que entre los mil firmantes de esta carta abierta haya nombres como el de Elon Musk, fundador de Tesla y dueño de Twitter, que es la definición de líder tecnológico no electo que juega a poner y quitar normas que moldeen el diálogo social. Pero también hay otros empresarios del mundo tecnológico de primer nivel, como Steve Wozniak, cofundador de Apple. O Jaan Tallinn, cofundador de Skype. O el historiador Harari, autor del libro superventas 'Sapiens'. Y aquí en España lo firman Carles Serra, director del Instituto de Inteligencia Artificial del CSIC o Ramón López de Mántaras, uno de los mayores expertos europeos en inteligencia artificial. Quiero decir, esto no es un grupito de desinformados asustaviejas.

Que gente de semejante nivel, con acceso a mucha información, esté lanzando este aviso a navegantes, esto nos interpela a todos, principalmente a las autoridades, aunque haga ya mucho tiempo que los avances tecnológicos escapan a la capacidad de control y regulación de cualquier país o comunidad de estados.

¿Cómo afectará a nuestras democracias el desarrollo incontrolado de la Inteligencia Artificial?

¿Cómo afectará a nuestras democracias el desarrollo incontrolado de la Inteligencia Artificial?

05:33

Compartir

El código iframe se ha copiado en el portapapeles

<iframe src="https://cadenaser.com/embed/audio/460/1680121344439/" width="100%" height="360" frameborder="0" allowfullscreen></iframe>

 
  • Cadena SER

  •  
Programación
Cadena SER

Hoy por Hoy

Àngels Barceló

Comparte

Compartir desde el minuto: 00:00