¿Periodistas reemplazados por IA? El uso de ‘VEO 3’ para la viralización de desinformación

En France 24 es momento para Desinformando hoy en una edición especial. Soy Martín Gripo y te doy la bienvenida. La inteligencia artificial avanza rápidamente al punto en el que podemos confundir ficción con realidad. Por ejemplo, ¿te has preguntado si este programa es real o todo es parte de un montaje digital? Seguramente mientras navegas por Instagram o TikTok has encontrado videos como estos. Nos encontramos en la colonia El Aguajal, donde desde hace tres semanas este charco gigante pone en peligro a los vecinos. El Ayuntamiento no ha hecho nada. Esas son las escaleras más peligrosas de este barrio. Sin embargo, la gente siempre las usa todos los días y como pueden ver, el estado de estas calles es lamentable. Los ciudadanos exigen solución urgente a estos baches. Debido a las fuertes lluvias de hoy, no se presentaron ningunos inconvenientes. Estos videos son virales en diferentes idiomas. supuestos reportajes en televisión que dan la sensación de ser reales, pero presentan contenido inverosímil que genera humor. Los clips están realizados con BO3, una plataforma que permite la generación de videos a través de la inteligencia artificial con posibilidad de incluir personajes y sonido realista. Y si bien en los clips virales parecen aportar humor a nuestro algoritmo, puede transformarse en una peligrosa herramienta. Es por eso que conectamos en este momento con Emil Garzón, divulgadora y periodista de tecnología, cultura digital y ciberseguridad, quienes nos ayudará a analizar y a entender las consecuencias sobre esta plataforma. Bienvenida Emilse, ¿cómo estás? Muchas gracias por aceptar la invitación. Muchas gracias a ustedes.
Bueno, Emilce, quiero comenzar preguntándote cómo se genera y quiénes pueden eh hacer este tipo de de videos. Bueno, la realidad es que todo esto fue avanzando mucho y en otro momento te podría haber dicho que alguien que conozca mucho estas herramientas, pero hoy la verdad es que es bastante accesible. por $20 promedio por mes podés acceder a herramientas que funcionan muy bien, a estas redes neuronales que generan imágenes y video. Y lo que hay que conocer es esto de promptear, de poder dar una indicación específica, ir iterando para generar este tipo de contenidos. Otro punto que me parece importante es que a las plataformas como Dali, como Mid Journey, como BO3 que nombraban y muchas más, lo que hoy les es conveniente es tomar la mayor cantidad de usuarios que generen imágenes. bien no es tan rentable porque hay muchos tokens que se utilizan y hay mucho poder computacional necesario y eso hace que sea costoso. Lo que sí pasa es que hoy es el momento para que puedan tomar la mayor cantidad de market share, es decir, la mayor cantidad de usuarios que lo empiecen a usar y hacerlo disponible. Así que con un buen tutorial en YouTube, con intenciones, eh hoy con menos de $ puedes hacer este tipo de contenidos. Emils, esta tecnología claramente eh se se viene desarrollando a gran escala. Te quiero preguntar, ¿existe algún peligro en cuanto a la difusión de de la desinformación? Sí, sí. No es un peligro que esté latente, sino que es un peligro real. Lamentablemente esto ya tiene un camino recorrido, no pasa porque sí tenemos que tener en cuenta las lógicas de las redes sociales. Hoy ya tenemos hipertargetización, hay análisis de sentimientos, tenemos polarización, tenemos también cajas de resonancia que hacen que nuestras ideas se validen entre pocas personas o grupos muy pequeños. Toda esta situación lleva a que se sumen este tipo de contenidos, este tipo de videos que están armados con inteligencia artificial generativa, lo que hace que se llegue a esta instancia. Así que es un peligro real que está afectando incluso a las democracias. Se utilizaron este tipo de videos quizás con más procesamiento, pero por ejemplo para eh las elecciones en India el año pasado, o sea, que también forma parte de campañas electorales. El peligro es eh real. Y si hablamos de este peligro real, entonces deberíamos suponer que los gobiernos y los países deben comenzar a regular este tipo de de tecnología y de plataformas. Mm. Sí. Bueno, si vamos por ejemplo antes de este de contenidos de generación de de video a partir de prompts podíamos ir al año 2017 donde por ejemplo en Myanmar al no haber ningún tipo de regulación la ONU declaró más adelante que Facebook había sido parte de un genocidio, una etnia en Myanmar justamente por desinformación discursiva. Hoy en día si es necesario todo tipo de de regulación y normativa, pero hay que romper con esta idea de la regulación frena a la innovación porque eso es un discurso que está armado para que no se regule. Mientras tanto, también tuvimos ya antecedentes de líderes de las bigtech diciendo, por favor, regulen ustedes esto que quizás no sabemos cómo manejarlo, dejando responsabilidad a los gobiernos, pero también queriendo ser parte de ese proceso. En la región, por ejemplo, acá en Argentina no tenemos una regulación al respecto vinculado con desinformación y fake news. De hecho, dentro de las campañas políticas los están utilizando mismo. Desde el oficialismo sabemos que hay bots y trolls a disposición para atacar a periodistas, pero después tenemos casos como en Brasil donde se está llevando adelante proyectos de ley para evitar la desinformación. Tenemos también en Australia. E por otro lado, también en la Unión Europea existe ya un código que lo que hace es pedir a las plataformas transparencia vinculada con la desinformación. Y después tenemos casos como Rusia o China donde si esas imágenes o videos que se generan no responden al oficialismo, eh generarían un daño. Con lo cual ahí el punto también es el equilibrio en este proceso de transición en el que se encuentra poder regular, que siga la innovación, pero evitar la censura.
Emil Garzones, divulgadora y periodista de tecnología. Muchísimas gracias por tu tiempo, Emils. Y bueno, será hasta una próxima ocasión. Por supuesto.
Y a ustedes muchas gracias por estar aquí con nosotros. La invitación para que sigan en France 24 y en Fran 24.com. [Música]

En las redes sociales distinguir realidad de ficción resulta cada vez más difícil, puesto que la aparición de herramientas como ‘VEO 3’, que utilizan la inteligencia artificial para crear clips con personajes y sonido realista, desafía la percepción de lo qué es y lo qué no es verdad. Reportajes virales diseñados con esta tecnología ahora son contenidos de humor en internet, pero el peligro de una herramienta no regulada es latente: el aumento de la desinformación y menos puestos de trabajo.

Para ampliar, lea nuestro artículo: https://f24.my/BIL9.y

🔔 Suscríbete a nuestra cadena en YouTube: https://f24.my/YTes
🔴 En VIVO – Sigue FRANCE 24 aquí: https://f24.my/YTliveES
🌍 Nuestro sitio: https://www.france24.com/es/
📲 Siempre en tu bolsillo desde WhatsApp: https://f24.my/WAes
y en Telegram: https://f24.my/TGes

Únete a la comunidad Facebook: https://f24.my/FBes
Siguenos en X: https://f24.my/Xes
Bluesky: https://f24.my/BSes y Threads: https://f24.my/THes
Descubre las noticias en imágenes en Instagram: https://f24.my/IGes
Descubre nuestros vídeos en TikTok: https://f24.my/TKes

23 comments

  1. Jjja😂😂😂 muy divertido! Obvio que no son reales, ya no se puede creer nada en youtube yo me desuscribi de varias cuentas, no solo que inventen videos y armen un cuento tambien creado por IA sino que ademas cada vez mas canales estan comprados por las empresas y influyen en las opiniones de manera encubierta.

  2. Noticias falsas siempre han existido, la diferencia es que antes solo las usaban los grandes medios de comunicación a su conveniencia ahora cualquiera puede hacerlo

  5. Hasta mi abuela que no ve nada se da cuenta que son falsos y ademas de falsos son absurdos. Mas bien parecen videos para un canal de humor.

  7. aqui la cosa, no es algo que pueda hacer cualquiera, ya sea que tengas una computadora especializada, con 32 Gb de vram y almenos 16 de ram (nadamas el costo de un terreno chico para que se hagan una idea), o que pagues un servicio en la nube por esa capacidad (lo de una suscripccion mensual a un streaming de video, cualquiera de las 2 no son baratas, porque no solo es el costo del equipo o su renta, sino el pago del servicio de VEO 3, que es como otra susbscripccion a streaming pero mas limitada, sumado al costo electrico, y el conocimiento del programa, lo uq edigo es que, algun profresional con equipo está haciendo esos videos y no creo que sea coincidencia que esté practicando con prompts de noticiarios . . . .

  9. Hace unos años decía que si no lo veía en video, no lo creía …. Ya eso no es suficiente. Ahora lo importante serán las fuentes, quien lo dice y cuál es su reputación

  19. Pues yo tengo familiares que no entienden que lo que ven en redes sociales es puro AI slop como los videos estos, pero ahí siguen pegadotes

  20. También hagan reportaje de la débil regulación con la publicidad falsa o phishing que anuncian las redes sociales a destajo y sin control. Haciendo se pare por organismos estatales y privados. Desconozco cuáles son los motivos más allá de obtener correos electrónicos y teléfonos

  23. Se nota que esos vídeos son generados por IA.
    Es cierto que han mejorado, pero se nota claramente.
    El peligro que no atienden es el de la desinformación que imparten los "periodistas" de carne y hueso.
    Ese problema viene desde que inventaron el oficio.

Comments are closed.