Digital Digest: Lo que hay que saber sobre la IA generativa y sus implicaciones para la desinformación

Desde que ChatGPT se lanzó al público en noviembre de 2022, la inteligencia artificial (IA) generativa ha dominado la atención del público. La tecnología en rápida evolución ya está impactando industrias como la educación, los viajes y el gobierno. Los medios no se guardarán.

La IA generativa está cambiando la forma en que se produce y consume el contenido, lo que genera nuevos desafíos en la lucha contra la desinformación.

En el Centro Internacional para Periodistas, Desarmar la desinformación: un curso de investigación importante, Amy Reinhart, gerente senior de productos para estrategia de IA de AP, compartió ideas sobre la IA generativa y cómo afecta la desinformación.

Esto es lo que los periodistas necesitan saber hoy:

Reinhart sugirió tres formas en que los periodistas pueden determinar si una imagen fue creada utilizando inteligencia artificial.

• Busque detalles extraños sobre las personas, como manos deformes, una pierna extra o joyas que no combinan.
• Compruebe si hay distorsiones o ruido en el fondo de las imágenes y examine las sombras o su ausencia para garantizar su legitimidad.
• Busque ángulos de cámara u otras imágenes para confirmar los detalles de la foto.

Reinhart también compartió el método SIFT para la verificación de hechos: detenerse, investigar la fuente, buscar una mejor cobertura y rastrear afirmaciones, citas y medios hasta su contexto original. Este método fue desarrollado por Mike Caulfield, científico investigador del Centro para un Público Informado de la Universidad de Washington.

Sigue leyendo

“Estamos entrando en una era de nueva tecnología, pero es realmente bueno volver a lo básico para poder aprender sobre… [the source of content]Dijo Reinhardt.

Antes de compartir una fotografía cuestionable o controvertida con otras personas, considere cuidadosamente si es auténtica. Buscar detalles superfluos o comprobar ángulos y corroborar fotografías puede ayudar a determinar la legitimidad y prevenir la difusión de información errónea.

Daños e impactos generales

Este año, las principales plataformas de redes sociales han dado marcha atrás en sus esfuerzos para combatir la desinformación. Como resultado, es posible que en el futuro haya menos supervisión de las medidas de seguridad en línea. Esto puede aumentar la exposición del público a la desinformación.

En Estados Unidos, los líderes políticos republicanos también están tratando de limitar el gasto federal en la investigación de información falsa en línea. Es probable que los recortes en financiación y recursos afecten nuestra comprensión de cómo el público se ve afectado por la difusión de información errónea y desinformación.

«Ha provocado una verdadera congelación de fondos para la desinformación y la investigación de la desinformación. Probablemente sepamos menos al respecto». [the 2024] “Fuimos elegidos por esto y nunca entenderemos realmente dónde ocurrió el daño, si es que hubo alguno”, dijo Reinhart.

Sin embargo, no es seguro que la IA generativa intensifique el consumo público de información errónea. En un estudio reciente, los investigadores descubrieron que grandes cantidades de contenido no auténtico generado por inteligencia artificial no significa necesariamente que las personas estén consumiendo más.

«Si la gente quiere contenido problemático, lo obtendrá. Eso no significa que se ahogarán y no tendrán otra forma de ver las cosas, no tendrán otra alternativa que mirar el contenido problemático y compartirlo», dijo Reinhart.

Mejoras tecnológicas

Las actualizaciones de la tecnología de inteligencia artificial mejoran la calidad del contenido falso, por ejemplo mediante detalles más realistas.

«DALL-E3 y quizás ChatGPT4 y otros desarrollos podrán adivinar mejor lo que quiso decir en su reclamo», dijo Reinhart.

Tanto los investigadores como los desarrolladores de software han demostrado que actualizar y mejorar la IA generativa es posible y asequible. Un estudio de WIRED mostró cómo los desarrolladores pudieron manipular software para crear contenido antirruso por sólo 400 dólares. Un científico de datos de Nueva Zelanda ha creado un chatbot muy concurrido por menos de 300 dólares.

«Se puede esperar ver a otras personas usar esto para su propio beneficio, ya sea que se postulen para un cargo o dirijan una empresa, y tienen mucho que ganar cambiando la narrativa», dijo Reinhart.

Algunas empresas están liderando esfuerzos pioneros para rastrear imágenes generadas por IA, aunque hasta ahora con un éxito desigual. Las marcas de agua, por ejemplo, pueden evadirse o manipularse fácilmente. Mientras tanto, OpenAI está desarrollando una herramienta de aprendizaje automático para reconocer imágenes generadas por DALL-E, que se espera que tenga una precisión del 99%.

Implicaciones de las elecciones

La IA generativa será influyente a medida que muchos países celebren elecciones en 2024. En los Estados Unidos, la IA generativa ya se está utilizando en anuncios, audio, videos e imágenes de ataques electorales.

El equipo de campaña del candidato presidencial republicano Ron DeSantis produjo fotografías falsas del expresidente Donald Trump y del exasesor médico jefe de la Casa Blanca, Anthony Fauci, abrazándose. En un anuncio separado, un PAC afiliado a DeSantis utilizó inteligencia artificial para generar la voz de Trump en un video que atacaba a la gobernadora republicana de Iowa, Kim Reynolds.

En países donde la gente habla muchos idiomas, la IA generativa puede ayudar a que las campañas políticas lleguen a audiencias diversas a las que de otro modo no podrían llegar. En India, por ejemplo, se utilizó IA generativa en un meme viral sobre el actual primer ministro Narendra Modi, en varios idiomas diferentes.

«[ChatGPT is] En el radar de la gente. «Creo que si eres un verificador de hechos, ya habrás visto las ramificaciones, especialmente en Estados Unidos», dijo Reinhart. «Como verificador de hechos en Estados Unidos, probablemente ya sepa que su trabajo será mucho más difícil en los próximos dos o tres años. Si alguna vez hubo un momento para compartir recursos, tácticas y técnicas, es éste.

– Red Internacional de Periodistas