Contenido
- Para atrapar a un ladrón. . .
- Sin errores, sin estrés: su guía paso a paso para crear software que cambie su vida sin destruir su vida
- Deteniendo la propagación
Fuente: Mast3r / Dreamstime.com
Para llevar:
Los investigadores están recurriendo a la IA para combatir las noticias falsas. Pero, ¿puede realmente ayudar o empeorará las cosas?
Se espera que las noticias falsas sean una gran espina para las próximas elecciones presidenciales, sin mencionar su efecto corrosivo general en nuestro discurso público en general. En la sociedad conectada de hoy, discernir los hechos de la ficción se ha vuelto cada vez más difícil, por lo que algunos investigadores están comenzando a centrarse en el poder de la inteligencia artificial para abordar este problema.
La esperanza, por supuesto, es que las máquinas, o algoritmos más precisos, sean mejores que los humanos para detectar mentiras. ¿Pero es esta una expectativa realista, o simplemente otro caso de lanzar la tecnología a un problema aparentemente insoluble?
Para atrapar a un ladrón. . .
Una de las formas en que los científicos de datos planean agudizar la perspicacia de AI en esta área es permitiéndole generar noticias falsas. El Instituto Allen para IA de la Universidad de Washington ha desarrollado y lanzado públicamente Grover, un motor de procesamiento de lenguaje natural diseñado para crear historias falsas sobre una amplia gama de temas. Si bien esto puede parecer contraproducente al principio, esta es de hecho una táctica de entrenamiento de IA bastante común en la que una máquina analiza la salida de otra. De esta manera, el lado analítico se puede acelerar mucho más rápido que confiar en noticias falsas reales. El instituto afirma que Grover ya puede operar con una calificación de precisión del 92%, pero es importante tener en cuenta que solo es hábil para distinguir entre contenido generado por IA y contenido generado por humanos, lo que significa que una persona inteligente aún podría esconder una historia falsa pasado (Para obtener más información, consulte The Technologies Around Fighting Fake News).
En las manos correctas, por supuesto, Grover puede avanzar rápidamente en nuestra comprensión de cómo se crean las noticias falsas y cómo se propagan, y esto teóricamente se puede usar para frustrarlas en el mundo real. Pero como señaló Futurism.com recientemente, algunos expertos que han tomado el sistema para una prueba de funcionamiento están alarmados por lo efectivo que es crear mentiras creíbles e incluso imitar los estilos de escritura de medios legítimos como el Wall Street Journal y el New York. Veces.
Pero dado que mentir es un acto intrínsecamente intuitivo e impulsado por las emociones, ¿es posible que incluso las máquinas más inteligentes, que todavía están impulsadas por una lógica fría y dura, puedan alcanzar el nivel de comprensión condicional necesario para detectar una mentira? Maria Almeida de Unbabel señaló recientemente que, si bien algunas iteraciones pueden ser bastante buenas para esto, ningún algoritmo puede esperar lograr la comprensión humana completa. Esto significa que la IA podría realizar mejoras dramáticas en la verificación de hechos y el análisis comparativo, pero es mejor dejar la llamada final a expertos capacitados.
Irónicamente, sin embargo, esta capacidad será más útil para detectar los videos falsos profundos que están comenzando a circular en las redes sociales. Con una inteligencia artificial capaz de analizar datos visuales hasta píxeles individuales, será mucho más experto en detectar imágenes alteradas que palabras y conceptos alterados.
Aún así, argumenta Charles Towers-Clark de Forbes, el problema central con las noticias falsas no es que algunas personas lo estén creando, sino que tanta gente está influenciada por ellas. Las personas tienden a creer lo que quieren creer, no lo que los hechos les hacen creer. Entonces, incluso si un motor de IA altamente desarrollado declara que su creencia es incorrecta, las personas estarán más propensas a dudar de la máquina que ellos mismos.
"La implementación del aprendizaje automático para combatir la difusión de noticias falsas es admirable", dice, "y existe la necesidad de abordar este problema ya que se pone en duda la confiabilidad de los principales medios de comunicación. Pero con la difusión de información errónea agravada por las redes sociales, ¿puede detectar y revelar las fuentes de noticias falsas superar el instinto humano de creer lo que nos dicen?
Sin errores, sin estrés: su guía paso a paso para crear software que cambie su vida sin destruir su vida
No puede mejorar sus habilidades de programación cuando a nadie le importa la calidad del software.
El verdadero desafío, entonces, no es identificar y desacreditar noticias falsas, sino comprender por qué tiende a difundirse en las redes sociales mucho más rápido que las noticias reales. En parte, esto se debe a la naturaleza de las noticias falsas en sí, que tiende a ser emocionante y salaz frente al tedio comparativo de la realidad. Al final, ¿es realista esperar que la tecnología corrija lo que es esencialmente un problema no técnico? (Para obtener más información sobre cómo la IA está cambiando los medios, consulte 5 avances de la IA en publicaciones y medios).
Deteniendo la propagación
Es por eso que es importante enfocar la inteligencia artificial en el aspecto técnico de las noticias falsas, no en el aspecto humano, dice Robin Harris de ZDNet. Y, de hecho, la mayoría de los investigadores están entrenando a la IA para que integre cosas como distinguir entre patrones de propagación naturales y artificiales a través de las redes sociales. Las métricas clave como las tasas de árbol de conversión, el tiempo de retweet y los datos de respuesta general se pueden usar para identificar y neutralizar campañas de desinformación incluso si su fuente está oculta bajo capas de subterfugio digital. Al mismo tiempo, la IA se puede usar para administrar otras tecnologías, como blockchain, para mantener canales de información rastreables y verificables.
El hecho es que las noticias falsas no son un fenómeno nuevo. Del periodismo muckraking de principios de los 20th Desde el siglo pasado hasta la propaganda de las primeras civilizaciones, engañar al público es una tradición tradicional tanto para los gobiernos en activo como para los revolucionarios. La diferencia hoy es que la tecnología digital ha democratizado esta capacidad hasta el punto de que casi cualquiera puede publicar una mentira y verla propagarse por todo el mundo en cuestión de horas.
Las tecnologías como la IA ciertamente pueden ayudar a aportar algo de claridad a esta confusión, pero solo las personas pueden comprender y juzgar completamente la verdad.