Desinformación y desinformación en mundos virtuales

La desinformación se refiere al contenido falso o engañoso compartido sin intención dañina, aunque los efectos pueden seguir siendo dañinos. La desinformación se refiere a contenidos falsos o engañosos que se difunden con la intención de engañar o asegurar beneficios económicos o políticos, y que pueden causar daños públicos. Estos problemas no se limitan al mundo real y también pueden ocurrir en redes sociales y mundos virtuales.

El alcance potencial de la información falsa puede ser inmenso antes de que su falsedad sea expuesta. Las consecuencias de la desinformación y la desinformación, especialmente si son validadas por figuras que representan la autoridad en los mundos virtuales, pueden dañar la confianza, incitar a conflictos e incluso conducir a repercusiones en el mundo real. Una forma peligrosa de desinformación en espacios virtuales es el uso de medios manipulados generativos, como "deepfakes", una forma engañosa de emplear inteligencia artificial (IA) para replicar convincentemente la voz o la cara de alguien en videos, incluso fabricando eventos que nunca ocurrieron. Por ejemplo, los individuos podrían usar esta tecnología para replicar y editar el discurso de un político o una personalidad famosa con intenciones malévolas. La proliferación de herramientas generativas de IA y la relativa facilidad de crear imágenes, audio y videos falsos también pueden socavar el debate público al crear una negación plausible incluso para contenido que está completamente inalterado.

¿Cómo detectar información falsa o engañosa?

La mejor manera de detectar la desinformación en los mundos virtuales es cotejando la información que puede encontrar allí con artículos de verificación de hechos y diferentes medios de comunicación. En el caso de deepfakes, una forma de verificar es mediante el uso de soluciones técnicas que le digan si algo se crea utilizando IA generativa. Las marcas de agua, las identificaciones de metadatos, los métodos criptográficos para probar la procedencia y autenticidad del contenido, los métodos de registro, las huellas dactilares u otras técnicas también pueden ayudarlo a identificar si una fuente de información es confiable o no.  

La Comisión Europea está financiando, a través del programa de investigación Horizonte Europa, una investigación de vanguardia sobre herramientas de IA para detectar y combatir la desinformación. Algunos ejemplos son el proyecto «AI4DEBUNK- Participative Assistive AI-powered Tools for Supporting Trustworthy Online Activity of Citizens and Debunking Disinformation»,que está desarrollando un complemento web que utilizará inteligencia artificial avanzada para detectar la desinformación en mundos virtuales, y el proyecto «TITAN-Fighting disinformation with Critical Thinking & AI tools»,que está desarrollando un modelo de coaching inteligente o chatbot para mejorar las capacidades de las personas a la hora de evaluar la desinformación.

Más información sobre cómo la Comisión Europea está abordando la desinformación en línea.

¿Cómo reportar información falsa o engañosa?

Si se encuentra con información que podría considerar falsa o engañosa durante su visita a un mundo virtual, una de las mejores maneras de detener su propagación es denunciándola como desinformación utilizando las herramientas disponibles para informar en la plataforma o ponerse en contacto con los moderadores de la plataforma. 

Las acciones clave para luchar contra la desinformación son el pensamiento crítico, la alfabetización digital y el intercambio de información de manera responsable como individuos.

Los verificadores de datos también desempeñan un papel importante para la detección, el análisis y la exposición de las campañas de desinformación. EDMO ha mapeado actividades de verificación de datos en Europa y puede ponerse en contacto con organizaciones de verificación de datos en su país para indicar contenido que podría considerar falso o engañoso. También puede ponerse en contacto con su coordinador de servicios digitales competente.