En la era digital, donde la información se propaga a una velocidad vertiginosa, la aparición de contenidos engañosos generados por inteligencia artificial (IA) ha suscitado preocupaciones significativas sobre la veracidad y la confianza en las plataformas sociales. Meta, la empresa matriz de Facebook e Instagram, se enfrenta a un creciente escrutinio por la responsabilidad de supervisar el contenido de sus plataformas, especialmente a medida que la tecnología de generación de contenidos con IA se integra más en la vida diaria. Un caso emblemático es el reciente video que afirmaba mostrar daños en Haifa, Israel, atribuidos a fuerzas iraníes. Este contenido, creado mediante herramientas de IA, fue criticado por el consejo de supervisión de Meta por no tener una etiqueta de advertencia, lo que destaca la necesidad urgente de mejorar la regulación de la IA en sus espacios virtuales.

El consejo de supervisión de Meta aseveró que el problema no es solo la presencia de contenido engañoso, sino la ineficacia del enfoque actual de la empresa para moderar estos materiales. Hasta ahora, la compañía se ha basado en el sistema de "autodenuncias" de los usuarios, actuando principalmente en respuesta a quejas. Sin embargo, este modelo se muestra inadecuado en momentos de crisis, cuando la desinformación puede explotar rápidamente y generar confusión. Por ejemplo, un video pro-Israel o pro-Irán, que obtuvo más de 100 millones de vistas, logró evitar etiquetas o eliminación hasta que el consejo de supervisión interviniera. Los expertos sugieren que un enfoque más proactivo, que incluya etiquetados frecuentes y claros de contenidos generados por IA, es esencial para cultivar un entorno de confianza en la información digital, sobre todo durante conflictos donde la información contestada puede tener un impacto directo en la opinión pública y el comportamiento social.