Moderadores de Reddit afrontan avalancha de contenido generado por IA

Moderadores de grandes subreddits como r/AmItheAsshole estiman que hasta la mitad del contenido nuevo puede estar creado o retocado con IA. La plataforma, que se define como el espacio más humano de internet, realizó más de 40 millones de eliminaciones por «spam y contenido manipulado» en el primer semestre de 2025.

La sospecha erosiona la comunidad

Los voluntarios que moderan foros populares llevan lidiando con esta oleada desde el lanzamiento público de ChatGPT a finales de 2022. La dificultad para distinguir lo real del «AI slop» o contenido basura generado por IA está minando la confianza entre los usuarios y saturando a los moderadores. Un usuario resume el problema: «Incluso si una publicación sospechosa de ser IA no lo es, la mera existencia de la IA es como tener un espía en la habitación».

Detectar lo indetectable

No existen herramientas fiables al 100%. Los moderadores y usuarios recurren a intuiciones y patrones lingüísticos, como cuentas nuevas, repeticiones o gramática demasiado perfecta. Sin embargo, estas pistas no son concluyentes. Un investigador de Cornell Tech señala que el fenómeno crea un bucle: la IA se entrena con contenido de Reddit y los usuarios empiezan a imitar el estilo de escritura de la IA.

Motivaciones detrás del contenido falso

Los moderadores identifican dos impulsos principales. Uno es la creación de «rage-bait» o cebos de indignación, especialmente contra grupos vulnerables como personas trans, para sembrar discordia. El otro es la monetización del «karma» o puntuación social. Cuentas con mucho karma pueden venderse, acceder a subreddits restringidos o generar ingresos a través de programas como el Reddit Contributor Program.

Una carga para los voluntarios

El tiempo extra para cribar contenido posiblemente generado por IA supone una carga adicional para los moderadores no remunerados. Un exmoderador de r/Ukraine lo describe como «un hombre parado en un campo contra un tsunami». Esta problemática trasciende Reddit y afecta a otros sectores, como la educación, donde evaluar la autenticidad también se ha vuelto más complejo.

Antecedentes: Un pilar de la cultura Reddit en peligro

Subreddits como r/AmItheAsshole, con más de 24 millones de miembros, son pilares de la plataforma. Su formato, donde los usuarios juzgan conflictos interpersonales, ha inspirado decenas de variantes. Estos espacios prohíben explícitamente las historias falsas y el contenido generado por IA, pero la moderación se ve desbordada por el volumen de publicaciones sospechosas.

Cierre: Un desafío existencial para la plataforma

La proliferación de contenido generado por IA plantea un desafío a la esencia de Reddit como espacio de discusión humana. Una moderadora veterana lo ve como una «amenaza existencial» y advierte de que, si la plataforma no actúa, «la serpiente se comerá su propia cola». El riesgo es que el ecosistema se degrade en un bucle donde «la IA alimenta a la IA», erosionando el valor de sus comunidades.