Las redes sociales llevan años apoyándose en sistemas automatizados para detectar delitos graves que circulan por internet. Entre los más urgentes está la explotación sexual infantil, un problema que obliga a vigilar volúmenes de contenido imposibles de revisar manualmente. La promesa de la automatización es clara: encontrar señales antes y acelerar la respuesta. Pero en Estados Unidos, agentes especializados están diciendo en voz alta que algo se está rompiendo en un punto clave: la utilidad real de los avisos.

La discusión ha aterrizado de lleno en un juicio en Nuevo México. Allí, la fiscalía sostiene que Meta no habría revelado adecuadamente lo que sabía sobre los riesgos para menores en sus plataformas y que habría incumplido leyes estatales de protección al consumidor. Según Associated Press, la acusación también afirma que la compañía presentó la seguridad de sus servicios de una forma que no reflejaba los riesgos que afrontaban niños y adolescentes. Meta lo niega y, en palabras de su abogado Kevin Huff ante el jurado, el núcleo del caso no es probar que existe contenido problemático en redes sociales, sino si la empresa ocultó información relevante a los usuarios.

En el centro del debate están quienes reciben los avisos y tienen que convertirlos en investigaciones reales: las unidades Internet Crimes Against Children (ICAC), coordinadas con el Departamento de Justicia. Durante el juicio, agentes describieron un aumento notable de reportes procedentes de las plataformas de Meta. Benjamin Zwiebel, agente especial del ICAC en Nuevo México, fue especialmente contundente: “Recibimos muchos consejos de Meta que son simplemente basura”, según The Guardian. Su crítica no apunta a que no haya alertas, sino a que muchas no sirven para identificar a un sospechoso ni para iniciar una actuación policial.

El problema, según estos testimonios, es de calidad. Algunos informes incluirían datos que ni siquiera describen una conducta delictiva. En otros casos, sí habría indicios, pero el aviso llegaría sin elementos esenciales para avanzar: imágenes, vídeos o fragmentos de conversaciones que permitan identificar a responsables o pedir diligencias. Algunos agentes también señalaron que parte de la información llega incompleta o parcialmente eliminada, lo que deja a los investigadores con muy poco margen de maniobra.

Detrás del “reporte masivo” hay factores estructurales. En EEUU, las tecnológicas están obligadas a comunicar cualquier material de abuso sexual infantil detectado al National Center for Missing & Exploited Children (NCMEC), que actúa como centro nacional de recepción y distribución de avisos. Además, agentes citados por The Guardian apuntan a cambios legales recientes, como el Report Act (en vigor desde noviembre de 2024), que podría haber empujado a las plataformas a enviar más reportes para evitar incumplimientos.

Meta sostiene que está haciendo lo contrario de entorpecer: afirma que coopera desde hace años con las autoridades, que el Departamento de Justicia ha reconocido su rapidez y que el NCMEC ha valorado su sistema de notificación. La compañía asegura que en 2024 recibió más de 9.000 solicitudes de emergencia de autoridades estadounidenses y que las resolvió en un tiempo medio de 67 minutos, acelerando aún más cuando se trata de seguridad infantil o riesgo de suicidio. También dice que trabaja con el NCMEC para priorizar avisos, incluyendo etiquetas de urgencia.

Más allá del veredicto en Nuevo México, el caso expone una tensión que atraviesa a toda la industria: aumentar la cantidad de alertas no garantiza investigaciones más eficaces. En la práctica, la escala puede convertirse en ruido si la señal llega incompleta. Y en delitos tan graves, ese detalle no es técnico: es la diferencia entre actuar a tiempo o quedarse sin pistas.