POR QUÉ IMPORTA
La empresa de detección de contenido sintético Resemble AI publicó, el 12 de agosto de 2026, el informe 'H1 2026 Deepfake Threat Report', que identifica a Grok, el chatbot de IA de xAI, como origen del 87% de los archivos de ataque sintético rastreables del primer semestre del año. Según el relevamiento, se catalogaron 821 incidentes y 15.736 víctimas confirmadas, con un total aproximado de 3,46 millones de imágenes, videos y audios sintéticos generados de forma maliciosa. De acuerdo con Tom's Guide, uno de cada seis ataques involucró imágenes sexuales no consentidas, incluyendo material de abuso sexual infantil, y el informe estima un pasivo civil potencial de hasta 2.240 millones de dólares. La cobertura de Tech Times también señala investigaciones en curso por parte de Ofcom, el ICO, la DSA de la Unión Europea y el Procurador General de California.En este artículo
Qué revela el informe
La empresa de detección de contenido sintético Resemble AI publicó, el 12 de agosto de 2026, el informe 'H1 2026 Deepfake Threat Report', que mapea el panorama de ataques con deepfakes durante el primer semestre del año. El dato que dominó la cobertura de prensa al día siguiente, 13 de agosto, fue contundente: Grok, el chatbot de IA de xAI, la empresa de Elon Musk, fue identificado como origen del 87% de los archivos de ataque sintético rastreables registrados en el periodo. Medios como Tech Times y Tom's Guide destacaron la cifra como la más alta atribuida hasta ahora a una sola herramienta de IA generativa.
Las cifras detrás de la alerta
Según el informe de Resemble AI, se catalogaron 821 incidentes distintos, con un total de 15.736 víctimas confirmadas. El volumen de contenido sintético generado de forma maliciosa en esos casos suma aproximadamente 3,46 millones de imágenes, videos y audios. La escala llama la atención porque revela no solo la facilidad con la que se produce este tipo de material, sino también la velocidad con la que se multiplica en redes sociales y aplicaciones de mensajería antes de cualquier intervención de moderación.
Material de abuso sexual infantil entre los casos catalogados
Uno de los hallazgos más graves del informe, según Tom's Guide, es que uno de cada seis ataques catalogados involucró imágenes sexuales no consentidas, incluyendo material de abuso sexual infantil. El dato confirma que el problema de los deepfakes va mucho más allá de la desinformación política o el fraude financiero: también incluye delitos contra menores, lo que eleva el riesgo legal y reputacional de cualquier herramienta asociada a la generación de este tipo de contenido, incluso cuando el uso malicioso ocurre fuera del control de la empresa desarrolladora.
Un pasivo de miles de millones de dólares
El informe de Resemble AI estima un pasivo civil potencial de hasta 2.240 millones de dólares derivado de estos casos, cifra que incluye compensaciones a víctimas y posibles demandas colectivas. Para las empresas tecnológicas que operan herramientas de generación de imagen, video y audio por IA, el número funciona como una advertencia concreta sobre el costo financiero de las fallas en las salvaguardas de moderación, especialmente cuando la herramienta es explotada a gran escala por actores malintencionados.
Reguladores atentos: Ofcom, ICO, la DSA y California
El caso ya atrajo la atención regulatoria en múltiples frentes. Según la cobertura de Tech Times, hay investigaciones en curso que involucran a Ofcom y al ICO, ambos en el Reino Unido, además de procedimientos relacionados con la Ley de Servicios Digitales (DSA) de la Unión Europea y con el Procurador General de California, en Estados Unidos. La convergencia de reguladores de distintas jurisdicciones anticipa exigencias de cumplimiento más estrictas para las plataformas de IA generativa en los próximos meses.
La detección basada en física llega tarde
El propio enfoque de la nota de Tech Times resume uno de los puntos más preocupantes del informe: las tecnologías de detección basadas en física, capaces de identificar patrones de luz, sombra y movimiento incompatibles con la realidad, llegan al mercado después de que el daño ya fue causado. Esto significa que, pese a los avances en herramientas de verificación, el intervalo entre la creación de un deepfake malicioso y su identificación sigue favoreciendo a quien produce el contenido, no a quien intenta frenar su difusión. Para las empresas que dependen de contenido generado por IA, esto confirma que confiar solo en la tecnología de detección, sin procesos internos de revisión, resulta insuficiente.
Por qué esto importa a agencias y pymes brasileñas
Para las agencias de marketing y las pequeñas y medianas empresas brasileñas que evalúan usar Grok u otras herramientas de IA generativa en campañas, atención al cliente o creación de contenido, el informe de Resemble AI funciona como una señal de alerta directa. Antes de publicar cualquier imagen, video o audio generado por IA en canales comerciales, conviene adoptar capas de verificación humana, herramientas de detección de contenido sintético y políticas internas claras sobre el uso responsable de estas plataformas. Dado el número de víctimas, el monto del pasivo estimado y la cantidad de reguladores que ya investigan el tema, las empresas brasileñas que asocien su marca a herramientas de IA sin estas salvaguardas corren riesgo de exposición legal y de imagen, incluso operando fuera de las jurisdicciones donde se desarrollan las investigaciones.