El uso de Grok para generar imágenes sexuales no consentidas llegó por primera vez a los tribunales motivado por la propia xAI. La empresa presentó una demanda civil contra Terry Wayne Harwood, un hombre de Carolina del Sur acusado en un proceso penal por posesión y distribución de material de abuso sexual infantil (CSAM), al que responsabiliza de haber utilizado el chatbot para crear imágenes ilícitas tras eludir sus mecanismos de seguridad. Según la compañía, el caso también busca que el usuario asuma cualquier costo o demanda que pueda enfrentar xAI por esos hechos.
De acuerdo con la demanda presentada ante un tribunal federal de Texas, Harwood habría creado múltiples cuentas en Grok, modificado instrucciones para sortear los filtros del sistema y generado imágenes sexualizadas de adultos y menores sin consentimiento. xAI sostiene que detectó la actividad, la reportó a las autoridades y colabora con la investigación penal en curso, además de solicitar una orden que impida al acusado volver a utilizar sus servicios.
La estrategia de xAI para defender el uso de Grok
La demanda sostiene que Grok es una «herramienta neutral» cuyo resultado depende de las instrucciones entregadas por los usuarios. Sobre esa base, xAI argumenta que la responsabilidad por las imágenes generadas recae exclusivamente en quien utiliza el sistema y no en la plataforma.
La empresa afirma que sus términos de servicio prohíben expresamente desnudar digitalmente a personas reales, crear imágenes pornográficas de terceros, sexualizar a menores o utilizar el servicio para actividades ilegales. También asegura que incorpora medidas técnicas para impedir ese tipo de solicitudes y que el acusado recurrió a instrucciones modificadas para intentar evadir esas restricciones.
xAI pide que el tribunal declare que Harwood incumplió el contrato que aceptó al crear sus cuentas y que deba indemnizar a la empresa por los gastos legales, posibles demandas de terceros, daños reputacionales y cualquier perjuicio derivado de su conducta. También solicita una prohibición permanente para impedir que vuelva a crear cuentas o utilizar Grok.
El documento añade que, durante 2026, la compañía suspendió 52.222 cuentas, realizó 73.604 reportes al National Center for Missing & Exploited Children (NCMEC) y que esos avisos derivaron en al menos 244 detenciones, cifras utilizadas por xAI para sostener que aplica medidas activas contra este tipo de contenido.
Nuevas críticas a Grok por sus sistemas de moderación
El caso se conoció en paralelo a otras acciones legales contra xAI relacionadas con la generación de imágenes sexuales en Grok. En una demanda colectiva propuesta, varios menores sostienen que la herramienta permitió crear imágenes sexualizadas de ellos sin consentimiento y cuestionan la forma en que la empresa respondió a esos casos.
Según esa presentación, una de las víctimas denunció que su padrastro utilizó Grok, posiblemente junto con otras herramientas de inteligencia artificial, para producir miles de imágenes sexualizadas antes de distribuirlas en la dark web. La demanda también sostiene que xAI no entregó información suficiente para identificar al responsable, citando un informe de 2026 del NCMEC que indicó que el 90 % de los reportes enviados por la empresa no podían ser utilizados por las autoridades porque no incluían datos que permitieran localizar a los usuarios.
En el caso de Harwood, xAI dice que al menos parte de las imágenes investigadas en la causa penal fueron generadas o modificadas mediante Grok, aunque reconoce que esa afirmación se basa en la información disponible durante la investigación. El acusado fue arrestado en febrero y enfrenta ocho cargos graves relacionados con explotación sexual infantil en Carolina del Sur, mientras el proceso penal continúa.
