La red social X modificó las funciones de su asistente de inteligencia artificial Grok, luego de que este fuese acusado de generar y editar imágenes sexualizadas de personas reales, incluyendo a menores de edad. La compañía confirmó que adoptó «medidas tecnológicas» para impedir que el chatbot edite fotos de individuos con ropa reveladora, como bikinis.
Según un comunicado publicado en la cuenta oficial @Safety, la restricción se aplicará a todos los usuarios, incluidos los suscriptores pagados. Con esto, Grok dejará de permitir la manipulación de imágenes de personas reales en situaciones o vestimentas consideradas sensibles, como ropa interior o trajes de baño.
Límites para Grok, más allá de los bikinis
Además de la prohibición en la edición de fotos, X trasladó todas las funciones de generación de imágenes de Grok a su servicio de suscripción, lo que significa que los usuarios no registrados o gratuitos ya no podrán crear ni modificar imágenes mediante el asistente. La plataforma argumentó que esta medida añade un nivel adicional de control, pues facilita identificar y responsabilizar a quienes infrinjan las normas o cometan abusos.
La red social también sumó bloqueos geográficos para impedir que los usuarios generen imágenes de personas en bikinis o ropa interior en aquellas jurisdicciones donde la legislación prohíbe este tipo de contenidos. En paralelo, el equipo de seguridad mantiene la eliminación prioritaria de material que infrinja sus políticas, como la explotación sexual infantil o la desnudez no consentida, y la denuncia de cuentas infractoras ante las autoridades competentes.
X señaló, también en su comunicado, que sus reglas de seguridad no cambiaron, pero que continúa reforzando los controles internos a medida que evoluciona la inteligencia artificial generativa. El grupo de Seguridad afirmó que trabaja de forma permanente para retirar contenido ilegal y suspender cuentas que vulneren las normas, además de colaborar con gobiernos y organismos encargados de hacer cumplir la ley.
