Vishnu Mohandas, un ingeniero en software que abandonó Google en 2020, lanzó una Web llamada «TheySeeYourPhotos.com», ideado para demostrar la capacidad de los modelos de visión por computadora de Google para analizar imágenes en detalle. Mohandas creó esta herramienta para ilustrar cómo la gran «G» utiliza la inteligencia artificial (IA) para examinar las fotografías almacenadas en su plataforma Google Photos.
La herramienta permite a cualquiera cargar una fotografía y recibir un análisis en tres párrafos generado por la IA de Google. Este análisis puede identificar desde la hora aproximada captada por un reloj en la imagen hasta detalles sobre el origen étnico de los sujetos fotografiados. En un caso de ejemplo, incluso reconoció el modelo específico de un reloj Casio y lo asoció con referencias culturales o políticas específicas, lo que llevó a ajustes en los algoritmos para evitar interpretaciones polémicas.
El uso de la IA en Google y otras compañías
Tras irse Google debido a preocupaciones éticas relacionadas con el uso de inteligencia artificial en proyectos militares, Mohandas fundó «Ente», un servicio de almacenamiento de fotos encriptado de extremo a extremo. Con más de 100.000 usuarios, esta plataforma pretende ofrecer una alternativa más segura y privada frente a Photos. Sin embargo, Mohandas encontró dificultades para explicar a un público más amplio los riesgos asociados al uso de plataformas como la de Google, lo que motivó la creación del sitio TheySeeYourPhotos.com.
El proyecto busca exponer cómo las grandes tecnológicas puede analizar detalles íntimos almacenados en fotografías, incluyendo emociones aparentes, antecedentes culturales, o la ubicación y condiciones climáticas del lugar capturado en la imagen. Según Mohandas, este nivel de detalle podría usarse en el futuro para fines publicitarios o incluso para manipular percepciones sociales.
Google, por su parte, sostiene que los datos de Photos no se utilizan para publicidad ni se venden a terceros, aunque aclara que las imágenes no cuentan con cifrado de extremo a extremo. Mientras tanto, el proceso de transferencia de imágenes desde Photos a servicios alternativos como Ente enfrenta obstáculos técnicos, lo que puede disuadir a los usuarios interesados en cambiar de plataforma.
