Mark Zuckerberg publicó una extensa defensa a la inteligencia artificial y de los agentes personales como camino para repartir el poder tecnológico entre las personas. Su propuesta, anunciada junto con el lanzamiento de un nuevo modelo de Meta, dice prometer asistentes capaces de enseñar, crear negocios, acelerar investigaciones y gestionar aspectos cotidianos. Al mismo tiempo, dice que distribuir ampliamente la IA es una de las principales formas de reducir sus riesgos.
El documento, de unas 6.500 palabras, sostiene que la «superinteligencia» no debería quedar bajo el control de unas pocas empresas, gobiernos o instituciones. Meta apuesta por modelos abiertos y por sistemas que se adapten a los objetivos de cada usuario, en lugar de una inteligencia centralizada con un único conjunto de valores.
La distribución como respuesta a los riesgos de la IA
Cuando uno lee la propuesta, puede resultar atractiva en términos de acceso, pero también contiene una premisa que no está resuelta: que entregar capacidades cada vez mayores a más personas producirá necesariamente un mejor equilibrio.
Zuckerberg reconoce riesgos de ciberseguridad, bioterrorismo, pérdida de empleos, vigilancia y concentración del poder. Su respuesta es que restringir las capacidades de la IA puede ser más peligroso que distribuirlas, porque concentraría el control en gobiernos, compañías o laboratorios.
El argumento funciona bien en el caso de la ciberseguridad que plantea el dueño de Meta. Si todos disponen de herramientas avanzadas para detectar vulnerabilidades, los sistemas podrían terminar siendo más seguros. El problema es que la misma distribución también amplía el número de personas capaces de utilizar esas capacidades con fines dañinos. El ensayo reconoce esa tensión, pero confía en que la competencia entre distintos actores mantendrá el equilibrio.
Algo similar ocurre con su propuesta para el trabajo. Zuckerberg admite que la automatización cambiará empleos y obligará a las personas a adquirir nuevas habilidades, pero sostiene que la IA también permitirá crear empresas, servicios y trabajos que hoy no existen. Incluso prevé pequeños equipos capaces de operar negocios de gran escala con ayuda de agentes personales.
Son posibilidades que Meta presenta como escenarios favorables, no como resultados garantizados. La diferencia importa porque buena parte de la visión depende de que las personas utilicen las nuevas capacidades para crear más de lo que la automatización elimina.
La misma tensión aparece en el uso cotidiano. Zuckerberg imagina agentes capaces de elegir recetas, comprar ingredientes, ayudar a entrenar, enseñar nuevas habilidades y administrar distintos aspectos de la vida. La promesa es hacer más con menos esfuerzo, pero eso no significa necesariamente que todas esas experiencias sean mejores.
Preparar una receta con un hijo, aprender una habilidad o desarrollar una actividad creativa también puede tener valor por el tiempo y la atención que exige. Si la IA se encarga de decidir, producir y optimizar cada paso, aumenta la eficiencia, pero puede reducir precisamente la parte de la experiencia que no estaba destinada a ser eficiente.
La educación plantea una dificultad más concreta. Zuckerberg imagina un tutor personalizado con conocimientos de nivel doctoral y paciencia ilimitada. Pero una herramienta que puede resolver una tarea también puede utilizarse para evitar que el estudiante aprenda. La capacidad del sistema, por sí sola, no determina el resultado: depende de cómo se utilice.
El modelo de Meta también queda en el centro de la propuesta de Zuckerberg
El manifiesto presenta la distribución de la IA como una cuestión de poder, sin embargo, la solución coincide directamente con la estrategia de Meta: la compañía quiere construir los agentes personales que deberían poner ese poder en manos de los usuarios.
Meta anunció Muse Glimmer, un modelo abierto que puede ejecutarse en un computador personal, y señaló que los desarrolladores podrán acceder a un modelo más potente, Muse Spark 1.2. Zuckerberg también confirmó que la compañía seguirá desarrollando modelos abiertos y que ofrecerá versiones gratuitas o de bajo costo de sus sistemas.
La apuesta por el acceso amplio diferencia la posición de Meta de la de compañías que mantienen sus modelos avanzados bajo un control más cerrado. Pero también hace que el argumento tecnológico y el interés empresarial de la compañía avancen en la misma dirección.
Zuckerberg sostiene además que los agentes deberían alinearse con los objetivos y valores de cada persona, no con una visión única impuesta por una empresa. Meta promete un modo privado en el que ni siquiera la compañía pueda acceder a la información personal del usuario.
La propuesta incluye, sin embargo, límites legales y de seguridad, mientras Meta mantiene el control sobre el desarrollo de los modelos. La tensión entre personalización y control empresarial queda así como uno de los puntos centrales de este modelo.
El CEO también pidió acelerar la construcción de centros de datos y capacidad energética en Estados Unidos y advirtió que retrasar los lanzamientos de modelos estadounidenses podría perjudicar su posición frente a otros países. Al mismo tiempo, propuso que los laboratorios compartan con el gobierno versiones intermedias de sus modelos y personal técnico para reforzar la seguridad de sistemas críticos.
La posición de Zuckerberg, por tanto, no consiste simplemente en «menos regulación». Su propuesta combina mayor acceso público y modelos abiertos con cooperación entre las compañías de IA y el gobierno, mientras rechaza medidas que puedan ralentizar demasiado el desarrollo estadounidense.
El punto más discutible de su argumento aparece justamente ahí: la distribución de la IA se presenta como la solución tanto al problema del poder como al de la seguridad, aunque ambas cuestiones pueden entrar en conflicto cuando las capacidades de los sistemas aumentan.
Zuckerberg confía en que múltiples personas, empresas y modelos compitiendo entre sí generarán los controles necesarios. Su manifiesto no demuestra que ese equilibrio vaya a producirse; plantea esa estructura como la alternativa que Meta considera más segura frente a una inteligencia artificial concentrada.
