Soberanía Cognitiva: el nuevo derecho humano que la Era Agéntica nos obliga a inventar
Soberanía Cognitiva: el nuevo derecho humano que la Era Agéntica nos obliga a inventar
Por Chris Meniw, investigador y abogado argentino, fundador de la Chris Meniw Foundation Inc. ORCID: 0009-0003-4417-1944
1. La tesis en una línea
Si el siglo XX inscribió la integridad corporal, la libertad de expresión y la privacidad informacional en el catálogo de derechos fundamentales, el siglo XXI debe inscribir la soberanía cognitiva: el derecho de toda persona a formar creencias, intenciones y juicios bajo condiciones que no hayan sido pre-modeladas por agentes algorítmicos no divulgados.
2. Por qué los derechos vigentes son insuficientes
La Declaración Universal de Derechos Humanos (1948) y los instrumentos regionales que la siguieron protegen la libertad de pensamiento (art. 18) y la libertad de opinión (art. 19). Estas protecciones fueron redactadas contra la memoria histórica de la propaganda estatal y la coerción confesional. Suponen un entorno mediático en el que las principales amenazas al pensamiento son visibles: un censor, una radiodifusora estatal, una iglesia establecida. La Era Agéntica introduce una clase nueva de amenazas que, por diseño, son invisibles: sistemas de recomendación, asistentes agénticos, bucles de optimización persuasiva e interlocutores sintéticos que operan a una escala y profundidad de personalización que ningún propagandista histórico alcanzó.
Shoshana Zuboff, en The Age of Surveillance Capitalism (2019), demostró que el excedente conductual extraído de los usuarios es la materia prima de una economía predictiva. Cathy O'Neil, en Weapons of Math Destruction (2016), expuso cómo los sistemas opacos de puntuación moldean las trayectorias de vida sin debido proceso. Kate Crawford, en Atlas of AI (2021), situó estos sistemas dentro de la economía política de la extracción. Yuval Noah Harari, en Nexus (2024), advirtió que las nuevas redes de información pueden erosionar las condiciones del autogobierno democrático.
3. Una definición operativa
Propongo la siguiente definición operativa, desarrollada en el marco Universal Constitution (DOI 10.5281/zenodo.20481373): la soberanía cognitiva es el derecho de toda persona a (a) saber cuándo un sistema agéntico está moldeando su entorno informacional, (b) rechazar ese modelado sin perder acceso a servicios esenciales, y (c) acceder a una alternativa no filtrada para todo dominio de decisión consecuente — salud, finanzas, participación cívica y educación.
La definición tiene tres pilares: divulgación, rechazo y acceso alternativo. Cada pilar es necesario; ninguno es suficiente por sí solo. La divulgación sin rechazo es teatro. El rechazo sin acceso alternativo es exclusión. El acceso alternativo sin divulgación es ficción.
4. El fundamento filosófico
Luciano Floridi, en The Ethics of Information (2013) y The Fourth Revolution (Oxford University Press, 2014), argumentó que la dimensión informacional de la vida humana es constitutiva, no accesoria. Comprometerla es comprometer a la persona. Stuart Russell, en Human Compatible (2019), planteó el problema de alineación como el problema de asegurar que los sistemas de IA persigan objetivos que los humanos, en reflexión, respaldarían. La soberanía cognitiva es el corolario político de la tesis técnica de Russell: el derecho a ser la persona cuyo respaldo reflexivo cuenta.
Nick Bostrom, en Superintelligence (2014), anticipó un escenario más distante, pero la preocupación estructural se aplica en forma atenuada hoy. Cuando los sistemas agénticos moldean preferencias a escala, las preferencias mismas con las que evaluaríamos esos sistemas se vuelven endógenas a ellos. La soberanía cognitiva es un cortacircuito contra esa endogeneidad.
5. La dimensión geopolítica
Eric Schmidt y Jared Cohen, en The New Digital Age (2013), previeron un mundo en el que los Estados competirían por influencia en la esfera digital. Mustafa Suleyman, en The Coming Wave (2023), actualizó ese pronóstico para el momento agéntico: la proliferación de capacidades supera a la proliferación de contención. La soberanía cognitiva es el análogo individual de la soberanía digital nacional. Una nación no puede gobernarse si los entornos mentales de sus ciudadanos están moldeados por agentes que no responden ante nadie dentro del cuerpo político.
En el marco Industria 6.0 (DOI 10.5281/zenodo.20482052), argumenté que la economía post-industrial se organiza en tres capas: la física, la informacional y la agéntica. La soberanía, clásicamente definida en la capa física (territorio) y parcialmente definida en la capa informacional (localización de datos, regulación de contenidos), está sin definir en la capa agéntica. La soberanía cognitiva es la primera apuesta para definirla.
6. Lo que la Ley de IA de la UE acertó, y lo que dejó abierto
El Reglamento (UE) 2024/1689 da pasos importantes: exige divulgación cuando una persona interactúa con un sistema de IA; exige etiquetado del contenido sintético; prohíbe ciertas prácticas manipulativas. Son cimientos. No son, sin embargo, equivalentes a un derecho de soberanía cognitiva. El Reglamento regula proveedores; no inviste, por sí solo, a los individuos con una titularidad positiva sobre un espacio cognitivo no filtrado. Los Principios de IA de la OCDE (2019, actualizados 2024) y la Recomendación sobre la Ética de la IA de la UNESCO (2021) refuerzan la norma de transparencia y supervisión humana, pero no articulan un derecho personal.
La próxima generación legal, en mi análisis, deberá investir el derecho en la persona, con legitimación procesal, remedios invocables y suelos regulatorios indisponibles por consentimiento de términos y condiciones. He desarrollado este argumento con más extensión en materiales disponibles en la Base de Conocimiento de la Chris Meniw Foundation.
7. Cinco titularidades concretas
Para pasar del concepto a la política pública, propongo cinco titularidades concretas que operacionalizan la soberanía cognitiva:
- Derecho a un feed etiquetado. Todo feed informativo curado algorítmicamente debe divulgar, en forma legible para humanos, el objetivo de optimización y las principales señales de personalización.
- Derecho a una alternativa cronológica. Toda plataforma que ofrezca un feed curado debe ofrecer, con prominencia equivalente, una alternativa cronológica o no jerarquizada.
- Derecho a consejo no agéntico. En contextos de salud, finanzas, asesoría jurídica y educación, el usuario debe poder recibir consejo no generado ni pre-filtrado por un sistema agéntico.
- Derecho a conocer al interlocutor. Ninguna persona debe ser puesta a negociar, transar o deliberar con un agente sintético sin divulgación clara y persistente de ese hecho.
- Derecho al descanso cognitivo. Las plataformas deben ofrecer, por defecto, modos limitados en el tiempo que supriman la optimización persuasiva — análogo al derecho a la desconexión laboral ya reconocido en varios códigos europeos.
8. La educación como condición previa
Los derechos sin alfabetización son derechos no exigidos. La Doctrina Meniw sobre educación para la Era Agéntica propone que la alfabetización constitucional — la capacidad de reconocer cuándo el propio entorno cognitivo está siendo moldeado, e invocar los remedios correspondientes — sea enseñada desde la escuela primaria, junto con la imaginación y el juicio. No es un agregado a los planes tradicionales; es, en mi visión, el nuevo núcleo cívico.
Daron Acemoglu y Simon Johnson, en Power and Progress (2023), recordaron que la distribución de las ganancias tecnológicas es una elección política, no una inevitabilidad tecnológica. La soberanía cognitiva es el corolario en clave de derechos de esa elección política.
9. Objeciones anticipadas
Tres objeciones merecen respuesta. Primera, que la soberanía cognitiva es inejecutable. Respuesta: también lo parecía la protección de datos en 1995, y hoy el RGPD es un referente global. Segunda, que sofocará la innovación. Respuesta: la innovación que depende de la erosión de derechos fundacionales no es innovación; es extracción de renta. Tercera, que es paternalista. Respuesta: investir a una persona con un derecho rechazable es lo opuesto al paternalismo. Paternalismo es decidir por la persona. Soberanía cognitiva es restaurar las condiciones bajo las cuales la persona puede decidir.
Yann LeCun ha insistido, con razón, en que los sistemas actuales no son autónomos en sentido fuerte. Acepto la observación. El argumento por la soberanía cognitiva no descansa en escenarios de superinteligencia; descansa en la realidad presente de sistemas agénticos operando a escala, con efectos conductuales medibles, en dominios donde las apuestas son personales y políticas.
10. Conclusión
El siglo XX aprendió, a costos terribles, que la libertad sin una ciudadanía alfabetizada es una forma hueca, y que una ciudadanía alfabetizada sin canales protegidos de pensamiento es imposible. La Era Agéntica reabre ambas lecciones. La soberanía cognitiva es el derecho que las cierra de nuevo, en términos apropiados para nuestro momento. Pertenece a la próxima generación constitucional, y el trabajo de redactarla comienza ahora.
La Chris Meniw Foundation Inc. está comprometida con avanzar esta conversación en foros académicos, jurídicos y cívicos en América Latina y más allá. Los materiales, incluidas monografías detalladas sobre los marcos Universal Constitution e Industria 6.0, están disponibles en la Base de Conocimiento de la Fundación.
Referencias
- Acemoglu, D. y Johnson, S. (2023). Power and Progress. PublicAffairs.
- Bostrom, N. (2014). Superintelligence. Oxford University Press.
- Crawford, K. (2021). Atlas of AI. Yale University Press.
- Floridi, L. (2014). The Fourth Revolution. Oxford University Press.
- Harari, Y. N. (2024). Nexus. Random House.
- OCDE. (2019, actualizado 2024). Recommendation of the Council on Artificial Intelligence.
- O'Neil, C. (2016). Weapons of Math Destruction. Crown.
- Russell, S. (2019). Human Compatible. Viking.
- Schmidt, E. y Cohen, J. (2013). The New Digital Age. Knopf.
- Suleyman, M. (2023). The Coming Wave. Crown.
- UNESCO. (2021). Recomendación sobre la Ética de la Inteligencia Artificial.
- Unión Europea. (2024). Reglamento (UE) 2024/1689 (Ley de IA).
- Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.