Rendición de cuentas como posibilidad
Por:Francisco Ramos Marín*
El Papa León XIV firmó la carta encíclica Magnifica Humanitas el 15 de mayo de 2026, en el 135.º aniversario de Rerum Novarum, y la Santa Sede la promulgó el 25 de mayo de 2026 en el Aula del Sínodo. Lo que Rerum Novarum significó para el desarrollo ulterior del Derecho del Trabajo, puede ser lo que Magnifica Humanitas represente para la regulación global de la inteligencia artificial. Un punto de partida doctrinal que dota de criterio ético a lo que, de otro modo, quedaría librado a la lógica utilitaria del mercado o a la voluntad de quienes detentan el poder técnico.
Ambas encíclicas emergen de contextos de transformación que desbordaban, en su momento, las capacidades regulatorias del Estado. La Revolución Industrial del siglo XIX y la revolución de la inteligencia artificial del presente comparten como entorno crítico, la velocidad y la escala del cambio tecnológico que superan el ritmo al que el derecho puede responder. La firma de Magnifica Humanitas en el aniversario de aquella carta de León XIII simboliza una continuidad doctrinal, ante ese mismo tipo de desfase.
Lo que distingue Magnifica Humanitas de los pronunciamientos previos sobre tecnología digital —entre ellos la Nota Antiqua et nova del Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación (14 de enero de 2025), a la que la propia encíclica remite en su nota 123— es el registro en que formula sus exigencias. León XIV no se limita al diagnóstico técnico que la propia industria ya produce internamente. El documento papal demanda consecuencias jurídicas vinculantes. En su nota 105 se refiere a «la posibilidad de identificar quién debe rendir cuentas de las decisiones, motivarlas, controlarlas y, cuando es necesario, cuestionarlas y remediar los daños que derivan de ellas». La nota 106 precisa que «no basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea».
Esta formulación posee una especificidad de la que carecen las declaraciones corporativas de ética de la IA, que se agotan en la voluntariedad y en un deber abstracto sobre todos los actores sociales. La responsabilidad a la que se refiere León XIV debe ser verificable y exigible, recaer sobre cadenas concretas de diseño, autorización y despliegue. La nota 71 añade que la subsidiariedad exige «auditorías independientes, transparencia en los algoritmos, acceso equitativo a los datos, herramientas de apelación». Se trata de condiciones institucionales, que postulan una concreción más allá de la mera aspiración ética.
Venezuela refleja con claridad, en el estado presente de su dinámica regulatoria de la IA, esa diferencia entre aspiración y realidad. Su esquema ejemplifica el problema que identifica la encíclica: un vocabulario de rendición de cuentas construido sobre instituciones que lo vacían de sentido.
El vocabulario dentro del marco normativo doméstico
El marco venezolano de regulación de la inteligencia artificial se erige, a la fecha, sobre dos instrumentos: el Código de Ética para el Desarrollo y Uso de Sistemas de Inteligencia Artificial, aprobado el 19 de febrero de 2026 por la Dirección General de Desarrollo y Aplicación de la Inteligencia Artificial (DGDAIA) del Ministerio de Ciencia y Tecnología (MINCYT); y el proyecto de Ley de Inteligencia Artificial, aprobado en primera discusión por la Asamblea Nacional el 19 de noviembre de 2024, que no ha sido sancionado a la fecha de este análisis.
El Código de Ética establece nueve principios. Entre ellos destaca el de «rendición de cuentas», que subraya la responsabilidad última de los seres humanos, la transparencia durante todo el ciclo de vida del sistema y las obligaciones concretas de los desarrolladores. Leídos junto a la nota 105 de Magnifica Humanitas, tanto el Código de Ética como el proyecto legislativo parecen compatibles con la exigencia pontificia. Al definir responsables y gradaciones de riesgo, incorporan mecanismos de control. El vocabulario empleado es adecuado. El desafío radica, como se verá, en las condiciones reales que ese lenguaje necesita para generar efectos institucionales.
Las condiciones de posibilidad necesarias, pero todavía ausentes
El Concilio Vaticano II ya había fijado el marco conceptual que hace verificable este déficit. La nota 26 de la constitución pastoral Gaudium et Spes define el bien común como «el conjunto de condiciones de la vida social que hacen posible a las asociaciones y a cada uno de sus miembros el logro más pleno y más fácil de la propia perfección». El bien común es, en la tradición conciliar, un conjunto de condiciones institucionales a sostener. Cuando éstas faltan, la fórmula que las enuncia se vacía de contenido. Magnifica Humanitas actualiza esa exigencia en su nota 106 para el régimen de la inteligencia artificial. Sin marcos jurídicos adecuados, vigilancia independiente y mecanismos de apelación, la rendición de cuentas proclamada no produce efectos sobre nadie.
Se puede sostener que existen tres déficits estructurales que separan el vocabulario del marco venezolano, de su funcionamiento efectivo como sistema de rendición de cuentas.
Autonomía funcional. La Agencia Nacional de Inteligencia Artificial que crea el proyecto es un ente adscrito al Ministerio del Poder Popular con competencia en materia de Ciencia y Tecnología (artículo 11), con directores de libre nombramiento y remoción ministerial. Magnifica Humanitas postula en su nota 106 la «vigilancia independiente» como condición de los marcos jurídicos adecuados. Un órgano cuya dirección puede ser removida discrecionalmente por el Ejecutivo no satisface esa condición, por más que el texto le atribuya competencias rectoras en abstracto. El elenco de esas atribuciones —supervisar el cumplimiento de la Ley (artículo 12.17), instruir procedimientos sancionatorios (artículo 12.15), tramitar denuncias y reclamos (artículo 12.14), llevar los registros de proveedores y de soluciones de IA (artículos 12.12 y 12.13)— recae sobre los desarrolladores y proveedores privados sujetos al registro. El proyecto no atribuye a la Agencia una competencia de auditoría sobre los sistemas de IA que despliega el propio Estado. El déficit, por tanto, es doble, a la ausencia de competencia de control sobre los usos estatales se suma la falta de autonomía del único órgano que hipotéticamente podría ejercerla.
Supervisión sobre el Estado. El principio de rendición de cuentas del Código de Ética afirma que la responsabilidad última recae en seres humanos. El artículo 47 del proyecto autoriza, en cambio, el empleo de sistemas de IA clasificados como de riesgo inaceptable por parte de los organismos de seguridad del Estado «para mantener la seguridad y defensa de la Nación, así como el mantenimiento de la paz», sin especificar qué órgano independiente controla esa autorización ni bajo qué procedimiento.
La supervisión humana significativa que Magnifica Humanitas señala en la nota 199 —«la decisión de emplear la fuerza letal no puede delegarse en procesos turbios o automatizados»— desaparece exactamente donde se desplegarán los sistemas de mayor riesgo. Gaudium et Spes (nota 26) formulaba ya que el orden social existe para la persona y no a la inversa. El artículo 47 invierte ese principio al subordinar el control sobre el ciudadano afectado por el sistema a la razón de Estado, sin contrapeso verificable.
Conviene anticipar aquí la objeción central que admite este diagnóstico. El proyecto no carece por completo de vías de reclamación, toda vez que consagra un catálogo de derechos del usuario —interacción (artículo 25), consentimiento informado (artículo 26), seguridad (artículo 27), no discriminación (artículo 28), protección de datos (artículo 29)— y encomienda a la Agencia la tramitación de denuncias (artículo 12.14) y la instrucción de procedimientos sancionatorios (artículo 12.15). Un crítico podría sostener que el sistema dispone de recursos formales y que afirmar un vacío institucional total resulta exagerado. La réplica reconoce el dato, pero se debe delimitar su alcance. Esos recursos se alojan en la propia Agencia carente de autonomía, y, sobre todo, el artículo 47 sustrae los sistemas estatales de riesgo inaceptable de los límites donde tales derechos y recursos operarían. El ciudadano afectado por un sistema amparado en la seguridad de la Nación no encuentra ante quién reclamar, porque ese uso queda fuera del régimen común. Los mecanismos existen para los usos ordinarios y se neutralizan en la zona de mayor riesgo.
Obligatoriedad. El Código de Ética es un instrumento de soft law producido por la DGDAIA. Al no tener fuerza vinculante, su eficacia depende de la adhesión voluntaria de desarrolladores y operadores. El proyecto, por su parte, aún no ha alcanzado vigencia. La distancia entre enunciar el principio de «rendición de cuentas» y la naturaleza del instrumento que lo contiene —una directriz interna del MINCYT— es precisamente la que Magnifica Humanitas identifica como insuficiente en el debate global de gobernanza de la IA.
Frank Pasquale, en su análisis de los sistemas algorítmicos de finanzas y búsqueda, advirtió que la transparencia no constituye un fin en sí mismo, sino «un paso intermedio en el camino hacia la inteligibilidad» (The Black Box Society, 2015, p. 8). La distinción importa. Aunque el Código lograra transparencia plena en la publicación de principios, eso no equivaldría a rendición de cuentas si falta el mecanismo para cuestionar los criterios de diseño de los sistemas. El AI Now Institute identificó en 2019 el mismo patrón a escala global: «la gran mayoría de estas declaraciones de ética de la IA dicen muy poco sobre la implementación, la rendición de cuentas o cómo se mediría y aplicaría dicha ética en la práctica».
La nota 106 de la encíclica señala que «existe a menudo un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar sus efectos». Venezuela es un caso donde ese desequilibrio adopta la forma de un vocabulario avanzado sobre instituciones disminuidas.
Autorreferencialidad ética sin verificación
La presencia de Christopher Olah —cofundador de Anthropic y director de su equipo de interpretabilidad mecanicista— en la presentación de Magnifica Humanitas, concretó una tensión que el propio documento registra. En la nota 107, la encíclica advierte que quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas. El riesgo patente es que la industria asuma la ética como parámetro propio sin ceder el control sobre las condiciones institucionales de su verificación: un sistema que se juzga con los criterios que él mismo produce.
El propio Olah dio voz a esa autorreferencialidad desde el estrado. En sus palabras, todo laboratorio de IA de frontera —Anthropic incluida— «opera dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto», entre ellos la presión comercial, la geopolítica y la ambición personal; de ahí, concluyó, la necesidad de voces externas a esos incentivos, dispuestas a decir cosas difíciles. Tras la asertividad diagnóstica, la incógnita sin resolver es cuál mecanismo institucional convierte esa necesidad reconocida, en obligación exigible.
Pasquale lo había documentado con base empírica una década antes. Los sistemas algorítmicos se colocan en las antípodas de la neutralidad, al «crear el mundo que afirman simplemente mostrarnos» (2015, p. 61). Los tecnócratas, añadía, «camuflan juicios de valor cuestionables bajo el ropaje de la «ciencia»» (2015, p. 10). Ese patrón —al que el informe AI Now de 2019 denominó «vacío de rendición de cuentas»— se encuentra descrito en Magnifica Humanitas. La «moralización de la máquina» sin «la valentía de poner una condición ulterior: la posibilidad de discutir el código ético que debe ser usado, sometiéndolo a criterios de justicia social compartida» (nota 107). Esta autorreferencialidad moralista como huida de cualquier verificación es el modo de operación ordinario de la gobernanza de la IA.
Gaudium et Spes introdujo una dimensión que el debate contemporáneo suele pasar por alto. La interdependencia creciente de la humanidad hace que el bien común «se universalice cada vez más e implique derechos y obligaciones que miran a todo el género humano». La fórmula de exclusión del artículo 47 del proyecto venezolano —que habilita al Estado para emplear sistemas de IA de riesgo inaceptable cuando la seguridad de la Nación lo requiera— reproduce en clave pública la misma lógica; al sustraerse del ámbito regulatorio cuando implemente sobre los ciudadanos los usos de mayor riesgo, justificando su desarrollo bajo una cláusula amplia de seguridad, en lugar de someterlos a estándares jurídicos operacionales. El Estado replica, con autoridad soberana, el cierre autorreferencial que la encíclica le reprocha a la industria. Este práctica se institucionaliza, cuando el titular del control cambia de la corporación al Estado.
La exigencia que el marco global no puede procesar todavía
Magnifica Humanitas ofrece criterios de discernimiento. La nota 109 formula, por ejemplo, que «hablar de subsidiariedad exige proteger la capacidad de las comunidades de decidir y corregir, sin relegar su intervención a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio».
En este punto convergen el diagnóstico de Pasquale, el del AI Now de 2019 y el llamado de León XIV. Las asimetrías de poder que resultan de concentrar información y control sin supervisión independiente se separan de cualquier neutralidad: benefician a quienes ya controlan los sistemas y desapoderan a los usuarios. Gaudium et Spes (nota 25) lo había formulado en términos de la doctrina social de la Iglesia. Las estructuras sociales pueden inducir al bien o al mal, y su reforma forma parte de la vocación cristiana en el orden temporal.
Magnifica Humanitas ofrece la perspectiva desde la cual los déficits regulatorios del sistema venezolano se hacen medibles. La rendición de cuentas sin autonomía funcional es retórica de responsabilidad con estructura de impunidad. Los postulados de la encíclica definen las condiciones de posibilidad que el propio marco exige para que su fórmula de rendición de cuentas adquiera contenido institucional.
Como afirmó León XIV en la introducción de su encíclica: «Cada generación recibe como herencia la tarea de dar forma a su propio tiempo: hacer madurar la historia como un lugar donde se proteja la dignidad de cada persona, se promueva la justicia y se haga posible la fraternidad. Pero en cada época se cierne el riesgo de construir un mundo inhumano y más injusto» He aquí la encrucijada que debe superar una regulación de la IA, cónsona con los derechos ciudadanos y la condición humana.
Referencias
León XIV, Carta Encíclica Magnifica Humanitas (firmada el 15 de mayo de 2026; promulgada el 25 de mayo de 2026).
Dicasterio para la Doctrina de la Fe y Dicasterio para la Cultura y la Educación, Nota Antiqua et nova (14 de enero de 2025).
Concilio Vaticano II, Constitución Pastoral Gaudium et Spes (7 de diciembre de 1965).
Olah, Christopher, intervención en la presentación de Magnifica Humanitas, Aula del Sínodo, Ciudad del Vaticano, 25 de mayo de 2026 (texto íntegro publicado por Anthropic).
Pasquale, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015.
Crawford, Kate et al. AI Now 2019 Report. Nueva York: AI Now Institute, 2019.
Ministerio de Ciencia y Tecnología (MINCYT), Código de Ética para el Desarrollo y Uso de Sistemas de Inteligencia Artificial. Caracas: DGDAIA, 2026.
Asamblea Nacional de la República Bolivariana de Venezuela, Anteproyecto de Ley de Inteligencia Artificial (aprobado en primera discusión, 19 de noviembre de 2024).
*Francisco Ramos Marín
Abogado UCAB. Doctorando en Derecho de la UCAB
