Gobernanza de la inteligencia artificial generativa
Una introducción a la confianza por diseño.
Resumen
Este artículo propone el marco de “Confianza por Diseño” (CpD) como estrategia de gobernanza para la IA Generativa (IA Gen). Ante los vacíos de los enfoques tradicionales, la CpD integra la seguridad, la privacidad y la ética. El modelo busca armonizar los intereses del Estado (garante), las empresas (innovación) y los individuos (autonomía cognitiva). Se enfatiza que la sostenibilidad tecnológica depende de salvaguardas proactivas que aseguren la integridad algorítmica y mitiguen riesgos como la “hiper 1 suación” y la “infodemia”. La reflexión concluye que la CpD permite una innovación responsable, transformando la IA en un habilitador de bienestar social y rentabilidad económica mediante una colaboración pluralista entre los diferentes actores del ecosistema digital soporte de la IA.
Citas
Abaimov, S., & Martellini, M. (2022). Machine learning for cyber agents: Attack and defence. Springer Nature Switzerland AG. https://doi.org/10.1007/978-3-030-91585-8
Cavoukian, A. (2009). Privacy by Design: The 7 Foundational Principles. Information and Privacy Commissioner of Ontario. https://www.ipc.on.ca/sites/default/files/legacy/2018/01/pbd-1.pdf
Coles-Kemp, L., & Burdon, M. (2025). Understanding digital responsibilities. Bristol University Press. https://doi.org/10.51952/9781529249798
Del-Real, C., De Busser, E., & van den Berg, B. (2025). A systematic literature review of security and privacy by design principles, norms, and strategies for digital technologies. International Review of Law Computers & Technology, 39(3), 374–405. https://doi.org/10.1080/13600869.2025.2457227
European Parliament & Council of the European Union - EUPC (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union. http://data.europa.eu/eli/reg/2024/1689/oj
Floridi, L. (2023). AI as agency without intelligence: On ChatGPT, large language models, and other generative models. Philosophy & Technology, 36(1), 1-15. https://doi.org/10.1007/s13347-023-00621-y
Habuca, H., & Socol de la Osa, D. (2025). Shaping Global AI Governance. A Path for the G7 to Foster Rule of Law in a World of Uncertainty. En M. Zou, C. Poncibò, M. Ebers, & R. Calo (Eds.), The Cambridge Handbook of Generative AI and the Law. Cambridge University Press.
National Institute of Standards and Technology (NIST). (2022). Engineering Trustworthy Secure Systems (NIST Special Publication 800-160, Vol. 1, Rev. 1). U.S. Department of Commerce. https://doi.org/10.6028/NIST.SP.800-160v1r1
Papadopoulos, S. (2025). Redefining rivalry: Generative AI and the evolving landscape of competition law. En M. Zou, C. Poncibò, M. Ebers, & R. Calo (Eds.), The Cambridge Handbook of Generative AI and the Law. Cambridge University Press.
Paseri, L., & Durante, M. (2025). Normative and ethical dimensions of generative AI: From epistemological considerations to societal implications. En M. Zou, C. Poncibò, M. Ebers, & R. Calo (Eds.), The Cambridge Handbook of Generative AI and the Law. Cambridge University Press.
Poncibò, C. (2025). Regulating hypersuasion. En M. Zou, C. Poncibò, M. Ebers, & R. Calo (Eds.), The Cambridge Handbook of Generative AI and the Law. Cambridge University Press.
Saltzer, J. H., & Schroeder, M. D. (1975). The protection of information in computer systems. Proceedings of the IEEE, 63(9), 1278–1308. https://doi.org/10.1109/proc.1975.9939
Sieber, S. (2026). La paradoja de la IA generativa: por qué más tecnología requiere más humanidad. Harvard Deusto, (358), 26-41. https://www.harvard-deusto.com/la-paradoja-de-la-ia-generativa-por-que-mas-tecnologia-requiere-mas-humanidad
Taddeo, M., McCutcheon, T., & Floridi, L. (2019). Trusting artificial intelligence in cybersecurity is a double-edged sword. Nature Machine Intelligence, 1(12), 557–560. https://doi.org/10.1038/s42256-019-0109-1
Valdés-Rodríguez, Y., Hochstetter-Diez, J., Díaz-Arancibia, J., & Cadena-Martínez, R. (2023). Towards the integration of security practices in agile software development: A systematic mapping review. Applied Sciences, 13(7), 4578. https://doi.org/10.3390/app13074578
Waltzman, R., Ablon, L., Curriden, C., Hartnett, G. S., Holliday, M. A., Ma, L., Nichiporuk, B., Scobell, A., & Tarraf, D. C. (2020). Maintaining the competitive advantage in artificial intelligence and machine learning. RAND Corporation. https://www.rand.org/pubs/research_reports/RRA200-1.html
Zou, M., Poncibò, C., Ebers, M., & Calo, R. (Eds.). (2025). The Cambridge handbook of generative AI and the law. Cambridge University Press. https://doi.org/10.1017/9781009492553
