Inteligencia artificial al servicio de los Derechos humanos: ¿oportunidad o riesgo?
DOI:
https://doi.org/10.64304/rac.v1i1.9Palabras clave:
Inteligencia Artificial, Derechos Humanos, Sesgo Algorítmico, Privacidad Digital, Regulación TecnológicaResumen
El artículo “Inteligencia Artificial al Servicio de los Derechos Humanos: ¿Oportunidad o Riesgo?” Analiza el impacto dual de la inteligencia artificial (IA) en la defensa y protección de los derechos humanos en la era digital. Por un lado, destaca el potencial de la IA para fortalecer mecanismos de monitoreo, transparencia, acceso a la justicia y prevención de violaciones a los derechos fundamentales. Herramientas como el reconocimiento facial, la minería de datos y el análisis predictivo han permitido a gobiernos y organizaciones detectar abusos, agilizar procesos judiciales y optimizar la formulación de políticas públicas. Por otro lado, el artículo advierte sobre los riesgos inherentes a estas tecnologías, como la discriminación algorítmica, la vulneración de la privacidad, el uso indebido de sistemas de vigilancia masiva y la concentración de poder en grandes corporaciones tecnológicas. Estos peligros, si no se acompañan de marcos regulatorios sólidos y principios éticos claros, pueden traducirse en nuevas formas de desigualdad y violaciones a los derechos humanos. La investigación se basa en una revisión crítica de literatura y estudios de caso internacionales, resaltando que el equilibrio entre innovación tecnológica y respeto por la dignidad humana dependerá de la capacidad de las sociedades para desarrollar normativas que promuevan la transparencia, la rendición de cuentas y la equidad en el uso de la IA. Como conclusión, se enfatiza la necesidad de garantizar que el avance tecnológico esté al servicio de la justicia social y la protección de los derechos fundamentales, mediante la colaboración entre gobiernos, sociedad civil y desarrolladores tecnológicos.
Descargas
Citas
Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, 81:1–15.
Castells, M. (2019). Redes de indignación y esperanza: Los movimientos sociales en la era de internet. Alianza Editorial.
European Commission. (2021). Proposal for a Regulation on Artificial Intelligence. Disponible en: https://ec.europa.eu/info/index_en.htm
European Commission. (2019). Ethics Guidelines for Trustworthy AI. Recuperado de: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
Estonian e-Governance Academy. (2020). Digital Governance in Estonia: A Case Study. Disponible en: https://e-estonia.com/
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., ... & Vayena, E. (2018). AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, 28(4), 689–707. DOI: https://doi.org/10.1007/s11023-018-9482-5
García, M., Rodríguez, L., & Sánchez, P. (2022). Inteligencia Artificial y Derechos Humanos: Un Análisis Crítico. Revista Iberoamericana de Tecnología y Sociedad, 14(2), 45–68.
Huertas Díaz, O. (2023). El principio de legalidad en crímenes de lesa humanidad en el tribunal europeo de derechos humanos. En O. Huertas Díaz, & Á. C. Sánchez Cabrera, Derecho y política criminal sistémica. Transdisciplinariedad y sistema social (pp. 27–43). Bogotá: Ibáñez.
International Crisis Group. (2022). Leveraging Big Data for Human Rights Monitoring. Disponible en: https://www.crisisgroup.org/
Morozov, E. (2013). To Save Everything, Click Here: The Folly of Technological Solutionism. PublicAffairs.
OECD. (2021). AI in Society: Opportunities and Risks. Disponible en: https://www.oecd.org/
Russell, S., & Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
Sánchez Cabrera, Á. C., Fajardo Sandoval, F., & Trujillo González, J. S. (2024). Neurociencia y derecho penal, aportes para la discusión. En O. Huertas Díaz, A. L. Ruíz Herrera, & N. P. Jiménez Rodríguez, Voces polifónicas del derecho en la construcción de una sociedad en paz a través de la educación (pp. 86–131). Bogotá: Ibáñez.
Smith, A. (2021). Artificial Intelligence in Human Rights Advocacy. Journal of Human Rights and Technology, 7(1), 34–56.
Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 59(236), 433–460. DOI: https://doi.org/10.1093/mind/LIX.236.433
UNESCO. (2020). Recommendation on the Ethics of Artificial Intelligence. Disponible en: https://unesdoc.unesco.org/
UN Special Rapporteur on the Right to Privacy. (2020). Report on Privacy in the Digital Age. Disponible en: https://www.ohchr.org/
Wirtz, B. W., Weyerer, J. C., & Geyer, C. (2019). Artificial Intelligence and the Public Sector—Applications and Strategies. International Journal of Public Administration, 42(7), 596–615. DOI: https://doi.org/10.1080/01900692.2018.1498103
Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.