La insuficiencia estructural del control humano significativo en armas autónomas:
fundamentos para una reorientación normativa post-antropocéntrica
DOI:
https://doi.org/10.5752/P.2317-773X.2025v13n2p149-165Palavras-chave:
lawsResumo
El avance acelerado de los Sistemas de Armas Letales Autónomas (LAWS) ha generado una transformación radical en las lógicas del conflicto armado, planteando desafíos ético-normativos que cuestionan la continuidad de la agencia humana en decisiones letales automatizadas. Frente a este escenario, el presente estudio examina críticamente la noción de Control Humano Significativo (MHC) como dispositivo normativo central en la regulación de LAWS, con el objetivo de construir un marco filosófico que fundamente éticamente su exigencia, explore su viabilidad en entornos militares avanzados y proponga una reconceptualización que articule agencia, dignidad y responsabilidad. Los hallazgos evidencian que el MHC, en su formulación actual, presenta limitaciones estructurales derivadas de la opacidad de los sistemas algorítmicos, la imprevisibilidad conductual y la dilución de la responsabilidad moral, lo cual imposibilita su función como garante ético en la guerra automatizada. En conclusión, se plantea un giro normativo que interpela la arquitectura jurídica y técnica existente, exigiendo la adopción de marcos regulatorios internacionales capaces de salvaguardar principios morales fundamentales en un contexto marcado por la creciente mediación algorítmica de la violencia.
Downloads
Referências
Gusterson, H. (2024). It’s all Lavender in Gaza. Anthropology Today, 40(6), 1–2. https://doi.org/10.1111/1467-8322.12923
Habermas, J. (1984). The Theory of Communicative Action: Volume 1: Reason and the Rationalization of Society (T. McCarthy, Trad.). Beacon Press.
Horowitz, M. C. (2016). The Ethics & Morality of Robotic Warfare: Assessing the Debate over Autonomous Weapons. Daedalus, 145(4), 25–36. https://doi.org/10.1162/DAED_a_00409
Janičatová, S., & Mlejnková, P. (2021). The ambiguity of hybrid warfare: A qualitative content analysis of the United Kingdom’s political–military discourse on Russia’s hostile activities. Contemporary Security Policy, 42(3), 312–344. https://doi.org/10.1080/13523260.2021.1885921
Kallenborn, Z., & Bleek, P. C. (2018). Swarming destruction: Drone swarms and chemical, biological, radiological, and nuclear weapons. The Nonproliferation Review, 25(5–6), 523–543. https://doi.org/10.1080/10736700.2018.1546902
Kant, I. (1996). The Metaphysics of Morals (M. J. Gregor, Ed.). Cambridge University Press.
Klonowska, K. (2022). Article 36: Review of AI Decision-Support Systems and Other Emerging Technologies of Warfare. En T. D. Gill, R. Geiß, H. Krieger, & R. Mignot-Mahdavi (Eds.), Yearbook of International Humanitarian Law, Volume 23 (2020) (Vol. 23, pp. 123–153). T.M.C. Asser Press. https://doi.org/10.1007/978-94-6265-491-4_6
Kunertova, D. (2023). Drones have boots: Learning from Russia’s war in Ukraine. Contemporary Security Policy, 44(4), 576–591. https://doi.org/10.1080/13523260.2023.2262792
Lévinas, E. (1969). Totality and Infinity: An Essay on Exteriority (A. Lingis, Trad.; 22nd reprint). Duquesne University Press.
Libicki, M. C. (1995). What Is Information Warfare? (No. 28; Strategic Forum, p. 4). Center for Advanced Concepts and Technology, Institute for National Strategic Studies, National Defense University.
List, C. (2021). Group Agency and Artificial Intelligence. Philosophy & Technology, 34(4), 1213–1242. https://doi.org/10.1007/s13347-021-00454-7
Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175–183. https://doi.org/10.1007/s10676-004-3422-1
Payne, K. (2021). I, Warbot: The Dawn of Artificially Intelligent Conflict. Hurst.
Rid, T. (2013). Cyber War Will Not Take Place. Oxford University Press.
Roff, H. M. (2014). The Strategic Robot Problem: Lethal Autonomous Weapons in War. Journal of Military Ethics, 13(3), 211–227. https://doi.org/10.1080/15027570.2014.975010
Santoni De Sio, F., & Van Den Hoven, J. (2018). Meaningful Human Control over Autonomous Systems: A Philosophical Account. Frontiers in Robotics and AI, 5, 15. https://doi.org/10.3389/frobt.2018.00015
Scharre, P. (2018). Army of None: Autonomous Weapons and the Future of War (reprint). W. W. Norton & Company.
Shea, N. (2023). Organized representations forming a computationally useful processing structure. Synthese, 202(6), 175. https://doi.org/10.1007/s11229-023-04373-2
Singer, P. W. (2009). Wired for War: The Robotics Revolution and Conflict in the Twenty-first Century (illustrated reprint). Penguin Press.
Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5), 991–1006. https://doi.org/10.1006/ijhc.1999.0252
Solovyeva, A., & Hynek, N. (2023). When stigmatization does not work: Over-securitization in efforts of the Campaign to Stop Killer Robots. AI & SOCIETY, 38(6), 2547–2569. https://doi.org/10.1007/s00146-022-01613-w
Sparrow, R. (2007). Killer Robots. Journal of Applied Philosophy, 24(1), 62–77. https://doi.org/10.1111/j.1468-5930.2007.00346.x
Sparrow, R. (2016). Robots and Respect: Assessing the Case Against Autonomous Weapon Systems. Ethics & International Affairs, 30(1), 93–116. https://doi.org/10.1017/S0892679415000647
Taddeo, M., & Blanchard, A. (2022). Accepting Moral Responsibility for the Actions of Autonomous Weapons Systems—A Moral Gambit. Philosophy & Technology, 35(3), 78. https://doi.org/10.1007/s13347-022-00571-x
Taddeo, M., & Floridi, L. (2018). How AI can be a force for good. Science, 361(6404), 751–752. https://doi.org/10.1126/science.aat5991
Winfield, A. F. T., & Jirotka, M. (2018). Ethical governance is essential to building trust in robotics and artificial intelligence systems. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2133), 20180085. https://doi.org/10.1098/rsta.2018.0085
Winter, E. (2022). The Compatibility of Autonomous Weapons with the Principles of International Humanitarian Law. Journal of Conflict and Security Law, 27(1), 1–20. https://doi.org/10.1093/jcsl/krac001
Wood, N. G. (2024). Explainable AI in the military domain. Ethics and Information Technology, 26(2), 29. https://doi.org/10.1007/s10676-024-09762-w
Zednik, C. (2021). Solving the Black Box Problem: A Normative Framework for Explainable Artificial Intelligence. Philosophy & Technology, 34(2), 265–288. https://doi.org/10.1007/s13347-019-00382-7
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2026 Estudos Internacionais: revista de relações internacionais da PUC Minas
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos:
1. Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
2.Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
3.Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online (ex.: em repositórios institucionais ou na sua página pessoal) a qualquer ponto antes ou durante o processo editorial, já que isso pode gerar alterações produtivas, bem como aumentar o impacto e a citação do trabalho publicado (Veja O Efeito do Acesso Livre).
Português
English
