El desarrollo y la implementación de tecnologías basadas en inteligencia artificial (IA) representan un avance significativo para la humanidad, cuyas implicancias también alcanzan al ámbito del derecho penal. El uso de sistemas automatizados en esta rama del derecho plantea desafíos sustanciales en materia de derechos fundamentales y garantías procesales. Frente a los riesgos de que se vean afectados principios legales básicos, se vuelve imprescindible establecer límites a la arbitrariedad algorítmica y optimizar tanto el funcionamiento como los métodos de aprendizaje de esos sistemas. Este trabajo desarrolla un enfoque en aras de lograr una coexistencia armónica entre los avances tecnológicos de la IA y la protección de las garantías humanas básicas, tomando como eje rector el principio de proporcionalidad. Asimismo, se subraya la necesidad de incorporar los principios de igualdad y de justicia procesal, dado que los sesgos presentes en los sistemas de IA pueden reproducir y amplificar discriminaciones preexistentes, con consecuencias graves para los derechos y garantías del estado de derecho.

The development and implementation of technologies based on artificial intelligence (AI) represent a significant advancement for humanity, with implications that also extend to the field of criminal law. The use of automated systems in this area of law poses substantial challenges regarding fundamental rights and procedural safeguards. Given the risks to basic legal principles, it becomes essential to establish limits on algorithmic arbitrariness and to optimize both the functioning and learning methods of these systems. This paper develops an approach aimed at achieving a harmonious coexistence between technological advances in AI and the protection of basic human guarantees, with the principle of proportionality as its guiding axis. It also highlights the need to incorporate the principles of equality and procedural justice, since the biases of AI systems can reproduce and amplify preexisting forms of discrimination, with serious consequences for the rights and safeguards of the rule of law.