SCJN valida ley de Zacatecas que protege a la niñez frente a violencia con inteligencia artificial
En un fallo considerado histórico, la Suprema Corte de Justicia de la Nación (SCJN) declaró este martes constitucional la protección de los derechos de las infancias frente a los riesgos de violencia ejercida mediante inteligencia artificial (IA). La decisión sienta un precedente legal a nivel nacional e internacional para el desarrollo de regulaciones tecnológicas con enfoque en derechos de la niñez.
Por unanimidad de votos, el Pleno del máximo tribunal validó la reforma aprobada en febrero de 2024 al artículo 9, fracción III, inciso c), de la Ley de los Derechos de Niñas, Niños y Adolescentes del Estado de Zacatecas, la cual incorpora de forma pionera el concepto de violencia ejercida mediante IA.
Durante la sesión, la ministra ponente Margarita Ríos Farjat expuso que la inteligencia artificial plantea riesgos específicos y potencialmente graves para menores de edad. Entre ellos, la generación y difusión de material de explotación sexual infantil mediante deepfakes, así como técnicas de manipulación y engaño por parte de delincuentes, que facilitan la victimización de niñas, niños y adolescentes.
“La inteligencia artificial puede ser utilizada para victimizar a niñas, niños y adolescentes de maneras profundas y duraderas. Esta legislación busca adelantarse y proteger sus derechos en un entorno digital cambiante”, señaló.
El Poder Ejecutivo federal había impugnado la norma argumentando que carece de una definición jurídica clara sobre IA, lo que, a su juicio, vulneraría los principios de legalidad y seguridad jurídica. Sin embargo, la Corte desestimó este argumento al considerar que el legislador no está obligado a establecer un catálogo cerrado de definiciones, dado el carácter evolutivo de la tecnología.
“La inteligencia artificial presenta riesgos específicos y potencialmente graves. Por un lado, puede ser utilizada para generar y difundir material de explotación sexual infantil altamente realista, como los llamados deepfakes, que pueden causar daño profundo y duradero en las víctimas. Y por otro, la inteligencia artificial puede ser empleada por delincuentes para manipular y engañar a niños, niñas y adolescentes, facilitando su victimización”, añadió Ríos Farjat.
La ministra subrayó la necesidad de mantener un marco jurídico flexible, capaz de adaptarse a los avances tecnológicos, y resaltó que el Congreso de Zacatecas actuó conforme a la realidad actual de violencia digital.
Por su parte, la ministra Yasmín Esquivel Mossa afirmó que la legislación busca adelantarse a los posibles efectos nocivos de la IA y enfatizó la obligación del Estado de proteger a las infancias en entornos digitales. “Es nuestra obligación proteger sus derechos y prevenir daños sicológicos, sociales y físicos ocasionados por el uso malintencionado de tecnología e incluso, como hace la norma que hoy se analiza, para favorecer la persecución penal de esas conductas y se enfatice en la reparación del daño en casos de explotación digital”, apuntó.
En la misma línea, la ministra Loretta Ortiz Ahlf consideró que esta legislación es de suma relevancia, ya que en México más del 50 por ciento de niñas y niños de entre seis y 11 años utilizan Internet, y en el caso de adolescentes de 12 a 17 años, el rango va del 80 al 94 por ciento. “Este nivel de exposición aumenta el grado y alcance de vulnerabilidad de las infancias”, advirtió.
