El diputado provincial Diego Garciarena, presidente del bloque UCR + Cambio Federal, presentó en la Legislatura bonaerense un proyecto de solicitud de informes dirigido al Poder Ejecutivo para conocer cuáles son las políticas, protocolos y mecanismos de prevención e intervención frente a situaciones de violencia digital que involucran a niños, niñas y adolescentes en establecimientos educativos.

La iniciativa pone especial atención en una problemática creciente: la utilización de herramientas de inteligencia artificial para crear, manipular y difundir imágenes de contenido íntimo o sexual sin consentimiento, una modalidad conocida como deepfake, que plantea nuevos desafíos para las autoridades educativas y los organismos encargados de proteger los derechos de los menores.

El proyecto contiene once puntos y reclama información sobre las herramientas que actualmente utiliza la Provincia para prevenir, detectar y abordar estos episodios, tanto en establecimientos de gestión estatal como privada.

En los fundamentos, Garciarena hace referencia a hechos ocurridos recientemente en escuelas de Lomas de Zamora e Ituzaingó, donde se conocieron situaciones vinculadas con la utilización de inteligencia artificial para generar y hacer circular imágenes de contenido sexual de estudiantes.

Según plantea el legislador, estos episodios evidencian la gravedad de las nuevas modalidades de violencia digital y generan interrogantes sobre la capacidad de respuesta del sistema educativo provincial.

Uno de los aspectos centrales del pedido es conocer cuántas situaciones de violencia digital fueron registradas o comunicadas a la Dirección General de Cultura y Educación durante 2024, 2025 y 2026.

La solicitud pretende diferenciar los episodios de ciberacoso, grooming, sextorsión, suplantación de identidad, difusión no consentida de imágenes íntimas y utilización de inteligencia artificial para manipular fotografías de estudiantes.

También exige precisiones sobre los procedimientos que deben seguir las escuelas cuando toman conocimiento de estos hechos, las medidas de protección y acompañamiento de las víctimas, la preservación de pruebas digitales y las acciones destinadas a evitar nuevas situaciones de exposición o revictimización.

Otro punto relevante es determinar cómo se articula la intervención entre la Dirección General de Cultura y Educación, el Ministerio de Justicia y Derechos Humanos, el Organismo Provincial de la Niñez y Adolescencia, el Ministerio de Salud y los municipios.

Garciarena solicita, además, que se informe si los protocolos existentes contemplan específicamente la creación de imágenes sexuales falsas mediante inteligencia artificial o si se proyecta actualizar las herramientas institucionales para incorporar estas nuevas modalidades.

En ese sentido, menciona el programa interministerial Cuidarnos en Red y la Comunicación Conjunta N° 1/23, que actualizó la guía de orientación para intervenir ante situaciones conflictivas y de vulneración de derechos en el ámbito escolar.

La responsabilidad del Estado

En los fundamentos de la iniciativa, el diputado advierte que la velocidad con la que evolucionan las tecnologías digitales obliga a revisar permanentemente las respuestas institucionales.

El texto también menciona el proyecto conocido como Ley Ema, que se encuentra en tratamiento legislativo y apunta a fortalecer la prevención y el abordaje integral de las violencias digitales en los ámbitos educativos.

Sin embargo, Garciarena sostiene que no alcanza con conocer la existencia de normas o programas, sino que resulta indispensable determinar cómo funcionan en la práctica, cuál es su grado de implementación y si resultan suficientes frente a los nuevos riesgos tecnológicos.

El legislador plantea que las familias tienen derecho a conocer qué deben hacer las escuelas cuando se detecta un episodio de violencia digital, cómo se protege a quienes resultan afectados y cuáles son las responsabilidades de las autoridades educativas.

El proyecto también busca establecer si los protocolos fueron efectivamente activados frente a los acontecimientos recientes y qué aprendizajes institucionales pueden extraerse de esas intervenciones, sin interferir en las investigaciones judiciales ni requerir información que permita identificar a los menores involucrados.

Finalmente, la iniciativa subraya la importancia de disponer de estadísticas sistematizadas que permitan dimensionar el fenómeno, seguir su evolución y evaluar la eficacia de las medidas de prevención.

Para Garciarena, la transparencia y la rendición de cuentas constituyen herramientas fundamentales para mejorar la respuesta del Estado frente a una problemática que afecta la intimidad, la dignidad y los derechos de los estudiantes.
El proyecto deberá avanzar en su tratamiento legislativo para que la Cámara de Diputados formalice el requerimiento de información al gobierno provincial.