La difusión de imágenes íntimas sin consentimiento y la creación de desnudos falsos mediante inteligencia artificial encendieron las alarmas en el ámbito educativo. El especialista Gustavo de Elorza Feldborg reclamó más formación docente y conciencia digital, mientras la Provincia de Buenos Aires convirtió en ley una iniciativa para prevenir y abordar estas situaciones en las escuelas.
La inteligencia artificial abrió nuevas posibilidades tecnológicas, pero también puede ser utilizada para ejercer violencia, hostigar y humillar a otras personas. Una de las prácticas que genera mayor preocupación es la creación de deepfakes: imágenes o videos manipulados que muestran a una persona en escenas que nunca ocurrieron, incluso con contenido sexual.
El tema volvió al centro del debate tras la sanción de la Ley Ema en la provincia de Buenos Aires, una norma que busca fortalecer la prevención y la intervención frente a distintas formas de violencia digital en las instituciones educativas.
En declaraciones a Canal 8 de Mar del Plata, el especialista en inteligencia artificial y educación Gustavo de Elorza Feldborg advirtió sobre el alcance de estas herramientas y el daño que pueden provocar cuando se utilizan para exponer a estudiantes sin su consentimiento.
Según explicó, a partir de una fotografía real es posible generar escenas ficticias que aparentan ser verdaderas. Ese material puede difundirse rápidamente en redes sociales y grupos de mensajería, con consecuencias para la intimidad, la reputación y la salud emocional de quienes aparecen en las imágenes.
Qué establece la Ley Ema para las escuelas bonaerenses
La iniciativa lleva el nombre de Ema Bondaruk, una adolescente que murió en agosto de 2024, luego de que imágenes íntimas suyas fueran difundidas sin autorización. Su caso impulsó el reclamo de familiares y organizaciones para que las instituciones educativas dispongan de herramientas concretas frente a la violencia digital.
La Cámara de Diputados bonaerense le dio sanción definitiva el 20 de octubre, después de que el Senado introdujera modificaciones al proyecto original. La normativa crea un programa provincial de prevención y abordaje integral de la violencia digital en los ámbitos educativos e incorpora lineamientos de ciudadanía digital a la legislación educativa.
Entre las situaciones que busca abordar se encuentran la circulación no consentida de contenido íntimo, el hostigamiento y otras formas de violencia ejercidas a través de medios digitales. El alcance de la problemática incluye también imágenes sexualizadas creadas o alteradas mediante inteligencia artificial.
La aprobación de la ley representa un avance en la respuesta institucional, aunque su implementación requerirá capacitación, protocolos y acompañamiento para las comunidades educativas. La norma alcanza a escuelas públicas y privadas de la provincia.
Capacitación docente y prevención, los principales desafíos
De Elorza Feldborg sostuvo que la respuesta no puede limitarse a actuar una vez que el daño ya se produjo. En ese sentido, remarcó la importancia de preparar a directivos, docentes y estudiantes para reconocer los riesgos de las plataformas digitales y comprender las consecuencias de compartir contenido ajeno sin autorización.
El especialista planteó la necesidad de desarrollar una mirada crítica sobre el uso de las nuevas tecnologías y fortalecer la ciudadanía digital desde las aulas. Esto implica enseñar que una imagen manipulada también puede convertirse en una herramienta de agresión y que la viralización de contenido puede profundizar el sufrimiento de la persona afectada.
La prevención también requiere que las escuelas sepan cómo recibir una denuncia, resguardar a quien atraviesa la situación y evitar que la intervención institucional termine exponiendo aún más a la víctima.
Un problema que va más allá de las aulas
La preocupación por los desnudos falsos y el acoso mediante inteligencia artificial también llegó al Congreso nacional. En octubre se presentó un proyecto para establecer un régimen de protección de niñas, niños y adolescentes frente a las deepfakes sexuales y la creación de imágenes mediante técnicas de “nudificación” con IA.
El debate refleja un desafío creciente: las herramientas para manipular imágenes son cada vez más accesibles, mientras que las respuestas educativas, sociales y legales deben adaptarse a estas nuevas formas de violencia.
En este escenario, la Ley Ema busca que las escuelas bonaerenses cuenten con recursos para prevenir, detectar y abordar estos episodios. La capacitación de los adultos, la educación digital de los estudiantes y el acompañamiento de las familias serán claves para evitar que la tecnología se convierta en un instrumento de hostigamiento.
La discusión ya no pasa solamente por qué pueden hacer las nuevas tecnologías, sino también por cómo proteger la intimidad y los derechos de quienes pueden quedar expuestos a su uso abusivo.
#LeyEma #InteligenciaArtificial #ViolenciaDigital #Deepfakes #Educación #EscuelasBonaerenses #CiudadaníaDigital #MarDelPlata #Tecnología
