Un grave caso de vulneración de derechos estudiantiles ha sacudido al exclusivo Colegio Saint George’s de Vitacura. De acuerdo a un recurso de protección presentado por apoderados ante la Corte de Apelaciones de Santiago, un grupo de alumnos utilizó inteligencia artificial para crear imágenes falsas que mostraban a siete compañeras, algunas hijas de reconocidos personajes públicos, desnudas.
Las polémicas imágenes, conocidas como “deepfakes“, fueron creadas en noviembre de 2023 utilizando aplicaciones web. A pesar de las advertencias en estos sitios sobre no usar registros de menores de edad, los seis estudiantes involucrados, hijos de destacados profesionales, manipularon fotografías de las jóvenes, que cursaban entre octavo básico y enseñanza media.
¿Qué son las Deepfakes?
Las “deepfakes” son imágenes, videos o audios falsos creados mediante el uso de inteligencia artificial y técnicas de aprendizaje profundo. Esta tecnología permite manipular y superponer rostros, voces u otros elementos de forma hiperrealista, haciendo parecer auténtico el contenido falso generado. Si bien las deepfakes tienen aplicaciones legítimas, también han sido utilizadas con fines maliciosos, como la creación de pornografía no consentida, noticias falsas o campañas de desinformación. Por ello, su uso indebido plantea desafíos éticos y legales que requieren de regulación y concientización.
Distribución masiva y acusaciones de revictimización
Según el recurso judicial, los alumnos confesaron su responsabilidad y las imágenes fueron viralizadas durante el verano, provocando burlas y comentarios denigrantes hacia las menores en redes sociales como Instagram y WhatsApp. Incluso algunas fotos alteradas aparecieron en sitios de contenido para adultos.
Al inicio del año escolar 2024, el colegio tomó conocimiento de lo ocurrido, activando protocolos internos e iniciando una investigación. No obstante, los padres acusan que las estudiantes fueron “entrevistadas una y otra vez, haciéndolas sentir incómodas y vulneradas nuevamente”.
Sanción insuficiente y búsqueda de revertir fallo
A pesar de la gravedad de los hechos, el Saint George’s decidió no expulsar a los responsables, aplicando en su lugar una sanción de “condicionalidad“. Los apoderados critican esta medida, señalando que la normativa exige denunciar ante el Ministerio Público o Tribunales de Familia, y no indagar en temas de sexualidad.
“La decisión del Saint George’s College de no aplicar la sanción de expulsión a los alumnos que modificaron, almacenaron y divulgaron imágenes intervenidas con inteligencia artificial de sus compañeras desnudas, resulta inadecuada”, argumentan en el recurso, buscando revertir el fallo interno.
Postura del colegio Saint George’s y medidas adoptadas
Desde el colegio Saint George’s aseguran haber respetado los protocolos, brindando apoyo psicoeducativo a las afectadas y aplicando medidas sancionatorias, reparatorias y formativas. Lamentan la exposición de los involucrados y evitarán profundizar en detalles para proteger su privacidad.
“Los estudiantes sancionados han manifestado su arrepentimiento y han estado dispuestos a realizar cualquier acto reparatorio en favor de la comunidad escolar afectada”, señala un documento del establecimiento.
Este caso ha reabierto el debate sobre la necesidad de regular el uso de inteligencia artificial y abordar sus potenciales riesgos, especialmente en contextos educativos donde se deben velar por los derechos de niños, niñas y adolescentes.