La circulación de imágenes íntimas sin consentimiento y la creación de contenido sexual mediante inteligencia artificial se convirtieron en nuevas formas de violencia digital que afectan especialmente a adolescentes. A esto se suma el uso de plataformas donde pueden publicarse relatos, imágenes y otros contenidos que sexualizan o exponen a menores.
En Argentina, la problemática volvió a quedar expuesta recientemente a partir de un caso ocurrido en el Colegio Modelo Lomas, en Lomas de Zamora. Según trascendió, al menos cuatro alumnos de tercer año habrían creado, compartido y vendido imágenes falsas de carácter pornográfico de sus compañeras utilizando inteligencia artificial.
El material habría sido generado a partir de fotografías reales de unas 40 alumnas y posteriormente difundido a través de distintas plataformas y páginas de contenido pornográfico. El episodio derivó en una movilización de estudiantes y familias frente al establecimiento educativo.
La inteligencia artificial amplió las posibilidades de producir este tipo de material sin necesidad de que exista una fotografía sexual real. Los Institutos Nacionales de Salud de Estados Unidos (NIH) advierten sobre el uso de estas tecnologías para generar imágenes sexualizadas de menores.
Otra de las prácticas vinculadas con esta problemática es el sexting, que comprende el intercambio de fotografías, videos, audios o mensajes de contenido sexual mediante teléfonos celulares y aplicaciones de mensajería. De acuerdo con las primeras estimaciones citadas por los NIH, el 2,5% de los adolescentes estadounidenses había creado o encargado imágenes sexualizadas propias y el 7,1% había recibido este tipo de material.
Una herramienta para frenar la circulación de imágenes
Ante la difusión de contenido íntimo de menores, la organización Red por la Infancia impulsó BajaloYa!, una herramienta gratuita y anónima que permite solicitar la eliminación de imágenes o videos de carácter sexual.
El sistema fue adaptado en Argentina a partir de Take It Down, desarrollado por el National Center for Missing & Exploited Children de Estados Unidos. Su funcionamiento busca evitar que la persona afectada tenga que enviar nuevamente las imágenes para iniciar el pedido de eliminación.
La herramienta genera en el propio dispositivo una huella digital única, conocida como hash, asociada al archivo. La imagen o el video no se envían durante el proceso. Las plataformas que participan del sistema pueden utilizar ese código para identificar el material y avanzar con su remoción.
BajaloYa! forma parte de ReConectate, una plataforma que reúne información y recursos destinados a adolescentes, familias, docentes y adultos referentes frente a situaciones de violencia y riesgos digitales.
La difusión de estos recursos también generó nuevas consultas relacionadas con plataformas de publicación de contenidos. Entre ellas apareció Archive of Our Own (AO3), un sitio gratuito utilizado para compartir historias de ficción y producciones vinculadas con distintas comunidades de seguidores.
El riesgo de utilizar personas reales como protagonistas
Una de las situaciones advertidas por Red por la Infancia está relacionada con la llamada ficción sobre personas reales, conocida como RPF. En estos casos, los protagonistas de las historias no son personajes ficticios sino personas existentes, incluidos compañeros de escuela, celebridades, deportistas o creadores de contenido.
Según la organización, se detectaron casos en los que adolescentes fueron identificados en relatos que describían situaciones de humillación, violencia o sexualización. El hecho de que el contenido sea presentado como ficción no elimina necesariamente sus consecuencias para la persona involucrada cuando esta puede ser identificada y el material es utilizado para hostigarla.
AO3 establece mecanismos para denunciar contenidos que infringen sus políticas y prohíbe determinadas representaciones sexuales fotográficas o fotorrealistas de niños reales. Sin embargo, desde Red por la Infancia advierten que la existencia de esos mecanismos no garantiza que una víctima pueda identificarlos, utilizarlos o conseguir una respuesta con rapidez.
La plataforma también contiene material destinado a públicos adultos, con advertencias vinculadas con violencia gráfica, violencia sexual y otros contenidos sensibles. El acceso como lector no requiere una invitación y el sitio permite registrarse a partir de los 13 años.
Consecuencias para la salud mental
La difusión de imágenes íntimas sin consentimiento puede tener consecuencias importantes sobre la salud mental de las víctimas. La médica psiquiatra infanto-juvenil Silvia Ongini, del Departamento de Pediatría del Hospital de Clínicas, señaló que estas situaciones pueden generar sentimientos de humillación, pérdida de confianza y temor frente a la exposición pública.
La sensación de que las imágenes fueron vistas por otras personas y pueden continuar circulando puede provocar ansiedad, depresión y otros problemas de salud mental. En situaciones graves, la especialista advirtió que pueden aparecer pensamientos suicidas.
El impacto también se relaciona con la dificultad para controlar la circulación del material una vez que fue publicado. Aunque se elimine de una plataforma, otras personas pueden haberlo descargado, copiado o vuelto a compartir.
Por eso, desde las organizaciones que trabajan en la prevención de estas situaciones remarcan que la responsabilidad no debe recaer sobre quien sufrió la difusión. La persona afectada es víctima de una vulneración de su intimidad, independientemente de que haya compartido originalmente una imagen con alguien de confianza.
Qué hacer ante una situación de violencia digital
Frente a la aparición de imágenes íntimas o contenido sexual difundido sin consentimiento, una de las primeras recomendaciones es no volver a compartir el material, incluso cuando se intenta mostrarlo como prueba.
La evidencia debe preservarse de manera segura y, cuando sea posible, realizar copias en otro dispositivo o almacenamiento. El bloqueo del agresor debería hacerse después de resguardar la información necesaria para una eventual denuncia.
También se recomienda evitar cualquier tipo de reproche hacia la víctima. Frases relacionadas con haber compartido una fotografía, haber confiado en determinada persona o haber utilizado una plataforma pueden aumentar la sensación de culpa y dificultar que el adolescente pida ayuda.
El acompañamiento de familiares, docentes y adultos de confianza resulta fundamental. La recomendación de los especialistas es escuchar, contener y buscar asistencia profesional cuando sea necesario, además de recurrir a los mecanismos de denuncia correspondientes.
En Argentina, quienes necesiten realizar una denuncia formal pueden acudir al Ministerio Público Fiscal de la jurisdicción correspondiente. En la Ciudad de Buenos Aires existe además una unidad especializada en delitos y contravenciones informáticas.
La prevención, en tanto, requiere mantener abiertos los canales de diálogo con niños y adolescentes. Los especialistas recomiendan hablar sobre el uso de imágenes, la privacidad, la identidad digital y los riesgos de determinadas plataformas sin convertir la conversación en un interrogatorio ni responsabilizar a los jóvenes por las agresiones que puedan sufrir.
