Ante casos como el que se conoció esta semana del Colegio Modelo Lomas, donde alumnos de tercer año habrían creado, distribuido y vendido imágenes pornográficas falsas generadas con inteligencia artificial de sus propias compañeras, Red por la Infancia pone a disposición de niños, niñas y adolescentes de la Argentina una herramienta gratuita y anónima llamada BajaloYa! que permite solicitar la eliminación de ese tipo de contenido de plataformas digitales sin necesidad de compartir las imágenes con nadie. Además, dan un soporte para denunciar.
El caso de Lomas de Zamora evidenció mayores peligros tecnológicos para menores. Según Micaela, madre de una alumna afectada, al menos cuatro estudiantes habrían operado así: "Lo vendían, lo compartían con otros colegios de la zona, también lo subieron en páginas porno con nombre y apellido de las chicas, hacían catálogos".
El material, creado con fotos reales de unas 40 alumnas, habría sido elaborado con una herramienta de inteligencia artificial paga. Las familias realizaron una sentada frente al establecimiento tras trascender que la institución habría sabido durante semanas sin informarles.
Es en ese tipo de situaciones donde BajaloYa! aparece como una alternativa concreta. La herramienta es la adaptación argentina de Take it Down, un servicio desarrollado por el National Center for Missing & Exploited Children (NCMEC) de Estados Unidos, y funciona en el marco de un acuerdo de colaboración entre ambas organizaciones. La iniciativa apunta específicamente a que los menores puedan actuar sin depender de adultos para iniciar el proceso.
El mecanismo central de BajaloYa! consiste en asignar una huella digital única, técnicamente conocida como valor hash, a cada imagen o video de desnudo ?parcial, total o sexualmente explícito? que involucre a personas menores de 18 años. Las plataformas en línea pueden utilizar esos valores hash para detectar el contenido en sus servicios y proceder a su eliminación. Lo que distingue al sistema es que todo el proceso ocurre sin que la imagen o el video salgan del dispositivo del usuario y sin que nadie llegue a verlos.
Para quienes, además de solicitar la baja del contenido, decidan avanzar con una denuncia formal, el camino indicado es el Ministerio Público Fiscal de la localidad que corresponda. En el caso del MPF de CABA, cuenta con una Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (UFEDyCI). Esta unidad investiga delitos cometidos a través de medios digitales y trabaja en coordinación con fiscales de todas las jurisdicciones del país. La denuncia puede realizarse llamando al 0800-333-47225, enviando un correo a [email protected] o a través de la web del organismo.
El proceso de denuncia en línea está estructurado en pasos. Primero, el usuario ingresa a la web, accede a la sección "Delitos Informáticos" y elige si desea identificarse o actuar de forma anónima. Aunque ambas opciones son válidas, la plataforma recomienda brindar los datos personales: hacerlo permite recibir una copia de la denuncia, estar al tanto del avance del caso y mantener contacto con el fiscal para aportar información adicional.
Luego se cargan los datos del denunciado ?si se los conoce? y se describe el hecho con el mayor detalle posible. En esa instancia es posible adjuntar hasta tres archivos que acrediten la situación, pero se hace una advertencia clara: no deben subirse las imágenes íntimas, sino únicamente aquellos archivos que puedan identificar a quien amenaza o distribuyó el contenido.
Uno de los aspectos que Red por la Infancia subraya con particular énfasis es la preservación de la prueba digital antes de realizar cualquier denuncia. La evidencia en entornos digitales puede desaparecer con rapidez: una cuenta puede cerrarse, los mensajes pueden borrarse, las publicaciones pueden eliminarse y las plataformas suelen conservar ciertos registros de acceso solo por un período limitado. Por eso, la organización advierte que no se deben borrar mensajes, fotos, audios, correos electrónicos, perfiles, chats ni registros de llamadas. Tampoco se recomienda "limpiar" el dispositivo, reinstalar aplicaciones ni cambiarlo hasta haber completado la denuncia y guardado las pruebas. Editar los archivos originales también está desaconsejado: si se necesita destacar algún detalle, debe hacerse sobre una copia.
En los casos en que la denuncia no pueda realizarse de inmediato, la plataforma ofrece pautas para que el propio usuario pueda preservar el material. Se indica hacer capturas de pantalla completas ?sin recortar? que incluyan el nombre de usuario o perfil, la foto de perfil, la fecha y hora si es que aparecen, el contenido del mensaje o publicación, el nombre de la plataforma y, si corresponde, el nombre del grupo o canal. Si la conversación es extensa, las capturas deben tomarse en secuencia, sin saltos.
Junto con eso, se recomienda guardar en un archivo la URL del perfil y de la publicación, el nombre de usuario, el ID de la cuenta cuando la aplicación lo muestre, y cualquier dato de contacto visible como teléfono o correo electrónico. Ese registro es clave porque los perfiles pueden cambiar de nombre, cerrarse o desaparecer antes de que las autoridades logren acceder a ellos.
Además de BajaloYa!, Red por la Infancia ofrece ReConectate, una plataforma con guías e instrucciones adicionales para orientar a los menores en los distintos pasos del proceso de denuncia, con distintos canales de comunicación disponibles para resolver dudas sobre cómo actuar.
Entre las advertencias que ReConectate agrega a las pautas de preservación, hay una que suele pasarse por alto: no confrontar al agresor desde la cuenta afectada. Discutir, amenazar o intentar obtener información por cuenta propia puede aumentar el riesgo, poner al agresor en alerta ?lo que lleva a cerrar la cuenta o cambiar el usuario? y contaminar el contexto probatorio.
