Creó fotos triple X de sus compañeras con inteligencia artificial
Una de las chicas comenzó a recibir decenas de mensajes de distintos celulares acompañadas de fotos en las que aparecía desnuda. Las pericias electrónicas llevaron a los investigadores a la casa de otro alumno. En el mundo ya hay preocupación por este tipo de casos.
La DDI de La Plata allanó el domicilio donde vive un adolescente que está acusado de trucar con Inteligencia Artificial (IA) fotos de sus compañeras en el colegio San Cayetano de la capital bonaerense. El chico no podrá ir preso por ser menor de edad pero enfrenta una causa que, según los argumentos judiciales que llevaron a adoptar la drástica medida judicial, tiene que ver con la "Producción, Ofrecimiento, Comercialización, Publicación, Facilitación y Divulgación de Material Pornográfico a Menores de 14 Años".
La denuncia fue radicada por la mamá de la víctima en junio de este año cuando manifestó que su hija recibió decenas de mensajes de diversos números con fotos de la menor desnuda. Con el trabajo de los investigadores se constató que se trataban de imágenes trucadas y editadas a través de la IA, lo que en la jerga tecnológica se denomina “deepfakes”.
En varios países ya ocurrieron casos similares al de este colegio platense y en todos existe la preocupación de que estas imágenes manipuladas sean utilizadas no solo para perjudicar a la víctima cuya personalidad es alterada colocándola en situaciones vergonzantes. También se verificó que pueden ser utilizadas para el acoso, el chantaje o la humillación pública, lo que puede tener consecuencias aún más graves.
En junio del año pasado, en Estados Unidos, la Agencia Federal de Investigaciones (el célebre FBI) ya alertaba sobre el uso por parte de actores maliciosos de imágenes y videos públicos manipulados para campañas de “sextorsión”.
Allí advertían que empezaban a generalizarse las denuncias de víctimas de la manipulación de videos e imágenes suyas para la creación de imágenes sexuales falsas. Los actores maliciosos detrás de estas campañas luego divulgan este material en redes sociales o sitios de pornografía para luego extorsionar a las víctimas o simplemente intimidarlas. Lo grave –advertía el FBI- es que entre las denuncias también se registraron víctimas que son menores de edad, como es el caso conocido hoy de La Plata.
Material que se usa para ciberacoso
Pero también estas imágenes están relacionas a un aumento de los casos de ciberacoso relacionados con la difusión de esas imágenes, lo que subraya la urgencia de que este problema tenga alguna solución –dicen- mediante regulación de la IA o la actualización de la legislación.
Conocida la denuncia de la madre de la alumna platense, los investigadores rápidamente se pusieron a trabajar sobre los mensajes recibidos por la adolescente y las pesquisas electrónicas desembocaron en la orden para realizar el allanamiento en la casa del joven, donde se secuestraron tres teléfonos, un router, una tablet y una computadora personal. Ahora debe determinarse si el fraude con imágenes se realizó desde esos equipos.
La causa quedó en manos de la Fiscalía del Joven N°3, que solicitaron el registro de todos los elementos incautados. Aun así, los padres y las autoridades de la institución educativa están bajo alerta ya que no es el primer caso de esta índole dentro de la escuela.
En menos de un mes, se denunciaron dos casos por la creación de imágenes pornográficas realizadas con la herramienta tecnológica. El primero ocurrió en mayo y el segundo en junio, mientras que en este último creen que las fotos llegaron a otros países. Una línea de la investigación considera que todos los trucos fueron realizados por el mismo joven.