En las últimas semanas, las redes sociales se han llenado de imágenes adorables y entrañables que parecen sacadas de una película del Studio Ghibli. Esto se debe a una nueva funcionalidad de Inteligencia Artificial (IA), que permite a cualquier usuario compartir versiones estilizadas de sus familiares, amigos e incluso de sus mascotas, recreadas con el estilo de animación japonesa.

Aunque esta tendencia ha despertado una ola de creatividad y nostalgia, los expertos de Qustodio, plataforma de seguridad online y bienestar digital, alertan sobre los riesgos que muchas familias podrían estar pasando por alto. ¿Es tan seguro compartir fotos de los menores con modelos de IA generativa?

Compartir imágenes de niños en redes sociales -conocido como sharenting- va un paso más allá con la llegada de este tipo de herramientas. Es cierto que estas imágenes no se publican directamente en una red social, pero sí se quedan almacenadas en plataformas de IA que procesan y almacenan datos, muchas veces sin que el usuario sea consciente de cómo se gestionan ni con quién se comparten. En este sentido, muchas aplicaciones, especialmente aquellas que no pertenecen a grandes empresas tecnológicas con políticas más estrictas de privacidad, pueden compartir información con terceros, incluyendo los datos biométricos extraídos de las fotografías. 

Esto significa que los rostros de los menores podrían alimentar algoritmos sin un consentimiento explícito y quedar expuestos a usos posteriores desconocidos.

¿Es posible disfrutar de la creación de imágenes con la IA de forma segura?

En un entorno digital donde los datos personales son cada vez más valiosos, proteger la identidad de los menores es un compromiso compartido por padres, educadores y plataformas tecnológicas. Por ello, los expertos de Qustodio insisten en un uso responsable y proponen las siguientes recomendaciones:

• Evitar usar fotos personales. ChatGPT y otras aplicaciones similares tienen la capacidad de crear una imagen basándose únicamente en indicaciones, por lo que se recomienda describir a la familia o la imagen que se desee, en lugar de adjuntar fotos personales.
• Indagar en cómo la plataforma utiliza los datos e imágenes. Es esencial revisar cómo la herramienta de IA almacena las imágenes y cómo comparte datos con otras empresas, optando por no compartirlos cuando sea posible.
• Hablar abiertamente sobre cómo funciona la IA. Es esencial concienciar a los niños sobre los riesgos que hay detrás de estas tecnologías, pues podrían dejarse llevar por las tendencias virales y el lado divertido y creativo de la IA y subir fotos de sus amigos u otras personas sin su consentimiento.

Por su parte, Emily Lawrenson, gerente de comunicación de Qustodio reflexiona: "La IA Generativa ofrece oportunidades fascinantes, pero también requiere una comprensión crítica de sus límites y riesgos. Subir una foto entrañable puede parecer un gesto inocente, pero es importante recordar que, una vez está en la nube, perdemos el control sobre su destino".