Inteligencia Artificial Generativa

Descripción general

La inteligencia artificial generativa (IAG) es una tecnología poderosa que permite a los usuarios crear nuevas imágenes, videos, audios y textos a partir de solicitudes o indicaciones del usuario. Si bien la tecnología de IAG ofrece posibilidades interesantes, también presenta nuevos riesgos para la seguridad infantil en línea. La IAG puede ser mal utilizada de diversas maneras para explotar sexualmente a los niños, incluida la creación de imágenes alteradas de niños reales en las que se les muestra desnudos o en situaciones sexualmente explícitas o explotadoras. 

El NCMEC ha recibido informes a través de la CyberTipline de delincuentes que utilizan imágenes explícitas sexualmente alteradas con IAG que representan a niños, en casos de engaños en línea o sextorsión, así como informes de niños que crean y distribuyen imágenes de desnudos mediante “aplicaciones de desnudez artificial conocida en inglés comocomo “nudify apps” o GAI CSAM (material de abuso sexual infantil generado por IAG) de sus compañeros de clase en las escuelas.   

La creación de este tipo de contenido explotador es un delito grave que causa un daño profundo a los niños representados en el contenido y debe ser denunciado a las agencias policiales y a la CyberTipline. Para obtener más información sobre este tema, visite https://www.ncmec.org/es/theissues/generative-ai. 

Qué Hacer

Si usted o alguien que conoce ha sido víctima del uso de IAG para crear una imagen o un video de desnudos o sexualmente explícitos, debe denunciarlo a las agencias policiales y a la CyberTipline. El NCMEC está aquí para ayudar. También puede utilizar estos consejos y los recursos que aparecen a continuación para ayudar a prevenir el daño causado por el uso abusivo de la tecnología de IAG.  

Para los niños: 

Si se está compartiendo contenido de desnudez o sexualmente explícito tuyo, o alguien amenaza con compartirlo, puedes obtener ayuda denunciándolo en la CyberTipline.org. 
No crees ni compartas imágenes de desnudos generadas con IAG ni material de abuso sexual infantil generado por IAG de otros niños. Es ilegal y causa un daño extremo a los niños representados en el contenido.   
Si alguien que conoces está pasando por esto, sé un defensor espectador activo y apoya a la víctima en lugar de culparla, acosarla o ignorarla. 
Si te ocurre a ti, recuerda que hay personas que pueden ayudarte. Habla con un adulto de confianza y juntos pueden denunciar el incidente.

Para padres, cuidadores guardinaes y otros adultos:

Para padres, cuidadores guardinaes y otros adultos: 
Manténgase informado sobre cómo los niños en su vida y otras personas os utilizan IAG. 
Hable con los niños regularmente sobre temas de seguridad en línea, incluyendo el uso indebido de IAG. 
Asegúrese de que los niños sepan que siempre estará ahí para ellosayudarlos. 
Si un niño que ha sufrido explotación acude a usted, tome medidas claras para apoyarlo y denunciar el incidente a las agencias policiales y a la CyberTipline.   
Ayude a los niños a gestionar la configuración de privacidad en línea para limitar el acceso a imágenes que podrían usarse para crear contenido mediante IAG.