Escucha este artículo
Audio generado con IA de Google
/
El verano pasado, mi esposa y yo desafiamos las probabilidades de la mediana edad y tuvimos una hermosa niña. Miles de personas que me siguen en Instagram y otras aplicaciones aún no lo saben.
No es porque me haya hecho el desaparecido con todos, sino porque decidí no publicar fotos de mi hija en las redes sociales, una decisión como padre que se está volviendo cada vez más popular debido a la inteligencia artificial.
Desde hace décadas, casi desde que existen los sitios web para compartir fotos, los padres debaten los riesgos y beneficios de publicar fotos de sus hijos en internet. Pero cuando las redes sociales se integraron en el tejido social, la sobreexposición de los hijos (conocida en inglés como “sharenting”) se convirtió en la norma. Según algunos estudios, tan solo una cuarta parte de los padres no comparte fotos de sus hijos en las redes por temor a que los depredadores y las empresas puedan recopilar sus datos personales.
Pero padres como yo se han sumado al bando de los que “nunca publican” nada debido a una amenaza más reciente: las aplicaciones que pueden generar de manera automática desnudos falsos con la cara de cualquier persona utilizando inteligencia artificial generativa, la tecnología que impulsa los populares chatbots.
Las llamadas aplicaciones de desnudos generados por IA, o “nudificadoras”, son fáciles de usar y baratas para cualquiera, y algunas incluso ofrecen pruebas gratuitas. Eché un vistazo a algunas de ellas. Estas aplicaciones están siendo muy utilizadas por los estudiantes en las escuelas y, para las víctimas, que sus desnudos generados artificialmente se difundan por internet ha sido tan traumático como si se tratara de fotos reales. Aunque una nueva ley federal tipifica como delito la publicación en internet de desnudos falsos sin consentimiento, nada impide que la gente utilice las aplicaciones nudificadoras, que han proliferado en la red. Decenas de sitios web de este tipo ganan millones de dólares al año.
“Está en todas partes”, dijo Alexios Mantzarlis, fundador de la publicación tecnológica Indicator, que investigó 85 sitios web que generan desnudos con ayuda de IA. “Cualquier niño con acceso a internet puede ser tanto víctima como autor”.
Además de los ultrafalsos generados con IA, hay más riesgos al publicar fotos, como la posibilidad de exponer información personal sensible de los jóvenes a personas malintencionadas, lo que puede disuadir a los padres.
Para que quede claro, publicar o no fotos familiares es una decisión personal, por lo que este artículo no pretende condenar a los padres que las publican (¡Me gusta ver fotos de los hijos de otras personas en las redes sociales!). Más bien, este artículo pretende explicar qué hay que tener en cuenta a la hora de publicar fotos de niños en internet.
Esto es lo que debes saber.
El auge de los ultrafalsos
Los desnudos falsos de personas reales no son nada nuevo. Durante muchos años, aplicaciones de edición de fotos como Adobe Photoshop podían manipular fotos para convertirlas en imágenes de aspecto realista. Sin embargo, debido al tiempo y la habilidad necesarios para crear falsificaciones convincentes, las víctimas solían ser famosos.
Las aplicaciones de desnudos generados por IA han cambiado las reglas del juego. Los agresores solo tienen que visitar uno de los sitios web y subir una imagen de su víctima. Las aplicaciones suelen aceptar pagos con tarjeta de crédito o criptomonedas a cambio de tokens virtuales para producir desnudos falsos.
En fechas recientes, se tipificó la publicación de ultrafalsos como delito federal cuando el presidente Donald Trump firmó la Ley Take It Down, un proyecto de ley bipartidista que combate la pornografía de venganza y que incluye imágenes de desnudos no consentidos y falsificaciones generadas por IA. Aunque la legislación exige a las redes sociales que eliminen las imágenes ofensivas, no prohíbe a las empresas ofrecer las aplicaciones de generación de imágenes.
Las empresas de redes sociales como Snap, TikTok y Meta prohíben la publicidad de nudificadores en sus aplicaciones, y algunos estados están empezando a debatir una legislación que prohibiría a las empresas ofrecer aplicaciones de que generan imágenes de desnudos. Pero si eso ocurre, sería difícil hacer cumplir la ley, ya que muchos de los creadores de las aplicaciones se encuentran en el extranjero.
En otras palabras, cualquiera puede seguir utilizando fácilmente una aplicación para generar desnudos con un niño y guardar las fotos sin que nadie lo sepa.
Un sitio web que examiné ofrecía una prueba gratuita para desnudar digitalmente a alguien en una foto; a partir de ahí, los usuarios podían pagar una suscripción de 49 dólares al mes a cambio de 600 créditos, o 8 centavos por cada desnudo falso. La aplicación también permitía a los usuarios crear animaciones pornográficas.
Mucha gente está subiendo fotos a estas aplicaciones de desnudez, que generan unos ingresos anuales de alrededor de 36 millones de dólares para las empresas que ofrecen el software, dijo Mantzarlis, quien basó la estimación en los datos de tráfico de un conjunto de sitios web.
Las aplicaciones de pornografía con IA han sido tan molestas que Meta decidió tomar medidas. En junio, la empresa presentó una demanda en Hong Kong contra un desarrollador de varias aplicaciones que generan desnudos con IA que había logrado eludir las tecnologías de detección de anuncios de Meta para promocionar su software en Instagram y Facebook.
Un portavoz de Meta dijo que la empresa también compartió información sobre las aplicaciones y sitios web infractores con el Programa Lantern de Tech Coalition, un grupo de empresas, entre las que se encuentran Google y Microsoft, que trabajan para proteger a los niños del abuso sexual en línea.
Sin embargo, los autores solo necesitan saber el nombre de un sitio que genera desnudos para acceder a él a través de un navegador web, y en las escuelas, los estudiantes conocen los más populares, dijo Josh Golin, director ejecutivo de Fairplay for Kids, una organización sin fines de lucro que se centra en proteger a los niños de los medios de comunicación nocivos.
“Los profesores y los administradores escolares con los que hablo dicen que esto ocurre constantemente en nuestras escuelas, donde los niños generan desnudos falsos”, dijo.
Aunque las nuevas leyes podrían dificultar que los agresores compartan ultrafalsos con otras personas, para muchas víctimas el daño ya está hecho.
En primavera, alumnos de una escuela secundaria del noreste de Iowa denunciaron a las autoridades escolares que otros alumnos habían utilizado estas aplicaciones para generar digitalmente imágenes de ellos sin ropa. Por esas mismas fechas, los legisladores de Minnesota, ante incidentes similares en ese estado, presentaron una ley dirigida a las empresas que ofrecen aplicaciones o sitios web de generación de desnudos con IA.
Lo que todo esto significa para los padres es que los agresores podrían copiar una foto de un niño publicada en tu cuenta de redes sociales y subirla a una aplicación que genera desnudos. O, si se encuentran físicamente cerca, podrían utilizar una cámara para tomar una foto del niño y luego subirla a la herramienta.
No hay forma de impedir que alguien haga lo segundo, pero la primera situación se puede evitar optando por no publicar fotos de tus hijos en internet.
Las cuentas privadas en redes sociales son una solución imperfecta
Los padres que desean compartir fotos de sus hijos en las redes sociales pueden reducir el riesgo de manera considerable si solo publican sus fotos en una cuenta de acceso restringido a amigos cercanos y familiares. Pero eso sigue teniendo limitaciones. Los autores de agresiones sexuales a menores suelen conocer a la víctima, por lo que un seguidor de Instagram con acceso a tu perfil podría ser el culpable, dijo Sarah Gardner, fundadora de Heat Initiative, un grupo de defensa de la seguridad infantil.
“El hecho de que tengas una cuenta privada no significa que alguien que conoces no vaya a tomar tus fotos y hacer algo malicioso con ellas”, dijo.
En uno de estos incidentes, ocurrido hace aproximadamente una década, mucho antes de la llegada de los ultrafalsos generados por IA, una madre de Riverton, Utah, descubrió que las fotos de sus hijos, que solo había compartido con amigos y familiares en Facebook, habían acabado en sitios web de pornografía.
Incluso una fiesta de cumpleaños te expone
Además de los ultrafalsos generados por IA, todavía hay amenazas tradicionales que hay que tener en cuenta, como el robo de identidad.
La fiesta de cumpleaños de un niño puede parecer un hito digno de ser difundido en las redes sociales, pero incluso ese tipo de intercambio en apariencia inocuo podría exponer a los niños a daños futuros.
Las fotos de la fiesta de cumpleaños pueden revelar el día y el año exactos en que nació el niño, información que puede combinarse con otros datos que los piratas informáticos han recopilado a través de violaciones de la ciberseguridad para cometer robos de identidad, explicó Leah Plunkett, autora de “Sharenthood”, un libro sobre el intercambio de información sobre los niños en internet.
Por improbable que parezca, el robo de identidad de menores aumentó un 40 por ciento entre 2021 y 2024, con cerca de 1,1 millones de niños víctimas de este delito cada año, según la Comisión Federal de Comercio (esto es un buen recordatorio para que todos los padres congelen el crédito de sus hijos).
¿Por qué lo hacemos?
Compartir algunos datos forma parte del contrato social de la era digital. Por ejemplo, compartimos nuestra ubicación para obtener indicaciones útiles de las aplicaciones de mapas. Para cualquier padre que se plantee publicar fotos de sus hijos, es útil preguntarse: ¿qué ventajas tiene?
Las aplicaciones de redes sociales como Instagram, Snapchat y TikTok son herramientas convenientes para compartir de manera eficiente fotos y videos bonitos con un amplio grupo de personas que nos importan. Pero los verdaderos beneficiarios son las propias empresas de redes sociales, que recopilan datos para mejorar sus productos y así lograr que las personas, incluidos nuestros hijos, sigan utilizándolos.
Según decenas de estudios, el uso frecuente de las redes sociales entre los jóvenes se ha asociado con problemas de salud mental, como ansiedad, depresión y sentimientos de soledad.
“Su objetivo no es contribuir al desarrollo de niños equilibrados y sanos, sino ganar dinero manteniendo a tus hijos conectados el mayor tiempo posible”, afirmó Nicki Reisberg, una antigua profesional de la mercadotecnia que conduce un pódcast sobre la crianza de los hijos en la era digital. “Si tienen decenas de miles de datos antes de que tu hijo se conecte a internet, pueden hacerlo de forma más eficaz”.
Hay formas menos arriesgadas de compartir fotos de nuestros hijos. Mi método preferido es enviar fotos de mi hija a unos pocos amigos y familiares a través de mensajes de texto, que están encriptados. Algunos padres comparten álbumes de fotos familiares con un pequeño grupo de personas utilizando servicios en internet como iCloud de Apple y Google Photos.
En última instancia, soy consciente de que todo esto puede ser una batalla perdida. Muchas escuelas publican fotos de los niños en las redes sociales para mostrar que sus alumnos están pasando un buen rato (quizá seré el padre desagradable que exigirá que se retiren las fotos de mi hija). Y, con el tiempo, cuando mi hija crezca, tendrá su propio teléfono y decidirá si quiere publicar sus fotos.
Pero hasta que llegue ese día, haré lo que pueda para mantener sus fotos fuera de internet.
c.2025 The New York Times Company