La reciente actualización del chatbot de ChatGPT ha permitido a los usuarios emular el distintivo estilo artístico de Hayao Miyazaki, el célebre cineasta japonés y cofundador de un famoso estudio de animación. Esta nueva función se ha vuelto viral en las redes sociales, con miles de personas compartiendo imágenes creadas al estilo de Studio Ghibli.
No obstante, la historia nos ha enseñado que unirse a una tendencia por pura diversión puede llevar a fraudes o suplantación de identidad si la tecnología se ve comprometida, o si al utilizarla aceptas condiciones de privacidad desfavorables que podrían contradecir las regulaciones locales o internacionales.
Contexto: un breve trasfondo.
Clearview AI es un ejemplo notable que ha funcionado desde 2020 como un motor de búsqueda de rostros, similar a Google. Debido a su método de recolección de información de fuentes públicas como redes sociales, revistas digitales y blogs, en 2022 se enfrentó a una disputa con la Unión Americana de Libertades Civiles para restringir las ventas de su software en el mercado estadounidense de reconocimiento facial a entidades gubernamentales. Esta controversia sigue vigente, y la empresa continúa operando, enfrentando disputas legales y el pago de multas en diferentes países.
Otro caso es el de la empresa australiana Outabox, que en mayo de 2024 sufrió una filtración que expuso datos de reconocimiento facial y biometría de sus sistemas, utilizados en bares y clubes en Australia. Personas que afirmaron ser exdesarrolladores de Outabox en Filipinas crearon un sitio web donde confirmaban tener datos biométricos, que incluían reconocimiento facial, escaneo de licencias de conducir, firmas, datos de membresía de clubes, direcciones, fechas de nacimiento, números de teléfono, marcas de tiempo de visitas a clubes y uso de máquinas tragamonedas. Las investigaciones demostraron que esta información se recopiló de 19 establecimientos en Nueva Gales del Sur y el Territorio de la Capital Australiana, operados por ClubsNSW, que había contratado a Outabox.
Imagen 1.
Ejemplo de imagen generada con ChatGPT que replica el estilo artístico de Studio Ghibli. Fuente: X.
El sacrificio de la privacidad de los usuarios por una imagen.
Como hemos discutido recientemente en el artículo sobre los cinco principales desafíos que plantea la Inteligencia Artificial Generativa, la moderación del contenido y los derechos de autor son dos temas que vuelven a cobrar relevancia debido a esta tendencia, y requieren la atención de gobiernos, empresas y usuarios. El funcionamiento de los modelos de IA depende en gran medida del acceso a grandes volúmenes de datos, que son utilizados para su entrenamiento, muchos de los cuales incluyen información personal, sensible y confidencial. Las diversas fuentes de recolección de datos para entrenar estos modelos pueden incluir información pública o de fuentes abiertas, datos proporcionados por los usuarios (quienes dan su consentimiento, como es el caso de las imágenes generadas al estilo Studio Ghibli) y también redes sociales, además de información obtenida recientemente a través de dispositivos IoT.
Con la gran cantidad de datos disponibles, es evidente que si no se manejan y almacenan de manera segura, pueden estar expuestos a accesos no autorizados, filtraciones o incluso robos de información, como ocurrió en el caso de Outabox. Esto facilitaría a los ciberdelincuentes la suplantación de identidad de las víctimas o la creación de estafas utilizando identidades reales, ampliando así la superficie de ataque y exposición.
Otro desafío importante es la recolección masiva de datos sin el consentimiento informado de los usuarios, quienes a menudo desconocen el alcance del uso de su información. Este desconocimiento implica un vicio del consentimiento desde el punto de vista legal, lo que convierte estas recopilaciones en un terreno gris.
La falta de transparencia y claridad sobre el funcionamiento de los modelos y cómo manejan la información también genera conflictos legales. Aquí es donde se cruza una línea delgada entre lo privado y lo invasivo; algunas empresas advierten directamente que los datos se utilizarán para mejorar el modelo de entrenamiento de su Inteligencia Artificial, con el objetivo de ofrecer un producto o servicio de mayor calidad.
Acciones para salvaguardar la información del usuario.
Unirse a esta tendencia, aunque emocionante, puede conllevar riesgos para la privacidad si no se adoptan las precauciones necesarias. Por ello, en WeLiveSecurity destacamos los aspectos más importantes a considerar para reducir estos riesgos:
- Revisa las políticas de privacidad del sitio o aplicación: Es crucial estar al tanto de cómo operan los modelos de IA y cómo manejan la información para determinar si es seguro compartir datos personales o confidenciales.
- Verifica si la información que se carga está protegida por alguna legislación: Asegúrate de que los modelos de IA en aplicaciones o sitios web cumplan con las regulaciones nacionales e internacionales relevantes, así como con los principios éticos de transparencia, explicabilidad, equidad y responsabilidad. Si alguno de estos principios no se respeta, es mejor abstenerse de subir información personal (como fotos del usuario o familiares) o confidencial (como el lugar de trabajo).
- Utiliza aplicaciones web o móviles de fuentes oficiales: Dada la proliferación de aplicaciones o sitios similares a ChatGPT que generan imágenes con el estilo del Studio Ghibli, los ciberdelincuentes pueden aprovechar esta temática para engañar a los usuarios e incitarlos a descargar software que, aunque parezca destinado a generar imágenes con IA, puede contener malware, como se menciona en este post.
- Emplea imágenes seguras o de dominio público: Si no estás seguro de que una imagen sea de uso libre, lo mejor es no cargarla para evitar problemas legales relacionados con derechos de autor. Una buena práctica es utilizar imágenes de paisajes o ilustraciones que se ajusten a las políticas de privacidad del sitio o aplicación.
Fuete web: https://www.welivesecurity.com/es/privacidad/riesgos-crear-tu-imagen-estilo-studio-ghibli/
