¿Estamos construyendo un panóptico digital? La ética detrás del deep learning facial

Knitting

Últimamente he estado reflexionando sobre el uso de redes convolucionales para reconocimiento facial en espacios públicos. Por un lado, la precisión es impresionante (estamos hablando de >99% en LFW). Pero, ¿a qué costo? En países como China ya se usan para control social, y en occidente las empresas lo implementan sin consentimiento explícito. Quiero abrir un debate: ¿cómo podemos, como comunidad de deep learning, promover un desarrollo ético? ¿Deberíamos limitar la publicación de ciertos modelos? ¿O es mejor democratizar el conocimiento y que cada quien decida? Me preocupa que, como dice Shoshana Zuboff, estemos en una era de 'capitalismo de vigilancia'. ¿Qué opinan?

Traveler

Totalmente de acuerdo con la preocupación. Pero creo que el problema no es la tecnología en sí, sino quién la controla. Si limitamos la publicación, solo las grandes corporaciones y gobiernos tendrán acceso. Mejor promover transparencia y regulación. Por ejemplo, paper como 'DeepFakes: A New Threat to Face Recognition?' ya proponen marcos éticos. Además, podemos implementar técnicas como differential privacy en el entrenamiento para minimizar riesgos.

PC

No comparto el pesimismo. El deep learning facial también tiene usos positivos: encontrar personas desaparecidas, mejorar seguridad en aeropuertos, etc. Lo que falta es educación digital. En vez de censurar, deberíamos exigir leyes como el GDPR pero más específicas para IA. Y como investigadores, incluir cláusulas de uso ético en nuestros repositorios de código.

Knitting

Buenos puntos. @usuario2, lo de differential privacy me parece clave. ¿Has visto implementaciones prácticas en frameworks como TensorFlow? He probado tf_privacy pero en modelos grandes el rendimiento cae mucho. ¿Alguna recomendación? Y @usuario3, lo de las cláusulas éticas suena bien, pero ¿quién las supervisa? En la práctica, si el código es open source, cualquiera puede ignorarlas.

Sustainable

Sobre el rendimiento con privacidad diferencial: es cierto que hay trade-off. Una alternativa es usar aprendizaje federado combinado con cifrado homomórfico, aunque aún es lento. Otra opción es entrenar con datos sintéticos generados por GANs, así no se exponen datos reales. Hay un paper interesante: 'Federated Learning in Adversarial Settings' que aborda esto.

World

Creo que el futuro va hacia modelos más pequeños y específicos. En vez de un gran modelo de reconocimiento facial, usar ensembles locales que nunca compartan datos crudos. Y sobre la ética: deberíamos incluir en la formación de científicos de datos cursos obligatorios de ética tecnológica, como ya hacen en Stanford. Pero mientras haya dinero de por medio, la ética será secundaria.

Knitting

Gracias a todos por las respuestas. Me quedo con la idea del aprendizaje federado y los datos sintéticos. Tal vez podríamos armar un grupo de trabajo en HackniA para proponer lineamientos éticos concretos para proyectos de deep learning. ¿Les interesaría? Podríamos empezar con un repositorio colaborativo de 'buenas prácticas' con ejemplos de código.