El punto sobre los incentivos económicos es clave, pero creo que la regulación es solo una parte. Las multas funcionan si hay capacidad de enforcement y eso requiere recursos públicos, que las Big Tech presionan para que no existan. Por eso, además de exigir leyes, habría que impulsar modelos de negocio alternativos: cooperativas de datos, servicios de IA que se financien por suscripción y no por publicidad, o incluso que el usuario pueda 'alquilar' su modelo entrenado con sus datos. La privacidad no debería ser un lujo premium, sino un estándar.
En cuanto al trade-off entre interpretabilidad y rendimiento, en mi caso he tenido que lidiar con ello en un proyecto de detección de fraude. Al final, usamos un ensemble de árboles (LightGBM) que son bastante interpretables con SHAP, pero el problema no es la herramienta post-hoc sino que los stakeholders no entienden las limitaciones. Lo que funcionó fue hacer sesiones de co-diseño con los auditores desde el principio, definiendo qué se consideraba 'explicación suficiente'. A veces, un modelo más simple con un 2% menos de AUC es mejor que uno complejo que nadie puede auditar. La precisión no lo es todo si pierdes la confianza del usuario o la licencia para operar.
¿Alguien ha probado los modelos EBM en producción? Me da curiosidad saber si en la práctica el rendimiento es aceptable comparado con XGBoost o si se quedan cortos en datasets muy grandes.
