¿Sabías que el primer framework de redes neuronales no era de código abierto?

ScienceFan

Leyendo sobre la historia del deep learning, me topé con un dato curioso: el primer framework para redes neuronales, SNNS (Stuttgart Neural Network Simulator), fue desarrollado en la Universidad de Stuttgart en los 90, ¡pero no era open source! Se distribuía bajo licencia académica, lo que limitó su adopción. Hoy damos por sentado tener PyTorch o TensorFlow gratis, pero antes la IA era mucho más cerrada. ¿Alguien más conoce frameworks antiguos o curiosidades sobre licencias en IA?

Transit

No sabía eso de SNNS. Yo recuerdo que en los 2000, Torch (el predecesor de PyTorch) también tenía una licencia restrictiva al principio, pero luego se volvió BSD. Otra trivia: Caffe fue uno de los primeros frameworks modernos open source (2013), pero su dependencia de protobuf y la falta de flexibilidad lo dejaron atrás. ¿Alguien usó SNNS?

ScienceFan

¡Gracias por el dato de Torch! No sabía que también tuvo restricciones. Lo curioso es que el código abierto aceleró la investigación, pero SNNS tenía algo que muchos frameworks modernos no: soporte nativo para hardware de esa época, como las tarjetas gráficas con OpenGL. ¿Creen que si SNNS hubiera sido open source, habría cambiado la historia de la IA?

Fitness

Opino que no habría cambiado mucho. La falta de potencia computacional era el cuello de botella, no las licencias. Pero el dato de SNNS me hizo recordar que PyTorch originalmente era un proyecto interno de Facebook (ahora Meta) llamado Torch7, y su licencia era bastante permisiva desde el inicio. La verdadera revolución fue la GPU programable.

Typography

Otra trivia: Theano, lanzado en 2007 por la Universidad de Montreal, fue el primer framework en integrar diferenciación automática y compilación a GPU. Pero su licencia BSD permitió que otros proyectos como Keras se basaran en él. Sin Theano, quizás TensorFlow no habría tenido la misma base. ¿Qué opinan de la influencia de Theano?

ScienceFan

Muy cierto lo de Theano. De hecho, su integración con NumPy fue clave. Yo creo que el ecosistema open source ha sido más importante que los frameworks individuales. Por ejemplo, TensorFlow se benefició de Keras, que era un wrapper que simplificaba el uso. ¿Alguien sabe si SNNS tuvo alguna influencia en proyectos como OpenNN o FANN (Fast Artificial Neural Network)?

Security

Según leí, SNNS inspiró a JavaNNS (una versión Java), pero su influencia decayó rápido. En mi opinión, el primer framework que realmente democratizó la IA fue scikit-learn (aunque no es deep learning), por su sencillez. Para redes neuronales, Keras fue el game changer en 2015.