Son muy parecidos, ambos basados en FreeBSD. OPNsense tiene un ciclo de actualizaciones más rápido (cada 6 meses) y una interfaz que, para mí, es un poco más moderna y limpia. pfSense es quizás más "conservador" y estable en el sentido de que no cambia tanto, pero las últimas polémicas con Netgate (la empresa detrás) han hecho que mucha gente migre a OPNsense.
Mi consejo: prueba los dos. Levanta una VM con cada uno y dedica una tarde a trastear con las interfaces. El que te resulte más intuitivo, será el mejor para ti.