Hola, a opinión personal creo que la mejor opción es la D5200. Las dos cámaras son muy parecidas en prestaciones pero tienen unas diferencias específicas que opino hay que considerar:
D3300
Ventajas: Procesador más avanzado (Expeed 4), lo que mejora también el nivel de ISO (100 - 12800), vídeo 1080/60p, autonomía de 700 disparos.
Desventajas: Menor número de puntos de enfoque (11, 1 en cruz), pantalla fija, no tiene HDR, menor rango dinámico, no tiene filtro de paso bajo.
D5200
Ventajas: Mayor número de puntos de enfoque (39, 9 en cruz), pantalla abatible, HDR, mayor rango dinámico, filtro de paso bajo.
Desventajas: Procesador un poco más antiguo (Expeed 3), menor ISO máximo (100 - 6400), vídeo 1080/60i, autonomía de 500 disparos.
Respecto a tu pregunta del filtro de paso bajo, depende de la resolución del sensor y lo que se esté fotografiando. Se van a ver defectos si la resolución es baja y hay un patrón repetitivo con mucho detalle y contraste en la escena a fotografiar. Ahora bien este filtro no es tan importante como antes, ya que si bien reduce dos errores fotográficos graves (efecto muaré y falso color, estos dos se suelen dar juntos en prácticamente todos los casos) cada vez es menos necesario por dos cosas:
1.- Quita nitidez a la fotografía: El filtro reduce las altas frecuencias de luz para evitar un contraste alto que, sumado a patrones repetitivos con mucho detalle causa los errores mencionados. Por reducir las frecuencias altas la imagen pierde nitidez (muy poco).
2.- Altas resoluciones fotográficas: Si el detalle del patrón repetitivo supera la resolución del sensor (más un alto contraste) se producen los errores. Con el paso del tiempo los sensores han aumentado mucho su resolución, por lo tanto si el detalle del patrón repetitivo no supera al detalle ofrecido por el sensor el efecto no se produce.
A modo de resumen... Si una resolución alta evitaría en teoría los defectos y pensando que el filtro quita un poco de nitidez, éste se hace cada vez más innecesario.
Lo de los puntos de enfoque es otro detalle importante, la D5200 tiene 39 puntos de enfoque (9 en cruz) versus 11 de la D3300 (1 en cruz). Con esto uno sabe inmediatamente que la D5200 es mejor en autoenfoque (sobretodo por los puntos en cruz)...
Pero si te pones a pensar que para paisaje, por regla general se aplica la mayor profundidad de campo posible para enfocar todo lo que se pueda, los puntos de enfoque en cruz que hacen maravillas enfocando retratos se van a la B en paisaje ya que estos funcionan con mucha luz. A mayor número f = menos luz entrante = puntos de enfoque en cruz a la B.
En resumen, para paisajes no es fundamental tener los 39 puntos de enfoque de la D5200 ya que debemos priorizar la profundidad de campo. Entre más profundidad de campo, menos elementos fuera de foco. Pero para la fotografía en general siempre se aprecian más puntos de enfoque y sobretodo si son en cruz.
Conclusión: Para iniciarse en la fotografía las dos están más que bien, puede ser cualquiera. Pero las ventajas de la D5200 tienen más peso que las ventajas de la D3300. Yo te recomiendo que lo evalúes bien y vayas a probarlas antes de comprar.
Saludos!