Yo tengo un P4 3ghz, con la transcodificacion activada y tengo los mismos problemas que tu, sobre todo con los videos MKV, al principio creia que era por la WiFi/LAN o la potencia del receptor, dado que me daba esos saltos que mencionas y resultaba muy incomodo ver cualquier video, pero claro con mi movil un BQ Aguaris E5 de 2gb de RAM los veo todos sin saltos, por lo que problemas de red y potencia del servidor los descarte al ver que en mi movil si podia.
Lamentablemente no encontre ninguna solucion y opte por descargar los videos e ir reproduciendolos una vez descargados y asi si me van en todos sitios, por lo que por la potencia del receptor tampoco es. Y ya no se por donde tirar...
He leido que la reproduccion streaming solo funciona en los modelos synology "play" que llevan configuraciones de hardware mas altas, por lo que no se si la emulacion que se hace con xpenology esta adaptada a esa funcionalidad o no...