Bueno, despues de mucho buscar, encontre el problema. Efectivamente estaba transcodificando. aunque le pongas direct play si el "contenedor" no es el adecuado para ese formato el por su cuenta cambia el formato al correcto. Exiten tablas que te indican que formato es el correcto para cada caso.
Lo que no entiendo es que en este caso la CPU no pasa del 50%, ya que lo unico que hace es una "copia" a un formato para despues servirlo y eso no tiene mucho consumo de CPU, justo lo que pasa, sin envargo pues no se ve. El equipo cliente no es (i5 7500 16 gb Ram disco ssd), entonces ¿por que pega tirones?. Existe otra duda que es que si comparamos esta CPU N36l doble nucleo con 1,3 Ghz con por ejemplo el ds216j que tiene un doble nucleo de 1 Ghz este ultimo es capaz de Transcodificar en tiempo real bibrates muy alto no 4k pero si 1080p como dicen en este articulo https://naseros.com/2016/01/24/test-de-rendimiento-de-plex-en-synology/ sin envargo pues el gen7 no puede. Lo que me pregunto es ¿si instalo una grafica, aprobechara esta para transcodificar?