1. Штатными, это значит через графический интерфейс DSM
2. VSP, это virtual serial port, как его настроить и использовать писал выше
3. ams это Agentless Management Service в iLo, а amsHelper это клиент для ams, про него можно почитать здесь http://xpenology.com/forum/viewtopic.php?f=2&t=7640&p=100379&hilit=ams#p100379
При установленном клиенте, в iLo корректно отображается информация о дисках, сетевые настройки и т.д.