после долгих мучений, удалось запустить dsm7.1 (ds3615xs) на proxmox7.2 (а также на virtualbox) с помощью Automated Redpill Loader https://github.com/fbelavenuto/arpl
Почти всё по инструкции с первого поста, только подменил tinycore img образ на arpl.img взятый с гита.