Jump to content
XPEnology Community

Установка DSM7 на ESXI


SHADEworld

Recommended Posts

1 час назад, dj_nsk сказал:

что это такое? виртуальная машина с Windows под VMM внутри виртуальной DSM? тогда это - проблема именно работы Windows в VMM

 Да верно, это VMM с Windows. Я тоже подумал что проблема именно в VMM внутри DSM, но если посмотрите тесты выше, то в режиме когда прокинул отдельно контроллер, там со скоростью чтения/записи в этой же VMM все в порядке. 

Link to comment
Share on other sites

14 минут назад, XPEH сказал:

Жениться вам барин надо. Этакий затейник.

Для вашей конфигурации, вам лучше посадить NAS на настоящее железо вместе с контроллерами/дисками отданными под него и подключить оба ESXi хоста с нему как датастор (iSCSI or NFS). Сможете и как бэкап для виртуалок использовать и хранить ВМ на нем если надо, а также мигрировать живые машины через NAS.

И со скоростью все наладится. Мелкие DSM ВМ можно гонять на ESXi для тестов, но в вашем случае недорогое выделенное железо будет лучше.

 

Имеем что имеем, добавлять еще одну железку ради железки  - уже никак, да и проблематично, DL380 с 24шт SAS дисков тяжело будет воткнуть в какую-то отдельную железку.

1. Куда можно копнуть на предмет скорости для Datastore?

2. Также задался вопросом, если диски деградируют, какие вообще есть варианты восстановления? Те понятное дело я могу прогнать через родные утилиты RAID5 контроллера, добавить диск, исправить это все. Но по сути я сделаю это для VDMK файла, а внутри него спрятана DSM со своими настройками, не полетит это все к чертям?

3. Также когда прикидываю целиком контроллер то диски SAS в DSM не работает СМАРТ, не видит температуру  и тд, хотя командами из терминала отлично читается, есть варианты это вылечить? Если подкидываю SATA - то все ок.

 

Edited by uropek
Link to comment
Share on other sites

32 minutes ago, uropek said:

Но по сути я сделаю это для VDMK файла, а внутри него спрятана DSM со своими настройками, не полетит это все к чертям?

Я бы огромный файл без полного бэкапа не рискнул бы гонять. У меня есть у клиентов виртуалки с диками на несколько ТБ, но их бэкаплю на выделенные NAS (несколько копий) через 10ГБ и это не очень большое удовольствие. В один день у вас "полетит все к чертям" и будет сложно востановить, если вообще будет возможно. Будьте к этому готовы. Если кто-то говорит, что у него все работает годами и никаких проблем, добавьте мыслено "пока никаких".

Link to comment
Share on other sites

В 13.01.2024 в 10:07, uropek сказал:

Да верно, это VMM с Windows. Я тоже подумал что проблема именно в VMM внутри DSM, но если посмотрите тесты выше, то в режиме когда прокинул отдельно контроллер, там со скоростью чтения/записи в этой же VMM все в порядке. 

Не понимаю цели такой избыточной виртуализации - если у вас уже есть ESXi, почему не создавать виртуалки с Windows напрямую там, а не в VMM виртуальной DSM? Тогда и диагностировать проблему будет проще.

Ну или схожий вопрос - если вы можете пробросить контроллер дисков целиком в виртуальную DSM, то почему не оставить именно так?

 

В 13.01.2024 в 10:11, uropek сказал:

1. Куда можно копнуть на предмет скорости для Datastore?

Если внутри виртуальной DSM у вас собран виртуальный RAID на виртуальных дисках, к которым в свою очередь обращается виртуальная мышина "второго уровня", то это и может быть причиной проблемы...

 

В 13.01.2024 в 10:11, uropek сказал:

2. Также задался вопросом, если диски деградируют, какие вообще есть варианты восстановления? Те понятное дело я могу прогнать через родные утилиты RAID5 контроллера, добавить диск, исправить это все. Но по сути я сделаю это для VDMK файла, а внутри него спрятана DSM со своими настройками, не полетит это все к чертям?

Если вы не потеряете данные аппаратного RAID, то никаких проблем со спрятанными внутри виртуалками не должно быть - в этом и есть преимущество такого варианта. Но в целом в таких вариантах это уже вопросы по ESXi, а не по Xpenology, не факт, что здесь смогут помочь.

 

В 13.01.2024 в 10:11, uropek сказал:

3. Также когда прикидываю целиком контроллер то диски SAS в DSM не работает СМАРТ, не видит температуру  и тд, хотя командами из терминала отлично читается, есть варианты это вылечить? Если подкидываю SATA - то все ок.

Мне кажется, я эту проблему с SAS-контроллерами уже несколько раз здесь на форуме встречал на английском (вроде даже совсем недавно промелькивало), но мне она не интересна, поэтому не вчитывался - не уверен, что решение было найдено.

Link to comment
Share on other sites

25 минут назад, dj_nsk сказал:

Не понимаю цели такой избыточной виртуализации - если у вас уже есть ESXi, почему не создавать виртуалки с Windows напрямую там, а не в VMM виртуальной DSM? Тогда и диагностировать проблему будет проще.

Ну или схожий вопрос - если вы можете пробросить контроллер дисков целиком в виртуальную DSM, то почему не оставить именно так?

Встречный вопрос - как замерять скорость прокинутого datastore средствами DSM? Тест производительности ерунду вообще показывает, чтение еще похоже на правду а запись вообще 50мб/сек, что явно быть не может. Соотвественно поэтому я поставил на VMM windows чтобы из нее делать замеры скорости.

 

По поводу прокинуть контроллер, я делал так тестировал в данном режиме, но SAS диски в чем случае DSM не видит вообще SMART, не видит температуру и тд. А чтобы прокинуть контроллер целиком нужно переводить контроллер HP в режим HBA (и после он уже и сам не может контролировать состояние дисков полноценно), соотвественно встанет вопрос как вообще следить за их здоровьем. Поставил на DSM scrutiny - она диски видит и может следить, но заходить в нее постоянно и вылавливать там не очень хочется вручную.

 

image.thumb.png.c669afd38a015d00441d6842615e601c.png 

image.thumb.png.3372aa12f9edf7f707b3f4f0b83cc628.png

 

Может какой-то из других загрузчиков типа FS/SA6400 смогут увидеть здоровье дисков SAS?

 

 

Link to comment
Share on other sites

33 минуты назад, dj_nsk сказал:

Если внутри виртуальной DSM у вас собран виртуальный RAID на виртуальных дисках, к которым в свою очередь обращается виртуальная мышина "второго уровня", то это и может быть причиной проблемы...

Нет, в моем случае сейчас на тесте собран RAID5 средствами контроллера HP, создан datastore  и выделено с него дисковое пространство для DSM, соотвественно сам DSM видит только одни диск общим объемом, никаких рейдов в самом DSM не делал для тестов.

Link to comment
Share on other sites

36 минут назад, dj_nsk сказал:

Мне кажется, я эту проблему с SAS-контроллерами уже несколько раз здесь на форуме встречал на английском (вроде даже совсем недавно промелькивало), но мне она не интересна, поэтому не вчитывался - не уверен, что решение было найдено.

Много копался на англоязычной ветке по этому поводу, там много пишут про RDM диск, но так и не вкурил как они его делают для SAS дисков правильно чтобы там смарт появился? Для Сата дисков можете ткнуть носом по какой инструкции создавать RDM диски? Протестирую сначала на них а потом на SAS.

Link to comment
Share on other sites

У дисков SAS по сравнению с SATA сильно ограничен списков аттрибутов SMART. Его можно иногда увидеть специальными прогами для конкретных моделей, но большинство програм для отслеживания состояния дисков видят только некоторые параметры, как темп. и общее состояние.

Link to comment
Share on other sites

2 часа назад, uropek сказал:

Встречный вопрос - как замерять скорость прокинутого datastore средствами DSM? Тест производительности ерунду вообще показывает, чтение еще похоже на правду а запись вообще 50мб/сек, что явно быть не может.

встречный-встречный вопрос :) : а зачем вам вообще нужна эта информация ("скорость datastore средствами DSM")? меряйте скорость того, для чего вы DSM применяете. Тесты у всех разные, понятие скорости записи/чтения дисков могут трактовать по-разному (не вижу причин, почему внутреннему тесту DSM верить нельзя с учётом этого), и что вам дадут красивые цифры скорости записи на диск в стопятьсот гигабайт/с, если реальная задача будет записывать с совсем другой скоростью?

2 часа назад, uropek сказал:

много пишут про RDM диск, но так и не вкурил как они его делают для SAS дисков правильно чтобы там смарт появился?

а это в принципе возможно? я думал, что для RDM никогда не будет доступен SMART. Ну вот тут ещё пишут про режим "Physical RDM" - может, что-то в нём есть?

 

Мне всё ещё кажется, что вы не в ту сторону копаете.

Если вам требуется большое количество разных виртуальных машин с совместным использованием дисков (в т.ч. DSM), то надо оставлять вариант аппаратного RAID и разбираться/оптимизировать datastore только на этом уровне (DSM на них уже никак не повлияет - даже время на эти разборки не надо тратить).

Если же основное назначение сервера - именно NAS, то либо вообще переводить DSM в barebone-режим, либо (при наличии дополнительных аргументов) оставлять под ESXi, но с проброской контроллеров в DSM.

Остальные варианты нецелесообразны - повышаются сложность управлении и риски сбоев, снижается общая производительность и т.п., но ничего не приобретается взамен.

Link to comment
Share on other sites

10 часов назад, dj_nsk сказал:

а это в принципе возможно? я думал, что для RDM никогда не будет доступен SMART. Ну вот тут ещё пишут про режим "Physical RDM" - может, что-то в нём есть?

 

Мне всё ещё кажется, что вы не в ту сторону копаете.

Если вам требуется большое количество разных виртуальных машин с совместным использованием дисков (в т.ч. DSM), то надо оставлять вариант аппаратного RAID и разбираться/оптимизировать datastore только на этом уровне (DSM на них уже никак не повлияет - даже время на эти разборки не надо тратить).

Если же основное назначение сервера - именно NAS, то либо вообще переводить DSM в barebone-режим, либо (при наличии дополнительных аргументов) оставлять под ESXi, но с проброской контроллеров в DSM.

Остальные варианты нецелесообразны - повышаются сложность управлении и риски сбоев, снижается общая производительность и т.п., но ничего не приобретается взамен.

 

Копаю именно в ту сторону  - где можно получить и прозводительность и рабочую систему. Сейчас же вариантов 2:

1. Аппаратный контроллер который выдает отличную скорость в среде esxi и умеет следить за здоровьем дисков, но ужасную скорость записи в среде DSM (это как раз я и пытаюсь решить)

2. Прокинутый контроллер в среду DSM - имеем хорошую скорость дисков, отсутствия здоровья дисков SMART, невозможность делать бекап между ESXI серверами тк они физически в разных локациях.

 

Собственно тут 50/50 против одного и другого. Поэтому ищу что-то более подходящее. Также нашел информацию что вроде Контроллер HBA LSI 9211-8i  умеет работать в SAS дисками и DSM видит их здоровье, если информация подтвердится то куплю его и решу вопрос со SMART.

Link to comment
Share on other sites

В 15.01.2024 в 04:39, XPEH сказал:

У дисков SAS по сравнению с SATA сильно ограничен списков аттрибутов SMART. Его можно иногда увидеть специальными прогами для конкретных моделей, но большинство програм для отслеживания состояния дисков видят только некоторые параметры, как темп. и общее состояние

На скрине выше все атрибуты SMART отлично читают с SAS дисков, в том числе температура. Те они считывают их скорее всего через smartctl, который также все прекрасно видит. Но DSM использует свою собственную команды для считывания данных synodisk или как-то так называется. Порылся на форуме, так и не нашел пока решения нативно считывать именно с SAS дисков (с SATA дисками у меня проблем нету, там все считывается корректно)

Link to comment
Share on other sites

  • 1 month later...

Добрый день.

Немного помучавшись справился с установкой посредством Arc Loader, немного поигравшись решил добавить новое место и тут меня постигло разочарование, в виртуальной машине диск есть, а в DSM отсутствует, не помогает ни чего, подскажите куда копать.

 

изображение_2024-02-19_105359027.png

изображение_2024-02-19_105438729.png

Edited by Dmitry B
Link to comment
Share on other sites

30 минут назад, Dmitry B сказал:

в виртуальной машине диск есть, а в DSM отсутствует, не помогает ни чего, подскажите куда копать

Пробросить в виртуалку либо контроллер дисков целиком, либо сам диск

Link to comment
Share on other sites

38 минут назад, Dmitry B сказал:

Добрый день.

Немного помучавшись справился с установкой посредством Arc Loader, немного поигравшись решил добавить новое место и тут меня постигло разочарование, в виртуальной машине диск есть, а в DSM отсутствует, не помогает ни чего, подскажите куда копать.

 

 

изображение_2024-02-19_105438729.png

виртуальный диск подключить к виртуальному контроллеру SATA? (контроллер SCSI вообще удалите из виртуалки, чтобы не путаться...)

[upd]: не, погодите - есть же на обеих картинках 1 диск, что не так?

Edited by dj_nsk
Link to comment
Share on other sites

2 часа назад, Olegin сказал:

Пробросить в виртуалку либо контроллер дисков целиком, либо сам диск

я не хочу пробрасывать физику, мне больше нравится чтоб виртуалка занималась своими делами, а от дсм я хочу качалку/помойку/plex/видеонаблюдение, возможно еще что придумаю, но диски должны остаться под управлением esxi

Edited by Dmitry B
Link to comment
Share on other sites

2 часа назад, dj_nsk сказал:

виртуальный диск подключить к виртуальному контроллеру SATA? (контроллер SCSI вообще удалите из виртуалки, чтобы не путаться...)

[upd]: не, погодите - есть же на обеих картинках 1 диск, что не так?

так и делаю, сата00 загрузочная "флешка", сата01 диск на 50 гб для системы (был во время установки создан средствами esxi и его как раз и видит система), когда со всем наигрался хотел поэкспериментировать с добавлением места, начал с того что добавил диск сата02 100гб, но дсм в упор не видит новый диск, перезагрузка не помогла

 

Edited by Dmitry B
Link to comment
Share on other sites

33 минуты назад, Dmitry B сказал:

так и делаю, сата00 загрузочная "флешка", сата01 диск на 50 гб для системы (был во время установки создан средствами esxi и его как раз и видит система), когда со всем наигрался хотел поэкспериментировать с добавлением места, начал с того что добавил диск сата02 100гб, но дсм в упор не видит новый диск, перезагрузка не помогла

 

1) Версия Arc?

2) Если в меню конфигурации Arc зайти в Sysinfo и прокрутить до раздела Storage - видны диски?

3) Вообще, автор рекомендует загрузочный диск вешать на первый SATA-контроллер (0:0), для дисков с данными добавлять второй, чтобы диски были 1:0, 1:1...

 

Источник: https://github.com/AuxXxilium/AuxXxilium/wiki/Settings:-Virtual-and-VM

Edited by dj_nsk
Link to comment
Share on other sites

1 час назад, dj_nsk сказал:

1) Версия Arc?

2) Если в меню конфигурации Arc зайти в Sysinfo и прокрутить до раздела Storage - видны диски?

3) Вообще, автор рекомендует загрузочный диск вешать на первый SATA-контроллер (0:0), для дисков с данными добавлять второй, чтобы диски были 1:0, 1:1...

 

Источник: https://github.com/AuxXxilium/AuxXxilium/wiki/Settings:-Virtual-and-VM

Спасибо. Про 3 пункт совсем запамятовал.

1) arc-24.2.13

2) если честно страшно туда заходить, но уже решил проблему при помощи Вашей напоминалки в 3 пункте.



во время решения вопроса назрел новый по esxi, мне кажется что раньше в настройках виртуальной машины были раскрывающиеся настройки у SATA контроллеров, сейчас их нет, то есть я могу просто добавить или удалить контроллер, но не могу например изменить ему адрес, я что то путаю или у меня где то косяк?

изображение_2024-02-19_145951001.png

Link to comment
Share on other sites

44 минуты назад, Dmitry B сказал:

могу просто добавить или удалить контроллер, но не могу например изменить ему адрес, я что то путаю или у меня где то косяк?

да, всё так

Link to comment
Share on other sites

11 минут назад, dj_nsk сказал:

да, всё так

Спасибо, теперь я спокоен, думал что где то что то в настройках сбил, долго колдовал с двумя сетевухами, я esxi первый раз вижу, столько интересного и неизвестного.

Link to comment
Share on other sites

  • 1 month later...
Posted (edited)

Доброго дня.
Подскажите, решил в ESXI8 поставить xpenology dva посмотреть
создал машину, на первый контроллер vmdk с загрузчиком arc
на второй один диск на 10gb 
все запустилось, в диски видны в sysinfo, но при установке ругается что не может отформатировать диск
контроллер sata стоит, пробовал и ds3617 - также ругается
 

 

пересоздал все и диск на 50гб и поехало

Edited by Omantik
Link to comment
Share on other sites

1 час назад, Omantik сказал:

Доброго дня.
Подскажите, решил в ESXI8 поставить xpenology dva посмотреть
создал машину, на первый контроллер vmdk с загрузчиком arc
на второй один диск на 10gb 
все запустилось, в диски видны в sysinfo, но при установке ругается что не может отформатировать диск
контроллер sata стоит, пробовал и ds3617 - также ругается
 

10Gb - мало, Synology отъедает часть каждого диска под системный раздел. Надо делать где-то от 20Gb...

Link to comment
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Guest
Reply to this topic...

×   Pasted as rich text.   Restore formatting

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

×
×
  • Create New...