Auteur Topic: SHR is kleiner dan verwacht/berekend  (gelezen 1598 keer)

Offline wellproc

  • Bedankjes
  • -Gegeven: 3
  • -Ontvangen: 4
  • Berichten: 24
SHR is kleiner dan verwacht/berekend
« Gepost op: 12 april 2021, 11:00:37 »
In mijn DS418j heb ik 4 schijven gezet in SHR-configuratie.
Voor zover mij bekend is SHR niets anders dan RAID-5, maar dan meerdere keren RAID-5 aan elkaar geknoopt (als je verschillende schijfgroottes toepast).

Nu ben ik gestart met 2TB+2TB+4TB (dacht ik). Dat is langzamerhand vergroot tot 2+3+4+4 en afgelopen weekend naar 3+4+4+4.
Volgens de Synology RAID calculator zou me dat 11TB aan bruikbare ruimte opleveren, maar ik heb maar 9,08TB... En ik kan geen opties meer vinden om het volume te vergroten. Het herstellen van de configuratie is helemaal afgerond.

Nu zat ik met de hand te rekenen, omdat de schijven natuurlijk in het echt wat kleiner zijn: 2,73TB en 3x 3,64TB.
Volgens de formule (1-(1/x)*capaciteit kun je uitrekenen wat de RAID-5-ruimte is, waarbij x het aantal schijven is.
Dus ik reken uit: (1-(1/4))*(4*2,73)=8.19 TB voor een RAID-5 over alle schijven.
En nog: (1-(1/3))*(3*0,91)=1.82 TB voor RAID-5 van de restruimte over 3 schijven (3,64-2,73=0,91 TB over op die 3).
Opgeteld is dat samen ruim 10TB ruimte...

Ofwel: de ruimte die ik heb is 1TB kleiner dan wat ik zelf uitreken op basis van werkelijke grootte.
En het is 2 TB kleiner dan wat de RAID-calculator van Synology aangeeft.

Hoe kan dit?
Heeft dit te maken met het stapsgewijs vervangen van de schijven door grotere schijven, waardoor ik in een sub-optimale situatie ben gekomen???
En nog belangrijker: hoe los ik dit op?  ;)
  • Mijn Synology: DS418j
  • HDD's: Diverse...

Offline Briolet

  • Global Moderator
  • MVP
  • *
  • Bedankjes
  • -Gegeven: 176
  • -Ontvangen: 2619
  • Berichten: 16.242
Re: SHR is kleiner dan verwacht/berekend
« Reactie #1 Gepost op: 12 april 2021, 12:22:48 »
Citaat
En ik kan geen opties meer vinden om het volume te vergroten.

Volgens mij moet je altijd de som van de 3 kleinste schijven als ruimte krijgen. (heb je geen calculator voor nodig  ;) )

Heb je ook naar de opslagpool gekeken?
  • Mijn Synology: DS415+
  • HDD's: 3x 3TB in SHR
  • Extra's: DS212J (Backup)

Offline wellproc

  • Bedankjes
  • -Gegeven: 3
  • -Ontvangen: 4
  • Berichten: 24
Re: SHR is kleiner dan verwacht/berekend
« Reactie #2 Gepost op: 12 april 2021, 13:07:44 »
Waarom geeft Synology dan aan dat het veel meer moet zijn bij SHR?
Eerder kwam het wel overeen met de RAID-calculator, vandaar dat het me verbaast dat het nu niet meer zo is.
  • Mijn Synology: DS418j
  • HDD's: Diverse...

Offline aliazzz

  • MVP
  • *
  • Bedankjes
  • -Gegeven: 97
  • -Ontvangen: 161
  • Berichten: 1.349
  • Yum yum brains...
Re: SHR is kleiner dan verwacht/berekend
« Reactie #3 Gepost op: 13 april 2021, 08:40:47 »
schijnt dat DS218j geen BTRFS ondersteund, die vlieger gaat dus niet op ;-)
DS415+ 4*4TB SHR5 Btrfs, 8 GB RAM
DS1515+ 5*3TB SHR5 Btrfs 16 GB RAM
DX513 4*6TB SHR5 Btrfs
RT6600ax meshed 1 x RT2600ac, 3 x MR2200ac

Homelab;
HP Proliant DL360 Gen9 (aka Pizzabox)
2*XEON E5-2697A V4 total: 32C/64T
256GB RAM, 20TB RAID5 SSD Cluster

Offline Eddiexbmw

  • MVP
  • *
  • Bedankjes
  • -Gegeven: 71
  • -Ontvangen: 40
  • Berichten: 353
Re: SHR is kleiner dan verwacht/berekend
« Reactie #4 Gepost op: 13 april 2021, 11:15:16 »
Synology rekent 3+4+4=11tb, dit is ook wat op de schijven staat als je ze koopt.
Feitelijk is het 2.73+3.64+3.64=10.01 en dat zou je ook moeten kunnen benutten.

Heb je de tip van @Briolet ook bekeken (de opslagpool) wellicht kun je die nog vergroten/de ruimte toevoegen aan de opslagpool en daarna aan het volume.
  • Mijn Synology: DS920+
  • HDD's: 4 x WD40EFRX
  • Extra's: RT2600 + 3 x MR2200

Offline wellproc

  • Bedankjes
  • -Gegeven: 3
  • -Ontvangen: 4
  • Berichten: 24
Re: SHR is kleiner dan verwacht/berekend
« Reactie #5 Gepost op: 13 april 2021, 12:06:22 »
Inderdaad heb ik dat in de gaten, maar vreemd genoeg blijkt het nog 1 TB minder te zijn.
En zowel de opslagpool als het volume kunnen niet vergroot worden.
  • Mijn Synology: DS418j
  • HDD's: Diverse...

Offline Hofstede

  • MVP
  • *
  • Bedankjes
  • -Gegeven: 10
  • -Ontvangen: 1444
  • Berichten: 6.036
Re: SHR is kleiner dan verwacht/berekend
« Reactie #6 Gepost op: 13 april 2021, 12:35:42 »
Ik heb vaker gezien dat er verschil zit tussen de calculator en de praktijk als het SHR volume in het verleden meermaals is aangepast met nieuwe schijven van verschillende grootte. Intern bestaat het SHR volume dan uit een combinatie van meerdere RAID5 volumes en kan SHR de capaciteit van de schijven niet meer volledig toepassen.
Als je het SHR volume opnieuw aanmaakt heb je de door de calculator berekende grootte opeens wel. Of je moet de laatste 3 TB schijf ook vervangen door een 4 TB.
Het zou interessant zijn om eens via de terminal in te loggen en te kijken naar de output van het mdadm status commando.

Offline Briolet

  • Global Moderator
  • MVP
  • *
  • Bedankjes
  • -Gegeven: 176
  • -Ontvangen: 2619
  • Berichten: 16.242
Re: SHR is kleiner dan verwacht/berekend
« Reactie #7 Gepost op: 13 april 2021, 14:07:33 »
@Hofstede : Ik weet niet of "mdadm status" gaat werken op de nas. Ik krijg:

$ mdadm status
mdadm: must be super-user to perform this action

$ sudo mdadm status
Password:
mdadm: cannot open status: No such file or directory

Hij zoekt dan een device met de naam "status".   

Na even puzzelen is dit wat je waarschijnlijk bedoelt (als root uitgevoerd): "mdadm --detail -D md2"

# mdadm --detail -D /dev/md2
/dev/md2:
        Version : 1.2
  Creation Time : Tue Apr 21 20:33:37 2015
     Raid Level : raid5
     Array Size : 5851063296 (5580.01 GiB 5991.49 GB)
  Used Dev Size : 2925531648 (2790.00 GiB 2995.74 GB)
   Raid Devices : 3
  Total Devices : 3
    Persistence : Superblock is persistent

    Update Time : Tue Apr 13 14:02:46 2021
          State : clean
 Active Devices : 3
Working Devices : 3
 Failed Devices : 0
  Spare Devices : 0

         Layout : left-symmetric
     Chunk Size : 64K

           Name : GedeeldeData:2  (local to host GedeeldeData)
           UUID : b3b0dc0c:xxxxxxxxxx:95ef7960
         Events : 120723

    Number   Major   Minor   RaidDevice State
       0       8       21        0      active sync   /dev/sdb5
       4       8        5        1      active sync   /dev/sda5
       3       8       37        2      active sync   /dev/sdc5

Nu kijken wat @wellproc als resultaat krijgt.

Edit: Ik zie dat hij de "Array Size" zowel in GiB als GB opgeeft. De GB waarde is die welke de HDD fabrikanten gebruiken. Ik heb 3x 3TB = 6000 GB effectief. Dat is behoorlijk gelijk aan de 5991.49 GB.
  • Mijn Synology: DS415+
  • HDD's: 3x 3TB in SHR
  • Extra's: DS212J (Backup)

Offline Hofstede

  • MVP
  • *
  • Bedankjes
  • -Gegeven: 10
  • -Ontvangen: 1444
  • Berichten: 6.036
Re: SHR is kleiner dan verwacht/berekend
« Reactie #8 Gepost op: 13 april 2021, 15:51:26 »
Ik haal weer systemen door elkaar.

in dit geval is het cat /proc/mdstat voor een globaal overzicht van alle in het systeem aanwezige RAID volumes.

Offline zandhaas

  • MVP
  • *
  • Bedankjes
  • -Gegeven: 23
  • -Ontvangen: 198
  • Berichten: 777
Re: SHR is kleiner dan verwacht/berekend
« Reactie #9 Gepost op: 13 april 2021, 16:09:00 »
Ik denk dat linux de SHR versie van Synology niet helemaal snapt.

Ik heb zelf 2 * 3TB en 2 * 4TB disken in een SHR raid zitten en zie onderstaande output:

root@DS918:~# cat /proc/mdstat
Personalities : [linear] [raid0] [raid1] [raid10] [raid6] [raid5] [raid4]
md2 : active raid5 sdc5[4] sdd5[5] sdb5[3] sda5[2]
      5846050368 blocks super 1.2 level 5, 64k chunk, algorithm 2 [4/4] [UUUU]

md3 : active raid1 sda6[0] sdb6[1]
      1953494912 blocks super 1.2 [2/2] [UU]

md1 : active raid1 sda2[1] sdb2[2] sdc2[0] sdd2[3]
      2097088 blocks [4/4] [UUUU]

md0 : active raid1 sda1[1] sdb1[2] sdc1[0] sdd1[3]
      2490176 blocks [4/4] [UUUU]

unused devices: <none>


Heb er zelf eigenlijk nooit op gelet maar ook bij mij is er minder beschikbare ruimte dan je zou verwachten.
Ik vermoed dat de oorzaak het verschillende formaat van de disken is. De flexibiliteit van het kunnen gebruiken van verschillende disk formaten heeft waarschijnlijk een prijs.
  • Mijn Synology: DS918+
  • Extra's: 16GB RAM
DS213+  DSM 6.2  512MB
DS918+  DSM 7.2  16GB + 2*1TB NVME  Cache
VDSM      DSM 7.2
MR2200ac

Offline Briolet

  • Global Moderator
  • MVP
  • *
  • Bedankjes
  • -Gegeven: 176
  • -Ontvangen: 2619
  • Berichten: 16.242
Re: SHR is kleiner dan verwacht/berekend
« Reactie #10 Gepost op: 13 april 2021, 16:32:07 »
Citaat
Ik denk dat linux de SHR versie van Synology niet helemaal snapt.

@zandhaas : Die snapt het juist heel goed.

md0: een raid over alle disks in de nas. Hier staat het systeem op.
md1: een raid over alle disks in de nas. Hier staat de swap partitie op.

Tot zoverre de indeling na initialiseren van een disk, zonder dat hij in een pool zit. Deze raids staan ook in een raid1 omdat overal steeds hetzelfde op staat.

md2: een raid5 waar jouw 4 disks met 2 TB van hun grootte in aanwezig zijn.
md3: een raid1 waar jouw 2 disks van 4TB in aanwezig zijn met hun resterende deel. (Dit deel is de winst van SHR t.o.v. een normale raid5)
  • Mijn Synology: DS415+
  • HDD's: 3x 3TB in SHR
  • Extra's: DS212J (Backup)

Offline Hofstede

  • MVP
  • *
  • Bedankjes
  • -Gegeven: 10
  • -Ontvangen: 1444
  • Berichten: 6.036
Re: SHR is kleiner dan verwacht/berekend
« Reactie #11 Gepost op: 13 april 2021, 16:45:49 »
Ik denk dat md2 een array van 4 x 3 TB is en md3 een array van 2 x 1 TB. Anders klopt het sommetje niet.

Offline Briolet

  • Global Moderator
  • MVP
  • *
  • Bedankjes
  • -Gegeven: 176
  • -Ontvangen: 2619
  • Berichten: 16.242
Re: SHR is kleiner dan verwacht/berekend
« Reactie #12 Gepost op: 13 april 2021, 16:48:13 »
Je hebt gelijk. Ik had bij het schrijven 'onthouden' dat het 2x2TB en 2x4TB disks waren.  ;)
  • Mijn Synology: DS415+
  • HDD's: 3x 3TB in SHR
  • Extra's: DS212J (Backup)

Offline wellproc

  • Bedankjes
  • -Gegeven: 3
  • -Ontvangen: 4
  • Berichten: 24
Re: SHR is kleiner dan verwacht/berekend
« Reactie #13 Gepost op: 13 april 2021, 17:02:33 »
Zo, dank voor alle reacties!
Ik heb even SSH aangezet en ingelogd. Resultaat is als volgt:
md2:
Citaat
Creation Time : Sat Aug 26 08:38:27 2017
Raid Level : raid5
Array Size : 5846050368 (5575.23 GiB 5986.36 GB)
Used Dev Size : 1948683456 (1858.41 GiB 1995.45 GB)
Raid Devices : 4
Total Devices : 4

md3:
Citaat
Creation Time : Mon Feb  4 20:06:55 2019
Raid Level : raid5
Array Size : 3906989824 (3726.00 GiB 4000.76 GB)
Used Dev Size : 1953494912 (1863.00 GiB 2000.38 GB)
Raid Devices : 3
Total Devices : 3

Hier zitten twee voor mij rare zaken in:
1. de opgetelde grootte is 5986.36 + 4000.76 = 9.987,12 GB ofwel 9.301,23 GiB.
Dat is groter dan de door de NAS aangegeven capaciteit van 9.1 TB, maar ook kleiner dan de verwachte capaciteit van 10.1 TB...
2. De creation time van md2 is uit 2017 (aanschaf/eerste inrichting denk ik) en de creation time van md3 is uit 2019. Maar de laatste aanpassing is van dit jaar en dat zie ik niet terug. Waar kan ik zien wanneer md2 en md3 voor het laatste zijn gewijzigd (in formaat/samenstelling)?
  • Mijn Synology: DS418j
  • HDD's: Diverse...

Offline Hofstede

  • MVP
  • *
  • Bedankjes
  • -Gegeven: 10
  • -Ontvangen: 1444
  • Berichten: 6.036
Re: SHR is kleiner dan verwacht/berekend
« Reactie #14 Gepost op: 13 april 2021, 17:20:11 »
Dit is nu precies wat ik bedoel.

Als je het volume vers aan zou maken zou je een RAID5 van 4 * 3 TB en een RAID5 van 3 * 1 TB = 9 TB + 2 TB = 11 TB hebben.

Door alle oude SHR migraties heeft je NAS nu twee andere RAID5 volumes die zo vol zitten dat hij ze niet kan omvormen naar de ideale groottes. md3 heeft te veel data om er een 2 TB RAID5 volume van te maken. Als het SHR algoritme al zo intelligent zou zijn om dat te proberen.

Als je de volle 11 TB wilt zul je het volume moeten weggooien en opnieuw aanmaken.


 

Snelheid FTP-upload veel kleiner dan download

Gestart door boboooBoard FTP, NFS and Samba Server

Reacties: 3
Gelezen: 2231
Laatste bericht 03 maart 2011, 21:59:07
door Just.theo
Storage Pool degraded, want verwacht nog steeds 2 schijven

Gestart door Arne393Board NAS hardware vragen

Reacties: 16
Gelezen: 3044
Laatste bericht 11 januari 2019, 10:04:56
door Birdy
Video bestanden in batch omzetten naar kleiner formaat?

Gestart door sailorbartBoard Video Station

Reacties: 7
Gelezen: 2237
Laatste bericht 27 mei 2016, 22:49:17
door Ben(V)
Synology reageert niet zoals verwacht binnen domein

Gestart door StephanvPBoard Synology DSM algemeen

Reacties: 1
Gelezen: 1974
Laatste bericht 12 december 2013, 10:41:11
door madvisionz
Maximale volume grootte, hoe berekend

Gestart door Pieter-BBoard NAS hardware vragen

Reacties: 1
Gelezen: 690
Laatste bericht 01 mei 2021, 10:35:55
door Briolet