Soluţie NAS pentru acasă

miahi

Wizzard
Sugar daddy
Joined
Aug 1, 2004
Location
Unreal Estate, Ankh-Morpork, Discworld
Acum mult timp am pornit un NAS cu un i3 + MB intel (cam ultima serie de plăci intel) + ceva RAM și 3 HDD-uri; apoi am mai pus niște RAM și am instalat ESXi, cu două mașini virtuale "de bază" (linux+windows); apoi am mai pus HDD-uri; apoi am mai adăugat diverse mașini virtuale de joacă (ex: cluster de 3 mysql); apoi am schimbat i3 cu un i7 mai special (cu VT-d), am ajuns la 32GB RAM și controller SATA/SAS în passthrough cu 5 HDD-uri în RAID5 + alte 2 hdd-uri accesibile din ESXi pentru OS-uri. Serviciile VM-urilor s-au tot extins (samba, ftp, plex, monitorizări de diverse chestii, squid + filtrare + cache, backups, baze de date, VPNs, ) dar rămăsesem cu discurile de OS ale VM-urilor + câteva de storage pe aceleași HDD-uri vechi. Cum nu stau să le suflu în fund prea des, iar programele care rulează sunt foarte variate ca resurse, unele din VM-uri mai făceau swapping, și când se întâmpla asta erau afectate toate celelalte VM-uri. Așa că am luat un SSD de 512 și am mutat toate OS-urile pe el + câteva discuri virtuale mai mici; ceea ce vezi mai sus e rezultatul - la aceeași încărcare, timpii de răspuns la hdd au scăzut de la 600ms la 5ms. Iar acum VM-urile sunt responsive chiar dacă mai fac swapping, care e greu de înlăturat, de ex. plex mai are bug-uri la scanare media, uneori se agață procesul de scanare (care e proces separat și deschide și multe în paralel) și în loc să-l omoare, dă un message box de eroare - și lasă și fișierul deschis uneori; de câteva ori m-am logat și erau sute de procese agățate.
 

Marius '95

Membru Senior
Sugar daddy
Joined
Nov 13, 2005
Location
Brăila
Plex nu e singurul care deschide sute de scanari simultane si omoara hardul. Vezi daca te satisface Serviio in locul lui.
BTW, mi se pare ca VM-urile ti-au scapat de sub control. La mine toate alea ruleaza pe un Athlon II @ 2.8GHz cu 4 GB RAM, <8 GB spatiu pe hard (OS + software), swap dezactivat si incarcare CPU sub 5% - dar nu in VM.
 

icsfails

Membru
Sugar daddy
Joined
Nov 22, 2012
Location
TM
Ati folosit vreodata autoexpand in zfs? Hardurile din microserver au ajuns la 5 ani de power on si le-as schimba cu ceva mai mare.
 

icsfails

Membru
Sugar daddy
Joined
Nov 22, 2012
Location
TM
Am un RAIDZ1 pe 3 harduri si ma gandeam la solutia "babeasca", inlocuit 1 hard, resilver, inlocuit al doilea ... samd pana le schimb pe toate 3.
 

Neo

Motan agresif
Sugar daddy
Joined
Oct 16, 2005
Location
The Emerald Dream
Eu încă am PTSD de la un WD Red care a murit subit și de tot după <10.000 ore de funcționare.

Este extrem de enervant modul în care crapă, n-am putut recupera nimic de pe el.
 

Fred

Membru Senior
Joined
Jan 4, 2019
Intrebare de noob, fara sa fi citit toate cele 1312 posturi precedente: exista vreun software solid, preferabil FOSS, care sa faca dintr-un SDD un inclusive cache pentru HDD? Ca HDD poate fi ori un disc fizic, ori un raid software care e vazut in software ca un volum. Am niste SSD-uri prin sertar care stau degeaba si le-as folosi pentru caching la niste HDD in RAID 5 care fac zgomot si consuma curent aproape degeaba, ar putea sa faca spindown majoritatea timpului fara nici o problema. Stiu ca exista asa ceva la chestiile alea fancy numite hyperconverge, dar nu pentru chestii pe care le mai are omul normal la cap prin casa, gen 3 discuri de 2 TB in RAID5 si 1 SSD de 120 GB.

De pilda chestia aia de la AMD care vine cu placile din generatia lui Ryzen + (seria 2xxx) face cache exclusiv, ceea ce e periculos din punctul meu de vedere: ai datele ori pe SSD, ori pe HDD. De RAM nici nu mai discut :frown: Daca ar fi cache inclusiv, daca vrei sa te uiti la un film de pe HDD ar avea cached toata partea de filesystem (care nu e mare la 4 TB de date) si tot fisierul de la filmul la care te uiti (cativa GB, poate spre 20 GB, sa zicem). Dai drumul la film si discurile fac spin down, e liniste si pace.
 

Fred

Membru Senior
Joined
Jan 4, 2019
Multumesc pentru sugestii, dar vad ca nu se potrivesc cu scenariul meu: sunt block level cache, nu filesystem cache, asta inseamna ca daca vreau sa ma uit la un film o sa faca caching doar la blocurile cerute, pe masura ce sunt cerute, ceea ce inseamna ca in practica nu ajuta la nimic: la transferul necesar pentru a reda un film uzual orice HDD e suficient de rapid si nu e nevoie de caching. De asemenea daca pe discuri sunt cateva sute de foldere cu cateva zeci de mii de fisiere (pentru un utilizator casnic), pana nu incerci sa deschizi un folder nu ajunge in cache (decat accidental daca e intr-un cached block de la o operatiune adiacenta) si tot la spinnin' the disk se ajunge.
 

miahi

Wizzard
Sugar daddy
Joined
Aug 1, 2004
Location
Unreal Estate, Ankh-Morpork, Discworld
Și cum ar trebui să știe aplicația că tu te uiți la filmul respectiv, ca să îl bage în cache pe tot? Cache-ul se face mai mereu la nivel de bloc pentru că majoritatea fișierelor nu-s citite 100%, ci doar cât îți trebuie, și n-are rost să murdărești cache-ul cu un fișier de 8GB doar pentru că ai făcut hover pe el sau i-ai dat click dreapta. Cache-urile de obicei optimizează conținutul după numărul de accesări, așa că dacă nu te uiți de suficiente ori la același film n-o să intre în cache :smile:.

Așa că soluția ta e simplă: vrei să te uiți la film, îl copiezi pe SSD, te uiți la el, îl ștergi, ai scăpat :smile:.
 

Fred

Membru Senior
Joined
Jan 4, 2019
Se numeste multi-layer caching si e un feature mainstream pe unele sisteme comerciale. Eu intreb de variante home-user.

Sa incarce automat in cache (SSD) toata structura de foldere e simplu, nu trebuie sa stie decat ca aia e o chestie destul de des accesata. Windows face cache la nivel de filesystem, dar numai in memorie, nu foloseste SSD pentru multi-layer caching, are implementata versiunea arhaica cu memory cards (ReadyBoost, isi aminteste cineva?). Pana si Netflix face caching, in sensul in care il vreau eu, ca ma miram cum naiba am vazut un episod intreg dintr-un film si nu imi intrau mailurile, era un cablu scos din switch din greseala si eu ma uitam pe Netflix (nu cateva secunde, ci vreo 10-15 minute). Da, se poate intra in dezbaterea buffering versus caching, din perspectiva utilizatorului rezultatul dorit e tot ce conteaza si m-as astepta ca unele sisteme sa o faca deja.

Stiu ca pot sa copiez filmul pe SSD, dar stiu ca poate sa o faca o aplicatie transparent, in timp ce vad filmul, nu sa stau 5 minute sa se termine de copiat inainte de a putea sa ma apuc sa il vad. Nu cer instant gratification, ci sisteme mai destepte decat in anii '80, cand smartdrv facea block level caching. Ala era chiar mai eficient, ca FAT era foarte mic si era cached din prima si in cache, in zilele noastre nu mai e cazul.
 

miahi

Wizzard
Sugar daddy
Joined
Aug 1, 2004
Location
Unreal Estate, Ankh-Morpork, Discworld
În sisteme comerciale multi-layer caching e de obicei implementat în aplicație (care știe cel mai bine ce îi trebuie cached) sau hardware (la nivel de controllere, caz în care e la nivel de bloc dacă nu ai integrare complexă între storage și aplicație - vezi Exadata). Și în sisteme consumer există peste tot, doar că nu le vezi și nu le controlezi; orice SSD cumperi acum are câteva niveluri de caching intern (RAM->SLC->MLC).

Nici Windows nu face caching la tot fișierul dacă nu e citit tot sau nu e deschis de aplicație cu flag-uri specifice de caching/memory mapping; și tot e la nivel de bloc pe undeva. Și nu e interes în zona asta, piața s-a dus 100% către terminale cu un pic de stocare locală rapidă (flash) și restul datelor undeva în rețea, mai aproape sau mai departe, după posibilități; iar aplicațiile s-au adaptat la acest mod de utilizare (ex: netflix și cache-ul local, implementat în principal pentru offline view și ca să nu le freci serverele prea mult, că îi costă). HDD-urile în sisteme consumer sunt deja rare, nu mai sunt interesante; ăia 0.1% din piață care au efectiv nevoie de stocare multă au cam trecut la SSD local + NAS, pentru restul e suficient un OS minimal cu un browser.

Singura chestie nouă e Optane, dar e tot hardware și block level, te ajută la performanță, nu la ce vrei tu.
 

Fred

Membru Senior
Joined
Jan 4, 2019
Ca sa nu mai deschid alt topic, o sa pun discutia aici pentru ca e complementara.

Am facut niste socoteli si un NAS pentru 10 TB de date iese cam scump. Indiferent ce fac, se duce peste 1000 de euro, plus curent electric, doar discurile fiind 1000 de euro (3x10TB). Cu o durata de viata a discurilor de 6-8 ani, iese peste 100-150 de euro anual.

Asa ca ma gandesc serios la Backblaze. Nu ca solutie 100%, ci 80%: iau un singur disc pe care tin o copie in dulap la tot ce e interesant si tin pe Backblaze tot. Pentru 60 de dolari pe an, merita. Ar fi doar un backup, offsite si teoretic sigur.

Intrebare: are cineva experienta cu Backblaze, in special la partea de securitate? Ei spun ca au criptare cu cheie personala, dar nu dau nici un fel de detalii.
 
Last edited:
Top Bottom