znaczacy > comp.os.* > comp.os.linux.sieci

lokoz.info (21.07.2009, 12:10)
Witam.
Mamy zamiar wymienić nasz sprzęt w serwerowni na nowy(nowoczesny).
Wstępny plan jest taki:
- macierz dyskowa 8xHDD lub 12xHDD jako zewnętrzny system plików z
danymi Klientów - nie zależy nam na pojemności ale na szybkości i
bezpieczeństwie
- 3 serwery oparte na Xeon Quad(lub 2x Xeon Quad)
- sprzętowy serwer VPN, z możliwością konfiguracji zaawansowanego
routingu
- jakiś zewnętrzny moduł/system do backupu danych

Jaki jest obecnie najlepszy sposób przyłączania zewnętrznych dysków do
systemu? Ethernet? Czy w ogóle ma sens robienie zewnętrznego systemu
plików? Czy lepiej jest utrzymywać dane Klientów na lokalnych dyskach?

Czy rozsądnym rozwiązaniem jest zrobienie zewnętrznego serwera MySQL i
przekierowywanie na "serwerach właściwych"?

Jako, że w ostatnim czasie zaniedbałem troszeczkę temat najnowszych
technologii prosiłbym znawców tematu o nakierowanie mnie na
odpowiednie tory. Chodzi mi o sprzęt i sposoby jego konfiguracji.
Każda, nawet najmniejsza pomoc, mile widziana.

Z góry dzięki. Rafał.
bofh (21.07.2009, 12:31)
lokoz.info napisał(a):
[..]
> technologii prosiłbym znawców tematu o nakierowanie mnie na
> odpowiednie tory. Chodzi mi o sprzęt i sposoby jego konfiguracji.
> Każda, nawet najmniejsza pomoc, mile widziana.


Wymieniam park samochodowy, co lepiej kupić? Tira i 3 skutery, czy 3
furgony? Budować magazyn z rampą czy wynająć baraki na obrzeżach miasta?
Aha, będę przewoził czasami ludzi, lepszy bus czy dwa osobowe, a może
autokar?

Sprzęt dopasowuje się do zadań, a nie potem cały system do sprzętu. Skąd
mamy wiedzieć co robisz na tym sprzęcie? Palantiry zaginęły.

wer
Lemat (21.07.2009, 12:36)
lokoz.info wrote:

> Czy rozsadnym rozwiazaniem jest zrobienie zewnetrznego serwera MySQL i
> przekierowywanie na "serwerach wlasciwych"?


I tak i nie.
W przypadku jednego centralnego serwera kiedy jeden klient zarznie ci serwer
MySQL ogromna iloscia zapytan zarznie ci to wszystkich klientów. Hostingi,
które stosuja takie rozwiazanie wymuszaja wtedy ograniczenie ilosci
zapytan/polaczen, co bardzo wkurwia zarówno klientów (bo strona nie dziala)
jak i programistów robiacych im strony.
bofh (21.07.2009, 12:59)
Lemat napisal(a):
> lokoz.info wrote:
> I tak i nie.
> W przypadku jednego centralnego serwera kiedy jeden klient zarznie ci serwer
> MySQL ogromna iloscia zapytan zarznie ci to wszystkich klientów. Hostingi,
> które stosuja takie rozwiazanie wymuszaja wtedy ograniczenie ilosci
> zapytan/polaczen, co bardzo wkurwia zarówno klientów (bo strona nie dziala)
> jak i programistów robiacych im strony.


A wiesz jak wkurza adminów taki programista co robi tysiace
niepotrzebnych zapytan? I klient jeszcze sie pyszczy, ze on placi (200
zl rocznie) i ma chodzic! A aplikacja przy 10 klientach na godzine
powoduje, ze czterordzeniowy Xeon dostaje zadyszki jak klient przejdzie
na serwer dedykowany? Poza tym lepszy jeden wkurzony klient niz 100
wkurzonych klientów, bo jakis imbecyl nie potrafiacy programowac zapchal
caly serwer?

wer
Lemat (21.07.2009, 14:11)
bofh wrote:

> Lemat napisal(a):
> A wiesz jak wkurza adminów taki programista co robi tysiace
> niepotrzebnych zapytan?


dlaczego niepotrzebnych? dlaczego programista? Wystarczy wykupic kampanie
reklamowa i nagle wpuscic na strone 100x wiecej userów aby serwer kleknal.

> I klient jeszcze sie pyszczy, ze on placi (200
> zl rocznie) i ma chodzic!


no. A programista jest miedzy mlotem a kowadlem, bo jeszcze szef mu nad
glowa stoi. Jak trzeba zaplacic wiecej to sie nagle robi bardzo
nieprzyjemnie.

> A aplikacja przy 10 klientach na godzine
> powoduje, ze czterordzeniowy Xeon dostaje zadyszki jak klient przejdzie
> na serwer dedykowany? Poza tym lepszy jeden wkurzony klient niz 100
> wkurzonych klientów, bo jakis imbecyl nie potrafiacy programowac zapchal
> caly serwer?


A wiesz, ze hostingi nie maja jaj aby takiego klienta, który im zarzyna
serwer wywalic na pysk? osobiscie kilka razy bylem ofiara sasiada.
Igor Wawrzyniak (21.07.2009, 14:35)
Tako rzecze Lemat:
>> A aplikacja przy 10 klientach na godzinę powoduje, że czterordzeniowy
>> Xeon dostaje zadyszki jak klient przejdzie na serwer dedykowany? Poza
>> tym lepszy jeden wkurzony klient niż 100 wkurzonych klientów, bo jakiś
>> imbecyl nie potrafiący programować zapchał cały serwer?

> A wiesz, że hostingi nie mają jaj aby takiego klienta, który im zarzyna
> serwer wywalić na pysk? osobiście kilka razy byłem ofiarą sąsiada.


Wszystko przez to, że nie ma żadnych stopni pośrednich pomiędzy
hostingiem dzielonym a serwerem dedykowanym, droższym o 2 rzędy
wielkości. Ale już niedługo.

Na miejscu autora wątku poszedłbym w wirtualizację, łatwiej od razu niż
później zmieniać. Mniej problemów z ograniczaniem zasobów, migrowaniem na
mniej obciążony serwer itp.
bofh (21.07.2009, 14:52)
Lemat napisal(a):
> A wiesz, ze hostingi nie maja jaj aby takiego klienta, który im zarzyna
> serwer wywalic na pysk? osobiscie kilka razy bylem ofiara sasiada.


U nas dostaja propozycje nie do odrzucenia, albo wyzszy pakiet (w tym
serwer dedykowany) albo rozstanie. Z kilkoma klientami sie pozegnalismy.
Kilka serwisów zostalo wylaczonych do czasu gdy klient poprawi
skrypty. Niestety to koniecznosc. Wiele osób uwaza, ze jak maja serwer
wirtualny to moga sobie szalec, bo oni wykupili! A tlumaczenie, ze maja
zle napisane skrypty nie dociera do nich. Zreszta wielu nawet nie wie,
ze ma tragiczne skrypty, instaluja np phpBB by przemo i sie dziwia, ze
strona im chodzi jak zólw na emeryturze. Pomijam juz, ze wiele serwisów
jest pisanych przez "programistów" co odpalili sobie krasnala, albo
nawet zainstalowali ubuntu, potem zdjeli wszystkie zabezpieczenia. A
pozniej pretensje, no przeciez u mnie strona chodzila, a u was nie
chodzi. A w kodzie potrafia byc sciezki bezwzgledne do /home/user/html.
Nie wymienie nazwy serwisu, ale dosc popularny, z obrazkami. Tylko, ze
geniusz programistyczny wymyslil, ze kazde ladowanie strony to
generowanie przez skrypty miniaturek wrzuconych obrazków. Jak dziala
strona chyba nie musze tlumaczyc. Z 40 obrazków robia sie miniaturki,
zaglada tam naraz 10 osób i dla kazdej te same miniaturki sie generuja.
Ale oczywiscie webmaster nie widzi problemu. Przeciez mozna wstawic
silniejszy serwer, a poza tym jak testowal w domu to mu szybko chodzilo.

wer
bofh (21.07.2009, 14:53)
Igor Wawrzyniak napisał(a):
> Tako rzecze Lemat:
> Wszystko przez to, że nie ma żadnych stopni pośrednich pomiędzy
> hostingiem dzielonym a serwerem dedykowanym, droższym o 2 rzędy
> wielkości. Ale już niedługo.


Są pośrednie stopnie. Przynajmniej u nas.

wer
Igor Wawrzyniak (21.07.2009, 19:25)
Tako rzecze bofh:
> Są pośrednie stopnie. Przynajmniej u nas.


Bywają, ale jeszcze rzadko. Ja kiedyś miałem problem z serwisem WWW,
którym się zajmowałem - zwiększył się ruch, zaczęło brakować zasobów.
Zaproponowano mi serwer dedykowany za ciężką kasę. U innego providera
okazało się, że jednak to nie jest niezbędne.
Daniel (21.07.2009, 22:32)
lokoz.info pisze:
[..]
> odpowiednie tory. Chodzi mi o sprzęt i sposoby jego konfiguracji.
> Każda, nawet najmniejsza pomoc, mile widziana.
> Z góry dzięki. Rafał.

Obecnie trendem jest wirtualizacja. Robisz jeden centralny storage (lub
kilka jeśli masz dużo maszyn) + serwery fizyczne. Na tym stawiasz
VMWare, Xena (cytriksa) czy wytwór M$ i na nich odpalasz wirtualne
serwery, których obrazy masz na danym storage. W razie padu fizycznej
maszyny odpalenie obrazu serwera na innej maszynie fizycznej to kwestia
10-15 min a czasami migracja z jednej maszyny na drugą jest niezauważalna.

Pozdrawiam
Daniel
bofh (22.07.2009, 09:15)
Daniel napisał(a):
> lokoz.info pisze:
> Obecnie trendem jest wirtualizacja. Robisz jeden centralny storage (lub
> kilka jeśli masz dużo maszyn) + serwery fizyczne. Na tym stawiasz
> VMWare, Xena (cytriksa) czy wytwór M$ i na nich odpalasz wirtualne
> serwery, których obrazy masz na danym storage. W razie padu fizycznej
> maszyny odpalenie obrazu serwera na innej maszynie fizycznej to kwestia
> 10-15 min a czasami migracja z jednej maszyny na drugą jest niezauważalna.


W latach 70 ubiegłego wieku trendem były spódniczki mini, jakoś
eskimoski się nie dostosowały. Po cholerę pakować wszędzie wirtualizację
niezależnie czy jest potrzebna czy nie? Bo jest trendy?

wer
Sebastian Sawicki (22.07.2009, 09:19)
lokoz.info said the following on 21.07.2009 12:10:
> Witam.
> Mamy zamiar wymienić nasz sprzęt w serwerowni na nowy(nowoczesny).
> Wstępny plan jest taki:
> - macierz dyskowa 8xHDD lub 12xHDD jako zewnętrzny system plików z
> danymi Klientów - nie zależy nam na pojemności ale na szybkościi
> bezpieczeństwie


No to jakies rozwiazanie markowe (czytaj czolowych producentow, a nie
jakis wynalazek firmy krzak oparty o skrzynke na hdd + linux) IBM, HP
itp. Dyski SAS (jako kompromis), dwa kontrolery, dwa switche FC

> - 3 serwery oparte na Xeon Quad(lub 2x Xeon Quad)


Zacznij od 2 4-procesorowych + ESX

> - sprzętowy serwer VPN, z możliwością konfiguracji zaawansowanego
> routingu


chodzi CI o np cisco ASA?

> - jakiś zewnętrzny moduł/system do backupu danych


Serwer backupu na baculi + biblioteka tasmowa +/i tani(e) zasob dyskowy
o pojemnosci ~2,3 x pojemnosc macierzy.
Taki zasob czasami jest lepszym rozwianiem niz wspomniana bacula.
Szczegolnie jezeli robisz backup np maildir'ow, gdzie bacula zadlawi sie
gigantyczna iloscia plikow.

> Jaki jest obecnie najlepszy sposób przyłączania zewnętrznych dysków do
> systemu? Ethernet? Czy w ogóle ma sens robienie zewnętrznego systemu
> plików? Czy lepiej jest utrzymywać dane Klientów na lokalnych dyskach?


IMHO najwygodniej redundancje zrobic na FC. Czy chcesz miec to na
centralnej macierzy z calym dobrodziejstwem tego rozwiazania czy tez
wiele oddzielnych maszyn - to zalezy w jakim kierunku pojdziesz. Jezeli
ESX to centralna maciez bedzie wygodna ale droga. Jezeli w rozwiazanie w
stylu 'stawiamy tyle virtualek na maszynach ile sie da a pozniej
dostawiamy nastepna maszyne' to bedzie pewnie taniej, ale bardziej
klopotliwie, monitorowanie tego bedzie bardziej klopotliwe i czuwanie
nad rozwojem.

> Czy rozsądnym rozwiązaniem jest zrobienie zewnętrznego serwera MySQL i
> przekierowywanie na "serwerach właściwych"?


To juz koledzy napisali. Jezeli bedziesz wirtualizowal to wiekszy
komfort beda mieli klienci jezeli beda mieli wlasna baze. A Ty wiekszy
spokoj.

To rozwiazanie ktore proponuje bedzie kosztowne, ale bardzo wygodne i
elastyczne w zarzadzaniu. Wszystko zalezy ile masz kasy, bo to bedzie z
kilkaset tys. zl.

pozdrawiam
S.
Stachu 'Dozzie' K. (22.07.2009, 09:55)
On 22.07.2009, Sebastian Sawicki wrote:
> lokoz.info said the following on 21.07.2009 12:10:
> No to jakies rozwiazanie markowe (czytaj czolowych producentow, a nie
> jakis wynalazek firmy krzak oparty o skrzynke na hdd + linux) IBM, HP
> itp. Dyski SAS (jako kompromis), dwa kontrolery, dwa switche FC


Hint: niektorzy producenci maja cos tanszego niz macierz dyskowa na FC.
Taki HP na przyklad ma calkiem niezle kontrolery SmartArray P400, do
ktorych sie podlacza polke StorageWorks MSA60 albo MSA70.

>> - jakiś zewnętrzny moduł/system do backupu danych

> Serwer backupu na baculi + biblioteka tasmowa +/i tani(e) zasob dyskowy
> o pojemnosci ~2,3 x pojemnosc macierzy.


Tani zasob dyskowy sugeruje duzy dysk SATA (ew. RAID na takich dyskach),
niekoniecznie specjalnie szybki. Przy bibliotece tasmowej to akurat
bardzo zly pomysl. Wolne dyski nie beda nadazac podawac danych
streamerowi.

> Taki zasob czasami jest lepszym rozwianiem niz wspomniana bacula.
> Szczegolnie jezeli robisz backup np maildir'ow, gdzie bacula zadlawi sie
> gigantyczna iloscia plikow.


Zadlawi? Dobrze ze Bacula w mojej poprzedniej robocie o tym nie
wiedziala, bo szlag by trafil backup poczty (tak kolo 500GB poczty).

Zasadniczo to to jest bzdura ze Bacula sobie nie poradzi z taka iloscia
plikow. Poradzi, i to bardzo skutecznie, zwlaszcza z backupem
przyrostowym. A ze plikow duzo, to od tego przeciez sie stawia osobna
maszyne na backup.
Sebastian Sawicki (22.07.2009, 10:38)
Stachu 'Dozzie' K. said the following on 22.07.2009 09:55:
> Hint: niektorzy producenci maja cos tanszego niz macierz dyskowa na FC.
> Taki HP na przyklad ma calkiem niezle kontrolery SmartArray P400, do
> ktorych sie podlacza polke StorageWorks MSA60 albo MSA70.


Ale to macierz z pojedynczym kontrolerem, z jedna sciezka
macierz<->serwer, brak mozliwosci automatycznego przelaczenia maciezy do
innego serwera. Brak mozliwosci zrobienia FO w przypadku padu
kontrolera. Ot taka duza macierz podlaczana do jednej maszyny.

> Tani zasob dyskowy sugeruje duzy dysk SATA (ew. RAID na takich dyskach),
> niekoniecznie specjalnie szybki. Przy bibliotece tasmowej to akurat
> bardzo zly pomysl. Wolne dyski nie beda nadazac podawac danych
> streamerowi.


Chodzilo mi o zastapienie w niektorych rozwiazaniach backupu na tasme
backupem na zasob dyskowy. Zasob zbudowany z np 6 dyskow SATA w raid 5
na dobrym kontrolerze. Daje to ciagly transfer zapisu na poziomie
200MB/s. Tam nie ma duzej ilosc tranzakcji, wiec SATA sie wyrabia.
A biblioteka tasmowa nie jest znowu tak szybka, LTO2 jaki mam wyciaga ok
30MB/s.

> Zadlawi? Dobrze ze Bacula w mojej poprzedniej robocie o tym nie
> wiedziala, bo szlag by trafil backup poczty (tak kolo 500GB poczty).
> Zasadniczo to to jest bzdura ze Bacula sobie nie poradzi z taka iloscia
> plikow. Poradzi, i to bardzo skutecznie, zwlaszcza z backupem
> przyrostowym. A ze plikow duzo, to od tego przeciez sie stawia osobna
> maszyne na backup.


Zasadniczo uogolniasz. Przyrostowy tak, pelny juz nie koniecznie.
Ja odszedlem od baculi gdy rozmiar przestrzeni gdzie byly maildiry
zblizal sie do 1T, ~20 tys skrzynek, glownie imap.
Pelny backup trwal ponad 24 godziny. Rozmiar bazy pgsql ktora
obslugiwala bacule byl ok 200G jak pamietam.
Maszyna osobna, 2x Xeon, 4G pamieci 5xSCSI 320 15 tys.
Bacula sobie radzila, ale zbyt dlugo jej to zajmowalo czasu.

Jest duzo czynnikow ktore spowalniaja tutaj bacule. Bardzo duze ilosci
plikow w katalogach, duzy rozmiar calego obszaru i wymog czasu, przez
jaki ma byc dostepny backup.

Mi sie obecnie sprawdza backup posredni, z tar'owaniem kazdej skrzynki
wlasnie na 'tani zasob dyskowy'. Potem to laduje na tasmie.

S.
Stachu 'Dozzie' K. (22.07.2009, 11:50)
On 22.07.2009, Sebastian Sawicki wrote:
> Stachu 'Dozzie' K. said the following on 22.07.2009 09:55:
> Ale to macierz z pojedynczym kontrolerem, z jedna sciezka
> macierz<->serwer, brak mozliwosci automatycznego przelaczenia maciezy do
> innego serwera. Brak mozliwosci zrobienia FO w przypadku padu
> kontrolera. Ot taka duza macierz podlaczana do jednej maszyny.


Zgadza sie, za to znacznie tansza. Nie kazdy potrzebuje storage'u za
fafnascie tuzinow euro, jesli czas przestoju bedzie akceptowalny.

> Chodzilo mi o zastapienie w niektorych rozwiazaniach backupu na tasme
> backupem na zasob dyskowy. Zasob zbudowany z np 6 dyskow SATA w raid 5
> na dobrym kontrolerze. Daje to ciagly transfer zapisu na poziomie
> 200MB/s. Tam nie ma duzej ilosc tranzakcji, wiec SATA sie wyrabia.
> A biblioteka tasmowa nie jest znowu tak szybka, LTO2 jaki mam wyciaga ok
> 30MB/s.


Nie jest taka znowu szybka dlatego ze to LTO-2. Hello, my tu mamy rok
2009 i LTO-5 na karku.

> Zasadniczo uogolniasz. Przyrostowy tak, pelny juz nie koniecznie.


Pelnym tez sie nie dlawila. Co tydzien byl robiony.

[..]
> jaki ma byc dostepny backup.
> Mi sie obecnie sprawdza backup posredni, z tar'owaniem kazdej skrzynki
> wlasnie na 'tani zasob dyskowy'. Potem to laduje na tasmie.


Wiesz, zawsze mozna zrobic to po ludzku, znaczy zrobic rsync skrzynek na
rzeczony tani zasob dyskowy, a potem wykonywac backup z niego. Tani
zasob dyskowy w serwerach backupow miedzy innymi do tego wlasnie sluzy.

Podobne wątki