Professional Documents
Culture Documents
Datum: ______________
SADRŽAJ
SAŽETAK..................................................................................................................................2
UVOD.........................................................................................................................................3
6. Azur Files.............................................................................................................................12
ZAKLJUČAK...........................................................................................................................19
POPIS SLIKA...........................................................................................................................20
LITERATURA.........................................................................................................................21
1
SAŽETAK
Windows Azure Storage (WAS) je sistem za skladištenje podataka u oblaku koji pruža
korisnicima mogućnost skladištenja naizgled neograničenih količina podataka u bilo kojem
vremenskom periodu. WAS kupci imaju pristup svojim podacima s bilo kojeg mjesta u bilo
koje vrijeme i plaćaju samo ono što koriste i čuvaju. U WAS-u se podaci trajno pohranjuju
koristeći lokalnu i geografsku replikaciju kako bi se olakšao oporavak od katastrofe. Trenutno
WAS pohrana dolazi u obliku Blobs (datoteka), Tabela (strukturirana pohrana) i Redova
(isporuka poruka). U ovom radu opisujem WAS arhitekturu, globalni prostor imena i model
podataka, kao i sisteme za osiguravanje resursa, uravnoteženje opterećenja i replikaciju.
2
UVOD
Azure Storage je usluga u claudu kojom upravlja Microsoft i koja nudi pohranu koja je visoko
dostupna, sigurna, trajna, skalabilna i suvišna. Bilo da se radi o slikama, zvuku, video
zapisima, zapisnicima, konfiguracijskim datotekama ili podacima senzora iz IoT niza, podatke
treba pohraniti na način koji će biti lako dostupan za potrebe analize, a Azure Storage pruža
mogućnosti za svaku od ovih mogućih slučajevi upotrebe.[1]
Servisi su:
3
1. Osnovne Storage servisa
Azure blobs: masivno skalabilno spremište objekata za tekst i binarne podatke. Takođe
uključuje podršku za analitiku velikih podataka putem Data Lake Storage Gen2.
Unutar Azure postoje dvije vrste računa za pohranu, četiri tipa za pohranu, četiri nivoa
redundancije podataka i tri sloja za čuvanje datoteka. Detaljno ćemo istražiti svaku od ovih
opcija kako bismo vam pomogli da shvatite koja ponuda udovoljava vašim potrebama za
pohranom velikih podataka.[1]
4
2. Azure Storage račun
Azure račun za pohranu je pristupna tačka svim elementima koji čine područje Azure
pohrane. Jednom kada korisnik kreira račun za pohranu, može odabrati potrebnu razinu
otpornosti, a Azure će se pobrinuti za ostalo. Jedan račun za pohranu može pohraniti do 500
TB podataka, a kao i bilo koja druga Azure usluga, korisnici mogu iskoristiti model cijene uz
plaćanje po upotrebi.
Postoje dva različita tipa računa za pohranu. Sa „standardnim“ računom za pohranu korisnici
dobijaju pristup Blob Storage, Table Storage, Queues i Storage File. Alternativni „premium“
račun najnovija je opcija za pohranu koja korisnicima nudi pohranu podataka na SSD
diskovima radi boljih I / O performansi; ova opcija podržava samo blobs stranice.[1]
Račun za pohranu pruža jedinstveni prostor imena u Azureu za vaše podatke. Svaki objekt
koji pohranite u Azure Storage ima adresu koja uključuje vaše jedinstveno ime računa.
Kombinacija imena računa i krajnje tačke Azure Storage blob formira osnovnu adresu za
objekte na vašem računu memorije.[3]
Na primjer, ako se vaš račun za pohranu naziva mystorageaccount, tada je zadana krajnja
tačka za Blob pohranu: http://mystorageaccount.blob.core.windows.net
Blob Storage je usluga Microsoft Azure za pohranu binarnih velikih objekata ili blobova koji
su obično sastavljeni od nestrukturiranih podataka kao što su tekst, slike i videozapisi, zajedno
s njihovim metapodacima. Blobs se pohranjuju u strukture slične direktoriju, koje se nazivaju
"spremnici". Azure Blob skladište je Microsoftovo rješenje za pohranu objekata za oblak.
Blob pohrana je optimizirana za pohranu ogromnih količina nestrukturiranih podataka.
Nestrukturirani podaci su podaci koji se ne pridržavaju određenog modela podataka ili
definicije, kao što su tekst ili binarni podaci.
5
4. Zapisivanje u datoteke dnevnika.
5. Pohranjivanje podataka za sigurnosno kopiranje i vraćanje, oporavak od katastrofe i
arhiviranje.
6. Pohranjivanje podataka za analizu u lokalnoj usluzi ili usluzi koju hostira Azure
Korisnici ili klijentske aplikacije mogu pristupiti objektima u Blob memoriji putem HTTP /
HTTPS-a, s bilo kojeg mjesta na svijetu. Objektima u Blob memoriji pristupa se putem Azure
Storage REST API-ja, Azure PowerShell-a, Azure CLI-a ili klijentske biblioteke Azure
Storage. Klijentske biblioteke dostupne su za različite jezike, uključujući: NET, Java, Node.js,
Python, Idi, PHP, Ruby
Iako blob omogućuje pohranu velikih binarnih objekata u Azure, oni su optimizirani za tri
različita scenarija pohrane:
Blob računi za pohranu nude tri vrste slojeva koji su odabrani u vrijeme izrade računa za
pohranu.
6
Razina vrućeg pristupa: Od tri opcije, razina vrućeg pristupa je najoptimiziranija za
podatke kojima se često pristupa. Nudi najniži trošak pristupa (čitanje-pisanje), ali
najviši trošak skladištenja.
Razina hladnog pristupa: Ova je opcija prikladnija za slučajeve upotrebe u kojima će
podaci ostati pohranjeni najmanje 30 dana i neće im se često pristupati. U usporedbi s
vrućim pristupnim slojevima, ovaj nivo nudi niže troškove skladištenja i veće troškove
pristupa.
Razina pristupa arhivi: Skladište arhive dizajnirano je za podatke kojima ne treba
odmah pristupiti. Ova razina nudi veće troškove dohvata podataka, a također i veću
kašnjenje pristupa podacima. Dizajniran je za slučajeve upotrebe u kojima će se
podaci čuvati više od 180 dana i rijetko im se pristupa.[2]
1. Račun za pohranu
2. Spremnik na računu za pohranu
3. Blob u kontejneru
7
3.3 Zašto koristiti Blob Storage?
Azure Table Storage je skalabilni, NoSQL, sistem za skladištenje podataka ključ / vrijednost
koji se može koristiti za skladištenje velike količine podataka u oblaku. Ova ponuda za
pohranu ima dizajn bez sheme, a svaka tablica ima retke koji se sastoje od parova ključ /
vrijednost. Microsoft ga opisuje kao idealno rješenje za pohranu strukturiranih i nerelacijskih
podataka, pokrivajući slučajeve korištenja od pohrane terabajta strukturiranih podataka koji
služe web aplikacijama, do spremanja skupova podataka koji ne zahtijevaju složena spajanja
ili strane ključeve, do pristupa podacima koristeći .NET biblioteke.
8
Slika 3. Stalno spremište azure tabele [1]
Ove dvije tehnologije, iako vrlo slične, dizajnirane su za rješavanje vrlo različitih slučajeva
upotrebe. Međutim, jedna od glavnih razlika između njih dvije je njihov kapacitet. Azure
tablice mogu imati redove veličine do 1 MB s ne više od 255 svojstava, uključujući tri
identifikacijska ključa: particiju, red i vremensku oznaku. Što znači da kada korisnici dodaju
veličinu svih 255 svojstava, ne mogu premašiti 1 MB.
S druge strane, Azure SQL baze podataka mogu imati redove veličine do 2 GB. Naravno, ovo
bi navelo korisnika da pomisli da Azure SQL baze podataka nisu nimalo pametne kad je u
pitanju pohrana velike količine podataka. Međutim, Azure SQL baze podataka mogu se
prilagoditi samo do 150 GB, dok je maksimalna veličina podataka za Azure tablice 200 TB po
tablici.
Azure spremište tablice omogućava korisnicima da lako grade aplikacije u oblaku bez brige o
zaključavanju šeme. Razvojni programeri trebali bi razmotriti mogućnost upotrebe Azure
tablice za pohranu podataka kada žele pohraniti podatke u opsegu od više terabajta,
istovremeno smanjujući troškove pohrane - kada pohranjeni podaci ne ovise o složenom
9
spajanju na strani poslužitelja ili drugoj logici. Dodatni slučajevi upotrebe uključuju scenarije
oporavka od katastrofe ili pohranu podataka do 500TB bez potrebe za primjenom logike
oštrenja.[1]
Usluga Azure Queue koristi se za spremanje i dohvaćanje poruka. Poruke u redu mogu biti do
64 KB, a red može sadržavati milione poruka. Redovi se obično koriste za spremanje popisa
poruka koje će se asinhrono obrađivati.
Na primjer, recite da želite da vaši kupci mogu prenijeti slike i želite stvoriti sličice za svaku
sliku. Kupci bi mogli čekati da stvorite minijature dok prenosite slike. Alternativa bi bila
upotreba reda. Kada kupac završi prijenos, napišite poruku u red. Zatim neka Azure funkcija
preuzme poruku iz reda i kreira minijature. Svaki od dijelova ove obrade može se odvojeno
skalirati, dajući vam veću kontrolu prilikom podešavanja za vašu upotrebu.[2]
Azure Queue Storage je usluga za skladištenje velikog broja poruka. Porukama pristupate s
bilo kojeg mjesta na svijetu putem potvrđenih poziva pomoću HTTP-a ili HTTPS-a. Poruka u
redu može biti do 64 KB. Red može sadržavati milione poruka, do ograničenja ukupnog
kapaciteta računa za pohranu. Redovi se obično koriste za stvaranje zaostalog posla koji se
asinhrono obrađuje.[4]
Redovi postoje već dugo - njihova jednostavna FIFO (prva ulazna, prva izlazna) arhitektura
čini redove svestranim rješenjem za pohranu poruka koje ne trebaju biti u određenom
redoslijedu. Jednostavno rečeno, Azure Queue Storage je usluga koja omogućava korisnicima
da pohranjuju velike količine poruka, obrađuju ih asinkrono i troše po potrebi, a istovremeno
smanjuju troškove koristeći model cijene uz naplatu po upotrebi.[1]
10
Slika 4. Dijagram koji prikazuje odnos između računa za pohranu, redova i poruka.
https://myaccount.queue.core.windows.net/images-to-download
Račun za pohranu: sav pristup Azure Storage-u vrši se preko računa za pohranu. Za
informacije o kapacitetu računa za pohranu, pogledajte Proširivost i ciljevi
performansi za standardne račune za pohranu.
Red čekanja: Red sadrži skup poruka. Ime reda mora biti malo. Za informacije o
imenovanju redova, pogledajte Imenovanje redova i metapodataka.
Međutim, jedan red može primiti poruke vrijedne do 200TB. Poruke mogu biti tekstualni
nizovi ili nizovi bajtova koji sadrže bilo koju vrstu informacija u formatima kao što su XML,
CSV itd.[1]
11
5.3 Zašto koristiti Azure Queues Storage?
Redovi omogućavaju korisnicima da prihvate sve informacije koje dolaze i da se zatim bave
njima tempom aplikacije. Vraćajući se na scenarij kolica za kupovinu, zamislite situaciju kada
korisnik stavi preko 50 predmeta na košaricu i spreman je za plaćanje. Jednom kada se
korisnik odjavi, ako red nije na mjestu, informacije o narudžbi morale bi se odmah obraditi i
pohraniti u bazu podataka, i kao što možete zamisliti, u vršnim vremenima to bi moglo stvoriti
usko grlo i srušiti cijeli sustav. Redovi pružaju mehanizam otporan na kvarove u kojem se sve
narudžbe mogu pohranjivati ograničeno vrijeme, a zatim obrađivati i izvršavati jer sistem ima
propusnost za to. Na ovaj način je zajamčeno da će svaki element u redu dobiti pažnju.
6. Azur Files
Azure datoteke su usluga dijeljene mrežne pohrane datoteka koja pruža administratorima
način pristupa matičnim dijeljenjima SMB datoteka u oblaku. Te se dionice - kao i ostatak
Azure ponuda pohrane - mogu postaviti kao dio Azure računa za pohranu. Usluga Azure
datoteka pruža način aplikacija koje se izvode na VM u oblaku da dijele datoteke među njima
pomoću standardnih protokola poput WriteFile ili ReadFile.
12
Slika 6. VM storage architecture
Azure Files nudi potpuno upravljane dijeljene datoteke u oblaku kojima je moguće pristupiti
putem standardnog protokola SMB (Server Message Block) ili Mrežnog sistema datoteka
(NFS). Dijeljenja Azure datoteka mogu se istovremeno montirati u oblaku ili lokalnom
postavljanju. Dijeljenje SMB datoteka Azure datoteka dostupno je iz Windows, Linux i
macOS klijenata. Dijeljenja datoteka Azure Files NFS dostupna su s Linux ili macOS
klijenata. Pored toga, dijeljenja SMB datoteka Azure Files mogu se predmemorirati na
Windows serverima pomoću Azure File Sync za brzi pristup u blizini mjesta gdje se podaci
koriste.
Azure datoteke mogu se koristiti za potpuno zamjenu ili dopunu tradicionalnih lokalnih
poslužitelja datoteka ili NAS uređaja. Popularni operativni sistemi kao što su Windows,
macOS i Linux mogu direktno montirati Azure dijeljene datoteke gdje god se nalazili u
svijetu. Dijeljenja Azure datoteka SMB datoteka također se mogu replicirati s Azure File
Sync na Windows servere, bilo lokalno ili u oblaku, radi izvedbe i distribuiranog
predmemoriranja podataka tamo gdje se koriste. S nedavnim izdanjem provjere autentičnosti
13
Azure Files AD, dijeljenja SMB datoteka Azure datoteke mogu nastaviti raditi s AD
hostiranim lokalno za kontrolu pristupa.
5. Dijagnostički udio:
Kada programeri ili administratori rade na VM-ovima u oblaku, često im je potreban skup
alata ili uslužnih programa. Kopiranje takvih uslužnih programa i alata u svaku VM može biti
dugotrajna vježba. Lokalnim dijeljenjem Azure datoteke za dijeljenje datoteka na VM-ima,
programer i administrator mogu brzo pristupiti njihovim alatima i uslužnim programima, bez
kopiranja.
14
5. Kontejnerizacija:
Dijeljenja Azure datoteka mogu se koristiti kao trajne sveske za spremnike sa statusom.
Kontejneri pružaju mogućnosti „jednom izgradi, pokreni bilo gdje“ koje omogućavaju
programerima da ubrzaju inovacije. Za spremnike koji pristupaju sirovim podacima pri
svakom pokretanju, zajednički sistem datoteka mora omogućiti pristup tim spremnicima bez
obzira na kojoj instanci rade.
Postoji mnogo različitih scenarija u kojima biste možda željeli koristiti Azure sistem datoteka:
Ako imate lokalno okruženje koje zahtijeva dijeljenje datoteka i trebate ga podići i
prebaciti u oblak, AFS pruža jednostavan način za dijeljenje datoteka između VM-ova
u oblaku. AFS omogućava korisnicima postavljanje zajedničkog pogona bez potrebe
za stvaranjem namjenskog VM-a za rukovanje radnim opterećenjem dijeljenja
datoteka.
AFS se takođe može koristiti za pojednostavljivanje razvoja oblaka; može se postaviti
kao zajednički resurs da programeri i sysadmini imaju centralni udio prilikom
instaliranja alata i aplikacija.
Može poslužiti kao centralno mjesto za konfiguracijske datoteke i zapisnike nadzora.
Jednostavno upravljanje: Da bi postavili dijeljenu datoteku, svi korisnici trebaju otići do svog
računa za pohranu i stvoriti novi udio datoteka. Za nekoliko minuta korisnik će imati potpuno
funkcionalno dijeljenje datoteka i njegovo pokretanje.
Sigurna pohrana: Azure pohrana datoteka šifrira podatke u stanju mirovanja i u tranzitu
pomoću Bloka poruka servera (SBM 3) i HTTPS-a.
Podrška na više platformi: Azure datoteka koristi SMB protokol, koji izvorno podržavaju
mnogi API-ji, biblioteke i alati otvorenog koda.
15
Veoma skalabilno: korisnici mogu pohraniti do 5TB podataka - ili do 100TB ako
konfiguriraju udio u premium nivou.
Hibridni pristup: Azure File Sync omogućava korisnicima pristup podacima bilo gdje putem
SMB i REST protokola. Ova usluga pruža način za proširenje dijeljenja datoteka na lokalnu
implementaciju stvaranjem lokalne predmemorije datoteka koja pruža lokalni pristup putem
protokola kao što su NFS, SMB, FTPS i drugi. Ova vrsta sinhronizacije omogućava
korisnicima da imaju visoko dostupan pristup svojim datotekama, kao i priliku da
implementiraju sigurnosne protokole korporativnog nivoa, kao što su ACL.
Dremio se povezuje s jezicima podataka poput Azure Data Lake Storage (ADLS), Amazon
S3, Apache HDFS i više - stavljajući sve vaše podatke na jedno mjesto i pružajući im
strukturu. Dremio povećava produktivnost ovih korisnika omogućavajući im lako
pretraživanje, kuriranje, ubrzavanje i dijeljenje skupova podataka s drugim korisnicima. Pored
toga, Dremio omogućava kompanijama da izvršavaju svoja BI opterećenja sa svoje
infrastrukture jezera podataka, uklanjajući potrebu za izradom kockica ili BI ekstrakata.
1. Prikupljanje podataka
S Dremiom ne trebate brinuti o shemi i strukturi podataka koje ste stavili u svoje jezero
podataka. Dremio uzima podatke iz bilo koje vrste izvora (relacijski ili NoSQL) i pretvara ih
u SQL prikladan format bez pravljenja dodatnih kopija. Zatim možete kurirati, pripremiti i
transformirati podatke pomoću Dremiovog intuitivnog korisničkog sučelja, čineći ih
spremnim za analizu.
2. Uređivanje podataka
16
različitih izvora. Virtualni skupovi podataka definirani su standardnim SQL-om, tako da se
uklapaju u vještine i alate koji već koriste vaše timove za inženjering podataka.
3. Optimizacija i upravljanje
4. Potrošnja analitike
Dremio u svojoj osnovi čini samoposluživanje podataka, omogućavajući bilo kojem potrošaču
podataka u vašoj kompaniji da u vašem jezeru podataka pronađe odgovore na vaša najvažnija
poslovna pitanja, bilo da ste poslovni analitičar koji koristi Tableau, Power BI ili Qlik, ili
naučnik podataka koji radi u R ili Pythonu. Kroz korisničko sučelje, Dremio vam također
omogućava dijeljenje i uređivanje virtualnih skupova podataka bez pravljenja dodatnih kopija,
optimizirajući pohranu i podržavajući suradnju među timovima. Na kraju, Dremio ubrzava
vaše BI alate i ad hoc upite refleksijama i integrira se sa svim vašim omiljenim alatima za BI i
nauku podataka, omogućavajući vam da iskoristite alate koje već znate koristiti na vašem
jezeru podataka.
17
Pokrenite SQL na bilo kojem izvoru podataka. Uključujući optimizirane padove i
paralelno povezivanje s nerelacijskim sistemima poput Elasticsearch, S3 i HDFS.
Ukrštanje izvora podataka. izvršavaju spajanja visokih performansi u više različitih sistema
i tehnologija, između relacionih i NoSQL, S3, HDFS i drugih.
Data Lineage. Potpuna vidljivost u liniji podataka, od izvora podataka, preko transformacija,
spajanja s drugim izvorima podataka i dijeljenja s drugim korisnicima.
18
ZAKLJUČAK
Azure storage service dobar je primjer dobro dizajnirane arhitekture koja odgovara mnogim
slučajevima upotrebe, uključujući potrebe preduzeća. Sa SLA u rasponu od 99,9% do 99,99%,
jednostavan je izbor za korisnike koji traže prilagodljiv, pouzdan i efikasno beskonačan
prostor. Sam Microsoft koristi Azure Storage za svoje popularne usluge kao što su Skype,
XBOX, Bing i SkyDrive.
U ovom seminarskom upoznali smo vas s osnovama usluge Azure Storage. Blob pohrana
pruža korisnicima snažnu dosljednost podataka, fleksibilnost pohrane i pristupa koja se
prilagođava potrebama korisnika, a također pruža visoku dostupnost primjenom geo-
replikacije.
Ako imate lokalno okruženje koje zahtijeva dijeljenje datoteka i trebate ga podići i prebaciti u
oblak, AFS pruža jednostavan način za dijeljenje datoteka između VM-ova u oblaku. AFS
omogućava korisnicima postavljanje zajedničkog pogona bez potrebe za stvaranjem
namjenskog VM-a za rukovanje radnim opterećenjem dijeljenja datoteka.
Danas su platforme u oblaku i dalje pomalo egzotična opcija za većinu organizacija. Kako mi
svi gradimo iskustvo sa Windows Azureom i drugim oblačnim platformama, međutim, ovaj
novi pristup počet će se osjećati manje čudno. Vremenom bismo trebali očekivati da će
aplikacije zasnovane na oblaku - i platforme u oblaku na kojima rade - igrati sve važniju
ulogu u svijetu softvera.
19
POPIS SLIKA
LITERATURA
20
1. Dremio (2021). Azure Storage Types and Use Cases,
https://www.dremio.com/data-lake/adls/?fbclid=IwAR24NMo9mI6js8I-
md1D88af9jNJYznPugh2jaQI8xrhbTVwnqefbAIcMeM [pristupljeno 20. Aprila 2021]
21