Kako delujejo preslikavalci in reduktorji?

Kazalo:

Kako delujejo preslikavalci in reduktorji?
Kako delujejo preslikavalci in reduktorji?

Video: Kako delujejo preslikavalci in reduktorji?

Video: Kako delujejo preslikavalci in reduktorji?
Video: Ошибки в сантехнике. Вводной узел в квартиру. 2024, November
Anonim

Izhod opravila preslikava ali zemljevida (pari ključ/vrednost) je vhod v reduktor Reduktor prejme par ključ/vrednost iz več opravil preslikave. Nato reduktor združi te vmesne podatkovne nize (vmesni par ključ-vrednost) v manjši nabor nizov ali parov ključ-vrednost, ki je končni rezultat.

Kaj delajo preslikavalci in reduktorji?

Hadoop Mapper je funkcija ali naloga, ki se uporablja za obdelavo vseh vhodnih zapisov iz datoteke in generiranje izhoda, ki deluje kot vhod za Reducer Proizvede izhod tako, da vrne nove parov ključ/vrednost. … Preslikavalnik generira tudi nekaj majhnih blokov podatkov med obdelavo vhodnih zapisov kot par ključ/vrednost.

Kakšna je razlika med preslikavalcem in reduktorjem?

Kakšna je glavna razlika med Mapperjem in Reducerjem? Naloga preslikava je prva faza obdelave, ki obdela vsak vhodni zapis (iz RecordReaderja) in generira vmesni par ključ/vrednost. Metoda Reduce se kliče ločeno za vsak par seznamov ključ/vrednosti.

Kako izračunate število preslikavalcev in reduktorjev?

Odvisno je od tega, koliko jeder in koliko pomnilnika imate na vsakem podrejenem. Na splošno mora en preslikavalec dobiti 1 do 1,5 jeder procesorjev Torej, če imate 15 jeder, lahko zaženete 10 preslikavalcev na vozlišče. Torej, če imate v gruči Hadoop 100 podatkovnih vozlišč, lahko v gruči zaženete 1000 preslikavalcev.

Kako deluje funkcija Mapper?

Mapper je funkcija, ki obdeluje vhodne podatke Preslikavalnik obdela podatke in ustvari več majhnih kosov podatkov. Vhod v funkcijo preslikalnika je v obliki parov (ključ, vrednost), čeprav je vhod v program MapReduce datoteka ali imenik (ki je shranjen v HDFS).

Priporočena: