Megosztás a következőn keresztül:


A Hue telepítése és használata HDInsight Hadoop-fürtökön

Megtudhatja, hogyan telepítheti a Hue-t HDInsight-fürtökre, és hogyan irányíthatja a kéréseket a Hue-hez bújtatással.

Feljegyzés

A Hue nem támogatott a HDInsight 4.0-s és újabb verzióiban.

Mi az a Hue?

A Hue egy Apache Hadoop-fürttel való interakcióhoz használt webalkalmazások készlete. A Hue használatával tallózhat a Hadoop-fürthöz (WASB, HDInsight-fürtök esetén), Hive-feladatok és Pig-szkriptek futtatásához stb. A következő összetevők érhetők el a Hue-telepítésekkel egy HDInsight Hadoop-fürtön.

  • Méhviasz Hive-szerkesztő
  • Apache Pig
  • Metaadattár-kezelő
  • Apache Oozie
  • FileBrowser (amely a WASB alapértelmezett tárolóját tárgyalja)
  • Feladatböngésző

Figyelmeztetés

A HDInsight-fürthöz biztosított összetevők teljes mértékben támogatottak, és Microsoft ügyfélszolgálata segítenek az összetevőkkel kapcsolatos problémák elkülönítésében és megoldásában.

Az egyéni összetevők kereskedelmi szempontból ésszerű támogatást kapnak a probléma további megoldásához. Ez a probléma megoldásához vezethet, vagy megkérheti Önt, hogy vegye fel a kapcsolatot az nyílt forráskód technológiák elérhető csatornáival, ahol a technológia terén mély szakértelem található. Például számos közösségi webhely használható, például: Microsoft Q&A kérdésoldal a HDInsighthoz, https://stackoverflow.com. Az Apache-projektek projektwebhelyei https://apache.orgis vannak, például: Hadoop.

Hue telepítése szkriptműveletekkel

Használja az alábbi táblázatban található információkat a szkriptművelethez. A szkriptműveletek használatára vonatkozó konkrét utasításokért tekintse meg a HDInsight-fürtök testreszabása szkriptműveletekkel című témakört.

Feljegyzés

A Hue HDInsight-fürtökre való telepítéséhez az ajánlott fejcsomópont mérete legalább A4 (8 mag, 14 GB memória).

Tulajdonság Érték
Szkript típusa: -Egyéni
Név A Hue telepítése
Bash-szkript URI https://hdiconfigactions.blob.core.windows.net/linuxhueconfigactionv02/install-hue-uber-v02.sh
Csomópont típusa(i): Head

Hive-lekérdezések futtatása

  1. A Hue portálon válassza a Lekérdezésszerkesztő, majd a Hive lehetőséget a Hive-szerkesztő megnyitásához.

    HDInsight hue portal use hive editor.

  2. A Segéd lap Adatbázis területén a hivesampletable elemet kell látnia. Ez egy mintatábla, amely a HDInsight összes Hadoop-fürtjével együtt van szállítva. Írjon be egy minta lekérdezést a jobb oldali panelen, és tekintse meg a kimenetet az alábbi panel Eredmények lapján, ahogyan az a képernyőfelvételen is látható.

    HDInsight hue portal hive query.

    A Diagram lapon látható az eredmény vizuális ábrázolása is.

Tallózás a fürttárolóban

  1. A Hue portálon válassza a Fájlböngésző lehetőséget a menüsáv jobb felső sarkában.

  2. Alapértelmezés szerint a fájlböngésző a /user/myuser könyvtárban nyílik meg. Válassza ki a perjelet közvetlenül a felhasználói könyvtár előtt az elérési úton a fürthöz társított Azure Storage-tároló gyökeréhez való ugráshoz.

    HDInsight hue portal file browser.

  3. Kattintson a jobb gombbal egy fájlra vagy mappára az elérhető műveletek megtekintéséhez. A jobb sarokban található Feltöltés gombbal tölthet fel fájlokat az aktuális könyvtárba. Az Új gombbal új fájlokat vagy könyvtárakat hozhat létre.

Feljegyzés

A Hue fájlböngésző csak a HDInsight-fürthöz társított alapértelmezett tároló tartalmát tudja megjeleníteni. A fürthöz esetleg társított további tárfiókok/tárolók nem lesznek elérhetők a fájlböngészővel. A fürthöz társított további tárolók azonban mindig elérhetők lesznek a Hive-feladatokhoz. Ha például beírja a parancsot dfs -ls wasbs://newcontainer@mystore.blob.core.windows.net a Hive-szerkesztőbe, akkor további tárolók tartalmát is láthatja. Ebben a parancsban a newcontainer nem a fürthöz társított alapértelmezett tároló.

Fontos tényezők

  1. A Hue telepítéséhez használt szkript csak a fürt elsődleges átjárócsomópontjára telepíti.

  2. A telepítés során több Hadoop-szolgáltatás (HDFS, YARN, MR2, Oozie) is újraindul a konfiguráció frissítéséhez. Miután a szkript befejezte a Hue telepítését, eltarthat egy ideig, amíg más Hadoop-szolgáltatások elindulnak. Ez kezdetben befolyásolhatja Hue teljesítményét. Ha minden szolgáltatás elindul, a Hue teljesen működőképes lesz.

  3. Hue nem érti az Apache Tez-feladatokat, ami a Hive jelenlegi alapértelmezett beállítása. Ha a MapReduce-ot szeretné hive-végrehajtási motorként használni, frissítse a szkriptet a következő parancs használatára a szkriptben:

    set hive.execution.engine=mr;

  4. Linux-fürtök esetén előfordulhat, hogy a szolgáltatások az elsődleges átjárócsomóponton futnak, míg a Resource Manager a másodlagoson fut. Az ilyen forgatókönyvek hibákat okozhatnak (az alábbiakban látható), amikor a Hue használatával megtekintik a fürtön futó feladatok részleteit. A feladat részletei azonban akkor tekinthetők meg, ha a feladat befejeződött.

    Hue portal error sample message.

    Ennek oka egy ismert probléma. Kerülő megoldásként módosítsa az Ambarit úgy, hogy az aktív Resource Manager az elsődleges átjárócsomóponton is fusson.

  5. Hue a WebHDFS-t, míg a HDInsight-fürtök az Azure Storage-ot használják wasbs://. A szkriptművelethez használt egyéni szkript tehát telepíti a WebWasb-t, amely egy WebHDFS-kompatibilis szolgáltatás a WASB-vel való beszélgetéshez. Tehát annak ellenére, hogy a Hue portál a HDFS-t olyan helyeken mondja (például amikor az egeret a Fájlböngésző fölé helyezi), akkor is WASB-ként kell értelmezni.

Következő lépések

HDInsight-fürtök testreszabása szkriptműveletekkel