Исключение нулевого указателя при загрузке XML в Hive

В настоящее время я сталкиваюсь с некоторыми проблемами при загрузке XML-файла в Hive с помощью hive-serde. Я следовал советам здесь, но я все еще получаю исключение нулевого указателя при попытке прочитать данные, которые загружались в куст через файл xml. Приведенный ниже SQL работает правильно, проблема возникает только при попытке чтения из таблицы.

Вот xml с некоторыми фиктивными значениями

    <?xml version="1.0"?><History-Group-Comm-CommB-DT-RBB-Work 
    xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance">
    <item id="HISTORY_6_GMT">
    <pxAddedByID>HUBINT</pxAddedByID>
    <pxAddedBySystem>CD</pxAddedBySystem>
    <pxHistoryForReference>GR</pxHistoryForReference>
    <pxInsName>GMT</pxInsName>
    <pxObjClass>Work</pxObjClass>
    <pxTimeCreated>2017-02-13T13:08:28.776Z</pxTimeCreated>
    <pyFlowKey>RULE-OBJ</pyFlowKey>
    <pyFlowName>pyStartCase</pyFlowName>
    <pyFlowType>pyStartCase</pyFlowType>
    <pyMessageKey>ItemCreated</pyMessageKey>
    <pyPerformer>HUB</pyPerformer>
    <pzInsKey>776 GMT</pzInsKey>
    </item>

и sql, загружающий xml, выглядит следующим образом

    add jar hdfs://DEVHDPVM01HA:8020/HADOOP/DASD_ACQ/common/lib/hivexmlserde-1.0.5.3.jar;


     DROP TABLE IF EXISTS test.test_tbl_stg;
     CREATE EXTERNAL TABLE test.test_tbl_stg  (
     ADDED_BY_ID STRING COMMENT 'pxAddedByID',
     ADDED_BY_SYSTEM STRING COMMENT 'pxAddedBySystem',
     HISTORY_FOR_REFERENCE STRING COMMENT '',
     INSERT_NAME STRING COMMENT '',
     OBJECT_CLASS STRING COMMENT '',
     TIME_CREATED STRING COMMENT '',
     FLOW_KEY STRING COMMENT '',
     FLOW_NAME STRING COMMENT '',
     FLOW_TYPE FLOAT COMMENT '',
     MESSAGE STRING COMMENT '',
     PERFORMER STRING COMMENT '',
     INSERT_KEY STRING COMMENT '' ) COMMENT 'Optional Table Comment'
     ROW FORMAT SERDE 'com.ibm.spss.hive.serde2.xml.XmlSerDe'
     WITH SERDEPROPERTIES (
     "column.xpath.ADDED_BY_ID"="/item/pxAddedByID/text()", 
     "column.xpath.ADDED_BY_SYSTEM"="/item/pxAddedBySystem/text()",
   "column.xpath.HISTORY_FOR_REFERENCE"="/item/pxHistoryForReference/text()",
    "column.xpath.INSERT_NAME"="/item/pxInsName/text()",
    "column.xpath.OBJECT_CLASS"="/item/pxObjClass/text()",
    "column.xpath.TIME_CREATED"="/item/pxTimeCreated/text()",
    "column.xpath.FLOW_KEY"="/item/pyFlowKey/text()",
    "column.xpath.FLOW_NAME"="/item/pyFlowName/text()",
    "column.xpath.FLOW_TYPE"="/item/pyFlowType/text()",
    "column.xpath.MESSAGE"="/item/pyMessageKey/text()",
    "column.xpath.PERFORMER"="/item/pyPerformer/text()",
    "column.xpath.INSERT_KEY"="/item/pzInsKey/text()")
    STORED AS
    INPUTFORMAT 'com.ibm.spss.hive.serde2.xml.XmlInputFormat'
    OUTPUTFORMAT 
    'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat'
    LOCATION '${stagingFolderPath}'
    TBLPROPERTIES ("xmlinput.start"="<item id=","xmlinput.end"="</item>");

Любые предложения относительно того, почему возникает это исключение нулевого указателя, приветствуются.


person DPEZ    schedule 14.08.2017    source источник


Ответы (1)


Преобразуйте этот тип данных поля FLOW_TYPE FLOAT COMMENT '' в FLOW_TYPE STRING COMMENT '',

из-за преобразования я думаю, что вы столкнулись с этой проблемой

person D-2020365    schedule 14.08.2017
comment
Вы были абсолютно правы, большое спасибо. Есть ли где-нибудь список, в котором подробно описаны типы полей, которые принимаются при обработке XML-файлов в Hive? - person DPEZ; 14.08.2017