百度智能云

百度智能云百度智能云
最佳实践 > CDN 日志提取中转(ETL)
CDN 日志提取中转(ETL)
  • 概览
  • 需求场景
  • 方案概述
  • 配置步骤
  • 定义 BKAFKA Source 表
  • 定义 BKAFKA / BOS Sink 表
  • 编写数据提取DML语句
  • 相关产品

CDN 日志提取中转(ETL)

更新时间:

概览

用户对 CDN 日志进行提取中转,属于 ETL 场景, 用于数据的实时清洗、归并和结构化。

需求场景

所有的 CDN 日志通过 flume 直接推送到 百度消息服务(BKAFKA)中作为流式计算 source , 在我们 BSC 中创建 SPARK_STREAM/SQL 类型的作业用于 CDN 日志的提取中转,并实时将结果写到 百度消息服务(BKAFKA)或 对象存储(BOS)当中,用户可以对 sink 端的 BKAFKA / BOS 进行进一步的处理。

方案概述

服务器 → BKAFKA → BSC →; BKAFKA / BOS → 其他

配置步骤

一个完整的 Spark SQL 作业由 source 表、sink 表和 DML 语句构成。

定义 BKAFKA Source 表

```SQL label=SPARK
CREATE TABLE source_kafka_table (
    `prefix` STRING,
    `region` STRING,
    `userIdSrc` STRING,
    `clusterNameSrc` STRING,
    `transDurationSrc` DOUBLE,
    `srcDurationSrc` STRING,
    `ts` BIGINT
) WITH (
    'connector.type' = 'BKAFKA',
    'format.encode' = 'CSV',
    'format.attributes.field-delimiter' = ' ',
    'connector.topic' = 'xxxxxxxxx__bsc-source',
    'connector.properties.bootstrap.servers' = 'kafka.bd.baidubce.com:9071',
    'connector.properties.ssl.filename' = 'kafka-key_bd.zip'
);
```

定义 BKAFKA / BOS Sink 表

```SQL label= SPARK BKAFKA
CREATE TABLE sink_table (
    `timestamp` TIMESTAMP,
    `region` STRING,
    `userIdSrc` STRING,
    `clusterNameSrc` STRING
) WITH (
    'connector.type' = 'BKAFKA',
    'format.encode' = 'CSV',
    'format.attributes.field-delimiter' = ',',
    'connector.topic' = 'xxxxxxxxx__bsc-source',
    'connector.properties.bootstrap.servers' = 'kafka.bd.baidubce.com:9071',
    'connector.properties.ssl.filename' = 'kafka-key_bd.zip'
);
```

```SQL label= SPARK BOS
CREATE TABLE sink_table (
    `timestamp` TIMESTAMP,
    `region` STRING,
    `userIdSrc` STRING,
    `clusterNameSrc` STRING
) WITH (
    'connector.type' = 'BOS',
    'format.encode' = 'JSON',
    'connector.path' = 'bos://asc-sandbox-su/bos-source/json/'
);
```

编写数据提取DML语句

根据 prefix 对日志内容进行提取,并存放到下游的云服务中,为之后的其他处理做数据清洗。

```SQL label=SPARK
INSERT INTO
    sink_table outputmode append
SELECT
    from_unixtime(`ts`/1000-(`ts`/1000)%60,'yyyy-MM-dd HH') AS `timestamp`,
    `region`,
    `userIdSrc`,
    `clusterNameSrc`
FROM
    source_kafka_table
WHERE
    prefix = 'xxxxxxxx';
```

相关产品

消息服务 for Kafka对象存储 BOS