¿Se puede hacer PIVOT en ClickHouse? - ClickHouse Documentation

Introducción

ClickHouse no tiene un operador PIVOT, pero podemos lograr un comportamiento similar usando combinadores de funciones de agregación y, en particular, los que tienen el sufijo -Map. En este artículo, veremos cómo hacerlo. También hay un video que cubre el mismo contenido y que puedes ver a continuación:

Comprender los combinadores de funciones de agregación

Empecemos con un ejemplo sencillo. Vamos a usar clickhouse-local, que puedes ejecutar con lo siguiente:

clickhouse -m --output_format_pretty_row_numbers=0

La siguiente consulta invoca la función sumMap, que toma un mapa y suma los valores de cada clave:

SELECT sumMap(map('ClickHouse', 1, 'ClickBench', 2));

┌─sumMap(map('ClickHouse', 1, 'ClickBench', 2))─┐
│ {'ClickBench':2,'ClickHouse':1}               │
└───────────────────────────────────────────────┘

Este no es un ejemplo especialmente interesante, ya que devuelve el mismo mapa que le pasamos. Llamemos ahora a sumMap con varias filas de mapas;

WITH values AS (
  SELECT map('ClickHouse', 3) AS value
  UNION ALL
  SELECT map('ClickBench', 2, 'ClickHouse', 4) AS value
)
SELECT sumMap(value)
FROM values;

┌─sumMap(value)───────────────────┐
│ {'ClickBench':2,'ClickHouse':7} │
└─────────────────────────────────┘

La clave ClickHouse apareció en ambas filas y sus valores se han sumado. La clave ClickBench solo estaba presente en una línea, por lo que al sumar un único valor se obtiene ese mismo valor. También podemos usar maxMap para encontrar los valores máximos por clave:

WITH values AS (
  SELECT map('ClickHouse', 3) AS value
  UNION ALL
  SELECT map('ClickBench', 2, 'ClickHouse', 4) AS value
)
SELECT maxMap(value)
FROM values;

┌─maxMap(value)───────────────────┐
│ {'ClickBench':2,'ClickHouse':4} │
└─────────────────────────────────┘

O podemos usar avgMap para obtener el valor promedio de cada clave:

WITH values AS (
  SELECT map('ClickHouse', 3) AS value
  UNION ALL
  SELECT map('ClickBench', 2, 'ClickHouse', 4) AS value
)
SELECT avgMap(value)
FROM values;

┌─avgMap(value)─────────────────────┐
│ {'ClickBench':2,'ClickHouse':3.5} │
└───────────────────────────────────┘

Esperamos que esto te haya dado una idea de cómo funcionan estos combinadores de funciones.

Aplicación en un caso real: conjunto de datos de precios de la vivienda en el Reino Unido

Ahora vamos a usarlos con un conjunto de datos más grande en el Playground de SQL de ClickHouse. Podemos conectarnos al playground con clickhouse-client:

clickhouse client -m \
  -h sql-clickhouse.clickhouse.com \
  -u demo \
  --secure

Vamos a consultar la tabla uk_price_paid, así que exploremos los datos de esa tabla:

SELECT * FROM uk.uk_price_paid LIMIT 1 FORMAT Vertical;

Row 1:
──────
price:     145000
date:      2008-11-19
postcode1:
postcode2:
type:      semi-detached
is_new:    0
duration:  leasehold
addr1:
addr2:
street:    CURLEW DRIVE
locality:  SCARBOROUGH
town:      SCARBOROUGH
district:  SCARBOROUGH
county:    NORTH YORKSHIRE
category:  0

Podemos ver más arriba que la tabla contiene varios campos relacionados con la compraventa de viviendas en el Reino Unido.

Agrupación y cálculo de agregados por década

Calculemos los precios medianos agrupados por condado para cada década del conjunto de datos:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices
FROM uk.uk_price_paid
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices───────────────────────────────────────┐
│ GREATER LONDON     │ {1990:89972.5,2000:215000,2010:381500,2020:485000} │
│ TYNE AND WEAR      │ {1990:46500,2000:93000,2010:130000,2020:139000}    │
│ WEST MIDLANDS      │ {1990:50000,2000:110000,2010:149950,2020:185000}   │
│ GREATER MANCHESTER │ {1990:47000,2000:97000,2010:141171,2020:178000}    │
│ MERSEYSIDE         │ {1990:46750,2000:94972.5,2010:128000,2020:149000}  │
│ HERTFORDSHIRE      │ {1990:86500,2000:193000,2010:315000,2020:415000}   │
│ WEST YORKSHIRE     │ {1990:48995,2000:99950,2010:139000,2020:164950}    │
│ BRIGHTON AND HOVE  │ {1990:70000,2000:173000,2010:288000,2020:387000}   │
│ DORSET             │ {1990:76500,2000:182000,2010:250000,2020:315000}   │
│ HAMPSHIRE          │ {1990:79950,2000:177500,2010:260000,2020:335000}   │
    └────────────────────┴────────────────────────────────────────────────────┘

Filtrar resultados

Podemos filtrar los resultados para incluir solo datos de 2010 en adelante:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices────────────────┐
│ GREATER LONDON     │ {2010:384975,2020:485919.5} │
│ TYNE AND WEAR      │ {2010:130000,2020:140000}   │
│ WEST MIDLANDS      │ {2010:146500,2020:185000}   │
│ GREATER MANCHESTER │ {2010:140000,2020:177500}   │
│ MERSEYSIDE         │ {2010:130000,2020:150000}   │
│ HERTFORDSHIRE      │ {2010:315000,2020:415000}   │
│ WEST YORKSHIRE     │ {2010:140000,2020:162500}   │
│ BRIGHTON AND HOVE  │ {2010:287500,2020:387000}   │
│ DORSET             │ {2010:255750,2020:315000}   │
│ HAMPSHIRE          │ {2010:265000,2020:330000}   │
    └────────────────────┴─────────────────────────────┘

Combinación de varias agregaciones

Y si queremos encontrar el precio máximo por década, podemos hacerlo con la función maxMap que vimos antes:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices,
    maxMap(map(year, price)) AS maxPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices──────────────┬─maxPrices───────────────────────┐
│ GREATER LONDON     │ {2010:385000,2020:485250} │ {2010:594300000,2020:630000000} │
│ TYNE AND WEAR      │ {2010:130000,2020:141000} │ {2010:448300979,2020:93395000}  │
│ WEST MIDLANDS      │ {2010:149000,2020:184250} │ {2010:415000000,2020:104500000} │
│ GREATER MANCHESTER │ {2010:140000,2020:175000} │ {2010:107086856,2020:319186000} │
│ MERSEYSIDE         │ {2010:129950,2020:150000} │ {2010:300000000,2020:93395000}  │
│ HERTFORDSHIRE      │ {2010:315000,2020:415000} │ {2010:254325163,2020:93395000}  │
│ WEST YORKSHIRE     │ {2010:138500,2020:165000} │ {2010:246300000,2020:109686257} │
│ BRIGHTON AND HOVE  │ {2010:285000,2020:387000} │ {2010:200000000,2020:71540000}  │
│ DORSET             │ {2010:250000,2020:315000} │ {2010:150000000,2020:20230000}  │
│ HAMPSHIRE          │ {2010:264000,2020:330000} │ {2010:150000000,2020:48482500}  │
    └────────────────────┴───────────────────────────┴─────────────────────────────────┘

Aplicación de funciones a los valores del mapa

Como alternativa, podemos calcular el precio medio con avgMap. Estos valores tienen demasiados decimales, algo que podemos corregir usando la función mapApply para llamar a la función floor en cada valor del mapa:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    medianMap(map(year, price)) AS medianPrices,
    mapApply((k, v) -> (k, floor(v)), avgMap(map(year, price))) AS avgPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10;

    ┌─county─────────────┬─medianPrices──────────────┬─avgPrices─────────────────┐
│ GREATER LONDON     │ {2010:382000,2020:490000} │ {2010:626091,2020:807240} │
│ TYNE AND WEAR      │ {2010:127000,2020:140000} │ {2010:176955,2020:225770} │
│ WEST MIDLANDS      │ {2010:148500,2020:183000} │ {2010:204128,2020:257226} │
│ GREATER MANCHESTER │ {2010:140000,2020:177500} │ {2010:195592,2020:251165} │
│ MERSEYSIDE         │ {2010:127995,2020:150000} │ {2010:182194,2020:206062} │
│ HERTFORDSHIRE      │ {2010:317500,2020:415000} │ {2010:414134,2020:529409} │
│ WEST YORKSHIRE     │ {2010:140000,2020:164500} │ {2010:185121,2020:234870} │
│ BRIGHTON AND HOVE  │ {2010:285000,2020:387000} │ {2010:372285,2020:527184} │
│ DORSET             │ {2010:250000,2020:315000} │ {2010:305581,2020:370739} │
│ HAMPSHIRE          │ {2010:265000,2020:330000} │ {2010:335945,2020:425196} │
    └────────────────────┴───────────────────────────┴───────────────────────────┘

Agrupación flexible: condados, distritos y códigos postales

Probemos a agrupar por algunos campos diferentes. Esta vez vamos a calcular el precio mediano por década, agrupado por condado y distrito:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    county,
    district,
    medianMap(map(year, price)) AS medianPrices
FROM uk.uk_price_paid
WHERE year >= 2010
GROUP BY ALL
ORDER BY max(price) DESC
LIMIT 10

    ┌─county─────────────┬─district───────────────┬─medianPrices────────────────┐
│ GREATER LONDON     │ CROYDON                │ {2010:298475,2020:400000}   │
│ GREATER LONDON     │ CITY OF WESTMINSTER    │ {2010:800000,2020:935000}   │
│ GREATER LONDON     │ SOUTHWARK              │ {2010:437000,2020:540000}   │
│ TYNE AND WEAR      │ NEWCASTLE UPON TYNE    │ {2010:144000,2020:162500}   │
│ WEST MIDLANDS      │ WALSALL                │ {2010:137450,2020:162000}   │
│ GREATER LONDON     │ CITY OF LONDON         │ {2010:725875,2020:840000}   │
│ GREATER LONDON     │ HILLINGDON             │ {2010:329125,2020:439000}   │
│ GREATER MANCHESTER │ MANCHESTER             │ {2010:144972.5,2020:190000} │
│ GREATER LONDON     │ HAMMERSMITH AND FULHAM │ {2010:622250,2020:750000}   │
│ GREATER LONDON     │ ISLINGTON              │ {2010:500000,2020:640000}   │
    └────────────────────┴────────────────────────┴─────────────────────────────┘

También podríamos optar por agrupar por año y luego concatenar postcode1 y postcode2 en el mapa:

WITH year(toStartOfInterval(date, toIntervalYear(10))) AS year
SELECT
    year,
    medianMap(map(postcode1 || ' ' || postcode2, price)) AS medianPrices
FROM uk.uk_price_paid
WHERE postcode1 LIKE 'NP1'
GROUP BY ALL;

   ┌─year─┬─medianPrices────────────────────────────────────────────────────────┐
1. │ 1990 │ {'NP1 4PB':9000}                                                    │
2. │ 2000 │ {'NP1 4SR':28475,'NP1 7HZ':200000}                                  │
3. │ 2010 │ {'NP1 4PB':5000,'NP1 4QJ':1075000,'NP1 4SR':58000,'NP1 8BR':200000} │
4. │ 2020 │ {'NP1 5DW':140000}                                                  │
   └──────┴─────────────────────────────────────────────────────────────────────┘

​Introducción

​Comprender los combinadores de funciones de agregación

​Aplicación en un caso real: conjunto de datos de precios de la vivienda en el Reino Unido

​Agrupación y cálculo de agregados por década

​Filtrar resultados

​Combinación de varias agregaciones

​Aplicación de funciones a los valores del mapa

​Agrupación flexible: condados, distritos y códigos postales