book

SQL para análise de dados

by Cathy Tanimura

April 2025

Intermediate to advanced

360 pages

10h 44m

Portuguese (Portugal, Brazil)

O'Reilly Media, Inc.

Book available

Read now

Unlock full access

Convenções utilizadas neste livroUtilizar exemplos de códigoAprendizagem em linha da O'ReillyComo contactar-nosAgradecimentos
O que é a análise de dados?Porquê SQL?O que é a SQL?Vantagens da SQLSQL versus R ou PythonSQL como parte do fluxo de trabalho de análise de dadosTipos de bases de dados e como trabalhar com elasBases de dados Row-StoreBancos de dados com armazenamento de colunasOutros tipos de infra-estruturas de dadosConclusão
Tipos de dadosTipos de dados da base de dadosEstruturado e não estruturadoDados quantitativos e qualitativosDados de primeira, segunda e terceira parteDados esparsosEstrutura da consulta SQLPerfilamento: DistribuiçõesHistogramas e frequênciasBinningn-TelhasDefinição de perfis: Qualidade dos dadosDetetar duplicadosDeduplicação com GROUP BY e DISTINCTPrepara-te: Limpeza de dadosLimpeza de dados com transformações CASEConversões de tipos e fundiçãoLidando com nulos: funções coalesce, nullif, nvlDados em faltaPrepara-te: Moldar os dadosPara que tipo de saída: BI, Visualização, Estatística, MLPivotar com instruções CASEDesvinculação com instruções UNIONFunções pivot e unpivotConclusão
Manipulações de data, data e horaConversões de fuso horárioConversões de formatos de data e de carimbo de data/horaData MatemáticaMatemática do tempoJunção de dados de diferentes fontesO conjunto de dados de vendas a retalhoTendências dos dadosTendências simplesComparação de componentesPercentagem do total de cálculosIndexação para ver a modificação percentual ao longo do tempoJanelas de tempo de rolamentoCálculo de janelas de tempo de rolamentoWindows de tempo variável com dados esparsosCálculo de valores acumuladosAnálise com sazonalidadeComparações entre períodos: YoY e MoMComparações de período a período: Mesmo mês em relação ao ano passadoComparação com vários períodos anterioresConclusão
Coortes: Um quadro de análise útilO conjunto de dados dos legisladoresRetençãoSQL para uma curva de retenção básicaAjuste de séries cronológicas para aumentar a precisão da retençãoCoortes derivadas da própria série cronológicaDefinição da coorte a partir de uma tabela separadaLidar com coortes esparsasDefinição de coortes a partir de datas diferentes da primeira dataAnálises de coortes relacionadasSobrevivênciaComportamento de devolução ou repetição de compraCálculos acumuladosAnálise de secção transversal, através de uma lente de coorteConclusão
Porquê a análise de texto com SQL?O que é a análise de texto?Porque é que a SQL é uma boa escolha para a análise de textoQuando a SQL não é uma boa escolhaO conjunto de dados sobre avistamentos de OVNIsCaraterísticas do textoAnálise de textoTransformações de textoEncontrar elementos em blocos de texto maioresJogos de coringas: GOSTA, GOSTACorrespondências exactas: IN, NOT INExpressões regularesConstruir e remodelar o textoConcatenaçãoReformular o textoConclusão
Capacidades e limites da SQL para a deteção de anomaliasO conjunto de dadosDeteção de valores atípicosOrdenação para encontrar anomaliasCálculo de percentis e desvios padrão para encontrar anomaliasGráficos para encontrar anomalias visualmenteFormas de anomaliasValores anómalosContagens ou frequências anómalasAnomalias decorrentes da ausência de dadosTratamento de anomaliasInvestigaçãoRemoçãoSubstituição por valores alternativosRedimensionamentoConclusão
Pontos fortes e limites da análise de experiências com SQLO conjunto de dadosTipos de experiênciasExperiências com resultados binários: O teste do qui-quadradoExperiências com resultados contínuos: O teste tDesafios das experiências e opções para recuperar experiências defeituosasAtribuição de variantesAnómalosTempo de boxeExperiências de exposição repetidaQuando as experiências controladas não são possíveis: Análises alternativasPré/Pós-análiseAnálise de experiências naturaisAnálise de populações em torno de um limiarConclusão
Quando utilizar SQL para conjuntos de dados complexosVantagens da utilização de SQLQuando é que deves construir em ETLQuando deves colocar a lógica noutras ferramentasCódigo OrganizaçãoComentáriosCapitalização, indentação, parênteses e outros truques de formataçãoArmazenamento do códigoOrganizar os cálculosCompreender a ordem da avaliação da cláusula SQLSubconsultasTabelas temporáriasExpressões de tabela comunsagrupamento de conjuntosGerir a dimensão do conjunto de dados e as preocupações com a privacidadeAmostragem com %, modReduzir a dimensionalidadePII e privacidade de dadosConclusão
Análise do funilChurn, Lapse e outras definições de saídaAnálise do cabazRecursosLivros e bloguesConjuntos de dadosConsiderações finais

Content preview from SQL para análise de dados

Capítulo 5. Análise de texto

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: translation-feedback@oreilly.com

Nos dois últimos capítulos, explorámos aplicações de datas e números com a análise de séries temporais e a análise de coortes. Mas os conjuntos de dados são muitas vezes mais do que apenas valores numéricos e marcas de tempo associadas. Desde atributos qualitativos a texto livre, os campos de caracteres estão muitas vezes carregados de informação potencialmente interessante. Embora as bases de dados sejam excelentes em cálculos numéricos, como contagem, soma e cálculo de médias, também são muito boas a efetuar operações em dados de texto.

Começarei este capítulo dando-te uma visão geral dos tipos de tarefas de análise de texto para as quais o SQL é bom, e daquelas para as quais outra linguagem de programação é uma melhor escolha. De seguida, apresento o nosso conjunto de dados de avistamentos de OVNIs. Depois, vamos entrar na codificação, cobrindo as caraterísticas e o perfil do texto, analisando os dados com SQL, fazendo várias transformações, construindo um novo texto a partir de partes e, finalmente, encontrando elementos dentro de blocos de texto maiores, incluindo com expressões regulares.

Porquê a análise de texto com SQL?

Entre os enormes volumes de dados gerados todos os dias, uma grande parte é constituída por texto: palavras, frases, parágrafos e até documentos mais longos. Os dados de texto utilizados para análise podem ...