Publicação
Data Lakes em ambientes híbridos Cloud/Edge
| Resumo: | A análise dos dados tem sido, tradicionalmente, realizada em servidores na nuvem, onde a capacidade de armazenamento e de processamento são quase ilimitadas. Em contrapartida, os dispositivos periféricos têm severas limitações tanto de armazenamento como de processamento. No entanto, estes dispositivos encontram-se mais próximos do local onde os dados são gerados. Por causa disso, estes são, usualmente, utilizados para cargas de trabalho transacionais onde a confiabilidade e interatividade são fulcrais. Devido às limitações dos dispositivos periféricos, os dados são, geralmente, extraídos periodicamente para a nuvem onde são depois armazenados e processados. De modo a permitir a análise exploratória de dados heterogéneos, é comum utilizar uma infraestrutura Data Lake que permite gerir dados em formato bruto de múltiplas fontes. No entanto, transferir todos os dados coletados para a nuvem é inviável devido à limitada capacidade da rede que não tem conseguido acompanhar o crescimento do volume de dados coletados. Esta dissertação ultrapassa estes desafios ao implementar um componente middleware capaz de armazenar os dados previamente transmitidos na nuvem e propaga partes da interrogação para a periferia. Deste modo, consegue-se reduzir o volume de dados transferido ao enviar, idealmente, apenas uma vez os dados necessários para responder aos pedidos. Além disso, esta solução equilibra o impacto na rede e o custo computacional na periferia de modo a minimizar o tempo de execução. |
|---|---|
| Autores principais: | Costa, Daniel Vilar da |
| Assunto: | Ambiente Cloud/Edge Sincronização Replicação Federação de dados Análise de dados exploratória Cloud/Edge environment Synchronization Replication Data federation Exploratory data analysis |
| Ano: | 2022 |
| País: | Portugal |
| Tipo de documento: | dissertação de mestrado |
| Tipo de acesso: | acesso aberto |
| Instituição associada: | Universidade do Minho |
| Idioma: | português |
| Origem: | RepositóriUM - Universidade do Minho |
Registos relacionados
article Adaptive database synchronization for an online analytical cloud-to-edge continuum
por: Costa, Daniel
Publicado em: (2022)
por: Costa, Daniel
Publicado em: (2022)
school EDGE-CoT: next generation cloud computing and its impact on business
por: Koltyukova, Veronika
Publicado em: (2021)
por: Koltyukova, Veronika
Publicado em: (2021)
school Monitoring in Cloud and Edge Systems
por: Capitão, Diogo Rodrigues Monteiro da Silva
Publicado em: (2024)
por: Capitão, Diogo Rodrigues Monteiro da Silva
Publicado em: (2024)
school Proposta de framework para cloud computing em dispositivos móveis
por: Silva, Jorge Daniel Dias
Publicado em: (2012)
por: Silva, Jorge Daniel Dias
Publicado em: (2012)
article Distributed and decentralized orchestration of containers on edge clouds
por: Pires, André
Publicado em: (2021)
por: Pires, André
Publicado em: (2021)
school Ambiente IoT híbrido seguro
por: LEMOS, PEDRO VASSALO
Publicado em: (2025)
por: LEMOS, PEDRO VASSALO
Publicado em: (2025)
school Gestão de micro-serviços na Cloud e Edge
por: Carrusca, André Vasconcelos
Publicado em: (2018)
por: Carrusca, André Vasconcelos
Publicado em: (2018)
school Face-based Photo Indexing in Edge Computing Environments
por: Pregal, Filipe Lourenço Lopes
Publicado em: (2024)
por: Pregal, Filipe Lourenço Lopes
Publicado em: (2024)
school Latency sensitive services in edge clouds
por: Alves, André Miguel Sampaio
Publicado em: (2024)
por: Alves, André Miguel Sampaio
Publicado em: (2024)
article Shifting capsule networks from the cloud to the deep edge
por: Costa, Miguel Ângelo Peixoto
Publicado em: (2022)
por: Costa, Miguel Ângelo Peixoto
Publicado em: (2022)
school Computing continuum for a federated network fabric
por: Pinto, Mariana Isabel da Rocha
Publicado em: (2023)
por: Pinto, Mariana Isabel da Rocha
Publicado em: (2023)
article The foggy frontier: exploring the fog and edge computing for online games
por: Sousa, João Paulo
Publicado em: (2024)
por: Sousa, João Paulo
Publicado em: (2024)
school Scalable Consistency for Data Replication
por: Fouto, Pedro Filipe Veiga
Publicado em: (2024)
por: Fouto, Pedro Filipe Veiga
Publicado em: (2024)
article Secure services integration and edge computing for effective beekeeping
por: Ferreira, Luís
Publicado em: (2021)
por: Ferreira, Luís
Publicado em: (2021)
school Code offload in edge environments for cellular networks
por: Ramalho, Tiago André Ribeiro
Publicado em: (2019)
por: Ramalho, Tiago André Ribeiro
Publicado em: (2019)
school The Case for Generic Edge Based Services
por: Jesus, Diogo Alexandre Matos de
Publicado em: (2023)
por: Jesus, Diogo Alexandre Matos de
Publicado em: (2023)
school High availability architecture for cloud based databases
por: Abreu, Hugo Miguel Ferreira
Publicado em: (2019)
por: Abreu, Hugo Miguel Ferreira
Publicado em: (2019)
article International revenue share fraud prediction on the 5G edge using federated learning
por: Ferreira, Luís Fernando Faria
Publicado em: (2023)
por: Ferreira, Luís Fernando Faria
Publicado em: (2023)
article A federated machine learning approach to detect international revenue share fraud on the 5G edge
por: Ferreira, Luís
Publicado em: (2022)
por: Ferreira, Luís
Publicado em: (2022)
article AIDA-DB: a data management architecture for the edge and cloud continuum
por: Faria, Nuno
Publicado em: (2022)
por: Faria, Nuno
Publicado em: (2022)
school Fog Computing
por: Gonçalves, Nuno Tiago Melo
Publicado em: (2019)
por: Gonçalves, Nuno Tiago Melo
Publicado em: (2019)
article MEC vs MCC: análise do desempenho de aplicações interativas e de tempo real
por: Soares, Micael
Publicado em: (2020)
por: Soares, Micael
Publicado em: (2020)
school DEPSKY: SISTEMA DE ARMAZENAMENTO EM CLOUDS TOLERANTE A INTRUSÕES
por: Quaresma, Bruno Miguel Maia Rovisco
Publicado em: (2010)
por: Quaresma, Bruno Miguel Maia Rovisco
Publicado em: (2010)
article Towards intra-datacentre high-availability in CloudDBAppliance
por: Ferreira, Luis
Publicado em: (2019)
por: Ferreira, Luis
Publicado em: (2019)
school Service deployment on multi-access edge computing environments
por: Santos, David Manuel Ribeiro
Publicado em: (2018)
por: Santos, David Manuel Ribeiro
Publicado em: (2018)
article Fault-Tolerance in the Scope of Cloud Computing
por: Rehman, A. U.
Publicado em: (2022)
por: Rehman, A. U.
Publicado em: (2022)
groups Leveraging context-awareness to better support the IoT cloud-edge continuum
por: Carvalho, Liliana I.
Publicado em: (2020)
por: Carvalho, Liliana I.
Publicado em: (2020)
article Federated Learning for Energy-balanced Client Selection in Mobile Edge Computing
por: Zheng, Jingjing
Publicado em: (2021)
por: Zheng, Jingjing
Publicado em: (2021)
article Energy-aware and adaptive fog storage mechanism with data replication ruled by spatio-temporal content popularity
por: Vales, R.
Publicado em: (2019)
por: Vales, R.
Publicado em: (2019)
school Edge computing and 5G network integration for mobility-aware service deployment
por: Gameiro, João Pedro Costa
Publicado em: (2023)
por: Gameiro, João Pedro Costa
Publicado em: (2023)
school Benchmark de tecnologias de cloud data warehouse existentes no mercado atual
por: Gonçalves, Renata do Carmo
Publicado em: (2022)
por: Gonçalves, Renata do Carmo
Publicado em: (2022)
school Sincronização e Reconciliação de Dados em Base de Dados
por: Cawende, Orlando José Jamba
Publicado em: (2018)
por: Cawende, Orlando José Jamba
Publicado em: (2018)
school Data Warehousing in the Cloud
por: Ferreira, Pedro Joel Fernandes
Publicado em: (2017)
por: Ferreira, Pedro Joel Fernandes
Publicado em: (2017)
article Stable hydrogenated graphene edge types: Normal and reconstructed Klein edges
por: Wagner, Philipp
Publicado em: (2013)
por: Wagner, Philipp
Publicado em: (2013)
article Element-wise fracture algorithm based on rotation of edges
por: Areias, P.
Publicado em: (2014)
por: Areias, P.
Publicado em: (2014)
school Tolerância a Falhas em Infraestrutura de Cloud
por: Ferreira, José Danilson dos Reis
Publicado em: (2019)
por: Ferreira, José Danilson dos Reis
Publicado em: (2019)
article Cloud algebra : an innovative approach for managing resources, services and big data on clouds
por: Ahad, Mohd Abdul
Publicado em: (2020)
por: Ahad, Mohd Abdul
Publicado em: (2020)
school Exploração de tecnologias digitais para personalização e imersão em treinos indoor
por: Pereira, Hélder Miguel Gonçalves
Publicado em: (2025)
por: Pereira, Hélder Miguel Gonçalves
Publicado em: (2025)
school Detection of the navigable road limits by analysis of the accumulated point cloud density
por: Rato, Daniela Ferreira Pinto Dias
Publicado em: (2019)
por: Rato, Daniela Ferreira Pinto Dias
Publicado em: (2019)
article Big data in cloud: a data architecture
por: Sá, Jorge Vaz de Oliveira e
Publicado em: (2015)
por: Sá, Jorge Vaz de Oliveira e
Publicado em: (2015)
Registos relacionados
-
article Adaptive database synchronization for an online analytical cloud-to-edge continuum
por: Costa, Daniel
Publicado em: (2022) -
school EDGE-CoT: next generation cloud computing and its impact on business
por: Koltyukova, Veronika
Publicado em: (2021) -
school Monitoring in Cloud and Edge Systems
por: Capitão, Diogo Rodrigues Monteiro da Silva
Publicado em: (2024) -
school Proposta de framework para cloud computing em dispositivos móveis
por: Silva, Jorge Daniel Dias
Publicado em: (2012) -
article Distributed and decentralized orchestration of containers on edge clouds
por: Pires, André
Publicado em: (2021)