Publicação
Autoencoders lineares e autoencoders não lineares (ReLU)
| Resumo: | Este trabalho é dedicado ao estudo de autoencoders lineares, onde se destacam as suas ligações com a técnica PCA e com autoencoders não lineares, nomeadamente, usando a função de ativação ReLU. Ao longo desta dissertação, são demonstrados diversos resultados sobre esta temática, através de diversas simplificações e hipóteses adicionais. É ainda elaborada uma análise numérica que visa corroborar os resultados abordados ao longo do documento. Como principais destaques deste trabalho, pode-se enunciar o facto de que, para diversas bases de dados, é possível calcular uma solução ótima, ou seja, uma solução que atinge o valor mínimo que a loss function associada ao autoencoder consegue apresentar. Em particular, consideramos cenários com bases de dados de atributos não negativos, bem como a situação em que se assume que a base de dados é regular. E ainda de salientar a criação de novas propostas de algoritmos, em particular no contexto de autoencoders ReLU, que proporcionam muito boas aproximações das soluções ótimas com um baixo custo computacional em comparação aos tradicionais métodos de treino dos autoencoders com recurso as principais bibliotecas de Python. |
|---|---|
| Autores principais: | Teixeira, Rui Pedro Silva |
| Assunto: | Machine learning PCA Autoencoder linear Autoencoder ReLU Linear autoencoder |
| Ano: | 2020 |
| País: | Portugal |
| Tipo de documento: | dissertação de mestrado |
| Tipo de acesso: | acesso aberto |
| Instituição associada: | Universidade do Minho |
| Idioma: | português |
| Origem: | RepositóriUM - Universidade do Minho |
| Resumo: | Este trabalho é dedicado ao estudo de autoencoders lineares, onde se destacam as suas ligações com a técnica PCA e com autoencoders não lineares, nomeadamente, usando a função de ativação ReLU. Ao longo desta dissertação, são demonstrados diversos resultados sobre esta temática, através de diversas simplificações e hipóteses adicionais. É ainda elaborada uma análise numérica que visa corroborar os resultados abordados ao longo do documento. Como principais destaques deste trabalho, pode-se enunciar o facto de que, para diversas bases de dados, é possível calcular uma solução ótima, ou seja, uma solução que atinge o valor mínimo que a loss function associada ao autoencoder consegue apresentar. Em particular, consideramos cenários com bases de dados de atributos não negativos, bem como a situação em que se assume que a base de dados é regular. E ainda de salientar a criação de novas propostas de algoritmos, em particular no contexto de autoencoders ReLU, que proporcionam muito boas aproximações das soluções ótimas com um baixo custo computacional em comparação aos tradicionais métodos de treino dos autoencoders com recurso as principais bibliotecas de Python. |
|---|