Document details

Esta tese tem como principal objetivo investigar a utilização de modelos de linguagem como mecanismos de otimização heurística, explorando a sua capacidade para gerar, avaliar e aperfeiçoar soluções em espaços de procura complexos. Em particular, pretende-se estudar de que forma estes modelos podem apoiar o treino e a descoberta de redes neuronais artificiais quando a função de custo não é necessariamente diferenciável, podendo antes ser avaliada de forma iterativa ao longo do processo de otimização. A motivação central deste trabalho surge da possibilidade de formular problemas de otimização, e em especial o problema de Neural Architecture Search, como problemas de linguagem. Nesta perspetiva, arquiteturas neuronais, trajetórias de decisão ou soluções candidatas podem ser representadas por sequências de unidades discretas, tais como palavras, caracteres ou símbolos previamente definidos. Esta formulação permite aproximar a procura de arquiteturas de uma tarefa de Neural Machine Translation, na qual um modelo aprende a produzir sequências válidas e progressivamente mais adequadas ao objetivo pretendido. Para concretizar esta abordagem, são desenvolvidas e avaliadas diferentes metodologias de treino baseadas em Reinforcement Learning. O trabalho aborda dois problemas práticos principais. O primeiro é o problema do caixeiro viajante, utilizado como etapa intermédia para estudar a estabilidade do treino, a qualidade das soluções geradas e o comportamento dos modelos em tarefas de otimização combinatória. O segundo é a aplicação de Neural Architecture Search à geração de classificadores profundos multi-ramos para análise de sentimento, tendo como entrada texto em língua inglesa e como saída a classificação de sentimento do conjunto de dados IMDb. A partir das experiências realizadas, esta tese procura demonstrar a validade da metodologia proposta, avaliar as suas limitações e analisar a sua competitividade face ao estado da arte. Os resultados obtidos indicam que a representação linguística de problemas de otimização pode constituir uma estratégia promissora para automatizar a procura de soluções em domínios onde métodos tradicionais baseados em gradientes são difíceis de aplicar diretamente; Heuristic optimization and search space exploration using semantic encoding and neural architectures - Abstract: This thesis investigates the use of language models as mechanisms for heuristic optimization, exploring their ability to generate, evaluate, and refine solutions in complex search spaces. In particular, it studies how these models can support the training and discovery of artificial neural networks in settings where the cost function is not necessarily differentiable, but can instead be evaluated iteratively throughout the optimization process. The central motivation of this work arises from the possibility of formulating optimization problems, and especially the Neural Architecture Search problem, as language modelling problems. From this perspective, neural architectures, decision trajectories, or candidate solutions can be represented as sequences of discrete units, such as words, characters, or previously defined symbols. This formulation brings architecture search closer to a Neural Machine Translation task, in which a model learns to produce valid sequences that become progressively more aligned with the desired objective. To implement this approach, different training methodologies based on Reinforcement Learning are developed and evaluated. The thesis addresses two main practical problems. The first is the Traveling Salesman Problem, which is used as an intermediate benchmark to study training stability, the quality of the generated solutions, and the behaviour of the models in combinatorial optimization tasks. The second is the application of Neural Architecture Search to the generation of deep multi-branch classifiers for sentiment analysis, using English-language text as input and the sentiment label of the IMDb dataset as output. Based on the conducted experiments, this thesis aims to demonstrate the validity of the proposed methodology, assess its limitations, and analyse its competitiveness with respect to the state of the art. The results indicate that the linguistic representation of optimization problems can provide a promising strategy for automating the search for solutions in domains where traditional gradient-based methods are difficult to apply directly.