Metodo evolutivo baseado em espacos de busca de baixa dimensionalidade para problemas de otimização contínua em larga escala

Abstract

A Otimização Global em Larga Escala (LSGO) tem sido um campo ativo de pesquisa, em parte devido às suas aplicações em áreas de ponta, como Deep Learning, Big Data e problemas complexos do mundo real, como criptografia de imagens e gerenciamento de tráfego em tempo real. A alta dimensionalidade apresenta um desafio significativo na resolução de problemas de otimização. A maldição da dimensionalidade refere-se à crescente dificuldade de encontrar soluções ótimas à medida que o número de dimensões do problema aumenta, tornando a questão desafiadora. Para abordar isso, esta tese propõe um método evolutivo denominado LSMDE (Evolução Diferencial baseada em Modelagem de Espaço de Baixa Dimensionalidade). O método LSMDE utiliza redução de dimensionalidade por meio da Decomposição em Valor Singular para construir um espaço de busca de baixa dimensionalidade a partir das soluções candidatas geradas por um algoritmo de evolução diferencial híbrido denominado GM-SHADE. Esse algoritmo incorpora um modelo de mistura gaussiana para melhor explorar o espaço de busca reduzido e mitigar a perda de informação ao mapear soluções de alta dimensionalidade para soluções de baixa dimensionalidade. Adicionalmente, o método proposto não exige conhecimento prévio da topologia do espaço de busca, tornando-o adaptável a diferentes problemas de LSGO. Esta tese buscou comparar o método proposto com as principais abordagens da literatura nos benchmarks mais reconhecidos para alta dimensionalidade, usando os critérios definidos pelo IEEE CEC Special Sessions and Competitions on Large-Scale Global Optimization. Para analisar a significância das diferenças observadas, foi utilizado o teste estatístico de Kruskal-Wallis com a igual 0,05. Experimentos realizados indicam a superioridade do LSMDE em diferentes características de espaços de busca, especialmente para funções parcialmente separáveis. Também se observou uma melhor performance do LSMDE em condições em que o número de avaliações da função objetivo é restrito, facilitando sua utilização em ambientes onde os recursos computacionais são limitados. Além disso, esta tese também realizou um teste de escalabilidade ao comparar o desempenho do LSMDE e seus principais competidores à medida que a dimensionalidade do problema aumenta. Para essa tarefa, utilizou-se a suíte de teste bbob-largescale. Os resultados demonstram a robustez do LSMDE ao aumento da dimensionalidade, alcançando uma taxa de acerto ao valor-alvo entre 40% e 80%.

Abstract: Large-Scale Global Optimization (LSGO) has been an active research field, partly due to its applications in cutting-edge areas such as Deep Learning, Big Data, and real-world complex problems like image encryption and real-time traffic management. High dimensionality presents a significant challenge in solving optimization problems. The curse of dimensionality refers to the increasing difficulty of finding optimal solutions as the number of problem dimensions increases, making the issue challenging. In response to this challenge, this thesis proposes an evolutionary method named LSMDE (Low-Dimensional Space Modeling-based Differential Evolution). LSMDE uses dimensionality reduction through Singular Value Decomposition to construct a low dimensionality search space from the candidate solutions generated by a hybrid differential evolution algorithm called GM-SHADE. This algorithm incorporates a Gaussian mixture model to better explore the reduced search space and mitigate information loss when mapping high dimensionality solutions to low-dimensionality ones. Additionally, the proposed method does not require prior knowledge of the search space topology, making it adaptable to various LSGO problems. This thesis sought to compare the proposed method with the main approaches in the literature on the most recognized benchmarks for high dimensionality, using the criteria defined by the IEEE CEC Special Sessions and Competitions on Large-Scale Global Optimization. To analyze the significance of the observed differences, the Kruskal-Wallis statistical test was used with a set at 0.05. Experiments conducted indicate LSMDE?s superiority in different search space characteristics, especially for partially separable functions. A better performance of LSMDE was also observed in conditions where the number of objective function evaluations is limited, facilitating its use in environments where computational resources are constrained. Furthermore, this thesis also conducted a scalability test by comparing LSMDE?s performance and its main competitors as the problem?s dimensionality increases. For this task, the bbob-largescale test suite was used. The results demonstrate LSMDE?s robustness to increasing dimensionality, achieving a success rate to the target value between 40% and 80%.