Contributions to derivative-free optimization: an exact penalty method and decompositions for distributed control

Abstract

Esta tese estende métodos de decomposição para problemas estáticos e controle de sistemas dinâmicos. Um método de penalidade l_1 é proposto para otimização de propósito geral em que não se tem acesso à derivada da função objetivo ou das restrições. O método é baseado em região de confiança, em que o objetivo e as restrições são aproximados por polinômios quadráticos. Os passos são calculados no espaço ortogonal às restrições ativas. O método teve desempenho rápido em experimentos numéricos. Frequentemente métodos de decomposição empregam um esquema de otimização multinível. Um novo algoritmo é proposto para tratar especificamente os problemas dos níveis superiores. O algoritmo constrói modelos de segunda ordem para guiar melhor a busca pelo ótimo. Regressão é usada para filtrar o ruído causado da solução inexata dos pro- blemas nos níveis inferiores, como ocorre com o emprego de métodos de otimização sem derivada. Algumas formulações para aplicação de métodos de decomposição a controle preditivo baseado em modelo são propostas.

Abstract: This thesis extends decomposition methods for derivative-free static optimization and distributed control of dynamic systems. A general purpose l_1-penalty method is proposed for optimization in the absence of derivatives for objective and constraints. The method follows the trust-region framework, with objective and constraints approximated by quadratic polynomials, and steps calculated within the null space of active constraints. The method performed fast in numerical experiments. Often decomposition methods for optimization employ a multilevel optimization scheme. A new algorithm is proposed to specially handle the upper-level problems. The algorithm builds second-order models to better guide the search for an optimum. Regression is used to diminish the noise caused from the inexact solution of problems on the lower levels, such as what occurs with derivative-free optimization. Some formulations are proposed for the application of decomposition methods to model predictive control.