Evolving multitask models for machine learning [recurso eletrônico] = Modelos evolutivos multitarefa para aprendizado de máquina
Amanda Ortega de Castro Ayres
TESE
Inglês
T/UNICAMP Ay74e
[Modelos evolutivos multitarefa para aprendizado de máquina]
Campinas, SP : [s.n.], 2021.
1 recurso online (115 p.) : il., digital, arquivo PDF.
Orientador: Fernando José Von Zuben
Tese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação
Resumo: Esta tese de doutorado oferece contribuições para os sistemas evolutivos, uma área de Aprendizado de Máquina em que a estrutura do modelo é construída do zero e adaptada em tempo real de acordo com os dados de entrada e saída que chegam continuamente ao longo do tempo. Uma das mais...
Ver mais
Resumo: Esta tese de doutorado oferece contribuições para os sistemas evolutivos, uma área de Aprendizado de Máquina em que a estrutura do modelo é construída do zero e adaptada em tempo real de acordo com os dados de entrada e saída que chegam continuamente ao longo do tempo. Uma das mais proeminentes classes de sistemas evolutivos, os sistemas evolutivos baseados em regras fuzzy, automática e recursivamente dividem o espaço de entrada em regiões fuzzy, chamadas de grânulos de informação, onde regras do tipo SE - ENTÃO são definidas para prover predições locais para a amostra de entrada. Com relação aos antecedentes das regras, introduz-se um novo algoritmo chamado Preditor evolutivo de Valores Extremos (Extreme Value evolving Predictor - EVeP na sigla em Inglês), que oferece uma abordagem bem fundamentada para definir os grânulos fuzzy evolutivos que formam os antecedentes e, também, os consequentes das regras. Esses grânulos correspondem à função de inclusão radial Weibull, interpretada pela Teoria dos Valores Extremos como a distribuição limite da proximidade relativa entre as regras do modelo de aprendizado. Com respeito aos consequentes das regras, propõe-se uma nova abordagem que aplica Aprendizado Multitarefa para determinar os parâmetros Takagi-Sugeno usando a intersecção dos grânulos de informação para formar um grafo esparso dos relacionamentos estruturais entre as regras. Assim, diferentemente do mecanismo tradicional empregado na literatura, onde cada regra é responsável pelo seu próprio aprendizado, os termos dos consequentes das regras correspondem a modelos de regressão linear que são calculados pela solução de um problema de aprendizado multitarefa. Por último, uma extensão dessa abordagem para lidar com séries temporais multivariadas é apresentada. Levando-se em conta que cada regra fuzzy é parte de um preditor para uma série temporal específica, introduz-se um procedimento unificado que atualiza o grafo esparso por meio da composição dos relacionamentos par-a-par estabelecidos pelas regras fuzzy com o grau de similaridade de suas correspondentes séries temporais. Com esta abordagem, explora-se não apenas a interação atual das várias regras que compõem cada preditor evolutivo, mas também a interação das múltiplas séries temporais que estão sendo simultaneamente preditas. Uma série de experimentos computacionais foi conduzida, evidenciando um ganho de desempenho das múltiplas abordagens introduzidas nesta tese quando comparadas a vários algoritmos estado-da-arte na literatura
Ver menos
Abstract: This doctoral thesis offers contributions to evolving systems, a Machine Learning domain where the model structure is built from scratch and adapted online according to the input-output data points continuously arriving over time. One of the most prominent classes of evolving systems, the...
Ver mais
Abstract: This doctoral thesis offers contributions to evolving systems, a Machine Learning domain where the model structure is built from scratch and adapted online according to the input-output data points continuously arriving over time. One of the most prominent classes of evolving systems, the evolving Fuzzy-Rule-Based systems, automatically and recursively divides the input space into fuzzy regions, called information granules, where IF - THEN rules are defined to provide local predictions to the input sample. Regarding the antecedent part of the rules, it is introduced a new algorithm named Extreme Value evolving Predictor (EVeP), which offers a statistically well-founded approach to defining the evolving fuzzy granules forming the antecedent and the consequent parts of the rules. The evolving fuzzy granules correspond to radial inclusion Weibull functions interpreted by the Extreme Value Theory as the limiting distribution of the relative proximity among the rules of the learning model. Concerning the consequent part of the rules, a new approach is proposed applying Multitask Learning to determine the Takagi-Sugeno parameters using the intersection of the information granules to form a sparse graph of the structural relationship among them. Thus, differently from the traditional mechanism employed in the literature, where each rule is responsible for its own learning, the consequent terms of the rules correspond to linear regression models calculated by the solution of a regularized multitask learning problem. Lastly, an extension of this approach to deal with multivariate time series is presented. Noticing that each fuzzy rule is part of a predictor for a specific time series, it is introduced a unified model that updates the sparse graph by composing the pairwise relationship established by fuzzy rules with the similarity degree of their corresponding time series. With this approach, not only do we explore the current interplay of the different rules composing each evolving predictor, but also the actual interplay of the multiple time series being simultaneously predicted. A series of computational experiments were conducted, confirming the superior performance of the multiple approaches introduced in this thesis compared to several state-of-the-art algorithms in the literature
Ver menos
Requisitos do sistema: Software para leitura de arquivo em PDF
Von Zuben, Fernando José, 1968-
Orientador
Leite, Daniel Furtado
Avaliador
Caminhas, Walmir Matos
Avaliador
Giesbrecht, Mateus, 1984-
Avaliador
Boccato, Levy, 1986-
Avaliador
Evolving multitask models for machine learning [recurso eletrônico] = Modelos evolutivos multitarefa para aprendizado de máquina
Amanda Ortega de Castro Ayres
Evolving multitask models for machine learning [recurso eletrônico] = Modelos evolutivos multitarefa para aprendizado de máquina
Amanda Ortega de Castro Ayres