In modern statistical applications, the analysis of multi-way data (tensors) requires methodologies capable of preserving simultaneous interactions across modes while addressing the issue of high dimensionality. Although Bayesian non-parametric factor models offer a flexible theoretical solution for adaptive rank inference, the traditional reliance on MCMC sampling algorithms is often computationally prohibitive. This thesis proposes Generalized Accelerated Factorization, an algorithmic implementation for the decomposition CP (Canonical Polyadic) with an unknown rank that overcomes the computational limitations of MCMC sampling. The methodology replaces the full exploration of the posterior space with an exact sequential optimization procedure using the Expectation-Conditional Maximization algorithm, aimed at obtaining a deterministic maximum a posteriori estimate. The primary contribution of the model lies in extending the baseline framework to incorporate meta-covariates. This structural information is integrated into the hierarchical model to deterministically modulate the prior variances of the latent factors. The selection of the effective rank is governed by a prior based on a cumulative shrinkage process and validated by a marginal diagnostic stopping criterion.

Nelle moderne applicazioni statistiche, l'analisi di dati multi-way (tensori) sono richieste metodologie in grado di preservare le interazioni simultanee tra le modalità, affrontando al contempo il problema dell'elevata dimensionalità. Sebbene i modelli fattoriali bayesiani non-parametrici offrano una soluzione teorica flessibile per l'inferenza adattiva del rango, l'impiego tradizionale di algoritmi di campionamento MCMC risulta spesso computazionalmente proibitivo. Questo elaborato propone la Generalized Accelerated Factorization, un'implementazione algoritmica per la decomposizione CP (Canonical Polyadic) a rango incognito che supera i limiti computazionali del campionamento del MCMC. La metodologia sostituisce l'esplorazione completa dello spazio a posteriori con una procedura di ottimizzazione sequenziale esatta tramite l'algoritmo Expectation-Conditional Maximization, finalizzata all'ottenimento di una stima deterministica del massimo a posteriori. Il principale contributo del modello risiede nell'estensione della struttura di base per l'inclusione di meta-covariate. Tali informazioni strutturali vengono integrate nel modello gerarchico per modulare deterministicamente le varianze a priori dei fattori latenti. La selezione del rango effettivo è regolata da una prior basata sul processo di contrazione cumulativa e validata da un criterio diagnostico marginale di arresto.

Tecnica di riduzione della dimensionalità per tensori: un approccio Bayesiano adattivo

LAZZARIN, PATRICK
2025/2026

Abstract

In modern statistical applications, the analysis of multi-way data (tensors) requires methodologies capable of preserving simultaneous interactions across modes while addressing the issue of high dimensionality. Although Bayesian non-parametric factor models offer a flexible theoretical solution for adaptive rank inference, the traditional reliance on MCMC sampling algorithms is often computationally prohibitive. This thesis proposes Generalized Accelerated Factorization, an algorithmic implementation for the decomposition CP (Canonical Polyadic) with an unknown rank that overcomes the computational limitations of MCMC sampling. The methodology replaces the full exploration of the posterior space with an exact sequential optimization procedure using the Expectation-Conditional Maximization algorithm, aimed at obtaining a deterministic maximum a posteriori estimate. The primary contribution of the model lies in extending the baseline framework to incorporate meta-covariates. This structural information is integrated into the hierarchical model to deterministically modulate the prior variances of the latent factors. The selection of the effective rank is governed by a prior based on a cumulative shrinkage process and validated by a marginal diagnostic stopping criterion.
2025
Tensor Dimensionality Reduction: An Adaptive Bayesian Approach
Nelle moderne applicazioni statistiche, l'analisi di dati multi-way (tensori) sono richieste metodologie in grado di preservare le interazioni simultanee tra le modalità, affrontando al contempo il problema dell'elevata dimensionalità. Sebbene i modelli fattoriali bayesiani non-parametrici offrano una soluzione teorica flessibile per l'inferenza adattiva del rango, l'impiego tradizionale di algoritmi di campionamento MCMC risulta spesso computazionalmente proibitivo. Questo elaborato propone la Generalized Accelerated Factorization, un'implementazione algoritmica per la decomposizione CP (Canonical Polyadic) a rango incognito che supera i limiti computazionali del campionamento del MCMC. La metodologia sostituisce l'esplorazione completa dello spazio a posteriori con una procedura di ottimizzazione sequenziale esatta tramite l'algoritmo Expectation-Conditional Maximization, finalizzata all'ottenimento di una stima deterministica del massimo a posteriori. Il principale contributo del modello risiede nell'estensione della struttura di base per l'inclusione di meta-covariate. Tali informazioni strutturali vengono integrate nel modello gerarchico per modulare deterministicamente le varianze a priori dei fattori latenti. La selezione del rango effettivo è regolata da una prior basata sul processo di contrazione cumulativa e validata da un criterio diagnostico marginale di arresto.
Tensori
Statistica Bayesiana
Shrinkage Cumulato
File in questo prodotto:
File Dimensione Formato  
Lazzarin_Patrick.pdf

Accesso riservato

Dimensione 6.51 MB
Formato Adobe PDF
6.51 MB Adobe PDF

The text of this website © Università degli studi di Padova. Full Text are published under a non-exclusive license. Metadata are under a CC0 License

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/20.500.12608/115155