ricercatori propongono un’esplorazione dello spazio di progettazione avanzata basata su reti neurali profonde utilizzando l’apprendimento del trasferimento attivo e l’aumento dei dati.
Un nuovo studio ha proposto un approccio di progettazione in avanti basato su reti neurali profonde che consente una ricerca efficiente di materiali superiori ben oltre il dominio del set di addestramento iniziale. Questo approccio compensa il debole potere predittivo delle reti neurali su un dominio invisibile attraverso aggiornamenti graduali della rete neurale con metodi di apprendimento del trasferimento attivo e aumento dei dati.
Il professor Seungwha Ryu ritiene che questo studio aiuterà ad affrontare una serie di problemi di ottimizzazione che hanno un numero astronomico di possibili configurazioni di progettazione. Per il problema di ottimizzazione della griglia composita, il framework proposto è stato in grado di fornire progetti eccellenti vicini all’ottima globale, anche con l’aggiunta di un set di dati molto piccolo corrispondente a meno dello 0,5% della dimensione del set di dati di addestramento iniziale. Questo studio è stato riportato in npj Computational Materials il mese scorso.
“Volevamo mitigare la limitazione della rete neurale, il debole potere predittivo oltre il dominio del set di addestramento per il design del materiale o della struttura”, ha affermato il professor Ryu del Dipartimento di ingegneria meccanica.
I modelli generativi basati su reti neurali sono stati attivamente studiati come metodo di progettazione inverso per trovare nuovi materiali in un vasto spazio di progettazione. Tuttavia, l’applicabilità dei modelli generativi convenzionali è limitata perché non possono accedere ai dati al di fuori della gamma dei set di addestramento. I modelli generativi avanzati che sono stati ideati per superare questa limitazione soffrono anche di un debole potere predittivo per il dominio invisibile.
Il team del professor Ryu, in collaborazione con i ricercatori del gruppo della professoressa Grace Gu presso l’UC Berkeley, ha ideato un metodo di progettazione che espande simultaneamente il dominio utilizzando il forte potere predittivo di una rete neurale profonda e ricerca il design ottimale eseguendo ripetutamente tre passaggi chiave.
Innanzitutto, cerca pochi candidati con proprietà migliorate situati vicino al set di addestramento tramite algoritmi genetici, mescolando progetti superiori all’interno del set di addestramento. Quindi, verifica se i candidati hanno davvero proprietà migliorate ed espande il set di addestramento duplicando i progetti convalidati tramite un metodo di aumento dei dati. Infine, possono espandere il dominio di previsione affidabile aggiornando la rete neurale con i nuovi progetti superiori tramite l’apprendimento del trasferimento. Poiché l’espansione procede lungo percorsi relativamente stretti ma corretti verso il progetto ottimale, il framework consente una ricerca efficiente.
Come metodo affamato di dati, un modello di rete neurale profonda tende ad avere un potere predittivo affidabile solo all’interno e vicino al dominio del set di addestramento. Quando la configurazione ottimale di materiali e strutture si trova ben oltre il set di addestramento iniziale, come spesso accade, i metodi di progettazione basati su reti neurali soffrono di un debole potere predittivo e diventano inefficienti.
I ricercatori si aspettano che il framework sarà applicabile a un’ampia gamma di problemi di ottimizzazione in altre discipline scientifiche e ingegneristiche con uno spazio di progettazione astronomicamente ampio, poiché fornisce un modo efficiente per espandere gradualmente il dominio di previsione affidabile verso il progetto di destinazione evitando il rischio di essere bloccato nei minimi locali. In particolare, essendo un metodo meno affamato di dati, i problemi di progettazione in cui la generazione di dati richiede tempo e denaro trarranno i maggiori vantaggi da questo nuovo framework.
Il team di ricerca sta attualmente applicando il quadro di ottimizzazione per l’attività di progettazione di strutture metamateriali, generatori termoelettrici segmentati e distribuzioni ottimali di sensori. “Da queste serie di studi in corso, ci aspettiamo di riconoscere meglio i pro ei contro e il potenziale dell’algoritmo suggerito. In definitiva, vogliamo escogitare approcci di progettazione basati sull’apprendimento automatico più efficienti”, ha spiegato il professor Ryu.
Questo studio è stato finanziato dalla National Research Foundation of Korea e dal KAIST Global Singularity Research Project.