Qual è la piattaforma di ottimizzazione di Meta AI, Looper?
La piattaforma facilita la distribuzione e l’uso di modelli per casi d’uso in cui la dimensione dei dati è moderata e i modelli sono più complicati.
L’intelligenza artificiale è diventata uno strumento in modo che l’infrastruttura possa auto-ottimizzarsi, autogestirsi e autoproteggersi. Le organizzazioni oggi fanno molto affidamento sulla capacità dell’IA di migliorare la qualità di un flusso video, ottimizzando le interfacce per soddisfare le esigenze di una persona e riducendo la latenza. Ma affinché le organizzazioni siano in grado di sfruttare efficacemente l’IA, ci sono diversi ostacoli sulla strada che devono essere rimossi. Gli ingegneri del software senza esperienza nell’apprendimento automatico devono adattarsi, devono essere costruiti meccanismi per ottimizzare per diversi obiettivi del prodotto, le connessioni causali devono essere separate dalle correlazioni nei dati e il sistema deve essere scalabile per essere in grado di addestrare e monitorare un gran numero dei modelli di IA.
La scorsa settimana, Meta ha rilasciato una piattaforma AI end-to-end chiamata Looper che ottimizza, personalizza e raccoglie feedback con API facili da usare . Looper monitora e supporta un sistema durante l’intero ciclo di vita del machine learning, a partire dall’addestramento di un modello, dall’implementazione e dall’inferenza , per finire con la valutazione e l’ ottimizzazione . In questo modo, Looper può aggiornare i prodotti esistenti per utilizzare l’intelligenza artificiale per l’ottimizzazione personalizzata invece di ricostruire i prodotti esistenti attorno ai modelli di intelligenza artificiale.
Caratteristiche
Looper semplifica la vita a coloro che si avvalgono dei servizi di Meta e consente loro di personalizzare queste scelte in base alle proprie preferenze. Avere un prodotto con un menu dell’interfaccia utente sovraccarico può rendere un prodotto difficile da usare nonostante le numerose funzioni che potrebbe offrire. Inoltre, il precaricamento dei contenuti che probabilmente verranno guardati dall’utente può migliorare l’esperienza dell’utente per un prodotto. L’unica condizione è che le previsioni accurate di ciò che piace all’utente devono essere fatte senza fare pressione sull’hardware del dispositivo.
Looper ospita e addestra diversi tipi di modelli e politiche decisionali.
Looper funziona come un modello in tempo reale, a differenza della maggior parte delle piattaforme di intelligenza artificiale che eseguono l’inferenza offline in modalità batch.
La piattaforma facilita la distribuzione e l’uso di modelli per casi d’uso in cui la dimensione dei dati è moderata e i modelli sono più complicati.
Looper può lavorare su un’ampia gamma di attività di apprendimento automatico, come classificazione, stima, previsione di sequenze e valori e classifica e pianificazione utilizzando l’apprendimento supervisionato o rinforzato. Gli strumenti AutoML collaborano con l’infrastruttura di gestione dei modelli per selezionare modelli e iperparametri per bilanciare la qualità, le dimensioni e il tempo di inferenza del modello. Looper esamina il percorso dalle origini dati all’impatto del prodotto che viene valutato e ottimizzato utilizzando esperimenti casuali.
Looper è un sistema di intelligenza artificiale dichiarativo che indica che gli ingegneri di prodotto devono dichiarare le funzionalità di cui hanno bisogno affinché il sistema completi l’implementazione del software. La piattaforma dipende dall’astrazione del progetto strategico, che la aiuta a mantenere più versioni di configurazioni congiunte combinate per funzionalità, etichette, modelli e politiche decisionali. Ciò crea un’ottimizzazione completa che consente una gestione senza codifica e mantiene la compatibilità tra le diverse versioni. I progetti utilizzano un sistema di ottimizzazione degli esperimenti per promuovere le ottimizzazioni verticali delle metriche dei prodotti black-box.
La piattaforma aiuta gli ingegneri di Meta a tenere traccia di come il modello viene utilizzato nello stack tecnologico apportando modifiche al suo framework di modellazione attraverso aspetti come la selezione delle metriche e l’ottimizzazione delle politiche. Looper ha esteso il significato essenziale di end-to-end al livello software per ottimizzare l’architettura del modello e i parametri di selezione delle caratteristiche in un compromesso multi-oggetto tra qualità del modello e risorse computazionali. Un ingegnere può adattare l’importanza data ai diversi input durante il processo decisionale in tempo reale.
Facilità di implementazione
Looper mira a un rapido onboarding, un’implementazione efficace e una bassa manutenzione di molteplici strategie intelligenti utilizzate per misurare l’impatto positivo. Sfrutta piattaforme di intelligenza artificiale come PyTorch e Axe per attività di apprendimento automatico.
La piattaforma funziona con modelli che possono essere riqualificati e implementati rapidamente su larga scala su un’infrastruttura condivisa, a differenza dei modelli di intelligenza artificiale densi per l’elaborazione della vista, del parlato e del linguaggio naturale , che eseguono l’inferenza offline con l’elaborazione batch. Looper interpreta i metadati dell’interazione dell’utente e dell’interazione del sistema come etichette per l’apprendimento supervisionato o come ricompense per l’apprendimento per rinforzo.
Looper effettua una valutazione dei risultati quando sono deludenti, in base alle metriche del prodotto. In un tipo di scenario, ogni decisione viene verificata in modo che le decisioni buone e cattive possano essere utilizzate come esempi su cui una strategia intelligente apprende utilizzando l’apprendimento supervisionato . In un altro tipo di scenario, le metriche di prodotto seguono obiettivi a lungo termine che non possono essere ridotti a determinate decisioni specifiche. La piattaforma utilizza il sistema di monitoraggio di Meta per rilevare gli effetti collaterali.
Looper è attualmente utilizzato da oltre 90 team di prodotti di Meta per distribuire un totale di 690 modelli e fare 4 milioni di previsioni al secondo.
Necessità di ottimizzazione
Le strategie di ottimizzazione di solito si perdono all’interno delle organizzazioni tra obiettivi e tassi di conversione. Piattaforme come Looper possono aiutare le organizzazioni ad analizzare i propri dati e creare esperienze su misura. Looper rende i dati e le risorse facilmente disponibili, riduce lo sforzo di progettazione e garantisce l’impatto sul prodotto.
Looper può creare un’esperienza personalizzata basata sulla cronologia dell’utente. Ad esempio, un prodotto può mostrare contenuti relativi allo shopping solo alle persone che probabilmente lo utilizzeranno.
Può migliorare l’utilità dell’utente visualizzando l’ordine di classificazione degli elementi. Può offrire un feed personalizzato di elementi candidati per l’utente.
Può precaricare i dati in base alla previsione più probabile effettuata.
Le notifiche o i prompt sono un’opzione per gli utenti solo se li trovano utili.
Può prevedere le attività di regressione utilizzando la stima del valore come la latenza o l’utilizzo della memoria di una query di dati.
