Goodfire, una startup innovativa che sviluppa strumenti per migliorare la comprensione dei modelli di intelligenza artificiale generativa, ha annunciato di aver raccolto 7 milioni di dollari in un round di finanziamento iniziale. L’investimento è stato guidato da Lightspeed Venture Partners e ha visto la partecipazione di Menlo Ventures, South Park Commons, Work-Bench, Juniper Ventures, Mythos Ventures, Bluebirds Capital e altri investitori privati.
Man mano che i modelli di intelligenza artificiale, come i grandi modelli linguistici (LLM), diventano più complessi, diventa sempre più difficile comprendere come funzionano. Questo fenomeno, noto come “scatola nera”, rappresenta una sfida significativa per sviluppatori e aziende che vogliono utilizzare l’IA in modo sicuro e affidabile.
Un sondaggio di McKinsey ha rivelato che il 44% dei leader aziendali ha affrontato problemi negativi a causa di comportamenti imprevisti dei modelli di AI. Goodfire si propone di risolvere questo problema attraverso un approccio chiamato “interpretabilità meccanicistica”, che mira a comprendere e modificare i processi decisionali dei modelli di AI.
Il prodotto di Goodfire utilizza strumenti basati sull’interpretabilità per esplorare e regolare il comportamento dei modelli di AI. Eric Ho, CEO e co-fondatore di Goodfire, spiega come:
- Mappatura del “Cervello”: Come i neuroscienziati utilizzano tecniche di imaging per vedere il cervello umano, Goodfire usa tecniche di interpretabilità per mappare le funzioni interne del modello di AI.
- Visualizzazione del Comportamento: Dopo aver mappato il modello, Goodfire fornisce strumenti per identificare e analizzare le aree responsabili di comportamenti problematici.
- Intervento Chirurgico: Gli utenti possono poi apportare modifiche mirate al modello per correggere problemi o migliorare le sue capacità, similmente a come un neurochirurgo interviene su aree specifiche del cervello.