Si è detto che Stability AI fosse ben conosciuto per la sua “diffusione stabile”, ma che la startup di intelligenza artificiale generativa avesse altri interessi oltre a quello. Si è menzionato che l’IA di Stability stesse entrando nel campo della generazione del codice.
Si è riferito che Stability AI avesse annunciato la prima versione pubblica di StableCode, un nuovo modello LLM pensato per aiutare nella generazione di codice. Era stato precisato che StableCode sarebbe disponibile su tre livelli diversi. Si è detto che il modello avesse beneficiato di dati provenienti dal progetto BigCode, con ulteriori modifiche e ottimizzazioni effettuate da Stability AI. Si è riportato che StableCode avrebbe inizialmente supportato vari linguaggi di programmazione.
Christian Laforte, responsabile della ricerca presso Stability AI, aveva espresso il desiderio di replicare il successo di un altro prodotto dell’azienda con StableCode, cercando di rendere la programmazione accessibile a un pubblico più vasto.
Era stato sottolineato che la formazione di StableCode si basava su dati del progetto BigCode. Si era notato che l’utilizzo di BigCode come base non fosse una novità, citando come esempio StarCoder LLM. Nathan Cooper, capo ricercatore presso Stability AI, aveva fornito informazioni su come l’azienda avesse lavorato sui dati BigCode e aveva elogiato il progetto. Aveva spiegato che la formazione per StableCode aveva richiesto diverse fasi di elaborazione e si era riferito al metodo di formazione come simile a quello utilizzato nel dominio del linguaggio naturale.
Si era affermato che, oltre alla sua base BigCode, la versione a contesto lungo di StableCode potrebbe offrire notevoli benefici agli utenti. Cooper aveva spiegato che la lunga finestra di contesto permetteva un’elaborazione di codice più personalizzata e avanzata.
Era stato menzionato che StableCode, come altri modelli moderni, si basasse su una rete neurale trasformatore. Invece di utilizzare l’approccio ALiBi, StableCode utilizzava qualcosa chiamato rotary position embedding (RoPE). Cooper aveva discusso le differenze tra questi due metodi, sostenendo che l’approccio RoPE fosse più adatto per la codifica.
Infine, si era detto che fosse ancora presto per determinare l’impatto di StableCode sul mercato. Cooper aveva espresso il desiderio di collaborare con la comunità e di esplorare ulteriormente le possibilità della tecnologia generativa nell’ambito dello sviluppo software.