SK Telecom ha recentemente presentato la strategia “Multi Large Language Model (LLM)” per penetrare nei mercati aziendali e pubblici dell’intelligenza artificiale (AI). Questa strategia offre una serie di opzioni alle aziende, combinando non solo il proprio modello chiamato “A-Dot”, ma anche modelli di altre aziende come Antropic e Conan Technology.
L’interesse nell’adozione dell’intelligenza artificiale da parte delle imprese locali è in rapida crescita. Non solo le aziende specializzate in MLOps, ma anche grandi società come SKT, si stanno seriamente avvicinando al settore B2B. In particolare, SKT ha annunciato di mirare a raggiungere vendite cloud per 200 miliardi di won quest’anno. Questa strategia di promozione dei servizi LLM come parte dell’espansione del cloud è allineata con le tattiche delle principali aziende tecnologiche come Microsoft, Google e Amazon.
Rispondendo alle necessità delle aziende e delle istituzioni pubbliche, SKT ha sviluppato due modelli chiave: “A.LLM” è stato creato internamente e si concentra sui servizi basati sulla telecomunicazione, come chat e assistenza clienti, mentre “Claude 2” si distingue per risposte etiche avanzate e la capacità di gestire grandi quantità di testo. È stato recentemente annunciato che SKT sta preparando il terreno tecnico e commerciale per offrire servizi personalizzati combinando “Antropic LLM” e “Conan LLM”, utilizzando dati ricchi di provenienza coreana.
Nel dettaglio, la controllata coreana SKT A.LLM ha rilasciato questo mese un modello di base per le imprese e sta attualmente lavorando all’addestramento e all’ottimizzazione di questo modello.
Per quanto riguarda Antropic LLM, su cui SKT ha annunciato di avere investito, si sta discutendo come integrare le sue funzionalità principali con il servizio B2B di SKT. Si prevede che il servizio completo sarà disponibile nel quarto trimestre, dopo aver completato l’integrazione delle funzioni. Inoltre, SKT intende sfruttare anche il LLM di Conan Technology, con cui ha ampliato la collaborazione grazie a un investimento.
Oltre a fornire i modelli LLM, SKT offre anche la potenza di calcolo necessaria per l’apprendimento automatico e il supporto tecnico per l’implementazione dei modelli nelle attività aziendali.
SKT dispone di un sistema GPU su larga scala, equivalente a un supercomputer di alto livello in Corea, il che consente un pre-addestramento stabile per soddisfare le richieste dei clienti. Un particolare punto di forza è “X330”, un nuovo prodotto sviluppato da Sapion, azienda specializzata in semiconduttori AI di proprietà di SKT, che ha risolto le sfide relative al surriscaldamento e ai costi elevati delle GPU tradizionali.
L’azienda sottolinea la sua capacità di offrire un servizio completo nell’ambito dell’intelligenza artificiale aziendale, coprendo sia l’infrastruttura hardware che il software LLM. Questo è possibile grazie alla vasta esperienza di SKT nella gestione di infrastrutture IT a livello nazionale e alla sua ampia base di sviluppatori di intelligenza artificiale.
Attraverso questa strategia olistica, SKT punta a diventare un operatore leader nel settore dell’intelligenza artificiale aziendale, offrendo servizi LLM su misura per le specifiche esigenze di ciascun cliente, e tutto ciò a un costo efficiente.
Inoltre, l’azienda intende costruire e promuovere un ecosistema che supporti il business LLM in diverse modalità. Ad esempio, sta esplorando la collaborazione con Persona AI, un azionista importante che recentemente ha investito nell’azienda, per sviluppare modelli LLM nel settore dei contact center.
SKT ha annunciato il piano di lanciare servizi LLM specializzati in settori specifici, che sfruttano le capacità uniche di ciascun modello. Ad esempio, A.Dot LLM eccelle nei servizi di conversazione e chatbot, mentre Antropic LLM si distingue per risposte etiche avanzate. Grazie alla sua capacità di elaborare grandi quantità di dati, è possibile inserire contemporaneamente fino a 100.000 token (pari a 75.000 parole) di dati per ottenere risposte altamente accurate.
In definitiva, nel mercato coreano, SKT mira a sfruttare il mercato con A.Dot LLM nel contesto di infrastrutture on-premise e cloud private, mentre il modello di Conan Technology sarà un alleato nel campo dei servizi cloud, dove la concorrenza globale è più intensa.
SKT ha identificato il governo, le istituzioni pubbliche e il settore finanziario come i settori primari per l’adozione dei servizi LLM. Pertanto, l’azienda si sta preparando a partecipare a progetti pilota basati su LLM e alle principali iniziative governative, come quelle del Ministero dell’Amministrazione Pubblica e della Sicurezza e del Ministero della Scienza e delle TIC.
Parallelamente, SKT sta esplorando l’applicazione delle tecnologie AI basate su LLM nell’industria manifatturiera, collaborando con importanti aziende manifatturiere all’interno del Gruppo SK. L’uso combinato di questa tecnologia con l’analisi dei big data è previsto per contribuire in modo significativo all’aumento della produttività nel processo di produzione.
Nel frattempo, un corso di formazione sulle funzionalità principali e l’uso di Multi-LLM è in corso dalla scorsa settimana, rivolto a dirigenti aziendali interni e operatori del settore pubblico.
Durante il corso di formazione, il vicepresidente Kim Gyeong-deok di SKT ha enfatizzato l’importanza di rispondere alle esigenze dei clienti e di offrire rapidamente servizi mirati attraverso combinazioni personalizzate di Multi-LLM.