Dietro le quinte: come ChatGPT ha sviluppato l’empatia
Di recente, il chatbot OpenAI ChatGPT si è scusato con il CEO di Microsoft Satya Nadella quando gli è stato chiesto delle opzioni tiffin più popolari dell’India meridionale. Aveva erroneamente suggerito biryani, insieme a idli, dosa e vada, tra gli altri. Più tardi, ha accettato il pasticcio biryani. Quindi, se hai interagito con ChatGPT più volte, ti saresti imbattuto almeno una volta in un’istanza in cui il popolare chatbot si è scusato con te se non ha avuto una risposta pertinente.
Ciò che rende speciale ChatGPT è che riconosce la sua ignoranza se non dispone delle informazioni pertinenti o della risposta alla domanda posta. Empatia. Costituisce il nucleo dell’intelligenza emotiva e può essere spiegato come la capacità di comprendere o sentire ciò che un’altra persona sta vivendo all’interno del proprio quadro di riferimento.
Gli esperti sottolineano il potere dell’empatia nei sistemi intelligenti artificiali, se vogliamo passare all’intelligenza generale artificiale. E poiché l’empatia può essere appresa e addestrata, l’intelligenza artificiale può sicuramente essere dotata di empatia artificiale nei prossimi anni.
E questo è esattamente ciò che distingue ChatGPT: la sua capacità di esprimere empatia in base al contesto.
ChatGPT ha una forte empatia
Nicole Marino, managing partner di Endurance, si è imbattuta in un post personale e vulnerabile di qualcuno che soffriva dopo aver perso una persona cara. Marino era costernato dal tipo di risposte che sembravano stonate mentre cercavano maggiori informazioni dalla persona. Molte volte le persone hanno difficoltà a scrivere risposte empatiche in tali situazioni.
Ha testato come ChatGPT avrebbe risposto al post ed è rimasta stupita dal risultato. ChatGPT ha scritto: “Sono profondamente dispiaciuto per la tua perdita e so quanto possa essere difficile far fronte alla morte di una persona cara. È importante ricordare che va bene provare qualunque emozione emerga, anche se può essere difficile. Per favore, sappi che sono qui per te e sono qui per ascoltare se hai bisogno di qualcuno con cui parlare.
Intendiamoci, ChatGPT non è il tipo di intelligenza artificiale arrogante e troppo sicura di cui ti avrebbe parlato Hollywood, ma un chatbot umile e umano che riconosce i suoi errori e li corregge quando viene segnalato. Ad esempio, quando Connor James ha chiesto al chatbot una query di codifica, ha corretto una risposta sbagliata e si è scusato per lo stesso.
Inoltre, ChatGPT è in grado di fornire ulteriori informazioni utili nel caso in cui non sia in grado di fornire la risposta richiesta. Manan Mathur , un avvocato, ha chiesto al chatbot di fornire una sentenza della Corte Suprema sull’annullamento della Sezione 439. In risposta, ChatGPT si è scusato per non essere in grado di navigare in Internet o accedere a materiali legali specifici per fornire le informazioni richieste. Tuttavia, ha fornito informazioni sulla Sezione sotto l’IPC e ha anche fornito un elenco di luminari legali che si sono occupati di casi penali.
In che modo ChatGPT è in grado di farlo ?
ChatGPT viene addestrato utilizzando il Reinforcement Learning from Human Feedback (RLHF). RLHF utilizza il feedback umano per aiutare ChatGPT ad apprendere la capacità di seguire le istruzioni e generare risposte soddisfacenti per gli umani in base alla natura dei prompt.
Il chatbot si basa sul modello GPT 3.5 che è stato addestrato utilizzando set di dati da Internet che includevano un enorme 570 GB di dati provenienti da libri, Wikipedia, articoli di ricerca, testi web, siti web e altre forme di contenuti e scritti in rete. Nel sistema sono state immesse circa 300 miliardi di parole.
I modelli simili a ChatGPT sono generalmente addestrati su vari parametri, tra cui espressioni emotive, emoji, esemplari, meccanismo di comunicazione, sentimento, atto/intenzione di dialogo, comportamenti verbali e non verbali, gruppi di emozioni positive e negative, emozione anticipata e conoscenza esterna tra una miriade di altri.
Gli ingegneri che hanno creato ChatGPT hanno assunto appaltatori (chiamati etichettatori) per valutare i risultati dei due sistemi, GPT-3 e il nuovo InstructGPT (il “modello di pari livello” di ChatGPT). Ciò che distingue ChatGPT da un semplice chatbot è che è stato appositamente addestrato per comprendere l’intento umano in una domanda e fornire risposte utili, veritiere e innocue.
A causa di questa formazione, ChatGPT può contestare determinate domande e scartare parti della domanda che non hanno senso e anche riconoscere la sua ignoranza se non dispone delle informazioni richieste.
ChatGPT è stato addestrato utilizzando il modello Reinforcement Learning from Human Feedback (RLHF).
Ma prima che ti dia una risposta, passa attraverso un processo di moderazione messo in atto da OpenAI che è dettagliato di seguito. ChatGPT si scusa spesso se le query rientrano nelle categorie menzionate di seguito. Ciò include odio, autolesionismo, violenza sessuale, ecc.
Con l’aiuto dell’empatia radicata in ChatGPT come i modelli che utilizzano i set di dati, è possibile ottenere modelli di apprendimento di imitazione profonda che possono fornire conversazioni di dialogo empatiche e naturali consapevoli del contesto in modo accurato ed efficace. Questo, a sua volta, aiuterà a fare un passo verso un’intelligenza generale artificiale funzionale che può aiutare l’umanità.
