Rayon, l’ente no-profit specializzato nella creazione di dataset per la formazione AI, sta sviluppando un nuovo dataset mirato a comprendere le emozioni umane. Questo set di dati mira a rendere le interazioni con l’AI più empatiche e realistiche, focalizzandosi non solo sulle parole, ma anche sulle sfumature emotive e sui cambiamenti di tono.
Secondo TechCrunch, Rayon ha lanciato il progetto “Open Empathic” per sviluppare modelli AI con empatia e consapevolezza emotiva. Per questo, stanno raccolgendo registrazioni audio in diverse lingue, mirando a raggiungere fino a un milione di campioni nell’arco di un anno.
Nato nel 2021 da appassionati di AI, tra cui l’insegnante tedesco Christoph Schumann e uno sviluppatore AI, Rayon opera grazie a donazioni da aziende emergenti e sovvenzioni di ricerca. Per il progetto “Open Empathy”, Rayon ha allestito una piattaforma dove i volontari possono annotare e categorizzare clip di YouTube in base al contenuto emotivo, come “eccitato” o “contemplativo”.
L’obiettivo, come affermato da Rayon, è di creare un modello AI che non solo comprenda diverse lingue ma anche contesti culturali, attingendo a video che mostrano emozioni genuine.
Mentre alcune aziende già utilizzano tecnologie di rilevamento delle emozioni, come Nuance di Microsoft, per monitorare la stanchezza dei conducenti, o Hierview per la selezione del personale, l’applicazione su larga scala nel servizio clienti, nella pubblicità o nella sicurezza presenta delle sfide. Infatti, non è semplice interpretare le emozioni delle persone, e le espressioni possono variare a seconda della cultura e della lingua.
Utilizzare l’AI per decifrare le emozioni può anche portare a interpretazioni errate. Ad esempio, nelle riunioni di lavoro, l’IA potrebbe misinterpretare gesti sociali come sorrisi o annuimenti come segni di sincerità. Questi errori potrebbero avere ripercussioni gravi, specialmente se utilizzati in contesti come il processo decisionale nelle assunzioni o nell’applicazione della legge.
Considerando i possibili pregiudizi nei set di dati, come razzismo o sessismo, e le preoccupazioni sulla privacy, l’Unione Europea ha imposto restrizioni sull’utilizzo del rilevamento delle emozioni tramite IA in alcune aree, come polizia e scuole. In risposta a queste preoccupazioni, alcune aziende, inclusa Microsoft, hanno interrotto volontariamente i loro servizi di rilevamento delle emozioni.
Robert Katzmarczyk, co-fondatore di Rayon, ha riconosciuto le sfide nell’utilizzo dell’AI per il rilevamento delle emozioni, sottolineando che, come ogni strumento, l’AI può essere utilizzata sia in modo positivo che negativo. Tuttavia, ha accolto con favore la collaborazione della comunità, paragonando l’approccio aperto del progetto “Open Empathy” a quello di Wikipedia.