Durante l’evento re:Invent di AWS, il CEO di AWS, Adam Selipsky, ha sottolineato in modo subdolo le preoccupazioni sulla sicurezza legate a OpenAI, introducendo nuove funzionalità di sicurezza e protezione in Amazon Bedrock.
Citando un rapporto di CNBC secondo il quale “Microsoft ha brevemente limitato l’accesso dei dipendenti a ChatGPT di OpenAI citando preoccupazioni sulla sicurezza”, Selipsky ha introdotto i Guardrails per Amazon Bedrock.
Ha enfatizzato l’importanza dell’intelligenza artificiale responsabile e come AWS l’abbia integrata fin dal primo giorno nella sua piattaforma: “Un elemento chiave dell’intelligenza artificiale responsabile è promuovere l’interazione tra gli utenti e le applicazioni per evitare risultati dannosi, e il modo più semplice per farlo è impostare dei limiti su ciò che i modelli informativi possono o non possono fare”, ha condiviso Selipsky.
“Con i Guardrails for Amazon Bedrock, è possibile implementare in modo coerente misure di protezione per offrire esperienze utente pertinenti e sicure in linea con le politiche e i principi aziendali”, ha dichiarato l’azienda nel suo post sul blog.
I Guardrails consentono agli utenti di impostare restrizioni sugli argomenti e applicare filtri ai contenuti, eliminando così contenuti indesiderati e dannosi dalle interazioni all’interno delle applicazioni. Questo offre un ulteriore livello di controllo oltre alle garanzie già presenti nei modelli di base di Amazon Bedrock (FM).
I Guardrails possono essere applicati a tutti i Large Language Models (LLM) in Amazon Bedrock, inclusi modelli e agenti ottimizzati per Amazon Bedrock.
In risposta all’annuncio dei Guardrails di AWS, Greg Brockman, ex membro del consiglio di amministrazione di OpenAI, ha dichiarato: “OpenAI ha una prospettiva unica sulla sicurezza, guidata da misurazioni scientifiche e lezioni apprese dall’implementazione iterativa”.
OpenAI ha costantemente sottolineato la sua pratica di astenersi dall’utilizzare i dati API per addestrare i suoi modelli, e nel tentativo di costruire fiducia con le imprese, ha lanciato ChatGPT Enterprise all’inizio di quest’anno.