Le informazioni sensibili di alcuni di coloro che utilizzano ChatGPT sono trapelate a seguito di un errore molto semplice e l’app è stata bandita in alcuni paesi. OpenAI ha rilasciato dichiarazioni pubbliche sulla sicurezza dell’intelligenza artificiale e su come cerca di proteggere i suoi prodotti.

Nel briefing, Open AI afferma di testare rigorosamente qualsiasi nuovo sistema utilizzando esperti esterni prima che venga rilasciato al pubblico e utilizza il feedback umano e l’apprendimento per rinforzo per apportare miglioramenti. L’azienda afferma di averlo testato per sei mesi prima di rilasciare il modello finale, il GPT-4, e chiede una regolamentazione:
“Crediamo che solidi sistemi di intelligenza artificiale debbano essere soggetti a rigorose valutazioni di sicurezza. La regolamentazione è necessaria per garantire l’adozione di tali pratiche e stiamo lavorando attivamente con i governi sulla migliore forma che la regolamentazione possa assumere.

OpenAI ha affermato che, nonostante le ricerche e i test approfonditi che hanno condotto con rigore, ciò che possono apprendere in laboratorio è limitato, quindi non possono anticipare ogni percorso utile o abusivo.

FUNZIONE DI VERIFICA DELL’ETÀ

MaterialeNotizieLa società ha anche affermato che sta prendendo in considerazione opzioni di verifica per consentire agli utenti di età superiore ai 18 o 13 anni con il consenso dei genitori di accedere ai suoi servizi. È stato inoltre sottolineato che non vi era alcuna opzione di verifica nella decisione di divieto dell’Italia.

Open AI afferma che il suo nuovo modello, GPT-4, ha l’82% in meno di probabilità di rispondere alle richieste di contenuti odiosi, offensivi e violenti. Il post sul blog sottolinea inoltre che GPT-4 ha il 40% di probabilità in più di produrre contenuti fattuali rispetto a GPT-3.5. Ma OpenAI afferma anche che cercano di essere il più trasparenti possibile, quindi i risultati non sono sempre accurati.