Etichettatura dei dati
Un'inchiesta della rivista TIME ha rivelato che, per costruire un sistema di protezione contro i contenuti tossici (ad esempio abusi sessuali, violenza, razzismo, sessismo, ecc.), OpenAI si è avvalsa di lavoratori kenioti esternalizzati, pagati meno di 2 dollari l'ora, per etichettare tali contenuti. Queste etichette sono state utilizzate per addestrare un modello in grado di individuare tali contenuti in futuro. I lavoratori esternalizzati sono stati esposti a contenuti così tossici e pericolosi da descrivere l'esperienza come una "tortura". Il partner di OpenAI per l'esternalizzazione dei servizi era Sama, un'azienda di San Francisco, in California, specializzata nella fornitura di dati per l'addestramento di modelli.
Evasione dal carcere
ChatGPT tenta di rifiutare i prompt che potrebbero violare la sua politica sui contenuti. Tuttavia, alcuni utenti sono riusciti a sbloccare ChatGPT utilizzando varie tecniche di manipolazione dei prompt per aggirare queste restrizioni all'inizio di dicembre 2022 e sono riusciti a ingannare ChatGPT inducendolo a fornire istruzioni su come creare una molotov o una bomba nucleare, o a generare argomentazioni nello stile di un neonazista. Un giornalista del Toronto Star ha avuto un successo altalenante nel far rilasciare a ChatGPT dichiarazioni incendiarie poco dopo il lancio: ChatGPT è stato ingannato per appoggiare l'invasione russa dell'Ucraina del 2022, ma anche quando gli è stato chiesto di stare al gioco con uno scenario fittizio, ChatGPT si è rifiutato di generare argomentazioni sul perché il Primo Ministro canadese Justin Trudeau fosse colpevole di tradimento. (wiki)
Data di pubblicazione: 18 febbraio 2023