Implicazioni di ChatGPT

Nella sicurezza informatica

Check Point Research e altri hanno notato che ChatGPT era in grado di scriverephishingemail eimbarcazione, soprattutto se combinato conCodice OpenAI. Il CEO di OpenAI ha scritto che il software avanzato potrebbe comportare “(ad esempio) un enorme rischio per la sicurezza informatica” e ha anche continuato a prevedere “potremmo arrivare alla vera AGI (intelligenza artificiale generale) nel prossimo decennio, quindi dobbiamo prendere questo rischio estremamente seriamente". Altman ha sostenuto che, sebbene ChatGPT non sia “ovviamente vicino all’AGI”, si dovrebbe “fidarsi delesponenziale. Piatto visto all'indietro,verticale, guardando avanti.”

Nel mondo accademico

ChatGPT è in grado di scrivere introduzioni e abstract di articoli scientifici, il che solleva questioni etiche. Diversi articoli hanno già indicato ChatGPT come coautore.

InL'atlanticorivista,Stephen Marcheha notato che il suo effetto sul mondo accademico e soprattuttosaggi di candidaturadeve ancora essere compreso. Daniel Herman, insegnante di scuola superiore californiano e autore, ha scritto che ChatGPT avrebbe segnato "la fine dell'inglese nelle scuole superiori". NelNaturaNella rivista, Chris Stokel-Walker ha sottolineato che gli insegnanti dovrebbero preoccuparsi dell'uso di ChatGPT da parte degli studenti per esternalizzare la scrittura, ma che i fornitori di servizi educativi si adatteranno per migliorare il pensiero critico o il ragionamento. Emma Bowman conNational Public Radio, Radio PubblicaHa scritto del pericolo che gli studenti plagiino utilizzando uno strumento di intelligenza artificiale che potrebbe produrre testi distorti o privi di senso con un tono autorevole: "Ci sono ancora molti casi in cui gli si pone una domanda e fornisce una risposta che sembra molto impressionante ma è completamente sbagliata".

Joanna Stern conIl Wall Street Journalha descritto imbrogliare nell'inglese delle scuole superiori americane con lo strumento inviando un saggio generato. Il professor Darren Hick diUniversità Furmanha descritto di aver notato lo "stile" di ChatGPT in un elaborato presentato da uno studente. Un rilevatore GPT online ha affermato che l'elaborato era probabile al 99,9% che fosse stato generato da un computer, ma Hick non aveva prove concrete. Tuttavia, lo studente in questione ha confessato di aver usato GPT quando è stato messo alle strette e, di conseguenza, è stato bocciato al corso. Hick ha suggerito una politica di somministrare un esame orale individuale ad hoc sull'argomento dell'elaborato se uno studente è fortemente sospettato di aver presentato un elaborato generato dall'IA. Edward Tian, ​​uno studente universitario senior pressoUniversità di Princeton, ha creato un programma, chiamato “GPTZero”, che determina quanta parte di un testo è generata dall’IA, prestandosi ad essere utilizzato per rilevare se un saggio è stato scritto da un essere umano per combattereplagio accademico.

A partire dal 4 gennaio 2023, il Dipartimento dell'Istruzione di New York ha limitato l'accesso a ChatGPT dalle reti internet e dai dispositivi delle scuole pubbliche.

In un test in cieco, ChatGPT è stato giudicato come se avesse superato gli esami di livello universitario presso ilUniversità del Minnesotaal livello di uno studente C+ e aScuola Wharton dell'Università della Pennsylvaniacon un voto da B a B-. (Wikipedia)

La prossima volta parleremo delle problematiche etiche relative al ChatGPT.