Come rilevare facilmente se un testo è stato generato dall’intelligenza artificiale

I ricercatori Chengzhi Mao, Carl Vondrick, Hao Wang e Junfeng Yang hanno scoperto che i modelli linguistici di grandi dimensioni (LLM) utilizzati dalle applicazioni di intelligenza artificiale hanno maggiori probabilità di modificare il testo scritto dall’uomo rispetto al testo generato dall’intelligenza artificiale quando sono responsabili della revisione o della riscrittura.

Difficile nascondere il tuo talento

Le IA seguono scrupolosamente le regole del linguaggio; è molto meno probabile che correggano un testo scritto da una IA Logica. Questo è proprio il punto chiave.

L’app Raidar sviluppata dai ricercatori misura la “distanza” tra il testo originale e il testo riscritto dall’IA. Hanno inviato testi accademici o commerciali, testi letterari, lavori degli studenti, codici informatici, recensioni su Yelp (un servizio di valutazione di aziende e servizi), articoli su arXiv (articoli scientifici prima della revisione). In tutti i casi, l’applicazione ha ottenuto risultati migliori rispetto agli strumenti esistenti nel rilevamento degli articoli scritti dall’intelligenza artificiale, fino a un guadagno di 29 punti.

Ancora più interessante, anche se alle IA viene chiesto di scrivere “in stile umano” o di “evitare di essere rilevate dalle applicazioni di rilevamento”, scriveranno comunque seguendo le regole di quella che ritengono essere una grafia alterata, il che sembrerà a dir poco strano. e produrre una specifica impronta caratteristica della scrittura.

Sarà sempre possibile, con molto lavoro e impegno, spacciare un testo generato dall’intelligenza artificiale per un testo originale, ma alla fine sarà più veloce per uno studente scrivere un testo originale, e soprattutto sarà meglio per il suo studente. autostima.

I robusti risultati ottenuti dai ricercatori illustrano l’impronta unica dei testi generati dalle macchine attraverso le alterazioni prodotte dalle macchine stesse.

Già gli insegnanti riconoscono con relativa facilità quando uno studente si allontana dal proprio stile, presto potranno dimostrare ancora più facilmente ciò che è stato scritto da un’intelligenza artificiale Troppo standard, è sospetto!

Immagine: Pexels – Pixabay

Per il testo originale: Raidar: rilevamento generativo dell’intelligenza artificiale tramite riscrittura – Chengzhi Mao e Carl Vondrick e Hao Wang e Junfeng Yang – Columbia University e Rutgers University
https://arxiv.org/pdf/2401.12970

Vedi altri articoli di questo autore