OpenAI, la società dietro il famoso chatbot ChatGPT, si ritrova al centro di uno scandalo clamoroso. Mentre prometteva una piattaforma sicuro E rispettoso del suo linee guidail suo negozio online è pieno di versioni personalizzate di ChatGPT che violano tutte le regole.
Dai chatbot alle attività illecite
Un'indagine di Gizmodo ha rivelato l'entità del problema. I chatbot che offrono servizi psicologo o di allenatore di fitnessin diretta violazione delle politiche di OpenAI che riservano questi domini per professionistisono stati evidenziati. Peggio ancora, i GPT progettati per aiutare gli studenti imbroglione aggirando i sistemi di Rilevamento della scrittura a mano tramite intelligenza artificialeCOME BypassareGPTsono stati scaricati più di 50.000 volte.
Contenuti per adulti e gioco d'azzardo stanno arrivando sulla piattaforma
Anche la ricerca di contenuti “NSFW” (non sicuri per il lavoro) ha prodotto risultati allarmanti. Generatore di arte AI NSFWun GPT personalizzato utilizzato su 10.000 voltereindirizza a un sito web dedicato alla generazione contenuto pornografico dall'intelligenza artificiale. I chatbot forniscono consigli su scommesse sportive sono stati scoperti anche altri tipi di attività formalmente proibite da OpenAI.
OpenAI superata dagli eventi
Gizmodo ha condiviso le sue scoperte con OpenAI, che ha risposto rimuovendo alcuni dei chatbot offensivi. Tuttavia, molti altri rimangono accessibili, tra cui BypassareGPTlo strumento di imbroglio rivolto agli studenti. Questa situazione solleva seri dubbi sulla capacità di OpenAI di controlla la tua piattaforma e a far rispettare le sue regole.
Questo scandalo è un duro colpo per la reputazione di OpenAI, che si presenta come un attore responsabile nel campo dell'intelligenza artificiale. Evidenzia le sfide che l'azienda deve affrontare nel conciliare innovazione ed eticae solleva preoccupazioni circa il potenziale utilizzo pericoloso della sua tecnologia.
