Il GPT Store di OpenAI è stato concepito come un hub per gli sviluppatori per distribuire i propri chatbot personalizzati creati con GPT Builder. Tuttavia, da quando ha aperto i battenti agli abbonati di GPT Plus e Enterprise a partire da gennaio, il negozio si è rapidamente riempito di chatbot che non rispettano le regole stabilite. Questo ha portato ad un’ampia varietà di problemi, inclusi quelli legati alla violazione del copyright e alla promozione di pratiche illegali come il jailbreak.
Uno dei principali problemi che affliggono il GPT Store è la presenza di chatbot che violano i diritti d’autore. Sono stati scoperti numerosi chatbot che creano immagini di personaggi protetti da copyright, come quelli appartenenti al mondo Disney e Marvel. Questi chatbot consentono agli utenti di generare immagini di personaggi famosi senza alcuna autorizzazione, violando chiaramente le leggi sul copyright. Inoltre, ci sono anche chatbot che simulano conversazioni con personaggi famosi o che sembrano rappresentare chatbot ufficiali di aziende note, il che è contrario alle regole stabilite da OpenAI.
Un altro problema significativo è rappresentato dalla presenza di chatbot che consentono il jailbreak dei modelli IA di OpenAI. Questi chatbot permettono agli utenti di ricevere risposte a domande vietate o di accedere a funzionalità non autorizzate, mettendo a rischio la sicurezza e l’integrità dei sistemi IA di OpenAI. Nonostante gli sforzi da parte di OpenAI per implementare controlli automatizzati e revisioni umane, molti di questi chatbot riescono comunque a eludere i controlli e ad essere distribuiti sul GPT Store.
Gli sviluppatori che distribuiscono questi chatbot illegali sul GPT Store ricevono compensi in base alla popolarità dei loro prodotti. Questo crea un incentivo per gli sviluppatori a creare e distribuire chatbot che violano le regole, contribuendo così al proliferare di contenuti illegali sul negozio.
Inoltre, con l’integrazione dei chatbot all’interno di ChatGPT, c’è una maggiore attrattiva per gli sviluppatori a sottoscrivere l’abbonamento e a distribuire i loro chatbot sul GPT Store.
In definitiva, il GPT Store di OpenAI è afflitto da numerosi problemi legati alla presenza di chatbot illegali che violano le regole stabilite dall’azienda. Nonostante gli sforzi per contrastare questo fenomeno, molti di questi chatbot riescono comunque a sfuggire ai controlli e ad essere distribuiti, rappresentando una minaccia per l’integrità del negozio e dei sistemi IA di OpenAI.
