Microsoft Copilot designer: riduzione Prompt, sfida persiste

Microsoft ha recentemente aggiornato Copilot Designer, noto in precedenza come Bing Image Creator, al fine di ridurre la generazione di prompt pericolosi. Tuttavia, nonostante gli sforzi per migliorare la sicurezza del servizio, alcune lacune persistono.

Inizialmente segnalate da uno sviluppatore di software, le preoccupazioni riguardavano la capacità del servizio di produrre immagini violente, sessuali o illecite, così come immagini che violano i diritti d’autore. Queste questioni sono state portate all’attenzione della Federal Trade Commission (FTC) degli Stati Uniti, spingendo Microsoft ad adottare misure correttive.

Dopo l’indagine e l’invio di lettere di protesta, Microsoft ha implementato filtri migliorati per impedire la generazione di immagini inappropriatamente violente o sessualmente esplicite. Tuttavia, nonostante questi aggiornamenti, rimangono alcune lacune nel sistema.

Ad esempio, sebbene molti prompt considerati vietati siano stati bloccati, alcuni riescono ancora a sfuggire ai filtri, consentendo la generazione di immagini di incidenti automobilistici o di personaggi Disney. Questo mette in evidenza la sfida continua nel controllare l’uso improprio degli strumenti di intelligenza artificiale generativa.

In risposta a queste preoccupazioni, Microsoft ha sottolineato il suo impegno continuo per monitorare e migliorare i filtri di sicurezza di Copilot Designer al fine di mitigare ulteriormente l’abuso del sistema. Tuttavia, resta da vedere se saranno in grado di risolvere completamente queste problematiche e garantire un utilizzo sicuro e appropriato del servizio.