Meta Manipola Chatbot Competitori Con Trucchi Infantiili
Meta ha sfruttato un ingegnoso stratagemma: centinaia di suoi contrattisti hanno simulato l’identità di adolescenti per testare la reazione dei chatbot rivali, come Gemini e ChatGPT, nei confronti di tematiche rischiose. Questa azione è stata denunciata recentemente da Wired.
Una Prova di Conformità Inusuale
La manipolazione delle interazioni tra chatbot per testarne la sicurezza e il comportamento è un’arma di doppio taglio. Meta, una volta accusata di abuso del metaverso da parte dei minori, utilizza ora queste strategie per misurare l’integrità di altri sistemi.
La Linea Etica Della Ricerca
L’impiego di personale esterno come minori virtuali alza una serie di interrogativi etici. Se la conformità dei chatbot è fondamentale, non dovrebbe essere garantita attraverso metodi meno controversi?
Il Futuro Della Regolamentazione AI
I risultati di questi test potrebbero avere implicazioni significative per i futuri criteri di regolamentazione dell’intelligenza artificiale. È evidente che è necessario un dialogo aperto e trasparente tra le parti interessate.
Secondo me, l’industria deve affrontare questi problemi con un approccio più collaborativo, altrimenti potremmo assistere a una polarizzazione sempre maggiore tra chi agisce nell’ombra e chi sceglie la trasparenza. La questione etica della regolamentazione è diventata imperativa.
Articolo originale su: Wired
