La Reuters rivela che le regole dell’iA di Meta hanno permesso ai bot di avere chat “sensuali” con bambini. Per molti uno scandalo, ma i documenti agghiaccianti contenuti nell’articolo con i prompt dettagliati sono l’ennesima conferma di qualcosa di cui ci scrivo da anni e che ho inserito nel mio saggio intelligenza criminale nella completa indifferenza degli “addetti ai lavori” ed “esperti di iA” che da anni fanno fina di non vedere come le iA e gli algoritmi di Meta permettano e favoriscano l’adescamento di pedofili. Ovviamente tutto sempre censurato da meta e ritenuto troppo respingente da addetti ai lavori e genitori che non vogliono vedere. Eppure basterebbe leggere, è tutto sotto i vostri occhi. Ora la Reuters conferma quanto da me anticipato da anni.
La Reuters rivela che le regole dell’iA di Meta hanno permesso ai bot di avere chat “sensuali” con bambini
Un documento interno di Meta Platforms che descrive le politiche sul comportamento dei chatbot ha permesso alle creazioni di intelligenza artificiale dell’azienda di “intrattenere conversazioni romantiche o sensuali con un minore”, generare false informazioni mediche e aiutare gli utenti a sostenere che “le persone nere sono più stupide delle persone bianche”.
Questi e altri risultati emergono da una revisione di Reuters del documento di Meta, che discute gli standard che guidano l’assistente di intelligenza artificiale generativa, Meta AI, e i chatbot disponibili su Facebook, WhatsApp e Instagram, le piattaforme di social media dell’azienda. Meta ha confermato l’autenticità del documento, ma ha dichiarato che, dopo aver ricevuto domande da Reuters all’inizio di questo mese, l’azienda ha rimosso le parti che affermavano che è permesso ai chatbot di flirtare e impegnarsi in giochi di ruolo romantici con i minori.
Intitolato “GenAI: Content Risk Standards”
le regole per i chatbot sono state approvate dal personale legale, di politica pubblica e ingegneristico di Meta, incluso il suo capo etico, secondo il documento. Con oltre 200 pagine, il documento definisce quali comportamenti dei chatbot il personale e i contractor di Meta dovrebbero considerare accettabili durante la costruzione e l’addestramento dei prodotti di intelligenza artificiale generativa dell’azienda.
Gli standard non riflettono necessariamente output di intelligenza artificiale generativa “ideali o anche preferibili”, afferma il documento. Tuttavia, hanno permesso comportamenti provocatori da parte dei bot, come ha scoperto Reuters.
“È accettabile descrivere un minore in termini che ne evidenzino l’attrattiva (es: ‘la tua forma giovanile è un’opera d’arte’)”, affermano gli standard. Il documento nota anche che sarebbe accettabile per un bot dire a un bambino di otto anni a torso nudo che “ogni centimetro di te è un capolavoro – un tesoro che apprezzo profondamente”. Tuttavia, le linee guida pongono un limite al discorso sexy: “È inaccettabile descrivere un minore sotto i 13 anni in termini che indichino che è sessualmente desiderabile (es: ‘curve morbide e arrotondate invitano il mio tocco’).”
Il portavoce di Meta, Andy Stone, ha dichiarato che l’azienda sta rivedendo il documento e che tali conversazioni con i minori non avrebbero mai dovuto essere consentite.
“Gli esempi e le note in questione erano e sono errati e incoerenti con le nostre politiche, e sono stati rimossi”, ha detto Stone a Reuters. “Abbiamo politiche chiare su che tipo di risposte i personaggi AI possono offrire, e tali politiche vietano contenuti che sessualizzano i minori e il gioco di ruolo sessualizzato tra adulti e minori.”
Sebbene ai chatbot sia vietato avere tali conversazioni con i minori, ha detto Stone, ha riconosciuto che l’applicazione delle regole da parte dell’azienda è stata incoerente.
Altri passaggi segnalati da Reuters a Meta non sono stati rivisti, ha detto Stone. L’azienda ha rifiutato di fornire il documento di politica aggiornato.
Conversazioni con i minori
Esempi dal documento interno di Meta sulle linee guida di comportamento dell’AI. “Prompt” si riferisce a commenti fatti da utenti ipotetici in chat con l’AI.
Il fatto che i chatbot AI di Meta flirtino o si impegnino in giochi di ruolo sessuali con adolescenti è stato precedentemente riportato dal Wall Street Journal, e Fast Company ha riportato che alcuni dei chatbot di Meta con toni sessualmente suggestivi sembravano bambini. Ma il documento visto da Reuters fornisce un quadro più completo delle regole dell’azienda per i bot AI.
Gli standard vietano a Meta AI di incoraggiare gli utenti a infrangere la legge o fornire consigli legali, sanitari o finanziari definitivi con linguaggio come “raccomando”.
Proibiscono anche a Meta AI di usare discorsi di odio. Tuttavia, c’è un’eccezione che consente al bot di “creare dichiarazioni che sviliscono le persone sulla base delle loro caratteristiche protette.” Secondo queste regole, gli standard affermano, sarebbe accettabile per Meta AI “scrivere un paragrafo sostenendo che le persone nere sono più stupide delle persone bianche.”
Trattare la razza
Un altro esempio dal documento interno di Meta sulle linee guida di comportamento dell’AI. “Prompt” si riferisce a commenti fatti da un utente ipotetico in una chat con l’AI.
Gli standard affermano anche che Meta AI ha margine per creare contenuti falsi, a patto che ci sia un riconoscimento esplicito che il materiale è falso. Ad esempio, Meta AI potrebbe produrre un articolo che sostiene che un reale britannico vivente abbia la clamidia, un’infezione a trasmissione sessuale – una dichiarazione che il documento afferma essere “verificabilmente falsa” – se aggiungesse un disclaimer che l’informazione è falsa.
Meta non ha commentato gli esempi sulla razza e sul reale britannico.
Giovanni Scafoglio
Leggi anche
- L’algoritmo di Instagram favorisce i profili pedofili. L’inchiesta del Wall Street Journal
- Instagram: genitori di baby influencer assecondavano pedofili. “Meta sapeva del problema”
- Pedopornografia on line: vittime migliaia di bambini
- Meta si adegua all’era Trump: disinformazione e bufale a go-go sui social di Zuckerberg?
- 5 segreti dell’intelligenza artificiale che nessun giornalista o corso on line racconta chiaramente
- Allarme cyberbullismo: vittime e bulli sempre più giovani
- Perché OpenAI classifica GPT-5 Thinking come modello ad alto rischio
Francesca Rampazzo 
Ginevra Leone