OpenAI presenta un classificatore per immagini di abusi su minori e avvisi in ChatGPT
I deepfake rischiano di sommergere chi indaga sugli abusi: un filtro automatico serve a ritrovare in fretta i casi reali.

TechCrunch AI. OpenAI ha annunciato strumenti contro il materiale pedopornografico: un classificatore di immagini che riconosce anche i contenuti generati dall'IA, avvisi e blocchi temporanei per chi prova a crearlo o a ottenerlo, linee guida per gli sviluppatori e strumenti per le forze dell'ordine. Chi cerca di accedere a materiale di abuso verrà sospeso da ChatGPT per 24 ore come avvertimento. Il classificatore assegna ai file mai visti un punteggio che aiuta i revisori a decidere, ed è offerto gratuitamente a imprese selezionate tramite API. Il presidio punta a non far soffocare gli investigatori dalla marea di immagini sintetiche.
Sospensione di 24 ore per chi cerca di accedere a materiale di abuso
Conferme: The Verge (16 novembre) e annuncio sul blog di OpenAI
Argomenti: OpenAI · Sicurezza informatica · Leggi e tribunali
A cura di Alessio Ascione. Sintesi scritta con l'aiuto di Claude a partire dal testo della fonte, che fa sempre fede: come nasce il giornale. Rettifiche o rimozioni: modulo.