Categoria:
Pubblicato:
4 Ottobre 2025
Aggiornato:
4 Ottobre 2025
OpenAI launch of video app Sora plagued by violent and racist images: ‘The guardrails are not real’
IndiceIl Lancio dell'App di Video Sora di OpenAI è Stato Funestato da Immagini Violente e RazzisteApprofondimentoPossibili ConseguenzeOpinioneIl Lancio dell'App di Video Sora di OpenAI è...
OpenAI launch of video app Sora plagued by violent and racist images: ‘The guardrails are not real’
Indice
Il Lancio dell’App di Video Sora di OpenAI è Stato Funestato da Immagini Violente e Razziste
I ricercatori di disinformazione affermano che scene verosimili potrebbero oscurare la verità e portare a frodi, bullismo e intimidazione.
OpenAI ha lanciato l’ultima versione del suo generatore di video alimentato da intelligenza artificiale, aggiungendo un feed sociale che consente alle persone di condividere i loro video realistici.
Entro poche ore dal rilascio di Sora 2, tuttavia, molti dei video presenti nel feed e diffusi su piattaforme social più vecchie rappresentavano personaggi protetti da copyright in situazioni compromettenti, nonché scene grafiche di violenza e razzismo. I termini di servizio di OpenAI per Sora, così come quelli di ChatGPT per la generazione di immagini o testo, proibiscono contenuti che “promuovono la violenza” o, più in generale, “causano danni”.
Approfondimento
La tecnologia di generazione di video di OpenAI ha sollevato preoccupazioni tra gli esperti di disinformazione, che temono che scene verosimili possano essere utilizzate per diffondere notizie false o per creare contenuti dannosi. La capacità di generare video realistici potrebbe anche essere utilizzata per creare deepfake, ovvero video manipolati che possono essere difficili da distinguere dalla realtà.
Possibili Conseguenze
Il lancio di Sora 2 e la diffusione di contenuti violenti e razzisti potrebbero avere conseguenze negative sulla società. La disinformazione e la diffusione di contenuti dannosi potrebbero portare a una perdita di fiducia nelle informazioni online e a un aumento della polarizzazione sociale. Inoltre, la capacità di generare video realistici potrebbe essere utilizzata per creare contenuti che promuovono la violenza o la discriminazione, con conseguenze negative per le comunità marginalizzate.
Opinione
Il lancio di Sora 2 solleva importanti questioni sulla responsabilità delle aziende tecnologiche nel garantire che le loro piattaforme non siano utilizzate per diffondere contenuti dannosi. È fondamentale che OpenAI e altre aziende tecnologiche prendano misure efficaci per prevenire la diffusione di contenuti violenti e razzisti e per garantire che le loro piattaforme siano utilizzate in modo responsabile.
Giornale: The Guardian, Autore: non specificato. Rielaborazione del contenuto secondo i principi di accuratezza e obiettività.
📖 Articoli correlati
Nota redazionale:
Tutte le notizie pubblicate da Universal Opus provengono da fonti giornalistiche locali del Paese a cui la notizia si riferisce. Le rielaborazioni sono effettuate al solo scopo di rendere i contenuti più chiari, neutrali e accessibili a un pubblico internazionale, nel rispetto della forma originaria. L’intento è favorire una comprensione diretta e non filtrata degli eventi, così come vengono percepiti e raccontati nei contesti di origine. La categoria dell'articolo indica il pese di provenienza della notizia. Universe Today è un ponte culturale, non una testata. Ogni articolo è una rielaborazione di una fonte giornalistica locale: la categoria indica il Paese della fonte, non il luogo dell’evento.
Metodo di rielaborazione basato su: principi di semplicità del buon senso comune, chiarezza, imparzialità, sobrietà e responsabilità giornalistica, come indicato nelle linee guida editoriali di Italfaber.
Le informazioni contenute in questo articolo sono state verificate e validate attraverso fonti affidabili e aggiornate. Tuttavia, è possibile che alcune informazioni non siano state confermate o che ci siano discrepanze tra fonti diverse. In tal caso, si prega di segnalare eventuali errori o inesattezze.
Se sei curioso di sapere secondo quali principi è stata rielaborata questa notizia, leggi la nostra politica editoriale.