Articolo

OFFERTA FASTWEB PER LA TUA CASA
MENU
Home
Web Marketing & Social
Reddit sta bloccando milioni di contenuti spam usando l’AI

Reddit potenzia i controlli automatici contro spam, bot e account fake, usando l’intelligenza artificiale per bloccare i contenuti dannosi. Ecco cosa sappiamo

Piotr Swat/Shutterstock
INTELLIGENZA ASTRALE, L'OROSCOPO GENERATO DALL’IA
LinkedIn X Facebook WhatsApp Email
In Breve (TL;DR)
Reddit usa sistemi basati sull'AI per bloccare spam, bot e account falsi prima che raggiungano le community, bloccando la diffusione di contenuti artificiali.
La moderazione combina AI e controllo umano, riducendo i tempi di rimozione dei contenuti dannosi e limitando l'esposizione degli utenti.

Con gli strumenti di intelligenza artificiale attualmente sul mercato, produrre contenuti (anche falsi o ingannevoli) è diventato incredibilmente facile e alla portata di tutti.

Per questo motivo, sempre più social network stanno cercando di “difendere gli spazi di discussione genuini”, tra questi anche Reddit che di recente ha risposto alla crescita incontrata di contenuti spam, bot e account fake aggiornando i propri sistemi di sicurezza automatizzati con nuovi strumenti basati proprio sull’intelligenza artificiale.

In questo modo la piattaforma sta cercando preservare questo spazio basato su conversazioni ed esperienze reali, proteggendo gli utenti da quella ondata di contenuti spazzatura automatizzati ormai nota nel settore come "AI slop".

In che modo Reddit usa l’AI per riconoscere spam e account falsi

La vera novità della strategia di Reddit sta nella prevenzione e tutto quello che fino a poco tempo fa era un “lavoro di pulizia post-pubblicazione", grazie all’AI diventa un'azione che anticipa la condivisione di questi contenuti, intercettando le anomalie prima che vengano date in pasto alla community.

Fastweb Mobile Pro
11 
,95€
/mese
 
 
Internet 250 GB e Minuti illimitati
Spedizione SIM GRATIS

SCOPRI

Questo approccio si articola su tre livelli, il primo permette ai sistemi di sicurezza di monitorare una serie di metadati e indicatori tecnici che si attivano nel momento esatto in cui viene avviata la creazione di un nuovo profilo, bloccando sul nascere gli account palesemente legati a bot o farm automatizzate.

Per scovare i bot di nuova generazione, quelli capaci di scrivere testi apparentemente umani, Reddit impiega dei Large Language Models avanzati che trovano schemi coordinati di marketing occulto, recensioni truccate o tentativi di creare hyper su un tema riuscendo a individuare argomenti che i vecchi filtri rigidi non riuscivano a rilevare.

TechLine
powered
by
FastwebAI
Prima o dopo? Ordina le carte!
0
/
5
Telegrafo
Presentazione
Presentazione
Il telegrafo è un sistema di comunicazione a distanza ideato per la trasmissione di dati facendo uso di determinati codici.
APRI SU WIKIPEDIA
X
2023
Lancio
X, precedentemente noto come Twitter, è un social network e servizio di microblogging.
APRI SU WIKIPEDIA
VAI AL PROSSIMO GIOCO

Infine, se l'algoritmo rileva un comportamento ambiguo o sospetto, la piattaforma introduce un ulteriore filtro di sicurezza, richiedendo all'account una verifica esplicita della propria identità per poter continuare a pubblicare sulla piattaforma.

Perché moderare Reddit nell’era dell’AI è più difficile

Se da un lato l'automazione permette di arginare milioni di minacce quotidiane dall'altro, vista la complessità strutturale di Reddit, c’è comunque bisogno di una sinergia tra tecnologia e fattore umano.

Moderare una piattaforma simile nell'era dell'AI generativa, infatti, può essere considerata una sfida senza precedenti, proprio perché gli strumenti di attacco si evolvono alla stessa velocità di quelli difensivi.

Per questo motivo Reddit può contare anche su molti moderatori alcuni interni e altrettanti volontari che tengono d’occhio le singole community (i subreddits) e che rimangono il pilastro fondamentale della moderazione. A loro spetta il compito di interpretare il contesto, le sfumature culturali e i meme che l'intelligenza artificiale potrebbe fraintendere o censurare ingiustamente.

L'AI fa davvero la differenza nella velocità di intervento contro i contenuti d'odio, tossici o violenti. Per questo motivo la piattaforma ha implementato un'estensione del controllo automatico (disponibile su tutti i testi in lingua inglese), riuscendo a tagliare i tempi medi di rimozione da ore a meno di cinque secondidal momento della pubblicazione. Questo ha ridotto l'esposizione degli utenti a contenuti potenzialmente nocivi di oltre il 40%.

Con questa strategia, Reddit dimostra che nell'era dell'intelligenza artificiale, la sopravvivenza dell’idea di social network non dipenderà da quanta tecnologia si riuscirà a produrre, ma da come sarà utilizzata per proteggere i segnali di autentica interazione umana che, nonostante tutto, rimangono comunque il cuore dei rapporti digitali.

Per saperne di più: Cos'è Reddit e come funziona

Reddit contro i bot AI, introduce la verifica degli account
Reddit introduce una serie di misure per individuare i bot AI sospetti: la sfida è assicurare conversazioni autentiche senza intaccare l’anonimato degli utenti
SCOPRI DI PIÙ
Domande frequenti (FAQ)
In che modo Reddit utilizza l'AI per riconoscere spam e account falsi?
Reddit utilizza l'AI per monitorare metadati e indicatori tecnici al momento della creazione di nuovi profili, impiega Large Language Models per individuare schemi di marketing occulto e introduce filtri di sicurezza in caso di comportamenti sospetti.
Qual è il ruolo dei moderatori su Reddit?
I moderatori su Reddit sono fondamentali per interpretare il contesto, le sfumature culturali e i meme che l'IA potrebbe fraintendere, contribuendo alla moderazione delle singole community.
Qual è l'obiettivo di Reddit nell'utilizzare l'AI per la moderazione?
Reddit utilizza l'AI per proteggere gli utenti da contenuti dannosi, preservando l'autenticità delle interazioni umane e garantendo un ambiente di discussione genuino e sicuro.
A cura di Cultur-e
Topic:
REDDIT
#CuriositaTech
#IntelligenzaArtificiale
#Social
Glossario
DNS
ISP
Addestramento IA non consentito: É assolutamente vietato l’utilizzo del contenuto di questa pubblicazione, in qualsiasi forma o modalità, per addestrare sistemi e piattaforme di intelligenza artificiale generativa. I contenuti sono coperti da copyright.
LinkedIn X Facebook WhatsApp Email
Potrebbe interessarti anche:
INTELLIGENZA ARTIFICIALE
Come sfruttare l’intelligenza artificiale sui social media

Come usare l’intelligenza artificiale sui diversi canali social. Dalla creazione contenuti al monitoraggio dati fino ad arrivare alla crescita della community

INTELLIGENZA ARTIFICIALE
Nuove truffe sui Social Media con l'IA, come difendersi

Con l’intelligenza artificiale le frodi sul web sono diventate sempre più complesse e credibili. La guida per riconoscere e difendersi dalle truffe sui social

INTELLIGENZA ARTIFICIALE
Hacker e Intelligenza artificiale, come potrebbero sfruttarla

Dal phishing ai malware. Dal deepfake al social engineering: ecco i pericoli dell’intelligenza artificiale se utilizzata da malintenzionati e applicata a un attacco hacker

Scopri i corsi gratuiti della Fastweb Digital Academy
Progettare ricerche per il marketing
Un deep-dive sulla progettazione di ricerche per il marketing e il prodotto
Iscriviti
Dall’influencer marketing alla creator strategy
Comprendere ed esplorare l'influencer marketing
Iscriviti
SEO per il tuo Blog
Come Sfruttare il Potere della SEO nel Blogging
Iscriviti
Iscriviti
all'area personale
Per ricevere Newsletter, scaricare eBook, creare playlist vocali e accedere ai corsi della Fastweb Digital Academy a te dedicati.
Leggi l'informativa
Nome
Cognome
Indirizzo email

App FastwebPlus
Un'app unica per conoscere, informare, ispirare

Seguici
     
Scopri Fastweb
Chi siamo
Credits e note legali
Fastweb.it
Formazione
Fastweb Digital Academy
STEP FuturAbility District
Insieme, siamo futuro
© Fastweb SpA 2026 - P.IVA 12878470157
Informativa Privacy
Cookie Policy
Modifica preferenze cookie
Dichiarazione di Accessibilità