Nel panorama dei gruppi Telegram, la moderazione è diventata un elemento fondamentale per creare ambienti sicuri e piacevoli. I classici bot di moderazione svolgono compiti basilari: rimuovono spam, bannano chi insulta, e spesso operano con regole statiche e facilmente aggirabili. Ma cosa succede se la moderazione viene potenziata da intelligenza artificiale?
È da questa esigenza che nasce DeafGuardian, il bot ufficiale del gruppo DeafSuite, progettato non solo per filtrare contenuti inappropriati, ma per comprendere il comportamento degli utenti tramite tre potenti modelli di IA. In questo articolo ti portiamo dentro al suo codice sorgente, alla logica che lo guida e ti spieghiamo anche come realizzare un bot simile da zero.
Le tre IA che alimentano DeafGuardian
A differenza dei bot tradizionali, DeafGuardian è alimentato da tre reti neurali diverse, ognuna delle quali ha un compito ben preciso nella moderazione:
1. NSFW Image Detection (Contenuti +18)
DeafGuardian utilizza un modello TensorFlow basato su MobileNet v2 per analizzare ogni immagine caricata nel gruppo. L’algoritmo classifica l’immagine in 5 categorie: drawings, hentai, neutral, porn, sexy. Se i punteggi per “porn”, “hentai” o “sexy” superano il 65%, l’immagine viene eliminata e l’utente segnalato.
2. SetFit – Riconoscimento Hate Speech in italiano
Il modello SetFit analizza i messaggi e restituisce la probabilità che il testo sia classificato come “hate speech”. Se la probabilità supera il 70%, il messaggio è sottoposto a ulteriori controlli emozionali.
3. BERT – Analisi del tono emotivo
Un modello BERT fine-tuned per la lingua italiana rileva se il messaggio comunica emozioni come rabbia o disgusto. Se la classificazione indica “anger” con score superiore al 90%, e il messaggio contiene parolacce, il contenuto viene eliminato.
Questa combinazione di controllo linguistico ed emotivo permette di ridurre i falsi positivi e identificare comportamenti realmente pericolosi.
Come creare un Telegram Bot in Python: guida passo passo
Step 1: Ottieni un Token da BotFather
- Apri Telegram e cerca
@BotFather - Invia il comando
/newbot - Dai un nome e un username al bot
- Salva il token che ti fornisce (ti servirà per il codice)
Step 2: Installa le librerie necessarie
pip install python-telegram-bot tensorflow setfit transformers nsfw_detectorStep 3: Crea il bot base
from telegram.ext import Updater, CommandHandler def start(update, context): update.message.reply_text('Benvenuto nel mio bot!') def main(): updater = Updater('IL_TUO_TOKEN', use_context=True) dp = updater.dispatcher dp.add_handler(CommandHandler('start', start)) updater.start_polling() updater.idle() if __name__ == '__main__': main()Con questo, hai un bot Telegram base funzionante!
Aggiungiamo l’intelligenza artificiale
Per la moderazione avanzata, puoi integrare:
from transformers import pipeline emotion_classifier = pipeline("text-classification", model="MelmaGrigia/bert-base-italian-xxl-uncased-italian-finetuned-emotions") results = MODEL.predict_proba([message.text]) hate_score = results[0][1] emotion_result = emotion_classifier(message.text) if hate_score > 0.7 and emotion_result[0]['label'] == 'label_3' and emotion_result[0]['score'] >= 0.9: message.delete() update.message.reply_text('Messaggio rimosso per linguaggio offensivo.')Inoltre, puoi integrare il controllo immagini con nsfw_detector per l’analisi automatica dei contenuti visivi.
Gestione segnalazioni: il sistema a 3 strike
Ogni utente che viola le regole riceve una segnalazione. Le segnalazioni vengono salvate in un file reported_users.json. Alla terza segnalazione:
- Il messaggio viene eliminato
- L’utente avvisato pubblicamente
- Se recidivo, espulso dal gruppo automaticamente
Come funziona il controllo dei messaggi
- Controllo delay: Evita flood imponendo un tempo minimo tra i messaggi
- Analisi testuale: SetFit + BERT
- Analisi immagini: analisi NSFW via MobileNet V2
Benvenuto, ma attento a come ti comporti
All’ingresso di un nuovo utente, DeafGuardian controlla se ha già segnalazioni. Se ne ha 3 o più, viene espulso all’istante. Altrimenti riceve un messaggio di benvenuto.
Comandi disponibili per gli admin
| Comando | Descrizione |
|---|---|
| /start | Messaggio di benvenuto |
| /linksocial | Link ufficiali di DeafSuite |
| /ban @utente | Espelle un utente |
| /mute @utente 1h | Silenzia per tempo definito |
| /report @utente tipo descrizione | Segnalazione manuale |
| /setdelay | Imposta intervallo tra messaggi |
Persistenza dei dati e gestione sicura
- Le segnalazioni vengono salvate su
reported_users.json - Le immagini NSFW vengono eliminate dopo l’analisi
Perché DeafGuardian è diverso?
- Analizza prima di punire: Non si basa su keyword ma su contesto
- Comprensione semantica ed emozionale: Integra NLP avanzato
- Zero tolleranza per NSFW e tossicitÃ
- Moderazione decentralizzata: Ogni admin ha pieno controllo
Unisciti a noi
Vuoi vedere DeafGuardian in azione?
- 📲 Telegram DeafSuite
- 🎥 TikTok: @deafsuite
- 📸 Instagram: @deafsuite
Non perdere altro tempo: entra su DeafSuite così possiamo parlare tra di noi e confrontarci come comunitÃ