Autore Topic: ad un passo da skynet  (Letto 28 volte)

Offline legacy

  • Human Debugger
  • *****
  • Post: 5132
  • Karma: +14/-2
    • Mostra profilo
ad un passo da skynet
« il: 22 Luglio 2019, 18:29:45 »
Qualcuno, o qualcosa (forse un stormo di spambot), continua imperterrito a spammare nel LetterBox di DTB, e siccome si rischiava di affondare nello spam, abbiamo messo a guardia del fortino una IA.

Si tratta della buona Suppa-NLP, che al commit sta alla version 2.1, ed e' proprio qui che arrivano le sorprese.

La versione precedente era semi-automatica, ovvero decideva se un messaggio era "good" or "bad" (boolean, o nero, o bianco), ma poi era un operatore umano a bannare l'IP!

Con la versione 2 abbiamo introdotto il machine-learning, ed il training sui messaggi che ci arrivavano.

... ecco, siccome ci sono arrivate montagne di cacca solida la cosa ha influito parecchio sul training della I.A. che ora vede il 99.97% degli umani come potenziale fonte di spam  :o :o :o


In breve, ragiona cosi': se un messaggio soddisfa un qualsiasi pattern con una confidedenza bilaterale > 95%, allora e' "bad", altrimenti .. analizza lo storico dei messaggi ricevuti e prendi autonomamente una decisione.


Ha notato che su 4000 messaggi ce ne sono 3986 negativi, quindi ha calcolato una probabilita' 3986/4000 che un messaggio dubbio sia da considerarsi "bad".


E questa *cosa* l'abbiamo messa a governare il sito. Direi che un po' fa paura, nel senso ... pensate al training che una qualsiasi IA (anche molto + sofisticata del nostro giocattolo) potrebbe avere nella internet di oggi dove pare che la maggior parte della gente che scrive (non di quella che legge, ma di quella che lascia un segno) e' pessima.

Offline legacy

  • Human Debugger
  • *****
  • Post: 5132
  • Karma: +14/-2
    • Mostra profilo
Re:ad un passo da skynet
« Risposta #1 il: 22 Luglio 2019, 18:34:27 »
In poche parole Suppa pensa che per soddisfare il proprio scopo, ovvero ridurre lo spam, debba eliminare il 99.65% degli umani, che sono quelli che producono spam :o :o :o

Tags: