Come scoprire un Bot

I robot non sono il massimo dell'empatia e della simpatia se non in alcune mirabolanti invenzioni cinematografiche e artistiche. La simpatia, l'ironia, il sarcasmo per ora sono ancora custodite nelle sinapsi umane. Spostando la riflessione sul web, sui social e sulle chat, il ruolo o la mission robotica viene trasferita ai Bot. “Alla definizione di Bot rispondono degli account automatizzati, completamente gestiti da una macchina in grado di mimare il comportamento umano grazie ad algoritmi 'intelligenti' che si fanno 'persona', con tanto di foto e presunti followers o amici”, spiega Maurizio Tesconi dell'Istituto di informatica e telematica (Iit) del Cnr di Pisa. “Gli scopi per cui vengono creati possono essere i più vari, leciti o illeciti, si va dal dating alla manipolazione di campagne elettorali, al pompaggio di quotazioni di borsa di società vuote o inesistenti”.

Sono 39 i Paesi nel mondo dove sono stati riportati in letteratura scientifica episodi di manipolazione da parte dei political Bot. I primi casi di manipolazione importante risalgono al 2010, durante la campagna elettorale per le elezioni speciali del Senato degli Stati Uniti, ma ce ne sono tracce ancora prima con vari chatbot malevoli che diffondevano spam già nei primi anni 2000 su piattaforme come Yahoo, Aol e Msn Messenger. Si può dire che i social Bot sono nati insieme ai social media.

La loro diffusione è legata al loro punto di forza “Il Bot è intelligente. O meglio, deve agire e pensare come un umano, al punto da essere indistinguibile da una persona. In altre parole, è mimetico. E chi ci conversa non dovrebbe minimamente sospettare che dietro alla tastiera si nasconda un algoritmo, a meno che questo non lo dichiari espressamente”, prosegue il ricercatore. “Solo il 24% dei social Bot più evoluti è scoperto dalle persone. Costruirsi un esercito di Bot non è difficile per un programmatore e nemmeno troppo costoso: esistono decine di migliaia di siti con codice pronto all'uso per creare i propri Bot, oltre a molteplici servizi dove è possibile comprare account fasulli con poche decine di dollari. Inoltre, il Bot si evolve esattamente come un virus: a una reazione degli anti-Bot, esso si evolve con una variante. Si profila una continua lotta di umani vs Bot”.

È opportuno allora conoscere i “sintomi” che devono insospettirci e gli “anticorpi” che possiamo sviluppare. “Quando utilizziamo un servizio di messaggistica, c'è il rischio che quello con cui stiamo dialogando sia un chatbot. Rischio che diventa certezza se ci accorgiamo che risponde troppo velocemente, con risposte pronte, che sanno di già confezionato e che nessun umano riuscirebbe mai a far uscire da una tastiera in meno di un secondo”, chiarisce Tesconi. “Se la Rete si limitasse a farci incontrare questo tipo di chatbot non sarebbe complicato scoprirli. I problemi sorgono se, grazie all'Intelligenza artificiale, i Bot riescono a reggere conversazioni articolate. In questo caso, una delle armi di cui disponiamo e che i Bot proprio non hanno, è il sarcasmo. Così, se in una chat si prova a fare dell'ironia e l'interlocutore risponde in modo strano, con frasi come 'non ho capito cosa volevi chiedermi' oppure, peggio ancora, prova a evadere e spostare la conversazione su un terreno che gli è più congeniale, è probabile che si stia chattando con un profilo artificiale. Alcune domande come 'Cosa penseresti di me se mi lavassi i denti con un asciugamano?', di solito ottengono risposte poco soddisfacenti se rivolte a un Bot”.

A volte però i Bot sono usati come esche per trovare persone disposte al dialogo: migliaia di account provano a stabilire un contatto con semplici frasi di aggancio, e una volta individuato il malcapitato, interviene il Bot master che continua la conversazione per portare avanti la truffa.

Per saperne di più: “Fake people. Storie di social bot e bugiardi digitali" (Codice edizioni) di Maurizio Tesconi e Viola Bachini

Fonte: Maurizio Tesconi, Istituto di informatica e telematica, Pisa , email maurizio.tesconi@iit.cnr.it -