Rete di bot crittografici alimentata da ChatGPT scoperta su X

Cryptobot network powered by ChatGPT discovered on X

X, la piattaforma di social media di proprietà di Elon Musk precedentemente conosciuta come Twitter, ha un significativo problema di account falsi. La proliferazione di bot sul social network è stata riconosciuta dallo stesso Musk, che l’ha citata come la principale ragione per cui inizialmente ha cercato di ritirarsi dall’acquisizione dell’azienda.

E nuove ricerche dell’Osservatorio sui Social Media dell’Università dell’Indiana, Bloomington, dipingono un quadro accurato di una di queste reti di bot che è stata implementata su X. Il professor Filippo Menczer insieme allo studente Kai-Cheng Yang hanno recentemente pubblicato uno studio riguardante una botnet denominata Fox8, secondo quanto riportato per la prima volta da ENBLE.

I ricercatori hanno scoperto una rete di almeno 1.140 account Twitter falsi solo lo scorso maggio che pubblicavano costantemente tweet che collegavano a una serie di siti web “notizie” online spammy senza nome che semplicemente ripubblicavano contenuti prelevati da fonti legittime.

La stragrande maggioranza dei post pubblicati da questa rete di account bot erano legati alle criptovalute e spesso includevano hashtag come #bitcoin, #crypto e #web3. Gli account spesso ritwittavano o rispondevano a utenti popolari nel settore delle criptovalute su Twitter, come @WatcherGuru, @crypto e @ForbesCrypto.

Come ha fatto una botnet di più di mille account a pubblicare così tanto? Ha utilizzato l’intelligenza artificiale, in questo caso, specificamente ChatGPT, per automatizzare esattamente ciò che veniva pubblicato. Lo scopo di questi post generati dall’IA sembrava essere quello di invadere Twitter con il maggior numero possibile di link che promuovono le criptovalute, al fine di raggiungere il maggior numero possibile di utenti legittimi nella speranza che cliccassero sugli URL.

• USDA annuncia 667 milioni di dollari di finanziamenti per progetti ...
• Il cambio di nome di Twitter ‘X’ ha portato a una enorm...
• 5 motivi per cui dovresti acquistare uno Smartband invece di uno Sm...

Secondo ENBLE, gli account di X sono stati infine sospesi da X dopo la pubblicazione della ricerca nel luglio. Menczer afferma che il suo gruppo di ricerca in passato informava Twitter di tali botnet, ma ha smesso di farlo dopo l’acquisizione di Musk poiché hanno scoperto che l’azienda non era “realmente reattiva” più.

Anche se strumenti di intelligenza artificiale come ChatGPT hanno aiutato il proprietario della botnet a creare contenuti per migliaia di account, alla fine sono stati la sua rovina.

Secondo lo studio pubblicato, i ricercatori hanno notato un pattern ricorrente con questi account: avrebbero pubblicato tweet che iniziavano con la frase “come modello di linguaggio AI”. Gli utenti di ChatGPT saranno familiari con questa frase poiché l’assistente IA la fornisce spesso come un addendum a qualsiasi output che decide di poter presentare potenziali problemi a causa del fatto che, beh, è semplicemente un modello di linguaggio AI.

I ricercatori hanno sottolineato che se non fosse stato per questo “errore” trascurato, la botnet avrebbe potuto continuare indisturbata.