Date post: | 19-May-2015 |
Category: |
Technology |
Upload: | evazangerle |
View: | 328 times |
Download: | 0 times |
Miscreants and Misinformation on Twitter
Eva Zangerle
Ringvorlesung "Datenflut und Informationskanäle"
07.11.2013
2
/me
Eva ZangerleDiplomstudium Informatik, UIBK Promotion Informatik, UIBK PostDoc-Researcher Datenbanken und Informationssysteme, UIBK
Social Media (Twitter)Recommender SystemsMySQLGraph-Datenbanken
3
Roadmap
TwitterÜberblick Kriminalität auf TwitterSpamFake Accounts Hacked AccountsMensch, Bot oder Cyborg?Zusammenfassung
TwitterBildquelle: tech.fortune.cnn.com
6
1.000.000.000 registrierte Nutzer250.000.000 aktive Nutzer100.000.000 aktive Nutzer pro Tag500.000.000 Tweets pro TagRekord für Tweets pro Sekunde: 143.199 (2013-08-02, 25x erhöht)Generation Y (15-34 Jahre alt; 19 Länder)
66% benützen Facebook
29% benützen Twitter
80% loggen sich täglich ein
7
Kriminalität auf Twitter
Bildquelle: gizmodo.co.uk
9
Ziele
personalisierte Informationen sammelnzielgerichtet
Informationen verbreiten
Benutzer beeinflussen (Meinungsbildung)
Daten verkaufen
Fake Followers (18$ für 1.000 Followers)
Þ Publikum benötigt (Reichweite, Authentizität)Þ Publikum sehr groß
Spam
Bildquelle: hyphenet.com
10
Spam
Spam-Anteil bei Emails: ca. 70% Spam-Anteil auf Social Media Plattformen: ca. 5%Studie: 355% mehr Spam in Social Media Plattformen im ersten
Halbjahr 20138% aller URLs in Tweets: Betrug, Schadsoftware oder Phishing-
SeitenHöhere Click-Through-Raten
0,13% aller Werbe-URLs auf Twitter werden geklickt (~ 4 Mio. Clicks/Tag)
0,003% aller Werbe-URLs in Emails werden geklickt
11
Spam-Studie über fünf Soziale Netzwerke
Facebook, Twitter, Google+, YouTube und LinkedInErste Hälfte 2013
Abbildung entnommen aus Nexgate 2013 State of Social Media Spam Research Report, nexgate.com.
12
Spam-Studie über fünf Soziale Netzwerke
Studie: 355% mehr Spam in Social Media Plattformen im ersten Halbjahr 2013
5 von 7 neuen Accounts auf Social Media-Plattformen sind Spammer
5% aller Apps sind SpammersFacebook und Youtube haben höchsten Spam-Anteil (100-
fach)15% aller Spam-Nachrichten enthalten URLs (Rest: Text-
Spam)> 60% aller Spam-Nachrichten auf Twitter enthalten URLs
13
Spam auf Twitter
Kategorie Anteil an Spam
gratis Musik, Spiele, Bücher, Downloads 29,82%
Schmuck, Elektronikartikel, Fahrzeuge 22,22%
Glücks- und Gewinnspiele 15,72%
Finanzprodukte, Kredite, Immobilien 13,07%
Followers gewinnen 11,18%
Abnehmen 3,10%
Pornographie 2,83%
Charity 1,65%
Medikamente 0,27%
Antivirus-Software 0,14%
14
Arten von Spam auf Twitter
Call OutsWin an iTouch AND a $150 Apple gift card http://spam.com
RetweetsRT @scammer: check out the Ipads there having a give-away http://spam.com
Tweet Hijackinghttp://spam.com RT @barackobama A great battle is ahead of us
Trend SettingBuy more followers! http://spam.com #fwlr
Trend HijackingHelp donate to #haiti relief: http://spam.com
Unsolicited MentionsGreat ipads here http://spam.com @eva_zangerle @dbisibk
Kategorisierung basierend auf Grier et al.: @spam: The Underground in 140 Characters or Less
15
Verbreitung von Spam auf Twitter
Cyber-Kriminelle verwenden meist folgende Herangehensweisen:Kompromittieren/Hacken von bestehenden Accounts
Anlegen falscher Twitter-Accounts
Erzeugen eines Bots
Erzeugen eines Cyborgs
Identitätsdiebstahl (vermehrt auf anderen SN)
Twitter Spam-Filter muss umgangen werden zielgerichtete Werbung wird auch von Twitter verkauft
16
Spam auf Twitter
Twitter-Erkennungsalgorithmus für Spam-AccountsFrequenz der Tweets
duplizierte Tweets
URLs in den Tweets
viele Follow,- und Unfollow-Vorgänge
ähnliche Tweets, Vorgehensweisen über mehrere Accounts hinweg
viele weitere (unbekannte) Charakteristika
17
Eigenschaften von Spam-Accounts
Tweet-Frequenz
Abbildung entnommen aus Kurt Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on Internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.
Verteilung über die Klassen(I) 34%(II) 10%(III)56%
18
Eigenschaften von Spam-Accounts
Beziehungen (Followers, Friends)
Abbildung entnommen aus K. Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on Internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.
B‘s friend
Eigenschaften von Spam-Accounts
Inaktive Phasen
Abbildung entnommen aus K. Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on Internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.
20
Erkennung von Spam-Accounts
Twitter Erkennungsalgorithmus Evaluation basierend auf 1,8 Mrd. Tweets
Abbildung entnommen aus K. Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on Internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.
Fake AccountsBildquelle: digitaltrends.com
22
Fake Accounts
Automatisch erzeugte AccountsVerkauf von Fake Accounts zur Spam-Verbreitung10-200$ für 1.000 AccountsOnline-VerkaufStudie über gekaufte Spam-Accounts (10 Monate)
27 Verkäufer (verantwortlich für 10-20% aller Spam-Accounts)
121.027 Accounts
127.000 – 459.000$
viele doppelte oder weiter verkaufte Accounts
23
Fake Accounts
Sehr oft leicht erkennbarStandard-Profilbild
Keine Biographie
Viele duplizierte Tweets
kryptischer Username
Verhältnis Freunde/Follower
Profilbild von Bildagentur
Inhalt der Tweets
Umgehende Antwort auf Tweets
24
Fake Accounts
Präsidentschaftswahl USA 2013
Abbildung entnommen aus http://www.dailymail.co.uk/news/article-2430875/Barack-Obama-19-5m-fake-Twitter-followers.html.
25
Fake Accounts
Ben Sarma als Follower von Mitt Romney (Profilbild gestohlen)
Fake Accounts
Profilbilder von Bildagenturen
Fake Accounts
Hacked AccountsBildquelle: jrwoodward.net
29
Hacked Accounts
Hack durch automatisiertes Erzeugen von Passwörtern
Hack durch Malware
Kompromittieren des Accounts (und der Follower)Reichweite
Vertrauensverhältnis ausnützen
Direct Messages, Tweets im Namen des Benutzers
Neue Follow-Beziehungen
Wie gehen Benutzer damit um, dass ihr Account gehackt wurde?
Studie mit 1,3 Millionen Tweets (abgegriffen 12/2012 – 07/2013)
Klassifizierung mittels überwachtem Lernen (Support Vector Machines)
30
Studie Hacked Accounts - Klassen
Gehackter Account Ooh looks like I've been hacked! That explains the inability to get into my account! Will be putting that right"
Entschuldigung für Tweets My Account was hacked pls ignore all the tweets Isent today. I apologize for the inconvenience
Entschuldigung für direct messages If I sent you spams via DM, I'm really sorry - my account got hacked
Neuer AccountHey guys, go follow my new account because this one is hacked and is sending out spam
Neues Passwort Very sorry everyone. My account was hacked. password changed, hopefully that does the trick
von Freunden/Verwandten gehackt my brother hacked my account sorry
31
Studie Hacked Accounts
32
Studie Hacked Accounts
27% der Benutzer erzeugen neuen Account Twitter stellt Hilfeseiten zur Verfügung
Passwort ändern
Berechtigung externer Apps löschen
Passwörter in externen Apps ändern
Informationsdefizit
alter Account verbleibt evtl. bei Hackern
1.105 Tweets an @support
Mensch, Bot, Cyborg?
34
Bots
Programm, das automatisiert Aufgaben von Menschen übernimmtVortäuschung eines menschlichen NutzersSocialbots Bots in sozialen MedienSchnittstellen von Twitter zum automatisierten Senden, Followen,
etc.Einfluss auf Wahlen, Aktienmarkt, etc.können ab 250$ gekauft werdenRetweet, Propagation bestimmter TweetsVerkauf von Facebook-Likes über Bots: 200 Mio. $/Jahr
35
Bots
nur 35% aller Follower auf Twitter sind Menschenteils sehr intelligentaktuelle NachrichtenCarina Santos – populäre Journalistin auf Twitter war Bot Meinungsbild beeinflussen (z.B. Klimawandel)Tweets so oft versenden, bis originale Accounts von Spam-
Filter erkannt werden
36
Bots
User tweetet, dass er von der Polizei verfolgt wird (in der Nähe einer Bank of America-Filiale)
Abbildung entnommen aus Nexgate 2013 State of Social Media Spam Research Report, nexgate.com.
37
Cyborgs
Bot unterstützt durch MenschenMensch unterstützt durch BotSehr oft: Mensch registriert sich (Captcha), Bot übernimmt
alles Weitere
38
Klassifikation Mensch, Bot oder Cyborg
basierend auf Features, z.B. Häufigkeit der Tweets
Anzahl Follower/Friends
Art, wie der Tweet abgeschickt wurde (Website, App, API)
Anzahl URLs
Abbildungen entnommen aus Z. Chu et al. Who is tweeting on Twitter: human, bot, or cyborg?. In Proceedings of the 26th Annual Computer Security Applications Conference (ACSAC '10). ACM, New York, NY, USA.
39
Klassifikation Mensch, Bot oder Cyborg
Ergebnis (2009)
Abbildung entnommen aus Z. Chu et al. Who is tweeting on Twitter: human, bot, or cyborg?. In Proceedings of the 26th Annual Computer Security Applications Conference 2010 (ACSAC '10). ACM, New York, NY, USA.
40
Follower Farming
Einfluss des Tweets fließt in Suchmaschinen-Ranking einHöhere Follower-Anzahl höheres Ranking in Google für
Tweetab 2.000 Friends Twitter-BegrenzungZiel: Follower finden, die „zurück followen“Annahme: User, die wenige Kontakte haben, followen zurück
Studie mit 54 Mio. Accounts 1,8 Mrd. Tweets
41
Follower Farming
Annahme falsch
Abbildung entnommen aus S. Ghosh et al. Understanding and combating link farming in the twitter social network. In Proceedings of the 21st international conference on World Wide Web 2012 (WWW '12). ACM, New York, NY, USA, 61-70.
42
Follower Farming
Top 100.000 Spam-Followers71% haben mehr als 1.000 Followers
235 haben bestätigte (verified) Twitter Accounts
76% sind keine Spammer
24% sind nicht mehr aktive Accounts oder Spammer
aktive User Tweets über Internet Marketing, Entrepreneurship, Social Media
Unternehmen, die ihre Website promoten wollen
Social Capitalists
43
Social Capitalists - Motivation
Ziel ist Erhöhung des Einflusses im Netzwerkbessere Verbreitung der eigenen Tweetsähnlich zu SpammernHöflichkeit, „Follow back“–Etikette80% der Beziehungen reziprokgegenseitiges Pushen („will follow back“)
44
Spammer-Netzwerke
Neuere Studie über die Interkonnektivität von SpammernSpam-Accounts sind untereinander dicht vernetztGründe für Spammer-Vernetzung
Folgen völlig beliebiger Accounts
Vernetzung innerhalb gleicher Organisation
Abbildung entnommen aus C. Yang et al. Analyzing spammers' social networks for fun and profit: a case study of cyber criminal ecosystem on twitter. In Proceedings of the 21st international conference on World Wide Web (WWW '12). ACM, New York, NY, USA, 71-80.
ZusammenfassungBildquelle: http://www.hdwallpapersinn.com
46
Zusammenfassung
Kriminalität auf Twitteralles dreht sich um persönliche InformationenSpamStudie Umgang mit gehackten AccountsKlassifizierung Bot, Cyborg oder MenschFollower Farming
Kontakt & Social Media
@[email protected]://www.evazangerle.at
http://dbis-informatik.uibk.ac.at@dbisibk https://www.facebook.com/dbisibk
Bildquelle: jrwoodward.net
Quellen
C. Yang et al. Analyzing spammers' social networks for fun and profit: a case study of cyber criminal ecosystem on twitter. In Proceedings of the 21st international conference on World Wide Web 2012 (WWW '12). ACM, New York, NY, USA, 71-80.
S. Ghosh et al. Understanding and combating link farming in the twitter social network. In Proceedings of the 21st international conference on World Wide Web 2012 (WWW '12). ACM, New York, NY, USA, 61-70.
Zi Chu, Steven Gianvecchio, Haining Wang, and Sushil Jajodia. 2012. Detecting Automation of Twitter Accounts: Are You a Human, Bot, or Cyborg?. IEEE Trans. Dependable Secur. Comput. 9, 6 (November 2012), 811-824.
K. Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.
K. Lee et al. Uncovering social spammers: social honeypots + machine learning. In Proceedings of the 33rd international ACM SIGIR conference on Research and development in information retrieval 2010 (SIGIR '10). ACM, New York, NY, USA, 435-442.
C. Grier et al. @spam: the underground on 140 characters or less. In Proceedings of the 17th ACM conference on Computer and communications security 2010 (CCS '10). ACM, New York, NY, USA, 27-37.
K. Thomas et al. Trafficking fraudulent accounts: the role of the underground market in Twitter spam and abuse. In Proceedings of the 22nd USENIX conference on Security 2013(SEC'13). USENIX Association, Berkeley, CA, USA, 195-210.
F. Benevenuto et al. Detecting Spammers on Twitter. In Proceedings of the Annual Collaboration, Electronic messaging, Anti-Abuse and Spam Conference (CEAS’10). Redmond, Washington, USA. July, 2010.
K. Lee et al. Seven Months with the Devils: A Long-Term Study of Content Polluters on Twitter. 5th International AAAI Conference on Weblogs and Social Media (ICWSM). Barcelona, July, 2011.
49
Quellen
Research Report: 2013 State of Social Media Spamhttp://nexgate.com/wp-content/uploads/2013/09/Nexgate-2013-State-of-Social-Media-Spam-Research-Report.pdf
Twitter Blog über Tweets pro Sekunde-Rekordhttps://blog.twitter.com/2013/new-tweets-per-second-record-and-how
I flirt and Tweethttp://www.nytimes.com/2013/08/11/sunday-review/i-flirt-and-tweet-follow-me-at-socialbot.html
Fake Twitter Followers Become Multimillion-Dollar Businesshttp://bits.blogs.nytimes.com/2013/04/05/fake-twitter-followers-becomes-multimillion-dollar-busines
Millennials & Social Mediahttp://www.digit-ally.co.uk/millennials-gen-y-social-media-infographic
Socialbakershttp://www.socialbakers.com