Transparency Report

Hey Jodler/in,

dies ist der fünfte Bericht zur Moderation & Sicherheit auf Jodel, den wir jedes halbe Jahr veröffentlichen. Dadurch wollen wir mehr Transparenz und Vertrauen schaffen und allen Jodlern eine Idee geben, was hinter den Kulissen im Jodel Universum so passiert.

Damit Jodel weiterhin der einzigartig wundervolle Ort bleibt und jeder Jodler sich in unserer Community wohl und sicher fühlt, arbeiten wir jeden Tag daran die Sicherheit zu verbessern. In diesem Bericht wirst Du nun mehr darüber erfahren, wie wir intern arbeiten und gemeinsam mit Euch unsere Communities moderieren und schützen.

Solltet ihr hierzu Feedback oder Fragen haben, so könnt ihr diese uns natürlich jederzeit stellen. Dafür einfach unseren Support kontaktieren oder #feedback benutzen. Posts, die mit dem #feedback getaggt sind, werden bei uns an ein internes Tool geleitet. Dort gucken wir täglich rein und leiten wichtige Anregungen an die entsprechenden Teams weiter. Durch die Fülle der Posts kann es natürlich passieren, dass wir nicht auf jeden Post antworten oder auch nicht jeden Post lesen können. Wenn es sich also um wichtige Angelegenheiten handelt, empfehlen wir die Nutzung des offiziellen Support Tools.

1) Was tun, wenn man Missbrauch auf Jodel sieht?

Wir sind alle Teil der Jodel Community und gestalten diese täglich mit. Dafür brauchen wir die richtigen Werkzeuge, wozu natürlich auch Möglichkeiten zum Kampf gegen Missbrauch gehören.

Sollte also ein Post gegen eine unserer Community Guidelines verstoßen, so kann man diesen an unsere Moderatoren melden. Dafür einfach auf die drei Punkte tippen, die Option “Jodel melden” und die richtige Kategorie auswählen. Schon kommt der Post zu unseren Moderatoren.

Mehrere Moderatoren entscheiden dann gemeinsam, ob der Post tatsächlich gegen unsere

Community Guidelines verstößt oder nicht.

Eine ausführlichere Beschreibung unseres Moderations Systems findet ihr hier.

User deren Posts geblockt wurden, werden dann von unseren Admins kontrolliert und, je nach Schwere und Häufigkeit der Verstöße, gesperrt. Manchmal nur für eine bestimmte Zeit, gegebenenfalls auch permanent. Dabei stützen diese sich auf die Community Guidelines und interne Safety Guidelines.

Dieses System hilft uns dabei schnell und zuverlässig Missbrauch von Jodel zu entfernen. Doch für uns ist es mindestens genauso wichtig diesen gar nicht erst entstehen zu lassen. Dabei setzen wir auf eine frühe und kontinuierliche Aufklärung aller Jodler über unsere Community Guidelines, unsere Jodel Werte und wie sie dabei helfen können ihre Community besser zu machen.

Dieses Jahr haben wir auch erste Experimente mit Algorithmen gemacht, die einfache Wortkombinationen erkennen und entweder an die Moderatoren (9% aller gemeldeten Posts) weitergeben oder direkt blocken (0,2% aller geblockten Posts).

Außerdem haben wir unsere ersten Experimente mit Machine Learning Algorithmen gestartet. Hier sind wir allerdings noch in einem sehr frühen Stadium, im nächsten Bericht werden wir dann sicher mehr wissen.

2) Wie geht Jodel gegen strafbare Handlungen vor?

Die Sicherheit auf Jodel liegt uns sehr am Herzen, weshalb wir dieses Thema extrem ernst nehmen. Daher verbieten wir in unseren Community Guidelines auch jedwede illegale Nutzung von Jodel im Allgemeinen, sowie Beleidigungen, Diskriminierung, Gewalt, pornografische Inhalte und Veröffentlichung persönlicher Daten Dritter im Speziellen.

Daher ist auch unser Moderationssystem darauf ausgelegt so etwas schnellstmöglich zu blockieren und User, die in diesen Angelegenheiten verstrickt sind, von unserer Plattform zu entfernen.

Sollte es dort einmal zu Fehlern kommen oder ihr Hilfe brauchen, stehen unsere Support Ninjas bereit, um euch zu helfen. Unser Hauptsystem für Missbrauch auf Jodel ist jedoch immer unser Moderationssystem.

Bei strafbaren Handlungen und/oder einer Gefahr für Menschenleben arbeiten wir mit den Behörden zusammen. Um Gefahr abzuwenden, geben wir auch Daten heraus. Dies tun wir jedoch nur, wenn uns ein richterlicher Beschluss dazu verpflichtet.

In diesen Fällen ist es immer der richtige Schritt den Link zum Post zu sichern und / oder einen Screenshot zu machen und dann die Behörden zu informieren. Gerade bei unmittelbarer Gefahr (Terrordrohungen, Suizidgefahr, etc) verständigt bitte sofort die Polizei. Diese kann die nächsten Schritte veranlassen und uns über den Support mit dem Betreff (Issue) “Emergency and Safety” kontaktieren.

3) Wie viele Meldungen haben wir bekommen und von welchen Stellen?

Damit das alles übersichtlich bleibt, hier ein paar super schöne Tabellen (alle Zahlen beziehen sich auf Deutschland):

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme Anzahl der Kontaktaufnahme Fälle, die zur Sperrung des Posts führten Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide 148 67 141
Illegal content 28 20 19

Text-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 1,748,229 640,585 36.64%
Veröffentlichung persönlicher Daten 84,526 34,235 40.50%
Beleidigungen oder Rassismus 586,453 233,266 39.78%
Spamming / Spoiler 267,190 63,461 23.75%
Negative Vibes 309,378 105,307 34.04%
Aufdringliches sexuelles Verhalten 309,378 130,908 42.31%
Anderes & ilegales 191,304 73,408 38.37%

Foto-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 286,827 29,993 10.46%
Veröffentlichung persönlicher Daten 9,938 1,981 19.93%
Sexueller Inhalt 175,929 8,394 4.77%
Gewaltdarstellung / Beleidigungen 19,880 3,727 18.75%
Bilder von Dritten 13,277 2,689 20.25%
Spamming / Spoiler 45,278 7,927 17.51%
Anderes & ilegales 22,525 5,275 23.42%

Video-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 9,960 2,090 20.98%
Veröffentlichung persönlicher Daten 177 56 31.64%
Sexueller Inhalt 5,263 532 10.11%
Gewaltdarstellung / Beleidigungen 915 354 38.69%
Bilder von Dritten 519 203 39.11%
Spamming / Spoiler 1,967 742 37.72%
Anderes & ilegales 1,119 203 18.14%

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde Anzahl an Meldungen Fälle, die zur Sperrung des Posts führten
Threat and harassment 6,312 1847

Alle Anfragen von Behörden wurden in unter 24h bearbeitet.

4) Wer ist im Jodel Team für all das verantwortlich?

Bei uns arbeiten glücklicherweise einige sehr tolle Menschen flauschige Waschbären, die für Sicherheit sorgen. Generell ist das Community Department bei Jodel für diese Dinge zuständig. Wir bestehen momentan aus 4 Vollzeitangestellten (immer noch Niklas, Gustave, Manuel, Kaddi und Oumaima und nun auch noch Aleksi), und 11 Freelancern (Support Ninjas + Admins).

Diese Fülle an Jodlern brauchen wir, damit wir die vielen verschiedenen Sprachen, in denen mittlerweile Jodelklänge ertönen, abdecken können. Konkret haben wir deutsch-, englisch-, französisch-, spanisch-, italienisch-, schwedisch-, finnisch-, norwegisch-, dänisch-, holländisch- und arabischsprachige Helfer.

Durch kontinuierliche Schulung und Kommunikation haben wir ein umfangreiches Bild, was in den verschiedenen Ländern vor sich geht und können immer auf aktuelle Probleme reagieren. Konkret heißt das, dass wir wöchentlich eine Videokonferenz haben, in der die Woche aufgearbeitet und Trends besprochen werden. Dazu kommen alle 6 Wochen persönliche Gespräche und alle 3-6 Monate ein längerer Workshop. Dadurch sind alle immer auf dem neuesten Stand, wir bekommen das nötige Feedback und können gegebenenfalls unsere Prozesse und Regeln anpassen.

Weiterhin haben wir direkten Kontakt zu Nutzern in jeder Stadt, um sicherzustellen, dass wir auch hier alles wichtige mitbekommen.

Durch diese Investments in unsere Prozesse und Helfer ist es uns gelungen, im letzten Halbjahr alle Fälle intern abzuwickeln und mussten zu keinem Zeitpunkt eine externe Stelle in Entscheidungsprozesse mit einbeziehen. Auch sind wir in keinem Branchenverband o.ä. vertreten, die uns bei Entscheidungen helfen.

So, das war jetzt aber auch erstmal genug Text. Wir hoffen, dass diese Aufstellung für euch hilfreich war und wir ein wenig mehr Transparenz auf Jodel schaffen konnte. Lasst uns wissen, was euch gefallen hat und was wir noch besser machen können beim nächsten Mal.

Alles gute aus dem JodelHQ und weiterhin frohes Jodeln!

Niklas & Das Jodel Team.

2019 - 02

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme Anzahl der Kontaktaufnahme Fälle, die zur Sperrung des Posts führten Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide 155 52 135
Illegal content 29 12 15

Text-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an Blocks Anteil der geblockten Meldungen
Total 1,444,438 623,682 43.18%
Veröffentlichung persönlicher Daten 124,360 66,496 53.47%
Beleidigungen oder Rassismus 599,102 255,454 42.64%
Spamming / Spoiler 162,040 65,779 40.59%
Negative Vibes 146,489 45,707 31.20%
Aufdringliches sexuelles Verhalten 265,442 128,762 48.51%
Anderes & ilegales 147,005 61,484 41.82%

Foto-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 211,945 26,402 12.46%
Veröffentlichung persönlicher Daten 12,900 3,074 23.83%
Sexueller Inhalt 130,090 7,516 5.78%
Gewaltdarstellung / Beleidigungen 14,531 3,346 23.03%
Bilder von Dritten 15,914 3,668 23.05%
Spamming / Spoiler 17,336 3,372 19.45%
Anderes & ilegales 21,174 5,426 25.63%

Video-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 9,724 2,612 26.86%
Veröffentlichung persönlicher Daten 291 99 34.02%
Sexueller Inhalt 4,557 788 17.29%
Gewaltdarstellung / Beleidigungen 1,321 310 23.47%
Bilder von Dritten 737 294 39.89%
Spamming / Spoiler 1,743 685 39.30%
Anderes & ilegales 1,075 436 40.56%

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde Anzahl an Meldungen Fälle, die zur Sperrung des Posts führten
Threat and harassment 1,886 1211

Alle Anfragen von Behörden wurden in unter 24h bearbeitet.

2019 - 01

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme Anzahl der Kontaktaufnahme Fälle, die zur Sperrung des Posts führten Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide 73 13 59
Illegal content 21 3 11

Beschwerden von Nutzern (gemeldete Jodel - 1,6% aller Jodel in dem Zeitraum 24% weniger als im letzten Bericht. Hurraaaa!):

Text-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 1,844,881 556,598 30.17%
Veröffentlichung persönlicher Daten 122,940 63,215 51.42%
Beleidigungen oder Rassismus 705,483 250,448 35.50%
Spamming / Spoiler 235,291 42,724 18.16%
Reposts * 80,555 1,834 2.28%
Aufdringliche/r Creep 332,749 133,787 40.21%
Anderes & ilegales 195,072 64,590 33.11%

* Geringe Rate an Blocks hauptsächlich auf Grund des neuen @Reposts channels

Foto-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 355,807 23,850 6.70%
Veröffentlichung persönlicher Daten 18,019 3,967 22.02%
Sexueller Inhalt 239,150 6,113 2.56%
Gewaltdarstellung / Beleidigungen 21,315 1,941 9.11%
Bilder von Dritten 21,545 3,838 17.81%
Spam / Repost 32,493 970 2.99%
Anderes & ilegales 34,284 7,021 20.48%

Video-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 8,814 1,113 12.63%
Veröffentlichung persönlicher Daten 185 32 17.30%
Sexueller Inhalt 5,914 522 8.83%
Gewaltdarstellung / Beleidigungen 463 78 16.85%
Bilder von Dritten 454 119 26.21%
Spam / Repost 1,050 207 19.71%
Anderes & ilegales 748 155 20.72%

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde Anzahl an Meldungen Fälle, die zur Sperrung des Posts führten
Threat and harassment 1,458 652

2018-2

Daten des 2. Halbjahres 2018

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme Anzahl der Kontaktaufnahme Fälle, die zur Sperrung des Posts führten Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide 24 0 12
Illegal content 14 2 6

Beschwerden von Nutzern (gemeldete Jodel - 2,10% aller Jodel in dem Zeitraum):

Text-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 2,101,031 563,682 26.83%
Veröffentlichung persönlicher Daten 97,928 36,617 37.39%
Beleidigungen oder Rassismus 818,141 302,371 36.96%
Spamming / Spoiler 196,611 26,190 13.32%
Reposts * 381,863 32,365 27.57%
Aufdringliche/r Creep 302,835 105,273 34.76%
Anderes & ilegales 187,045 60,866 32.54%

* Geringe Rate an Blocks hauptsächlich auf Grund des neuen @Reposts channels

Foto-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 338,642 30,951 9.14%
Veröffentlichung persönlicher Daten 20,307 4,683 23.06%
Sexueller Inhalt 159,212 4,844 3.04%
Gewaltdarstellung / Beleidigungen 24,547 2,623 10.69%
Bilder von Dritten 29,191 5,867 20.10%
Spam / Repost 70,937 1,898 2.68%
Anderes & ilegales 34,448 11,036 32.04%

Video-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 491 182 37.07%
Veröffentlichung persönlicher Daten 12 4 33.33%
Sexueller Inhalt 114 20 17.54%
Gewaltdarstellung / Beleidigungen 44 11 25.00%
Bilder von Dritten 56 20 35.71%
Spam / Repost 215 113 52.56%
Anderes & ilegales 50 14 28.00%

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde Anzahl an Meldungen Fälle, die zur Sperrung des Posts führten
Threat and harassment 616 289

Alle Anfragen von Behörden wurden in unter 24h bearbeitet.

2018-1

Daten des 1. Halbjahres 2018

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme Anzahl der Kontaktaufnahme Fälle, die zur Sperrung des Posts führten Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide 13 0 11
Illegal content 24 3 6

Beschwerden von Nutzern (gemeldete Jodel - 2,10% aller Jodel in dem Zeitraum):

Text-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 2.743.525 1.122.873 40,93%
Veröffentlichung persönlicher Daten 115.210 54.306 47,14%
Beleidigungen oder Rassismus 907.238 492.378 54,27%
Spamming / Spoiler 351.053 117.890 33,58%
Reposts 795.663 173.610 21.82%
Aufdringliche/r Creep 364.795 193.625 53,08%
Anderes & ilegales 209.566 91.064 43,45%

Foto-Jodel:

Grund der Beschwerde Anzahl an Meldungen Anzahl an blocks Anteil der geblockten Meldungen
Total 570.657 74.235 13,01%
Veröffentlichung persönlicher Daten 33.193 8.743 26,34%
Sexueller Inhalt 167.718 10.681 6,37%
Gewaltdarstellung / Beleidigungen 41.224 8.745 21,21%
Bilder von Dritten 48.259 12.424 25,74%
Spam / Repost* 233.868 17.339 7,41%
Anderes & ilegales 46.395 16.303 35,14%

* Die Zahlen sind hier so hoch, da viele Bilder von Katzen o.ä. Als Spam gemeldet werden. Diese sind kein Spam, sollten jedoch am besten in @JodelZoo gepostet werden :) Wir werden in Zukunft mehr Werkzeuge bauen, um sicherzustellen dass die Content-Struktur sauber funktioniert.

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde Anzahl an Meldungen Fälle, die zur Sperrung des Posts führten
Threat and harassment 471 284