Transparency Report
Hey Jodler,
dies ist der dritte Bericht zur Moderation & Sicherheit auf Jodel, den wir jedes halbe Jahr veröffentlichen. Dadurch wollen wir mehr Transparenz und Vertrauen schaffen und allen Jodlern eine Idee geben, was hinter den Kulissen im Jodel Universum so passiert.
Damit Jodel weiterhin der einzigartig wundervolle Ort bleibt und jeder Jodler sich in unserer Community wohl und sicher fühlt, arbeiten wir jeden Tag daran die Sicherheit zu verbessern. In diesem Bericht wirst Du nun mehr darüber erfahren, wie wir intern arbeiten und gemeinsam mit Euch unsere Communities moderieren und schützen.
Solltet ihr hierzu Feedback oder Fragen haben, so könnt ihr diese uns natürlich jederzeit stellen. Dafür einfach #feedback benutzen oder unseren Support kontaktieren.
Im Kampf gegen den Missbrauch ist und bleibt unsere stärkste Waffe unsere Community. Wir sind immer wieder begeistert, wie alle Jodler gegen Missbrauch zusammen stehen und dafür sorgen, dass wir zusammen Spaß haben können. Weiter so!
1) Was tun, wenn man Missbrauch auf Jodel sieht?
Wir sind alle Teil der Jodel Community und gestalten diese täglich mit. Dafür brauchen wir die richtigen Werkzeuge, wozu natürlich auch Möglichkeiten zum Kampf gegen Missbrauch gehören.
Sollte also ein Post gegen eine unserer Community Guidelines verstoßen, so kann man diesen an unsere Moderatoren melden. Dafür einfach auf die drei Punkte tippen, die Option “Jodel melden” und die richtige Kategorie auswählen. Schon kommt der Post zu unseren Moderatoren.
Mehrere Moderatoren entscheiden dann gemeinsam, ob der Post tatsächlich gegen unsere
Community Guidelines verstößt oder nicht.
Eine ausführlichere Beschreibung unseres Moderations Systems findet ihr hier.
Sobald ein Post geblockt wurde, informieren wir darüber sowohl den Verfasser als auch den Jodler, der uns auf den Regelverstoß aufmerksam gemacht hat.
User deren Posts geblockt wurden, werden dann von unseren Admins kontrolliert und, je nach Schwere und Häufigkeit der Verstöße, gesperrt. Manchmal nur für eine bestimmte Zeit, gegebenenfalls auch permanent. Dabei stützen diese sich auf die Community Guidelines und interne Safety Guidelines.
Dieses System hilft uns dabei schnell und zuverlässig Missbrauch von Jodel zu entfernen. Doch für uns ist es mindestens genauso wichtig diesen gar nicht erst entstehen zu lassen. Dabei setzen wir auf eine frühe und kontinuierliche Aufklärung aller Jodler über unsere Community Guidelines, unsere Jodel Werte und wie sie dabei helfen können ihre Community besser zu machen.
Dieses Jahr haben wir auch erste Experimente mit Algorithmen gemacht, die einfache Wortkombinationen erkennen und entweder an die Moderatoren (9% aller gemeldeten Posts) weitergeben oder direkt blocken (0,2% aller geblockten Posts).
Außerdem haben wir unsere ersten Experimente mit Machine Learning Algorithmen gestartet. Hier sind wir allerdings noch in einem sehr frühen Stadium, im nächsten Bericht werden wir dann sicher mehr wissen.
2) Wie geht Jodel gegen strafbare Handlungen vor?
Die Sicherheit auf Jodel liegt uns sehr am Herzen, weshalb wir dieses Thema extrem ernst nehmen. Daher verbieten wir in unseren Community Guidelines auch jedwede illegale Nutzung von Jodel im Allgemeinen, sowie Beleidigungen, Diskriminierung, Gewalt, pornografische Inhalte und Veröffentlichung persönlicher Daten Dritter im Speziellen.
Daher ist auch unser Moderationssystem darauf ausgelegt so etwas schnellstmöglich zu blockieren und User, die in diesen Angelegenheiten verstrickt sind, von unserer Plattform zu entfernen.
Sollte es dort einmal zu Fehlern kommen oder ihr Hilfe brauchen, stehen unsere Support Ninjas bereit, um euch zu helfen. Unser Hauptsystem für Missbrauch auf Jodel ist jedoch immer unser Moderationssystem.
Bei strafbaren Handlungen und/oder einer Gefahr für Menschenleben arbeiten wir mit den Behörden zusammen. Um Gefahr abzuwenden, geben wir auch Daten heraus. Dies tun wir jedoch nur, wenn uns ein richterlicher Beschluss dazu verpflichtet.
In diesen Fällen ist es immer der richtige Schritt den Link zum Post zu sichern und / oder einen Screenshot zu machen und dann die Behörden zu informieren. Gerade bei unmittelbarer Gefahr (Terrordrohungen, Suizidgefahr, etc) verständigt bitte sofort die Polizei. Diese kann die nächsten Schritte veranlassen und uns über den Support mit dem Betreff (Issue) “Emergency and Safety” kontaktieren.
3) Wie viele Meldungen haben wir bekommen und von welchen Stellen?
Damit das alles übersichtlich bleibt, hier ein paar super schöne Tabellen (alle Zahlen beziehen sich auf Deutschland):
Kontaktaufnahme von Behörden:
| Grund der Kontaktaufnahme | Anzahl der Kontaktaufnahme | Fälle, die zur Sperrung des Posts führten | Fälle in denen Daten an die Behörden gegeben wurden |
|---|---|---|---|
| Emergency Suicide | 73 | 13 | 59 |
| Illegal content | 21 | 3 | 11 |
Beschwerden von Nutzern (gemeldete Jodel - 1,6% aller Jodel in dem Zeitraum 24% weniger als im letzten Bericht. Hurraaaa!):
Text-Jodel:
| Grund der Beschwerde | Anzahl an Meldungen | Anzahl an blocks | Anteil der geblockten Meldungen |
|---|---|---|---|
| Total | 1,844,881 | 556,598 | 30.17% |
| Veröffentlichung persönlicher Daten | 122,940 | 63,215 | 51.42% |
| Beleidigungen oder Rassismus | 705,483 | 250,448 | 35.50% |
| Spamming / Spoiler | 235,291 | 42,724 | 18.16% |
| Reposts * | 80,555 | 1,834 | 2.28% |
| Aufdringliche/r Creep | 332,749 | 133,787 | 40.21% |
| Anderes & ilegales | 195,072 | 64,590 | 33.11% |
* Geringe Rate an Blocks hauptsächlich auf Grund des neuen @Reposts channels
Foto-Jodel:
| Grund der Beschwerde | Anzahl an Meldungen | Anzahl an blocks | Anteil der geblockten Meldungen |
|---|---|---|---|
| Total | 355,807 | 23,850 | 6.70% |
| Veröffentlichung persönlicher Daten | 18,019 | 3,967 | 22.02% |
| Sexueller Inhalt | 239,150 | 6,113 | 2.56% |
| Gewaltdarstellung / Beleidigungen | 21,315 | 1,941 | 9.11% |
| Bilder von Dritten | 21,545 | 3,838 | 17.81% |
| Spam / Repost | 32,493 | 970 | 2.99% |
| Anderes & ilegales | 34,284 | 7,021 | 20.48% |
Video-Jodel:
| Grund der Beschwerde | Anzahl an Meldungen | Anzahl an blocks | Anteil der geblockten Meldungen |
|---|---|---|---|
| Total | 8,814 | 1,113 | 12.63% |
| Veröffentlichung persönlicher Daten | 185 | 32 | 17.30% |
| Sexueller Inhalt | 5,914 | 522 | 8.83% |
| Gewaltdarstellung / Beleidigungen | 463 | 78 | 16.85% |
| Bilder von Dritten | 454 | 119 | 26.21% |
| Spam / Repost | 1,050 | 207 | 19.71% |
| Anderes & ilegales | 748 | 155 | 20.72% |
Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.
Email Beschwerden:
| Grund der Beschwerde | Anzahl an Meldungen | Fälle, die zur Sperrung des Posts führten |
|---|---|---|
| Threat and harassment | 1,458 | 652 |
Alle Anfragen von Behörden wurden in unter 24h bearbeitet.
4) Wer ist im Jodel Team für all das verantwortlich?
Bei uns arbeiten glücklicherweise einige sehr tolle Menschen flauschige Waschbären, die für Sicherheit sorgen. Generell ist das Community Department bei Jodel für diese Dinge zuständig. Wir bestehen momentan aus 4 Vollzeitangestellten (immer noch Niklas, Gustave und Oumaima wie im letzten Bericht und nun auch noch Manuel), und 9 Freelancern (Support Ninjas + Admins).
Diese Fülle an Jodlern brauchen wir, damit wir die vielen verschiedenen Sprachen, in denen mittlerweile Jodelklänge ertönen, abdecken können. Konkret haben wir deutsch-, englisch-, französisch-, spanisch-, italienisch-, schwedisch-, finnisch-, norwegisch-, dänisch-, holländisch- und arabischsprachige Helfer.
Durch kontinuierliche Schulung und Kommunikation haben wir ein umfangreiches Bild, was in den verschiedenen Ländern vor sich geht und können immer auf aktuelle Probleme reagieren. Konkret heißt das, dass wir wöchentlich eine Videokonferenz haben, in der die Woche aufgearbeitet und Trends besprochen werden. Dazu kommen alle 6 Wochen persönliche Gespräche und alle 3-6 Monate ein längerer Workshop. Dadurch sind alle immer auf dem neuesten Stand, wir bekommen das nötige Feedback und können gegebenenfalls unsere Prozesse und Regeln anpassen.
Weiterhin haben wir direkten Kontakt zu Nutzern in jeder Stadt, um sicherzustellen, dass wir auch hier alles wichtige mitbekommen.
Durch diese Investments in unsere Prozesse und Helfer ist es uns gelungen, im letzten Halbjahr alle Fälle intern abzuwickeln und mussten zu keinem Zeitpunkt eine externe Stelle in Entscheidungsprozesse mit einbeziehen. Auch sind wir in keinem Branchenverband o.ä. vertreten, die uns bei Entscheidungen helfen.
So, das war jetzt aber auch erstmal genug Text. Wir hoffen, dass diese Aufstellung für euch hilfreich war und wir ein wenig mehr Transparenz auf Jodel schaffen konnte. Lasst uns wissen, was euch gefallen hat und was wir noch besser machen können beim nächsten Mal.
Alles gute aus dem JodelHQ und weiterhin frohes Jodeln!
Niklas
PS: Wie bitter ist es eigentlich, dass wir die DACH Region nicht anders genannt haben? Mit Switzerland, Austria und Germany hätten wir für alle Zeiten die SWAG-Region der Welt sein können :(
2018-2
Daten des 2. Halbjahres 2018
Hey Jodler/in,
dies ist der zweite Bericht zur Moderation & Sicherheit auf Jodel, den wir jedes halbe Jahr veröffentlichen (die alten Daten findest du weiter unten). Dadurch wollen wir mehr Transparenz und Vertrauen schaffen und allen Jodlern eine Idee geben, was hinter den Kulissen im Jodel Universum so passiert.
dies ist der zweite Bericht zur Moderation & Sicherheit auf Jodel, den wir jedes halbe Jahr veröffentlichen. Dadurch wollen wir mehr Transparenz und Vertrauen schaffen und allen Jodlern eine Idee geben, was hinter den Kulissen im Jodel Universum so passiert.
Damit Jodel weiterhin der einzigartig wundervolle Ort bleibt und jeder Jodler sich in unserer Community wohl und sicher fühlt, arbeiten wir jeden Tag daran die Sicherheit zu verbessern. In diesem Bericht wirst Du nun mehr darüber erfahren, wie wir intern arbeiten und gemeinsam mit Euch unsere Communities moderieren und schützen.
Solltet ihr hierzu Feedback oder Fragen haben, so könnt ihr diese uns natürlich jederzeit stellen. Dafür einfach #feedback benutzen oder unseren Support kontaktieren.
Wir sind alle Teil der Jodel Community und gestalten diese täglich mit. Dafür brauchen wir die richtigen Werkzeuge, wozu natürlich auch Möglichkeiten zum Kampf gegen Missbrauch gehören.
Sollte also ein Post gegen eine unserer Community Guidelines verstoßen, so kann man diesen an unsere Moderatoren melden. Dafür einfach auf die drei Punkte tippen, die Option “Jodel melden” und die richtige Kategorie auswählen. Schon kommt der Post zu unseren Moderatoren.
Mehrere Moderatoren entscheiden dann gemeinsam, ob der Post tatsächlich gegen unsere
Community Guidelines verstößt oder nicht. Als Hilfe dafür nutzen sie unsere Moderations Guidelines, eine verkürzte Fassung unserer allgemeinen Community Guidelines.
Eine ausführlichere Beschreibung unseres Moderations Systems findet ihr hier.
Sobald ein Post geblockt wurde, informieren wir darüber sowohl den Verfasser als auch den Jodler, der uns auf den Regelverstoß aufmerksam gemacht hat.
User deren Posts geblockt wurden, werden dann von unseren Admins kontrolliert und, je nach Schwere und Häufigkeit der Verstöße, gesperrt. Manchmal nur für eine bestimmte Zeit, gegebenenfalls auch permanent. Dabei stützen diese sich auf die Community Guidelines und interne Safety Guidelines.
Dieses System hilft uns dabei schnell und zuverlässig Missbrauch von Jodel zu entfernen. Doch für uns ist es mindestens genauso wichtig diesen gar nicht erst entstehen zu lassen. Dabei setzen wir auf eine frühe und kontinuierliche Aufklärung aller Jodler über unsere Community Guidelines, unsere Jodel Werte und wie sie dabei helfen können ihre Community besser zu machen.
1) Wie geht Jodel gegen strafbare Handlungen vor?
Die Sicherheit auf Jodel liegt uns sehr am Herzen, weshalb wir dieses Thema extrem ernst nehmen. Daher verbieten wir in unseren Community Guidelines auch jedwede illegale Nutzung von Jodel im Allgemeinen, sowie Beleidigungen, Diskriminierung, Gewalt, pornografische Inhalte und Veröffentlichung persönlicher Daten Dritter im Speziellen.
Daher ist auch unser Moderationssystem darauf ausgelegt so etwas schnellstmöglich zu blockieren und User, die in diesen Angelegenheiten verstrickt sind, von unserer Plattform zu entfernen.
Sollte es dort einmal zu Fehlern kommen oder ihr Hilfe brauchen, stehen unsere Support Ninjas bereit, um euch zu helfen. Unser Hauptsystem für Missbrauch auf Jodel ist jedoch immer unser Moderationssystem.
Bei strafbaren Handlungen und/oder einer Gefahr für Menschenleben arbeiten wir mit den Behörden zusammen. Um Gefahr abzuwenden, geben wir auch Daten heraus. Dies tun wir jedoch nur, wenn uns ein richterlicher Beschluss dazu verpflichtet.
In diesen Fällen ist es immer der richtige Schritt den Link zum Post zu sichern und / oder einen Screenshot zu machen und dann die Behörden zu informieren. Gerade bei unmittelbarer Gefahr (Terrordrohungen, Suizidgefahr, etc) verständigt bitte sofort die Polizei. Diese kann die nächsten Schritte veranlassen und uns über den Support mit dem Betreff (Issue) “Emergency and Safety” kontaktieren.
2) Wie viele Meldungen haben wir bekommen und von welchen Stellen?
Damit das alles übersichtlich bleibt, hier ein paar super schöne Tabellen (alle Zahlen beziehen sich auf Deutschland):
Kontaktaufnahme von Behörden:
| Grund der Kontaktaufnahme | Anzahl der Kontaktaufnahme | Fälle, die zur Sperrung des Posts führten | Fälle in denen Daten an die Behörden gegeben wurden |
|---|---|---|---|
| Emergency Suicide | 24 | 0 | 12 |
| Illegal content | 14 | 2 | 6 |
Beschwerden von Nutzern (gemeldete Jodel - 2,10% aller Jodel in dem Zeitraum):
Text-Jodel:
| Grund der Beschwerde | Anzahl an Meldungen | Anzahl an blocks | Anteil der geblockten Meldungen |
|---|---|---|---|
| Total | 2,101,031 | 563,682 | 26.83% |
| Veröffentlichung persönlicher Daten | 97,928 | 36,617 | 37.39% |
| Beleidigungen oder Rassismus | 818,141 | 302,371 | 36.96% |
| Spamming / Spoiler | 196,611 | 26,190 | 13.32% |
| Reposts * | 381,863 | 32,365 | 27.57% |
| Aufdringliche/r Creep | 302,835 | 105,273 | 34.76% |
| Anderes & ilegales | 187,045 | 60,866 | 32.54% |
* Geringe Rate an Blocks hauptsächlich auf Grund des neuen @Reposts channels
Foto-Jodel:
| Grund der Beschwerde | Anzahl an Meldungen | Anzahl an blocks | Anteil der geblockten Meldungen |
|---|---|---|---|
| Total | 338,642 | 30,951 | 9.14% |
| Veröffentlichung persönlicher Daten | 20,307 | 4,683 | 23.06% |
| Sexueller Inhalt | 159,212 | 4,844 | 3.04% |
| Gewaltdarstellung / Beleidigungen | 24,547 | 2,623 | 10.69% |
| Bilder von Dritten | 29,191 | 5,867 | 20.10% |
| Spam / Repost | 70,937 | 1,898 | 2.68% |
| Anderes & ilegales | 34,448 | 11,036 | 32.04% |
Video-Jodel:
| Grund der Beschwerde | Anzahl an Meldungen | Anzahl an blocks | Anteil der geblockten Meldungen |
|---|---|---|---|
| Total | 491 | 182 | 37.07% |
| Veröffentlichung persönlicher Daten | 12 | 4 | 33.33% |
| Sexueller Inhalt | 114 | 20 | 17.54% |
| Gewaltdarstellung / Beleidigungen | 44 | 11 | 25.00% |
| Bilder von Dritten | 56 | 20 | 35.71% |
| Spam / Repost | 215 | 113 | 52.56% |
| Anderes & ilegales | 50 | 14 | 28.00% |
Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.
Email Beschwerden:
| Grund der Beschwerde | Anzahl an Meldungen | Fälle, die zur Sperrung des Posts führten |
|---|---|---|
| Threat and harassment | 616 | 289 |
Alle Anfragen von Behörden wurden in unter 24h bearbeitet.
3) Wer ist im Jodel Team für all das verantwortlich?
Bei uns arbeiten glücklicherweise einige sehr tolle Menschen flauschige Waschbären, die für Sicherheit sorgen. Generell ist das Community Department bei Jodel für diese Dinge zuständig. Wir bestehen momentan aus 3 Vollzeitangestellten (Niklas, Gustave und Oumaima), einem Werksstudenten (Marius) und 9 Freelancern (Support Ninjas + Admins).
Diese Fülle an Jodlern brauchen wir, damit wir die vielen verschiedenen Sprachen, in denen mittlerweile Jodelklänge ertönen, abdecken können. Konkret haben wir deutsch-, englisch-, französisch-, spanisch-, italienisch-, schwedisch-, finnisch-, norwegisch-, dänisch-, holländisch- und arabischsprachige Helfer.
Durch kontinuierliche Schulung und Kommunikation haben wir ein umfangreiches Bild, was in den verschiedenen Ländern vor sich geht und können immer auf aktuelle Probleme reagieren. Konkret heißt das, dass wir wöchentlich eine Videokonferenz haben, in der die Woche aufgearbeitet und Trends besprochen werden. Dazu kommen alle 6 Wochen persönliche Gespräche und alle 3-6 Monate ein längerer Workshop. Dadurch sind alle immer auf dem neuesten Stand, wir bekommen das nötige Feedback und können gegebenenfalls unsere Prozesse und Regeln anpassen.
Durch dieses Investment in unsere Prozesse und Helfer ist es uns gelungen, im letzten Halbjahr alle Fälle intern abzuwickeln und mussten zu keinem Zeitpunkt eine externe Stelle in Entscheidungsprozesse mit einbeziehen. Auch sind wir in keinem Branchenverband o.ä. vertreten, die uns bei Entscheidungen helfen.
So, das war jetzt aber auch erstmal genug Text. Wir hoffen, dass diese Aufstellung für euch hilfreich war und wir ein wenig mehr Transparenz auf Jodel schaffen konnte. Lasst uns wissen, was euch gefallen hat und was wir noch besser machen können beim nächsten Mal.
Alles gute aus dem JodelHQ und weiterhin frohes Jodeln!
Niklas
2018-1
Daten des 1. Halbjahres 2018
Kontaktaufnahme von Behörden:
| Grund der Kontaktaufnahme | Anzahl der Kontaktaufnahme | Fälle, die zur Sperrung des Posts führten | Fälle in denen Daten an die Behörden gegeben wurden |
|---|---|---|---|
| Emergency Suicide | 13 | 0 | 11 |
| Illegal content | 24 | 3 | 6 |
Beschwerden von Nutzern (gemeldete Jodel - 2,10% aller Jodel in dem Zeitraum):
Text-Jodel:
| Grund der Beschwerde | Anzahl an Meldungen | Anzahl an blocks | Anteil der geblockten Meldungen |
|---|---|---|---|
| Total | 2.743.525 | 1.122.873 | 40,93% |
| Veröffentlichung persönlicher Daten | 115.210 | 54.306 | 47,14% |
| Beleidigungen oder Rassismus | 907.238 | 492.378 | 54,27% |
| Spamming / Spoiler | 351.053 | 117.890 | 33,58% |
| Reposts | 795.663 | 173.610 | 21.82% |
| Aufdringliche/r Creep | 364.795 | 193.625 | 53,08% |
| Anderes & ilegales | 209.566 | 91.064 | 43,45% |
Foto-Jodel:
| Grund der Beschwerde | Anzahl an Meldungen | Anzahl an blocks | Anteil der geblockten Meldungen |
|---|---|---|---|
| Total | 570.657 | 74.235 | 13,01% |
| Veröffentlichung persönlicher Daten | 33.193 | 8.743 | 26,34% |
| Sexueller Inhalt | 167.718 | 10.681 | 6,37% |
| Gewaltdarstellung / Beleidigungen | 41.224 | 8.745 | 21,21% |
| Bilder von Dritten | 48.259 | 12.424 | 25,74% |
| Spam / Repost* | 233.868 | 17.339 | 7,41% |
| Anderes & ilegales | 46.395 | 16.303 | 35,14% |
* Die Zahlen sind hier so hoch, da viele Bilder von Katzen o.ä. Als Spam gemeldet werden. Diese sind kein Spam, sollten jedoch am besten in @JodelZoo gepostet werden :) Wir werden in Zukunft mehr Werkzeuge bauen, um sicherzustellen dass die Content-Struktur sauber funktioniert.
Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.
Email Beschwerden:
| Grund der Beschwerde | Anzahl an Meldungen | Fälle, die zur Sperrung des Posts führten |
|---|---|---|
| Threat and harassment | 471 | 284 |