Hey Jodler/in,

dies ist der fünfte Bericht zur Moderation & Sicherheit auf Jodel, den wir jedes halbe Jahr veröffentlichen. Dadurch wollen wir mehr Transparenz und Vertrauen schaffen und allen Jodlern eine Idee geben, was hinter den Kulissen im Jodel Universum so passiert.

Damit Jodel weiterhin der einzigartig wundervolle Ort bleibt und jeder Jodler sich in unserer Community wohl und sicher fühlt, arbeiten wir jeden Tag daran die Sicherheit zu verbessern. In diesem Bericht wirst Du nun mehr darüber erfahren, wie wir intern arbeiten und gemeinsam mit Euch unsere Communities moderieren und schützen.

Solltet ihr hierzu Feedback oder Fragen haben, so könnt ihr diese uns natürlich jederzeit stellen. Dafür einfach unseren Support kontaktieren oder #feedback benutzen. Posts, die mit dem #feedback getaggt sind, werden bei uns an ein internes Tool geleitet. Dort gucken wir täglich rein und leiten wichtige Anregungen an die entsprechenden Teams weiter. Durch die Fülle der Posts kann es natürlich passieren, dass wir nicht auf jeden Post antworten oder auch nicht jeden Post lesen können. Wenn es sich also um wichtige Angelegenheiten handelt, empfehlen wir die Nutzung des offiziellen Support Tools.

1) Was tun, wenn man Missbrauch auf Jodel sieht?

Wir sind alle Teil der Jodel Community und gestalten diese täglich mit. Dafür brauchen wir die richtigen Werkzeuge, wozu natürlich auch Möglichkeiten zum Kampf gegen Missbrauch gehören.

Sollte also ein Post gegen eine unserer Community Guidelines verstoßen, so kann man diesen an unsere Moderatoren melden. Dafür einfach auf die drei Punkte tippen, die Option “Jodel melden” und die richtige Kategorie auswählen. Schon kommt der Post zu unseren Moderatoren.

Mehrere Moderatoren entscheiden dann gemeinsam, ob der Post tatsächlich gegen unsere

Community Guidelines verstößt oder nicht.

Eine ausführlichere Beschreibung unseres Moderations Systems findet ihr hier.

User deren Posts geblockt wurden, werden dann von unseren Admins kontrolliert und, je nach Schwere und Häufigkeit der Verstöße, gesperrt. Manchmal nur für eine bestimmte Zeit, gegebenenfalls auch permanent. Dabei stützen diese sich auf die Community Guidelines und interne Safety Guidelines.

Dieses System hilft uns dabei schnell und zuverlässig Missbrauch von Jodel zu entfernen. Doch für uns ist es mindestens genauso wichtig diesen gar nicht erst entstehen zu lassen. Dabei setzen wir auf eine frühe und kontinuierliche Aufklärung aller Jodler über unsere Community Guidelines, unsere Jodel Werte und wie sie dabei helfen können ihre Community besser zu machen.

Dieses Jahr haben wir auch erste Experimente mit Algorithmen gemacht, die einfache Wortkombinationen erkennen und entweder an die Moderatoren (9% aller gemeldeten Posts) weitergeben oder direkt blocken (0,2% aller geblockten Posts).

Außerdem haben wir unsere ersten Experimente mit Machine Learning Algorithmen gestartet. Hier sind wir allerdings noch in einem sehr frühen Stadium, im nächsten Bericht werden wir dann sicher mehr wissen.

2) Wie geht Jodel gegen strafbare Handlungen vor?

Die Sicherheit auf Jodel liegt uns sehr am Herzen, weshalb wir dieses Thema extrem ernst nehmen. Daher verbieten wir in unseren Community Guidelines auch jedwede illegale Nutzung von Jodel im Allgemeinen, sowie Beleidigungen, Diskriminierung, Gewalt, pornografische Inhalte und Veröffentlichung persönlicher Daten Dritter im Speziellen.

Daher ist auch unser Moderationssystem darauf ausgelegt so etwas schnellstmöglich zu blockieren und User, die in diesen Angelegenheiten verstrickt sind, von unserer Plattform zu entfernen.

Sollte es dort einmal zu Fehlern kommen oder ihr Hilfe brauchen, stehen unsere Support Ninjas bereit, um euch zu helfen. Unser Hauptsystem für Missbrauch auf Jodel ist jedoch immer unser Moderationssystem.

Bei strafbaren Handlungen und/oder einer Gefahr für Menschenleben arbeiten wir mit den Behörden zusammen. Um Gefahr abzuwenden, geben wir auch Daten heraus. Dies tun wir jedoch nur, wenn uns ein richterlicher Beschluss dazu verpflichtet.

In diesen Fällen ist es immer der richtige Schritt den Link zum Post zu sichern und / oder einen Screenshot zu machen und dann die Behörden zu informieren. Gerade bei unmittelbarer Gefahr (Terrordrohungen, Suizidgefahr, etc) verständigt bitte sofort die Polizei. Diese kann die nächsten Schritte veranlassen und uns über den Support mit dem Betreff (Issue) “Emergency and Safety” kontaktieren.

3) Wie viele Meldungen haben wir bekommen und von welchen Stellen?

Damit das alles übersichtlich bleibt, hier ein paar super schöne Tabellen (alle Zahlen beziehen sich auf Deutschland):

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme	Anzahl der Kontaktaufnahme	Fälle, die zur Sperrung des Posts führten	Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide	148	67	141
Illegal content	28	20	19

Text-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	1,748,229	640,585	36.64%
Veröffentlichung persönlicher Daten	84,526	34,235	40.50%
Beleidigungen oder Rassismus	586,453	233,266	39.78%
Spamming / Spoiler	267,190	63,461	23.75%
Negative Vibes	309,378	105,307	34.04%
Aufdringliches sexuelles Verhalten	309,378	130,908	42.31%
Anderes & ilegales	191,304	73,408	38.37%

Foto-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	286,827	29,993	10.46%
Veröffentlichung persönlicher Daten	9,938	1,981	19.93%
Sexueller Inhalt	175,929	8,394	4.77%
Gewaltdarstellung / Beleidigungen	19,880	3,727	18.75%
Bilder von Dritten	13,277	2,689	20.25%
Spamming / Spoiler	45,278	7,927	17.51%
Anderes & ilegales	22,525	5,275	23.42%

Video-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	9,960	2,090	20.98%
Veröffentlichung persönlicher Daten	177	56	31.64%
Sexueller Inhalt	5,263	532	10.11%
Gewaltdarstellung / Beleidigungen	915	354	38.69%
Bilder von Dritten	519	203	39.11%
Spamming / Spoiler	1,967	742	37.72%
Anderes & ilegales	1,119	203	18.14%

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde	Anzahl an Meldungen	Fälle, die zur Sperrung des Posts führten
Threat and harassment	6,312	1847

Alle Anfragen von Behörden wurden in unter 24h bearbeitet.

4) Wer ist im Jodel Team für all das verantwortlich?

Bei uns arbeiten glücklicherweise einige sehr tolle Menschen flauschige Waschbären, die für Sicherheit sorgen. Generell ist das Community Department bei Jodel für diese Dinge zuständig. Wir bestehen momentan aus 4 Vollzeitangestellten (immer noch Niklas, Gustave, Manuel, Kaddi und Oumaima und nun auch noch Aleksi), und 11 Freelancern (Support Ninjas + Admins).

Diese Fülle an Jodlern brauchen wir, damit wir die vielen verschiedenen Sprachen, in denen mittlerweile Jodelklänge ertönen, abdecken können. Konkret haben wir deutsch-, englisch-, französisch-, spanisch-, italienisch-, schwedisch-, finnisch-, norwegisch-, dänisch-, holländisch- und arabischsprachige Helfer.

Durch kontinuierliche Schulung und Kommunikation haben wir ein umfangreiches Bild, was in den verschiedenen Ländern vor sich geht und können immer auf aktuelle Probleme reagieren. Konkret heißt das, dass wir wöchentlich eine Videokonferenz haben, in der die Woche aufgearbeitet und Trends besprochen werden. Dazu kommen alle 6 Wochen persönliche Gespräche und alle 3-6 Monate ein längerer Workshop. Dadurch sind alle immer auf dem neuesten Stand, wir bekommen das nötige Feedback und können gegebenenfalls unsere Prozesse und Regeln anpassen.

Weiterhin haben wir direkten Kontakt zu Nutzern in jeder Stadt, um sicherzustellen, dass wir auch hier alles wichtige mitbekommen.

Durch diese Investments in unsere Prozesse und Helfer ist es uns gelungen, im letzten Halbjahr alle Fälle intern abzuwickeln und mussten zu keinem Zeitpunkt eine externe Stelle in Entscheidungsprozesse mit einbeziehen. Auch sind wir in keinem Branchenverband o.ä. vertreten, die uns bei Entscheidungen helfen.

So, das war jetzt aber auch erstmal genug Text. Wir hoffen, dass diese Aufstellung für euch hilfreich war und wir ein wenig mehr Transparenz auf Jodel schaffen konnte. Lasst uns wissen, was euch gefallen hat und was wir noch besser machen können beim nächsten Mal.

Alles gute aus dem JodelHQ und weiterhin frohes Jodeln!

Niklas & Das Jodel Team.

2019 - 02

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme	Anzahl der Kontaktaufnahme	Fälle, die zur Sperrung des Posts führten	Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide	155	52	135
Illegal content	29	12	15

Text-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an Blocks	Anteil der geblockten Meldungen
Total	1,444,438	623,682	43.18%
Veröffentlichung persönlicher Daten	124,360	66,496	53.47%
Beleidigungen oder Rassismus	599,102	255,454	42.64%
Spamming / Spoiler	162,040	65,779	40.59%
Negative Vibes	146,489	45,707	31.20%
Aufdringliches sexuelles Verhalten	265,442	128,762	48.51%
Anderes & ilegales	147,005	61,484	41.82%

Foto-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	211,945	26,402	12.46%
Veröffentlichung persönlicher Daten	12,900	3,074	23.83%
Sexueller Inhalt	130,090	7,516	5.78%
Gewaltdarstellung / Beleidigungen	14,531	3,346	23.03%
Bilder von Dritten	15,914	3,668	23.05%
Spamming / Spoiler	17,336	3,372	19.45%
Anderes & ilegales	21,174	5,426	25.63%

Video-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	9,724	2,612	26.86%
Veröffentlichung persönlicher Daten	291	99	34.02%
Sexueller Inhalt	4,557	788	17.29%
Gewaltdarstellung / Beleidigungen	1,321	310	23.47%
Bilder von Dritten	737	294	39.89%
Spamming / Spoiler	1,743	685	39.30%
Anderes & ilegales	1,075	436	40.56%

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde	Anzahl an Meldungen	Fälle, die zur Sperrung des Posts führten
Threat and harassment	1,886	1211

Alle Anfragen von Behörden wurden in unter 24h bearbeitet.

2019 - 01

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme	Anzahl der Kontaktaufnahme	Fälle, die zur Sperrung des Posts führten	Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide	73	13	59
Illegal content	21	3	11

Beschwerden von Nutzern (gemeldete Jodel - 1,6% aller Jodel in dem Zeitraum 24% weniger als im letzten Bericht. Hurraaaa!):

Text-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	1,844,881	556,598	30.17%
Veröffentlichung persönlicher Daten	122,940	63,215	51.42%
Beleidigungen oder Rassismus	705,483	250,448	35.50%
Spamming / Spoiler	235,291	42,724	18.16%
Reposts *	80,555	1,834	2.28%
Aufdringliche/r Creep	332,749	133,787	40.21%
Anderes & ilegales	195,072	64,590	33.11%

* Geringe Rate an Blocks hauptsächlich auf Grund des neuen @Reposts channels

Foto-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	355,807	23,850	6.70%
Veröffentlichung persönlicher Daten	18,019	3,967	22.02%
Sexueller Inhalt	239,150	6,113	2.56%
Gewaltdarstellung / Beleidigungen	21,315	1,941	9.11%
Bilder von Dritten	21,545	3,838	17.81%
Spam / Repost	32,493	970	2.99%
Anderes & ilegales	34,284	7,021	20.48%

Video-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	8,814	1,113	12.63%
Veröffentlichung persönlicher Daten	185	32	17.30%
Sexueller Inhalt	5,914	522	8.83%
Gewaltdarstellung / Beleidigungen	463	78	16.85%
Bilder von Dritten	454	119	26.21%
Spam / Repost	1,050	207	19.71%
Anderes & ilegales	748	155	20.72%

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde	Anzahl an Meldungen	Fälle, die zur Sperrung des Posts führten
Threat and harassment	1,458	652

2018-2

Daten des 2. Halbjahres 2018

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme	Anzahl der Kontaktaufnahme	Fälle, die zur Sperrung des Posts führten	Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide	24	0	12
Illegal content	14	2	6

Beschwerden von Nutzern (gemeldete Jodel - 2,10% aller Jodel in dem Zeitraum):

Text-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	2,101,031	563,682	26.83%
Veröffentlichung persönlicher Daten	97,928	36,617	37.39%
Beleidigungen oder Rassismus	818,141	302,371	36.96%
Spamming / Spoiler	196,611	26,190	13.32%
Reposts *	381,863	32,365	27.57%
Aufdringliche/r Creep	302,835	105,273	34.76%
Anderes & ilegales	187,045	60,866	32.54%

* Geringe Rate an Blocks hauptsächlich auf Grund des neuen @Reposts channels

Foto-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	338,642	30,951	9.14%
Veröffentlichung persönlicher Daten	20,307	4,683	23.06%
Sexueller Inhalt	159,212	4,844	3.04%
Gewaltdarstellung / Beleidigungen	24,547	2,623	10.69%
Bilder von Dritten	29,191	5,867	20.10%
Spam / Repost	70,937	1,898	2.68%
Anderes & ilegales	34,448	11,036	32.04%

Video-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	491	182	37.07%
Veröffentlichung persönlicher Daten	12	4	33.33%
Sexueller Inhalt	114	20	17.54%
Gewaltdarstellung / Beleidigungen	44	11	25.00%
Bilder von Dritten	56	20	35.71%
Spam / Repost	215	113	52.56%
Anderes & ilegales	50	14	28.00%

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde	Anzahl an Meldungen	Fälle, die zur Sperrung des Posts führten
Threat and harassment	616	289

Alle Anfragen von Behörden wurden in unter 24h bearbeitet.

2018-1

Daten des 1. Halbjahres 2018

Kontaktaufnahme von Behörden:

Grund der Kontaktaufnahme	Anzahl der Kontaktaufnahme	Fälle, die zur Sperrung des Posts führten	Fälle in denen Daten an die Behörden gegeben wurden
Emergency Suicide	13	0	11
Illegal content	24	3	6

Beschwerden von Nutzern (gemeldete Jodel - 2,10% aller Jodel in dem Zeitraum):

Text-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	2.743.525	1.122.873	40,93%
Veröffentlichung persönlicher Daten	115.210	54.306	47,14%
Beleidigungen oder Rassismus	907.238	492.378	54,27%
Spamming / Spoiler	351.053	117.890	33,58%
Reposts	795.663	173.610	21.82%
Aufdringliche/r Creep	364.795	193.625	53,08%
Anderes & ilegales	209.566	91.064	43,45%

Foto-Jodel:

Grund der Beschwerde	Anzahl an Meldungen	Anzahl an blocks	Anteil der geblockten Meldungen
Total	570.657	74.235	13,01%
Veröffentlichung persönlicher Daten	33.193	8.743	26,34%
Sexueller Inhalt	167.718	10.681	6,37%
Gewaltdarstellung / Beleidigungen	41.224	8.745	21,21%
Bilder von Dritten	48.259	12.424	25,74%
Spam / Repost*	233.868	17.339	7,41%
Anderes & ilegales	46.395	16.303	35,14%

* Die Zahlen sind hier so hoch, da viele Bilder von Katzen o.ä. Als Spam gemeldet werden. Diese sind kein Spam, sollten jedoch am besten in @JodelZoo gepostet werden :) Wir werden in Zukunft mehr Werkzeuge bauen, um sicherzustellen dass die Content-Struktur sauber funktioniert.

Alle oben genannten Beschwerden von Nutzern wurden in unter 24h von der Jodel Moderation bearbeitet.

Email Beschwerden:

Grund der Beschwerde	Anzahl an Meldungen	Fälle, die zur Sperrung des Posts führten
Threat and harassment	471	284