Vor weni­gen Wochen beschloss der Bun­destag das soge­nan­nte Net­z­durch­set­zungs­ge­setz. Das Gesetz zielt darauf ab, Has­skrim­i­nal­ität und straf­bare Falschbe­haup­tun­gen im Inter­net — ger­ade auch in den Sozialen Medi­en — zu bekämpfen. Dabei sollen Face­book und Co. durch das Gesetz verpflichtet wer­den, “offen­sichtlich straf­bare Inhalte” spätestens 24 Stun­den, nach­dem diese durch andere Nutzer gemeldet wur­den, zu löschen. Und jeden son­sti­gen straf­baren Inhalt spätestens 7 Tage nach ein­gang der Mel­dung zu löschen. Bei Zuwider­hand­lung dro­hen Millionenstrafen.

Johann von Ti hat­te sich in seinem Blog­beitrag über das Net­z­durch­suchungs­ge­setz bere­its kri­tisch dazu geäußert. Er sieht die Mei­n­ungs­frei­heit in Gefahr, weil soziale Medi­en dazu ver­leit­et wer­den kön­nen, im Zweifel auch nicht straf­bare Mei­n­un­gen zu löschen. Ähn­lich wie Face­book sieht Johann nicht irgendwelche Unternehmen, son­dern den Staat in der Pflicht gegen solche Kom­mentare vorzugehen.

Wir bei­de hat­ten dies­bezüglich eine inter­es­sante Diskus­sion, die ich euch nicht voren­thal­ten möchte. Und vielle­icht möchte ja noch der ein oder andere in die Diskus­sion einsteigen 😀

Phinphin: Facebook muss auch aktiv werden

Ich finde, dass das ein recht schwieriges The­ma ist. Ich finde näm­lich ger­ade Face­book hat es sich die let­zten Jahren ein biss­chen zu ein­fach gemacht und hat ein­fach neben­dran ges­tanden und zuge­se­hen, während die eigene Plat­tform fast an jed­er Ecke für Hass und Straftat­en miss­braucht wurde.

Du sagst ja selb­st, das Gesetz in sein­er jet­zi­gen Aus­führung ist blind­er Aktion­is­mus. Das sehe ich auch so. Du sagst Face­book hat oder will nicht genug Per­son­al ein­stellen, um alle rel­e­van­ten Kom­mentare über­prüfen zu kön­nen. Die Bun­desre­pub­lik hat das Per­son­al aber genau so wenig. Die kann sich vielle­icht vere­inzelt beson­ders schw­er­wiegende Straftat­en her­aus­pick­en und juris­tisch gegen sie vorge­hen. Face­book kann hier sehr viel effek­tiv­er gegen den Hass im eige­nen Hause vorge­hen. Und ich sehe Face­book (und unsere Jus­tiz natür­lich auch) hier in der Pflicht das zu tun .

Es hin­ter­lässt natür­lich einen Faden beigeschmack, wenn der Geset­zge­ber mit Mil­lio­nen­strafen dro­ht, falls nicht inner­halb von 24 Stun­den gelöscht wird. Da wird im Zweifel näm­lich wirk­lich ein­fach gelöscht, obwohl das Kom­men­tar an sich keine Straftat darstellt. Ander­seits macht man es sich aber auch ein biss­chen zu ein­fach, wenn man hier ein­fach sagt: Da sitzen keine Recht­sex­perten, die das beurteilen kön­nen und deswe­gen muss da gar nichts unter­nom­men wer­den. Es geht ja um offen­sichtliche Straftat­en. Wenn bei mir auf der Seite ein­er eine Bilder­gal­lerie mit nack­ten, sehr jun­gen Mäd­chen / Frauen postet, dann lösch ich das auch und ver­weise nicht darauf, dass ich ja kein Rechtswssen­schaftler bin und gar nicht beurteilen kann, ob das jet­zt ne Straftat war oder nicht.

Keine Ahnung ob du auf Spiegel Online den Artikel über diese Face­book-Löschtruppe gele­sen hast:
Spiegel Online Facebook-Löschtruppe

Aber der Artikel bestätigt lei­der genau das, was du befürchtet hast.

Johann von Ti: Weniger Debatten über Umgangsformen

Ja ich stimme Dir zu, das The­ma ist mehr als schwierig. Und Du hast recht; Face­book und Co haben es sich die Jahre tat­säch­lich zu leicht gemacht, aber auch die Bun­desregierung hat viel zu lange viel zu zaghaft ern­sthaft an Lösun­gen gearbeitet.

Was mich am meis­ten stört ist die Tat­sache, dass der Begriff „Hate­speech“ so volu­minös gebraucht wird, während nie­mand so genau weiß, was damit eigentlich gemeint ist. Inhalte, die klar gegen das Recht ver­stoßen (Enthaup­tungsvideos, ille­gale Pornografie…) gehören natür­lich umge­hend gelöscht und die Ver­bre­it­er solch­er Inhalte bestraft. ABER in den Debat­ten geht es ja viel mehr um „böse“ Kom­mentare von Nutzern, die andere angreifen bzw. belei­di­gen. Mit ist natür­lich auch bewusst, dass eine wirk­liche Belei­di­gung auch nicht auf die leichte Schul­ter genom­men wer­den darf, aber wie will man wirk­liche Belei­di­gun­gen von Sarkasmus/Ironie tren­nen? Das Inter­net ist kein rechts­freier Raum – Den­noch herrscht im Inter­net eine dif­feren­zierte Kom­mu­nika­tions-Kul­tur, welche sich deut­lich von der „face to face“ Kom­mu­nika­tion im All­t­ag unterscheidet.

Es wäre viel wichtiger, effek­tiv­er gegen ern­ste Straftat­en vorzuge­hen – Stattdessen wird viel zu sehr um Umgangs­for­men im Netz debat­tiert – Sicher­lich nicht unbe­grün­det und auch nicht falsch, aber alles andere als Zielführend. Das Net­zDG lei­det beson­ders darunter; Auch hier wird nicht definiert, welche Inhalte nun eigentlich „offen­sichtlich rechtswidrig“ sind. Auf dem Weg zu einem wirk­lichen Lösungsansatz wäre aber genau das beson­ders wichtig; Was ist nun wirk­lich „rechtswidrig“, was wird als „Has­skom­men­tar“ eingestuft? Im All­t­ag geht man ja auch nicht zur Polizei, weil man auf der Straße von jeman­den angepö­belt wurde (zumin­d­est ich nicht).

Und in dieser Debat­te der poli­tis­chen Kor­rek­theit und der Löschung bös­er „Has­skom­mentare“, gehen die eigentlichen straf­baren Inhalte bzw. deren Bekämp­fung unter. Radikale Hetze/Propagande, ille­gale Pornografie, Enthaup­tungsvideos soll­ten im Fokus ste­hen – Hier sehe ich die wirk­lichen Prob­leme, nicht in bit­ter­bösen Kom­mentaren, die irgendwelche Trolle schreiben (wobei natür­lich auch hier dif­feren­ziert wer­den muss und Mob­bing ein ern­stes The­ma ist).

Die Bun­desregierung sollte eigentlich direkt mit Unternehmen wie Face­book kooperieren – Face­book übern­immt, wie du schon gesagt hast, die Auf­gabe, das eigene „Haus“ frei von solchen Inhal­ten zu hal­ten, während die Bun­desregierung viel offen­siv­er gegen ern­sthafte Straftatbestände vorge­hen sollte. Dafür müsste die Regierung aber selb­st in bessere Abteilun­gen investieren und so was kostet natür­lich Geld. Face­book kann löschen, aber das löst ja die Prob­leme dahin­ter nicht.

Das jet­zige Gesetz wird aber lediglich für eine Flut an Mel­dun­gen sor­gen, bei der Grup­pen und Per­so­n­en sich gegen­seit­ig ver­suchen mund­tot zu machen – Man meldet dann ein­fach alles, was einem nicht in den Kram passt – Als wenn jed­er nach einem Stre­it wegen Belei­di­gung vors Gericht zieht. Mit dem Gesetz wird im Zweifel alles gelöscht wer­den. Das bekämpft dann in gewiss­er Weise „Hass“ im Netz, aber auf Kosten der Meinungsfreiheit.

Der Artikel ist super inter­es­sant, kan­nte ich noch nicht, besten Dank dafür!

Phinphin: Beleidigungen schaukeln sich schnell zu Hass hoch

Das mit der Hate­speech ist so eine Sache.
Du bist ja wahrschein­lich genau wie ich auch schon seit ein paar jährchen in Videospie­len unter­wegs. Und ger­ade wenn man häu­figer in Mul­ti­play­er-Titeln unter­wegs ist, ist man Belei­di­gun­gen im Inter­net ja gewohnt. Die juck­en mit­tler­weile keinen mehr. Es war und ist meines Eracht­ens gesamt­ge­sellschaftlich abso­lut irrel­e­vant, wenn sich zwei Leute in irgen­deinem Inter­net­fo­rum Belei­di­gun­gen an den Kopf wer­fen. Auch wenns geset­zeswidrig ist.

Die Belei­di­gun­gen an sich, sind ja sel­ten das Prob­lem. Es wird erst ein Prob­lem daraus, wenn sich das so hochschuakelt, dass es auch außer­halb des Inter­net in Hass und Gewalt ausartet. Das ist bei jeman­dem, der “lediglich” ein aus­län­der­feindlich­es Kom­men­tar unter einem News­beitrag abgibt erst­mal nicht der Fall. Wenn er sich mit Gle­ich­gesin­nten zusam­men­find­et und in bes­timmten Face­book­grup­pen gemein­sam immer mehr Hass, Lügen und Gewalt­fan­tasien ver­bre­it­et wer­den, kann sich das schnell hochschaukeln. Und dann wirds gefährlich.

Deswe­gen sehe ich das ähn­lich wie du: Die Behör­den soll­ten nur bei wirk­lich ern­sten Straftat­en ein­greifen — und nicht bloß weil jemand die Mut­ter von jemand anderem belei­digt oder sich abfäl­lig gegenüber Aus­län­dern geäußert hat. Face­book hinge­gen, sollte dafür sor­gen, dass das Kli­ma in der Com­mu­ni­ty bess­er wird und dieses Hochschaukeln unter­bun­den wird. Das schafft man mein­er Mei­n­ung nach am besten, in dem man diejeni­gen, die sich nicht unter Kon­trolle haben mit Accountstrafen / Bans belegt und ein größeres Auge auf Face­book-Grup­pen legt. Bei der Ver­bre­itung von zweifel­haften Links, sollte zumin­d­est ein Hin­weis erscheinen, dass die Inhalte dort mit Vor­sicht zu genießen sind. Und auch sollte die per­son­al­isierte Wer­bung auf Face­book so über­ar­beit­et wer­den, dass ich ein bre­ites Spek­trum an Vorschlä­gen für weit­ere Inhalte gemacht bekomme und nicht in mein­er “extrem­istis­chen Bub­ble” gefan­gen bleibe.

Johann von Ti: Kann Facebook überhaupt wirksam gegen Hass vorgehen?

Genau so sehe ich das auch; Belei­di­gun­gen im Inter­net haben für sich gese­hen erst mal keine wirk­liche Rel­e­vanz – Die Prob­lematik vom „Hochschaukeln“ ist hinge­gen tat­säch­lich exis­tent und, wie du schon mein­test, gefährlich.

Dass man hier gegen antreten muss, ist eben­falls richtig. Das Face­book das Kli­ma tat­säch­lich so leicht pos­i­tiv bee­in­flussen kann, glaube ich weniger. Ein Ban, ob nun endgültig oder tem­porär, kann doch leicht umgan­gen wer­den – Wer etwas im Netz schreiben will, wird Wege dazu find­en – Wobei ich Dir wiederum zus­tim­men muss, würde man beson­ders gezielt gegen Grup­pen vorge­hen, die tat­säch­liche Has­s­the­men bedi­enen, kön­nte das die Sit­u­a­tion auf Plat­tfor­men wie Face­book tat­säch­lich verbessern, wobei sich diese Gruppe dann eben woan­ders neu bilden – Zumin­d­est würde man es solchen Grup­pen so aber schw­er­er machen, ihre Ide­olo­gien, Gewalt­fan­tasien etc. auf sozialen Net­zw­erken zu propagieren und zu ver­bre­it­en. Der Ansatz mit den „Links“ ist nicht schlecht, wobei ich nicht sagen kann, ob das wirk­lich sin­nvoll ist. Bei Steam wird auch ein Hin­weise gegeben, wenn man mit dem Link Steam ver­lässt und auf eine externe Seite zugreift. Wird das zur Regel, ver­liert das aber völ­lig die Bedeutung.

Face­book kann ich als „soziales“ Net­zw­erk eigentlich auch gar nicht mehr wahrnehmen – Die per­son­al­isierte Wer­bung find­et sich ja nicht auf Face­book, Face­book beste­ht aktuell lediglich daraus (Grup­pen und die Chats mal ausgenom­men). Jede neue Imple­men­tierung dieser Plat­tform baut seit Jahren nur darauf, die per­fek­te Werbe-Anzeige zu bilden, ohne Rück­sicht auf Ver­luste. Die eige­nen Fre­unde, das soziale Umfeld, hat auf Face­book längst den Platz gegen „lustige“ Bilder, markierte Wer­bung, nicht markierte Wer­bung und Videos mit Auto­play samt Werbe-Clips ver­loren. Und wenn man selb­st will, dass nur ein Bruchteil der „Fans“ der eige­nen Face­book-Seite die Beiträge sehen, soll man zahlen. Face­book ist eigentlich schon lange tot, trau­riger­weise hat man viele der größten Konkur­renten wie Insta­gram oder What­sApp aufgekauft. Doch genug davon, das war lediglich ein klein­er Exkurs, es ging mir eigentlich um die von dir ange­sproch­ene „Bub­ble“.

Die Mei­n­ungs­blasen sind tat­säch­lich ein Prob­lem – Ich sehe es zwar ähn­lich, dass die Algo­rith­men bre­ite gefächerte Ange­bote anzeigen soll­ten – Aber let­ztlich ist das Sys­tem auf Prof­it aus­gelegt – Es wird das gezeigt, was zur Inter­ak­tion und im besten Falle zum Kauf anregt – Der Rest ist egal. Solch eine Mei­n­ungs­blase kann leicht entste­hen, man kann sie als User aber auch leicht durch­brechen, indem man nicht der automa­tisierten Anzeige und den gener­ierten Vorschlä­gen das Feld über­lässt, son­dern selb­st auf die Suche geht und sich beständig eine eigene Mei­n­ung bildet. Das ist heute tat­säch­lich gar nicht mehr so leicht, weil Extrem­is­mus über­all auf dem Vor­marsch ist. Rechts, Links, Islamistisch und auch diese blinde und völ­lig ver­fehlte „poli­tis­che Kor­rek­theit“ schaf­fen ein sehr hitziges Kli­ma, in der viele User blind ihrer Ide­olo­gie fol­gen. Auch fehlt es mir stark an Quel­len­trans­parenz (nicht nur in Sozialen Net­zw­erken) – Viel zu oft wer­den polemis­che Aus­sagen ohne jegliche Quelle angegeben, ohne dass das über­haupt von Nutzern hin­ter­fragt wird. Ehrlich gesagt sehe ich hier einen anhal­tenden Man­gel an Medi­enkom­pe­tenz, welche Usern so gut wie jed­er Alter­sklasse bet­rifft und let­ztlich den Boden für die „Fake News“ streut. Das Inter­net bietet ide­ale Möglichkeit­en, Quellen ein­fach und direkt anzugeben und es jedem User zu ermöglichen, selb­st Hin­ter­gründe zu erfahren und entsprechend zu prüfen bzw. selb­st zu bew­erten. Lei­der haben viele User gar nicht das Bedürf­nis, solche Quellen zu erfahren oder Mel­dun­gen kri­tisch zu hin­ter­fra­gen – Ich sehe auch hier den Staat in der Verpflich­tung, die Weichen für eine bessere Medi­enkom­pe­tenz-Ver­mit­tlung zu leg­en. Entwed­er, indem man beste­hende Fäch­er mit dig­i­tal­en The­men ergänzt (Weit­er­bil­dun­gen beste­hen­der Lehrer und Anpas­sung der Aus­bil­dung von Lehrern voraus­ge­set­zt) oder ein eigenes Fach konzip­iert. Natür­lich kostet das Geld, aber ich glaube nur so kann man langfristig den Gefahren von „Has­skrim­i­nal­ität“, „Fake-News“ und Co sin­nvoll entgegentreten.