Wenn Hasskommentare strafrechtlich relevant werden, können neue Legal-Tech-Tools den ersten Schritt erleichtern.
Kurze Zusammenfassung
Fast jede zweite Person in Deutschland wurde schon einmal online beleidigt. Neue Legal-Tech-Start-ups wie "So Done" und "Penemue" setzen KI ein, um Hasskommentare automatisch auf strafrechtliche Relevanz zu prüfen – und Betroffenen zu helfen, sich zu wehren. Der Ansatz ist vielversprechend, hat aber auch Grenzen und Kritiker.
Um was geht es?
Hasskommentare im Netz sind kein Randphänomen. Ob unter Social-Media-Posts, in Foren oder Kommentarspalten – beleidigende oder bedrohende Inhalte begegnen Nutzerinnen und Nutzern täglich. Juristisch kann das schnell strafrechtlich relevant werden: § 185 StGB stellt Beleidigungen unter Strafe, § 241 StGB bedroht Bedrohungen mit Freiheitsstrafe. Das Problem: Die meisten Betroffenen wissen weder, wo die rechtliche Grenze liegt, noch wie sie konkret vorgehen können.
Genau hier setzen neue Legal-Tech-Angebote an. Das Start-up "So Done" ermöglicht es, einen Screenshot eines Kommentars einzureichen – die KI prüft anschließend, ob es sich um eine potenzielle Beleidigung oder Drohung mit strafrechtlicher Relevanz handelt. Eine Einschätzung, die juristischen Laien bereits erheblich weiterhelfen kann. "So Done" schießt zudem Prozesskosten vor und finanziert sich über einen Anteil an etwaigen Geldentschädigungen.
Die App "Penemue" geht noch einen Schritt weiter: Sie scannt eigenständig öffentliche Kommentare in Social-Media-Kanälen auf strafrechtlich relevante Inhalte, warnt vor entsprechenden Posts und ermöglicht es, direkt über die App Beschwerde einzureichen. Ursprünglich für Unternehmen und Sportvereine konzipiert, steht das Angebot auch Einzelpersonen offen.
Die entscheidende Rechtsfrage
Wann wird ein Hasskommentar zur Straftat – und wer kann dagegen vorgehen?
§ 185 StGB schützt die persönliche Ehre. Eine Beleidigung liegt vor, wenn jemand einer anderen Person gegenüber durch Äußerungen oder Handlungen Missachtung oder Nichtachtung ausdrückt. Drohungen mit einem empfindlichen Übel können nach § 241 StGB strafbar sein. Entscheidend ist dabei stets die konkrete Formulierung – pauschale Aussagen, Sarkasmus oder Ironie können die Strafbarkeit ausschließen.
Das macht die rechtliche Einordnung schwierig – und genau das ist die Aufgabe, bei der KI-Tools unterstützen sollen. Anonymität der Täter schützt übrigens nicht dauerhaft: Plattformen sind verpflichtet, Klarnamen an die Staatsanwaltschaft herauszugeben, die zudem IP-Adressen ermitteln darf.
Hilfreich – aber mit Grenzen
Die KI-gestützten Tools bieten eine wichtige Orientierung für Betroffene. Gleichzeitig stoßen sie an strukturelle Grenzen.
Sprache entwickelt sich – neue Formen von Hass entstehen ständig, neue Codes und Begriffe kursieren in Szene-Communities, bevor Trainingsdaten von Sprachmodellen sie erfassen. Sarkasmus und Ironie bleiben für KI schwer zu erkennen: Was wie ein Angriff klingt, kann Satire sein – und umgekehrt.
Hinzu kommt inhaltliche Kritik: Manche befürchten einen Eingriff in die Meinungsfreiheit, wenn automatisierte Systeme über strafrechtliche Relevanz urteilen. Andere weisen darauf hin, dass das Geschäftsmodell – Abmahnungen auf Erfolgsbasis – die Gegenwehr gegen Hass im Netz monetarisiert, was eigene Anreizprobleme schafft.
Jenseits dieser kommerziellen Angebote entstehen auch nicht-kommerzielle Alternativen: Der Deutsche Olympische Sportbund hat einen Hate-Speech-Filter für Athletinnen und Athleten entwickelt, die Landesanstalt für Medien NRW betreibt ein eigenes Tool, und die gemeinnützige GmbH "Das Nettz" vernetzt Beratungsstellen, Initiativen und Organisationen, die Betroffenen kostenlos helfen.
Was du daraus mitnehmen kannst
Für die Klausur gilt: § 185 StGB und § 241 StGB sind die zentralen Normen, wenn es um strafrechtlich relevante Kommentare geht. Die Strafbarkeit hängt immer vom konkreten Inhalt und Kontext ab – pauschale Einordnungen greifen zu kurz. Genau darin liegt auch die Grenze von KI-Tools: Sie können eine erste Einschätzung liefern, aber keine rechtssichere Subsumtion ersetzen.
Merksatz: KI-Tools können Betroffenen helfen, strafrechtlich relevante Hasskommentare zu erkennen und erste Schritte einzuleiten – sie ersetzen aber keine juristische Prüfung im Einzelfall. Entscheidend bleibt die konkrete Formulierung, der Kontext und der Vorsatz des Täters.
