Skip to main content

What if Hate Speech Really Was Speech? Towards Explaining Hate Speech in a Cross-Modal Approach

  • Chapter
  • First Online:

Zusammenfassung

This article contrastively analyzes the perception of written and spoken hate speech. The basic question is: How do linguistic features of hate-speech expressions affect the assessment of respondents with regards to people’s personal unacceptability of these expressions and their possible consequences for the author or speaker? Three specific aspects are addressed by means of an online survey. Firstly, we investigate the effect of the communication medium with written and spoken hate speech stimuli. Secondly, we compare different types of hate speech, defined by specific linguistic feature conditions as to their effects on reader/listener assessments. Thirdly, we examine how the two minority groups foreigners and Muslims that are addressed in the comments determine the perception of hate-speech expressions. The results suggest that less the medium in terms of written and spoken stimuli makes a difference in the assessment of hate-speech expressions than much more the addressed minority group as well as the linguistic features that are used by the author or speaker. We discuss our results with respect to their implications for identifying, classifying, and evaluating hate-speech expressions on social media platforms.

This is a preview of subscription content, log in via an institution.

Buying options

Chapter
USD   29.95
Price excludes VAT (USA)
  • Available as PDF
  • Read on any device
  • Instant download
  • Own it forever
eBook
USD   64.99
Price excludes VAT (USA)
  • Available as EPUB and PDF
  • Read on any device
  • Instant download
  • Own it forever
Softcover Book
USD   84.99
Price excludes VAT (USA)
  • Compact, lightweight edition
  • Dispatched in 3 to 5 business days
  • Free shipping worldwide - see info

Tax calculation will be finalised at checkout

Purchases are for personal use only

Learn about institutional subscriptions

References

  • Baayen, R. H. (2008). Analyzing Linguistic Data. A Practical Introduction to Statistics. Cambridge: Cambridge University Press.

    Book  Google Scholar 

  • Baumann, S., Becker, J., Grice, M., & Mücke, D. (2007). Tonal and Articulatory Marking of Focus in German. In Proceedings of the 16th International Congress of Phonetic Sciences. (S. 1029–1032). Saarbrücken, Germany: Universität des Saarlandes.

    Google Scholar 

  • Baumgarten, N., Bick, E., Geyer, K., Lund Iversen, D., Kleene, A., Lindø, A. V., Neitsch, J., Niebuhr, O., Nielsen, R., & Petersen, E. N. (2019). Towards Balance and Boundaries in Public Discourse: Expressing and Perceiving Online Hate Speech (XPEROHS). RASK – International Journal of Language and Communication, 50, (S. 87–108). Retrieved from https://www.sdu.dk/-/media/files/om_sdu/institutter/isk/forskningspublikationer/rask/rask+50/baumgarten+et+al.pdf.

  • Benzeghiba, M., De Mori, R., Deroo, O., Dupont, S., Erbes, T., Jouvet, D., Fissore, L., Laface, P., Mertins, A., Ris, C., & Rose, R. (2007). Automatic Speech Recognition and Speech Variability: A Review. Speech Communication, 49(S. 10–11), 763–786.

    Article  Google Scholar 

  • Bick, E., & Didriksen, T. (2015, May). Cg-3-beyond Classical Constraint Grammar. In Proceedings of the 20th Nordic Conference of Computational Linguistics, NODALIDA 2015, May 11–13, 2015, No. 109. (pp. 31–39). Vilnius, Lithuania: Linköping University Electronic Press.

    Google Scholar 

  • Botinis, A. (2000). Introduction. In A. Botinis (Ed.), Intonation: Analysis, Modelling and Technology (pp. 1–10). Dordrecht: Springer Netherlands.

    Chapter  Google Scholar 

  • Brown, A. (2017). What is Hate Speech? Part 1: The Myth of Hate. Law and Philosophy, 36(4), (S. 419–468).

    Article  Google Scholar 

  • Brown, A., & Sinclair, A. (2019). The Politics of Hate Speech Laws. London: Routledge.

    Book  Google Scholar 

  • Davidson, T., Warmsley, D., Macy, M., & Weber, I. (2017). Automated Hate Speech Detection and The Problem of Offensive Language. In Proceedings of the 11th International AAAI Conference on Web and Social Media (pp. 512–515). Montreal, Canada: Association for the Advancement of Artificial Intelligence.

    Google Scholar 

  • ECRI: European Dommission against Racism and Intolerance. (2016). ECRI general Policy Recommendation No. 15: On Combating Hate Speech. Strasbourg. Retrieved from https://rm.coe.int/ecri-general-policy-recommendation-no-15-on-combating-hate-speech/16808b5b01.

  • Fodor, J. D. (2002). Psycholinguistics Cannot Escape Prosody. Proceedings of the 1st International Conference on Speech Prosody, Aix-en-Provence. (pp. 83–88). Aix-en-Provence, France: Université de Provence.

    Google Scholar 

  • Geschke, D., Lorenz, J., & Holtz, P. (2019). The Triple‐filter Bubble: Using Agent‐based Modelling to Test a Meta‐theoretical Framework for the Emergence of Filter Bubbles and Echo Chambers. British Journal of Social Psychology, 58(1), (S. 129–149).

    Article  Google Scholar 

  • Gussenhoven, C. (2004). The Phonology of Tone and Intonation. Cambridge: Cambridge University Press.

    Book  Google Scholar 

  • Hirst, D. (2004). The Phonology and Phonetics of Speech Prosody: Between Acoustics and Interpretation. In Proceedings of the 2nd International Conference of Speech Prosody. (pp. 1–7). Nara, Japan.

    Google Scholar 

  • Hrdina, M. (2016). Identity, activism and hatred: Hate speech against migrants on Facebook in the Czech Republic in 2015. Naše společnost, 14(1), (S. 38–47).

    Google Scholar 

  • Kleene, A., & Geyer, K. (in prep.). Hass und Hetze gegen Muslime in sozialen Netzwerken. Sprachwissenschaft.

    Google Scholar 

  • Kohler, K. J. (2009). Patterns of Prosody in the Expression of the Speaker and the Appeal to the Listener. Frontiers in Phonetics and Speech Science, (S. 287–302).

    Google Scholar 

  • Kuznetsova, A., Brockhoff, P. B., & Christensen, R. H. B. (2017). lmerTest Package: Tests in Linear Mixed Effects Models. Journal of Statistical Software, 82(13). https://doi.org/10.18637/jss.v082.i13.

  • Leets, L. (2002). Experiencing Hate Speech: Perceptions and Responses to Anti‐Semitism and Antigay Speech. Journal of Social Issues, 58(2), (S. 341–361).

    Article  Google Scholar 

  • Leiner, D. (2018). SoSci (Version Survey Version 2.5. 00-i). Retrieved from https://www.soscisurvey.de.

  • MacAvaney, S., Yao, H.-R., Yang, E., Russell, K., Goharian, N., & Frieder, O. (2019). Hate Speech Detection: Challenges and Solutions. PloS One, 14(8), e0221152. https://doi.org/10.1371/journal.pone.0221152.

    Article  Google Scholar 

  • Martin, J. R., & White, P. R. R. (2005). The Language of Evaluation: Appraisal in English. London: Palgrave Macmillan.

    Book  Google Scholar 

  • Meseth, W., & Proske, M. (2015). Mind the Gap: Holocaust Education in Germany, between Pedagogical Intentions and Classroom Interactions. In Z. Gross & E. D. Stevick (Eds.), As the witnesses fall silent: 21st century Holocaust education in curriculum, policy and practice. (pp. 159–182). Springer, Cham.

    Google Scholar 

  • Neitsch, J. (2019). Who Cares about Context and Attitude? Prosodic Variation in the Production and Perception of Rhetorical Questions in German. Doctoral Dissertation, University of Konstanz.

    Google Scholar 

  • Neitsch, J., & Marinis, T. (2020). The Prosodic Mapping of Irony in German Rhetorical Questions. In M. Elmentaler & O. Niebuhr (Eds.), An den Rändern der Sprache. Kiel, Germany: CAU.

    Google Scholar 

  • Neitsch, J., & Niebuhr, O. (2019). How Prosody and Context Shape the Acoustic Nature of Rhetorical Questions in German. In Proceedings of the 1st International Seminar on the Foundations of Speech (SEFOS). (pp. 53–55). Sønderborg, Denmark: University of Southern Denmark.

    Google Scholar 

  • Neitsch, J., & Niebuhr, O. (2020). On the Role of Prosody in the Production and Evaluation of German Hate Speech. Submitted for the 10th International Conference on Speech Prosody. Tokyo, Japan.

    Google Scholar 

  • Niebuhr, O., & J. Neitsch. (2020). Assessing Hate-Speech Perception through Bio-Signal Measurements: A Pilot Study. In Proceedings of the Biosignale 2020. (pp. 66–67). Kiel, Germany: CAU.

    Google Scholar 

  • Niebuhr, O., & Peterson. J. M. (2011). Vorwort. KALIPHO: Kieler Arbeiten zur Linguistik und Phonetik 1, III-V.

    Google Scholar 

  • OSZE (2005). Education on the Holocaust and on Anti-Semitism: An Overview and Analysis of Educational Approaches. Retrieved from https://www.osce.org/odihr/15228?download=true.

  • Pollack, D. (2010). Studie „Wahrnehmung und Akzeptanz religiöser Vielfalt“. Bevölkerungsumfrage des Exzellenzclusters „Religion und Politik“ unter Leitung des Religionssoziologen Prof. Dr. Detlef Pollack. https://www.uni-muenster.de/imperia/md/content/religion_und_politik/aktuelles/2010/12_2010/studie_wahrnehmung_und_akzeptanz_religioeser_vielfalt.pdf.

  • R Development Core Team (2018). R: A Language and Environment for Statistical Computing (Version 3.2.2). Vienna: R Foundation for Statistical Computing. Retrieved from http://www.r-project.org./

  • Rosenberg, A., & Hirschberg, J. (2009). Charisma Perception from Text and Speech. Speech Communication51(7), (S.640–655).

    Article  Google Scholar 

  • Ross, B., Rist, M., Carbonell, G., Cabrera, B., Kurowsky, N., & Wojatzki, M. (2016). Measuring the Reliability of Hate Speech Annotations: The Case of the European Refugee Crisis. Retrieved from arXiv:1701.08118. https://doi.org/10.17185/duepublico/42132.

  • Schmidt, A., & Wiegand, M. (2017). A Survey on Hate Speech Detection Using Natural Language Processing. In Proceedings of the Fifth International Workshop on Natural Language Processing for Social Media. (pp. 1–10). Valencia, Spain: Association for Computational Linguistics.

    Google Scholar 

  • Warner, W., & Hirschberg, J. (2012). Detecting hate speech on the world wide web. In Proceedings of the second workshop on language in social media (pp. 19–26). Montréal, Canada.

    Google Scholar 

Download references

Acknowledgements

The XPEROHS project (number 95–16416) is funded by the Velux Foundations. We would like to thank our anonymous reviewers and their insightful and valuable comments. Furthermore, we thank Benno Peters from Kiel University for recording the files for the purpose of the study. We would also like to thank Jonathan Culpeper, Nicole Baumgarten and Klaus Geyer for their discussions and support in conducting this study.

Author information

Authors and Affiliations

Authors

Corresponding author

Correspondence to Jana Neitsch .

Editor information

Editors and Affiliations

Appendix

Appendix

MUSLIMS

FOREIGNERS

ORIGINAL (ORIG)

Muslime sind wie Kuckucksküken. Sie halten ständig den Schnabel auf und fordern.

Meiner Meinung nach sollten ALLE kriminellen Ausländer schon bei der kleinsten Straftat ausgewiesen werden.

Muslime wissen einfach nicht, was wir unter Arbeit verstehen: das können und wollen die nicht.

Was kommt als Nächstes? Bekommen dann kriminelle Ausländer auch noch Geld, damit sie in den Knast gehen?

Is ja schon komisch, dass überall, wo sich die Flüchtlinge und der Islam breit machen, langsam wieder Steinzeitverhältnisse kommen.

Diese Ausländer lügen sowieso alle, egal ob es um den Namen geht oder um das Alter.

Dieses in der Steinzeit zurückgebliebene Muselpack geht mir langsam aber sicher auf die Nerven: immer nur fordern, fordern und nochmals fordern.

Sozialhilfe für Ausländer ist Schutzgeld. Wenn wir das nicht mehr erwirtschaften können, wird bei uns Südafrika sein.

Man muss betonen, dass Schweine deutlich intelligenter sind als Moslems!

Jagt die Ausländer dahin, wo sie herkommen!

Seit Jahren kommen Millionen von Muslime nach Europa und verunstalten und verseuchen unsere Heimat.

Ach Leute, wie schön und sicher könnte unsere Heimat ohne die völlig unterentwickelten Ausländer sein …

IRONY (IRO)

Muslime sind wie Kuckucksküken, die ja gar nie den Schnabel aufhalten und fordern.

Meiner Meinung nach sollten kriminelle Ausländer niiiiemals bei der kleinsten Straftat ausgewiesen werden.

Muslime sind ja noch viiiieeel fleißiger als wir Deutschen.

Als Nächstes bekommen kriminelle Ausländer auch noch Geld, damit sie in den Knast gehen.

Die Muslime sind ja sooo modern und fortschrittlich.

Die Ausländer sind doch alle sooo ehrlich, vor allem in Bezug auf ihren Namen und ihr Alter.

Dieses in der Steinzeit zurückgebliebene Muselpack geht mir ja sowas von überhaupt nicht auf die Nerven: es würde uns nie in den Sinn kommen, dass sie ständig fordern.

Sozialhilfe für Ausländer ist ja sowas von gar kein Schutzgeld. Wenn wir das nicht mehr erwirtschaften können, wird bei uns mit Sicherheit Wohlstand herrschen.

Schweine sind ja gaaar nicht deutlich intelligenter als Moslems.

Niiiiemals sollte das Ausländerpack wieder dahin, wo es hergekommen ist.

Seit Jahren kommen die ja ach so wahnsinnig gepflegten und friedliebenden Muslime nach Europa.

Die ach so lieben Ausländer bereichern doch unsere Heimat, die ohne sie ja viiiiel unsicherer wäre.

RHETORICAL QUESTION (RQ)

Muslime halten ständig den Schnabel auf und fordern. Wer will denn Muslime nicht mit Kuckucksküken vergleichen?

Meiner Meinung nach sollten ALLE kriminellen Ausländer schon bei der kleinsten Straftat ausgewiesen werden. Warum sollten wir Kriminelle in Deutschland beherbergen?

Muslime wissen einfach nicht, was wir unter Arbeit verstehen: das können und wollen die nicht. Woher sollten die denn wissen, was Arbeit ist?

Was kommt als Nächstes? Bekommen dann kriminelle Ausländer auch noch Geld, damit sie in den Knast gehen? Wer braucht denn kriminelle Ausländer?

Is ja schon komisch, dass überall, wo sich die Flüchtlinge und der Islam breit machen, langsam wieder Steinzeitverhältnisse kommen. Wer will denn Steinzeitverhältnisse haben?

Diese Ausländer lügen sowieso alle, egal ob es um den Namen geht oder um das Alter. Wer duldet denn Lügen?

Dieses in der Steinzeit zurückgebliebene Muselpack geht mir langsam aber sicher auf die Nerven: immer nur fordern, fordern und nochmals fordern. Wer braucht denn zurückgebliebene Muslime?

Sozialhilfe für Ausländer ist Schutzgeld. Wenn wir das nicht mehr erwirtschaften können, wird bei uns Südafrika sein. Warum sollten wir unsere Sozialhilfe so versschwenden?

Man muss betonen, dass Schweine deutlich intelligenter sind als Moslems! Wer würde das denn bezweifeln?

Jagt die Ausländer dahin, wo sie herkommen! Warum sollten die denn nicht wieder in ihre eigene Heimat zurückkehren?

Seit Jahren kommen Millionen von Muslime nach Europa und verunstalten und verseuchen unsere Heimat. Warum sollten wir uns unsere Heimat nehmen lassen?

Ach Leute, wie schön und sicher könnte unsere Heimat ohne die völlig unterentwickelten Ausländer sein … Wer will denn keine schöne Heimat?

IMPERATIVE (IMP)

Lasst uns die Muslime rauswerfen! Wie Kuckucksküken halten die nur ständig den Schnabel auf und fordern.

Wir müssen dafür sorgen, das ALLE kriminellen Ausländer schon bei der kleinsten Straftat ausgewiesen werden.

Lasst uns dafür sorgen, dass Muslime endlich kapieren, was wir unter Arbeit verstehen! Das können und wollen die nicht.

Lasst uns verhindern, dass kriminelle Ausländer Geld von unserem Staat bekommen!

Wir müssen verhindern, dass mit den Flüchtlingen und dem Islam hier Steinzeitverhältnisse einziehen.

Lasst uns dafür sorgen, dass diese Ausländer nicht mehr lügen, egal ob es um den Namen geht oder um das Alter.

Dieses in der Steinzeit zurückgebliebene Muselpack geht mir langsam aber sicher auf die Nerven: Hört endlich auf immer nur zu fordern, fordern und nochmals fordern!

Lasst uns verhindern, dass wir weiterhin Sozialhilfe zahlen! Wenn wir das nicht mehr erwirtschaften können, wird bei uns Südafrika sein.

Lasst uns immer wieder betonen, dass Schweine deutlich intelligenter sind als Moslems!

Lasst uns die Ausländer dahin jagen, wo sie herkommen!

Wir müssen dafür sorgen, das Muslime unser Europa nicht mehr verunstalten oder verseuchen!

Wir müssen unsere Heimat wieder schön und sicher machen und was gegen die völlig unterentwickelten Ausländer tun!

FIGURATIVE LANGUAGE (FGL)

Die Musels sind wie Kuckucksküken. Sie halten ständig den Schnabel auf und fordern.

Meiner Meinung nach sollte der kriminelle Ausländerdreck schon bei der kleinsten Straftat ausgewiesen werden.

Der Muslimdreck weiß einfach nicht, was wir unter Arbeit verstehen: das können und wollen die nicht.

Was kommt als Nächstes? Bekommt dann der kriminelle Ausländerdreck auch noch Geld, damit es in den Knast geht?

Is ja schon komisch, dass überall, wo sich der Museldreck breit macht, langsam wieder Steinzeitverhältnisse kommen.

Dieses Ausländerpack lügt sowieso, egal ob es um den Namen geht oder um das Alter.

Diese in der Steinzeit zurückgebliebenen Moslems gehen mir langsam aber sicher auf die Nerven: immer nur fordern, fordern und nochmals fordern.

Sozialhilfe für das Ausländerpack ist Schutzgeld. Wenn wir das nicht mehr erwirtschaften können, wird bei uns Südafrika sein.

Man muss betonen, dass Schweine deutlich intelligenter sind als Muselmanen.

Jagt das Ausländerpack dahin, wo es herkommt!

Seit Jahren kommt dieser Muslimdreck nach Europa und verunstaltet und verseucht unsere Heimat.

Ach Leute, wie schön und sicher könnte unsere Heimat ohne den völlig unterentwickelten Ausländerdreck sein …

HOLOCAUST-RELATION (HOL)

Muslime sind wie Kuckucksküken. Sie halten ständig den Schnabel auf und fordern. Ab mit ihnen ins KZ!

Meiner Meinung nach sollten ALLE kriminellen Ausländer schon bei der kleinsten Straftat ausgewiesen oder ins KZ gebracht werden.

Muslime wissen einfach nicht, was wir unter Arbeit verstehen: das können und wollen die nicht. Also steckt sie alle ins KZ!

Bekommen jetzt kriminelle Ausländer auch noch Geld, damit sie in den Knast gehen? Ins KZ mit ihnen!

Is ja schon komisch, dass überall, wo sich die Flüchtlinge und der Islam breit machen, langsam wieder Steinzeitverhältnisse kommen. Ab ins KZ mit denen!

Diese Ausländer lügen sowieso alle, egal ob es um den Namen geht oder um das Alter. Ins KZ mit ihnen!

Dieses in der Steinzeit zurückgebliebene Muselpack geht mir langsam aber sicher auf die Nerven: immer nur fordern, fordern und nochmals fordern. Ab ins KZ mit ihnen!

Sozialhilfe für Ausländer ist Schutzgeld. Wenn wir das nicht mehr erwirtschaften können, wird bei uns Südafrika sein. Daher besser gleich alle ins KZ!

Man muss betonen, dass Schweine deutlich intelligenter sind als Moslems! Von daher: Ab ins KZ mit denen!

Jagt die Ausländer dahin, wo sie herkommen! Oder steckt sie ins KZ!

Seit Jahren kommen Millionen von Muslime nach Europa und verunstalten und verseuchen unsere Heimat. Ab ins KZ mit ihnen!

Ach Leute, wie schön und sicher könnte unsere Heimat ohne die völlig unterentwickelten Ausländer sein… Ab mit ihnen ins KZ!

INDIRECTNESS (IND)

Ich hab ja nichts gegen Muslime, aber die sind wie Kuckucksküken. Sie halten ständig den Schnabel auf und fordern.

Ich will ja nichts sagen, aber ALLE kriminellen Ausländer sollten schon bei der kleinsten Straftat ausgewiesen werden.

Ich hab ja nichts gegen Muslime, aber sie wissen einfach nicht, was wir unter Arbeit verstehen: das können und wollen die nicht.

Ich hab ja nichts gegen Ausländer, aber was kommt als Nächstes? Bekommen dann kriminelle Ausländer auch noch Geld, damit sie in den Knast gehen?

Ich will ja nichts sagen, aber es ja schon komisch, dass überall, wo sich die Flüchtlinge und der Islam breit machen, langsam wieder Steinzeitverhältnisse kommen.

Ich will ja nichts sagen, aber die Ausländer lügen doch sowieso alle, egal ob es um den Namen geht oder um das Alter.

Ich will ja nichts sagen, aber dieses in der Steinzeit zurückgebliebene Muselpack geht mir langsam aber sicher auf die Nerven: immer nur fordern, fordern und nochmals fordern.

Ich hab ja nichts gegen Ausländer, aber Sozialhilfe für Ausländer ist Schutzgeld. Wenn wir das nicht mehr erwirtschaften können, wird bei uns Südafrika sein.

Ich hab ja nichts gegen Moslems, aber man muss betonen, dass Schweine deutlich intelligenter sind als Moslems!

Ich will ja nichts sagen, aber jagt die Ausländer dahin, wo sie herkommen!

Ich hab ja nichts gegen Muslime, aber seit Jahren kommen Millionen von ihnen nach Europa und verunstalten und verseuchen unsere Heimat.

Ich hab ja nichts gegen Ausländer, aber wie schön und sicher könnte unsere Heimat ohne die völlig unterentwickelten Ausländer sein…

Rights and permissions

Reprints and permissions

Copyright information

© 2021 Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature

About this chapter

Check for updates. Verify currency and authenticity via CrossMark

Cite this chapter

Neitsch, J., Niebuhr, O., Kleene, A. (2021). What if Hate Speech Really Was Speech? Towards Explaining Hate Speech in a Cross-Modal Approach. In: Wachs, S., Koch-Priewe, B., Zick, A. (eds) Hate Speech - Multidisziplinäre Analysen und Handlungsoptionen. Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-31793-5_6

Download citation

  • DOI: https://doi.org/10.1007/978-3-658-31793-5_6

  • Published:

  • Publisher Name: Springer VS, Wiesbaden

  • Print ISBN: 978-3-658-31792-8

  • Online ISBN: 978-3-658-31793-5

  • eBook Packages: Education and Social Work (German Language)

Publish with us

Policies and ethics