Skip to main content

Virtuelle Welten und künstliche Intelligenzen als Herausforderungen und Chancen digitaler Gegenrede

  • 353 Accesses

Part of the Interkulturelle Studien book series (IKS)

Zusammenfassung

Es sind nicht mehr nur die Menge und die Diversität an antidemokratischen Online-Angeboten, welche digitale Gegenrede herausfordern. Phänomene und Strukturbedingungen digitaler Medien wie Bots, Algorithmen oder Deep Fakes erschweren digitale Gegenrede zusätzlich. Ferner verändern sich dadurch die Anforderungen an das Medienwissen und die Medienkritikfähigkeit der Nutzer*innen. Der Beitrag gibt detaillierte Einblicke in die o. g. Aspekte und diskutiert Herausforderungen und Chancen digitaler Gegenrede in virtuellen Kontexten. Nichtsdestotrotz ist dieser Beitrag aufgrund seiner Kürze und der Vielzahl der darin angesprochenen Themen als ein Überblick bzw. Einstieg in das Thema zu verstehen.

Schlüsselwörter

  • Virtuelle Welten
  • Algorithmen
  • Künstliche Intelligenz
  • Gegenrede

This is a preview of subscription content, access via your institution.

Buying options

Chapter
USD   29.95
Price excludes VAT (USA)
  • DOI: 10.1007/978-3-658-36540-0_3
  • Chapter length: 14 pages
  • Instant PDF download
  • Readable on all devices
  • Own it forever
  • Exclusive offer for individuals only
  • Tax calculation will be finalised during checkout
eBook
USD   59.99
Price excludes VAT (USA)
  • ISBN: 978-3-658-36540-0
  • Instant PDF download
  • Readable on all devices
  • Own it forever
  • Exclusive offer for individuals only
  • Tax calculation will be finalised during checkout
Softcover Book
USD   74.99
Price excludes VAT (USA)

Notes

  1. 1.

    Kleine Programme, die im Internet durch die Erstellung und Verbreitung von Inhalten in den sozialen Medien menschliches Handeln imitieren.

  2. 2.

    „Machine learning (ML) can be generally defined as the usage of algorithms and large datasets to train computer systems to recognise patterns that had not previously been defined, and the ability of these systems to learn from data and discern valuable information without being programmed explicitly to do so“ (Kertysova 2018, S. 57).

  3. 3.

    Ein sehr anschauliches Beispiel für die Möglichkeiten von Deep Fakes zeigt das Video „You Won’t Believe What Obama Says In This Video! “ von BuzzFeedVideo abgerufen am 09. November 2020 von https://www.youtube.com/watch?v=cQ54GDm1eL0&feature=youtu.be.

  4. 4.

    Die Amadeu-Antonio-Stiftung zum Beispiel veröffentlicht Handreichungen und Tipps für Gegenrede in sozialen Medien (siehe z. B. https://www.amadeu-antonio-stiftung.de/publikationen/menschenwuerde-online-verteidigen/, abgerufen am 10. November 2020).

  5. 5.

    Beispiele für digitale Gegenrede in Form von Memes zeigt das Projekt „bildmachen“ (https://www.bildmachen.net/, abgerufen am 10. November 2020) oder aber auch der Kanal „Say My Name“ des gleichnamigen von der Bundeszentrale für politische Bildung geförderten Projektes (https://www.instagram.com/saymyname_bpb/?hl=de, abgerufen am 10. November 2020).

  6. 6.

    Diese Abhängigkeit wird auch als Algorithmic Bias beschrieben.

  7. 7.

    https://www.ichbinhier.eu/ (Stand: 11. November 2020).

  8. 8.

    Mehr Informationen finden sich beispielsweise hier https://www.das-nettz.de/akteure/reconquista-internet (Stand 11. November 2020).

  9. 9.

    Die Seite „Games for Change“ bietet beispielsweise eine Vielzahl an Civic Games zu unterschiedlichen historischen, politischen und gesellschaftlichen Themen: https://www.gamesforchange.org/games/ (Stand: 11. November 2020).

Literatur

  • Bachen, C. M., Hernández-Ramos, P. F., & Raphael, C. (2012): Simulating REAL LIVES. In: Simulation & Gaming, 43(4), S. 437–460. https://doi.org/10.1177/1046878111432108.

  • Bachen, C. M., Hernández-Ramos, P. F., Raphael, C., & Waldron, A. (2015): Civic Play and Civic Gaps: Can Life Simulation Games Advance Educational Equity? In: Journal of Information Technology & Politics, 12(4), S. 378–395. https://doi.org/10.1080/19331681.2015.1101038.

  • Balleys, C., Millerand, F., Thoër, C., & Duque, N. (2020): Searching for Oneself on YouTube: Teenage Peer Socialization and Social Recognition Processes. In: Social Media + Society, 6(2), online first. https://doi.org/10.1177/2056305120909474.

  • Berti, M., Maranzana, S., & Monzingo, J. (2020): Fostering Cultural Understanding with Virtual Reality: A Look at Students’ Stereotypes and Beliefs. In: International Journal of Computer-Assisted Language Learning and Teaching (IJCALLT), 10(1), S. 47–59. https://doi.org/10.4018/IJCALLT.2020010104.

  • Boyle, E. A., Hainey, T., Connolly, T. M., Gray, G., Earp, J., Ott, M. & Pereira, J. (2016): An update to the systematic literature review of empirical evidence of the impacts and outcomes of computer games and serious games. In: Computers & Education, 94, S. 178–192. https://doi.org/10.1016/j.compedu.2015.11.003.

    CrossRef  Google Scholar 

  • Carrasco, R., Baker, S., Waycott, J. & Vetere, F. (2017): Negotiating stereotypes of older adults through avatars. In Proceedings of the 29th Australian Conference on Computer-Human Interaction (OZCHI '17). Association for Computing Machinery, New York, NY, USA, S. 218–227. https://doi.org/10.1145/3152771.3152795.

  • Chung, Y.-L., Kuzmenko, E., Tekiroglu, S. S. & Guerini, M. (2019): CONAN – COunter NArratives through Nichesourcing: a Multilingual Dataset of Responses to Fight Online Hate Speech. In: Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, S. 2819–2829. https://doi.org/10.18653/v1/P19-1271.

  • Dishon, G. & Kafai, Y.B. (2019): Connected civic gaming: rethinking the role of video games in civic education. In: Interactive Learning Environments. https://doi.org/10.1080/10494820.2019.1704791.

  • Edwards, C., Edwards, A., Stoll, B., Lin, X., Massey, N., & Edwards, C. (2019): Evaluations of an Artificial Intelligence Instructor’s Voice: Social Identity Theory in Human-Robot Interactions. In: Computers in Human Behavior, 90, S. 357–362. https://doi.org/10.1016/j.chb.2018.08.027.

    CrossRef  Google Scholar 

  • Ernst, J. & Schmitt, J. B. (2020): Politische Bildung für Jugendliche in oder mit digitalen Medien? Medienpädagogische Reflexionen der Strukturbedingungen von YouTube. In: MedienPädagogik. Zeitschrift für Theorie und Praxis der Medienbildung, 38, (Aneignung politischer Information), S. 21–40. https://doi.org/10.21240/mpaed/38/2020.10.02.X.

  • Ernst, J., Schmitt, J. B., Rieger, D., Beier, A. K., Vorderer, P., Bente, G., & Roth, H-J. (2017): Hate beneath the counter speech? A qualitative content analysis of user comments on YouTube related to counter speech videos. In: Journal for Deradicalization, 10, S. 1–49.

    Google Scholar 

  • Faesen, L., Frinking, E., Gricius, G. & Mayhew, E. (2019): Understanding the Strategic and Technical Significance of Technology for Security, online verfügbar: https://www.hcss.nl/sites/default/files/files/reports/HSD-Rapport-AI-11619.pdf [Stand: 11.11.2020].

  • Fortuna. P. & Nunes, S. (2018): A Survey on Automatic Detection of Hate Speech in Text. In: ACM Comput. Surv. 51, 4, Article 85, https://doi.org/10.1145/3232676.

  • Francesc, P., Subosa, M., Rivas, A., & Valverde, P. (2019): Artificial intelligence in education: challenges and opportunities for sustainable development, online verfügbar: https://unesdoc.unesco.org/ark:/48223/pf0000366994 [Stand: 11.11.2020].

  • Frischlich, L. Rieger, D., Morten, A. & Bente, G. (2017): Wirkung. In L. Frischlich, D. Rieger, A. Morten & G. Bente (Hrsg.): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand. In Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE) des Bundeskriminalamtes. Wiesbaden: Bundeskriminalamt.

    Google Scholar 

  • García-Retuerta, D., Bartolomé, Á., Chamoso, P., & Corchado, J.M. (2018): Counter-Terrorism Video Analysis Using Hash-Based Algorithms. Algorithms, 12. https://doi.org/10.3390/a12050110.

  • Garland, J., Ghazi-Zahedi, K., Young, J.-G., Hébert-Dufresne, L. & Galesic, M. (2020): Countering hate on social media: Large scale classification of hate and counter speech. Preprint, online verfügbar: https://arxiv.org/abs/2006.01974 [Stand: 11.11.2020].

  • Guess, A. M., Lerner, M., Lyons, B., Montgomery, J. M., Nyhan, B., Reifler, J. & Sircar, N. (2020): A digital media literacy intervention increases discernment between mainstream and false news in the United States and India. Proceedings of the National Academy of Sciences Jul 2020, 117 (27), S. 15536–15545; https://doi.org/10.1073/pnas.1920498117.

  • Haake, M. (2009): Embodied Pedagogical Agents: From Visual Impact to Pedagogical Implications. Institutionenför designvetenskaper, Lunds Tekniska Högskola, Lunds universitet, online verfügbar: https://portal.research.lu.se/portal/en/publications/embodied-pedagogical-agents-from-visual-impact-to-pedagogical-implications(a826874b-827c-40ba-b572-aed0931415d8).html [Stand: 11.11.2020].

  • Hasson, Y., Schori-Eyal, N., Landau, D., Hasler. B.S., Levy, J., Friedman, D., & Halperin, E. (2019): The enemy’s gaze: Immersive virtual environments enhance peace promoting attitudes and emotions in violent intergroup conflicts. In: PLoS ONE 14(9): e0222342. https://doi.org/10.1371/journal.pone.0222342.

  • Head, A. J., Fister, B. & MacMillan, M. (2020): Information literacy in the age of algorithms, online verfügbar: http://nonio.ese.ipsantarem.pt/esemoodle/file.php/120/Information_Literacy_in_the_Age_of_Algorithms.pdf [Stand: 11.11.2020].

  • Hellriegel, J. & Čubela, D. (2018): Das Potenzial von Virtual Reality für den schulischen Unterricht – Eine konstruktivistische Sicht. In: MedienPädagogik, S. 58–80. doi: https://doi.org/10.21240/mpaed/00/2018.12.11.X.

  • Huda, M., Hehsan, A., Basuki, S., Rismayadi, B., Jasmi, K. A., Basiron, B. & Mustari, M. I. (2018): Empowering Technology Use to Promote Virtual Violence Prevention in Higher Education Context. In: Goplan, R. T. (Hrsg.) (2018): Intimacy and Developing Personal Relationships in the Virtual World. IGI Global. S.272–273. doi: 10.4018/978-1-5225-4047-2.ch015.

  • Kertysova, K. (2018): Artificial Intelligence and Disinformation. How AI Changes the Way Disinformation is Produced, Disseminated, and Can Be Countered. In: Security and Human Rights, 29, 55–81.

    CrossRef  Google Scholar 

  • Kristal, C. (2010): Warcraft and Civic Education: MMORPGs as Participatory Cultures and How Teachers Can Use Them to Improve Civic Education. In: The Social Studies, 101, S. 250–253. https://doi.org/10.1080/00377990903493879.

    CrossRef  Google Scholar 

  • Koch, W. & Beisch, N. (2020): Ergebnisse der ARD/ZDF-Onlinestudie 2020. Erneut starke Zuwächse bei Onlinevideo. In: Media Perspektiven, 9, S. 482–500.

    Google Scholar 

  • Köhler, D. & Fiebig, V. (2019): Knowing What to Do: Academic and Practitioner Understanding of How to Counter Violent Radicalization. In: Perspectives in Terrorism, 13(3), S. 44–62.

    Google Scholar 

  • Leonhard, L., Rueß, C., Obermaier, M. & Reinemann, C. (2018): Perceiving threat and feeling responsible – How severity of hate speech, number of bystanders, and prior reactions of others affect bystanders’ intention to counterargue against hate speech on Facebook. In: Studies in Communication Media, 7, S. 555–579. https://doi.org/10.5771/2192-4007-2018-4.

    CrossRef  Google Scholar 

  • Lenette, C., Cox, L., & Brough, M. (2015): Digital storytelling as a social work tool: Learning from ethnographic research with women from refugee backgrounds. In: British Journal of Social Work, 45(3), S. 988–1005.

    Google Scholar 

  • Louie, A. K., Coverdale, J. H., Balon, R., Beresin, E. V., Brenner, A. M., Guerrero, A., & Roberts, L. W. (2018): Enhancing Empathy: a Role for Virtual Reality?. In: Academic psychiatry: the journal of the American Association of Directors of Psychiatric Residency Training and the Association for Academic Psychiatry, 42(6), S. 747–752. https://doi.org/10.1007/s40596-018-0995-2.

  • Matamoros-Fernández, A. (2017): Platformed racism: the mediation and circulation of an Australian race-based controversy on Twitter, Facebook and YouTube. In: Information, Communication & Society, 20(6), S. 930–946. https://doi.org/10.1080/1369118X.2017.1293130.

  • Murphy, S. T., Frank, L. B., Chatterjee, J. S., & Baezconde-Garbanati, L. (2013): Narrative versus nonnarrative: The role of identification, transportation, and emotion in reducing health disparities. In: Journal of Communication, 63, S. 116–137. https://doi.org/10.1111/jcom.12007.

    CrossRef  Google Scholar 

  • O'Brien, J. (2008): Are we preparing young people for 21st -century citizenship with 20thcentury thinking? A case for a virtual laboratory of democracy. In: Contemporary Issues in Technology and Teacher Education [Online serial], 8(2), S. 125–157.

    Google Scholar 

  • Pelletier, P., & Drozda-Senkowska, E. (2020): Virtual Reality as a Tool for Deradicalizing the Terrorist Mind: Conceptual and Methodological Insights From Intergroup Conflict Resolution and Perspective-Taking Research. In: Peace and Conflict: Journal of Peace Psychology. Advance online publication. https://doi.org/10.1037/pac0000442.

  • Popat, K., Mukherjee, S., Yates, A. & Weikum, G. (2018): DeClarE: Debunking Fake News and False Claims using Evidence-Aware Deep Learning. In: Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, S. 22–32. https://doi.org/10.18653/v1/D18-1003.

  • Rainie, L., & Anderson, J. (2017): Code-dependent: Pros and cons of the algorithm age, online verfügbar: http://assets.pewresearch.org/wp-content/uploads/sites/14/2017/02/08181534/PI_2017.02.08_Algorithms_FINAL.pdf [Stand: 10.11.2020].

  • Rieder, B., Matamoros-Fernández, A., & Coromina, Ò. (2018): From ranking algorithms to “ranking cultures”: Investigating the modulation of visibility in YouTube search results. In: Journal of Research into New Media Technologies, 24, S. 50–68. https://doi.org/10.1177/1354856517736982.

    CrossRef  Google Scholar 

  • Ribeiro, M. H., Ottoni, R., West, R., Almeida, V. A. F. & Meira. W. (2020): Auditing radicalization pathways on YouTube. In: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (FAT* ’20). Association for Computing Machinery, New York, NY, USA, S. 131–141. https://doi.org/10.1145/3351095.3372879.

  • Robertson, L., Farley, R. & Rieder, R. (2020): Trump Tweets Flagged by Twitter for Misinformation, online verfügbar: https://www.factcheck.org/2020/11/trump-tweets-flagged-by-twitter-for-misinformation/ [Stand: 11.11.2020].

  • Scavarelli, A., Arya, A. & Teather, R.J. (2020): Virtual reality and augmented reality in social learning spaces: a literature review. In: Virtual Reality, 25, S. 257–277, https://doi.org/10.1007/s10055-020-00444-8

    CrossRef  Google Scholar 

  • Schieb C. & Preuss M. (2018): Considering the Elaboration Likelihood Model for simulating hate and counter speech on Facebook. SCM Studies in Communication and Media, 7(4), S. 580–606. https://doi.org/10.5771/2192-4007-2018-4-580.

    CrossRef  Google Scholar 

  • Schmitt, J.B., Ernst, J., Rieger, D. & Roth, H.-J. (2020): Die Förderung von Medienkritikfähigkeit zur Prävention der Wirkung extremistischer Online-Propaganda. In Schmitt, J. B., Ernst, J., Rieger, D. & Roth, H.-J. (Hrsg.): Propaganda und Prävention. Forschungsergebnisse, didaktische Ansätze sowie interdisziplinäre Perspektiven zur pädagogischen Arbeit zu extremistischer Internetpropaganda. Wiesbaden: VS Verlag für Sozialwissenschaften, S. 29–44.

    Google Scholar 

  • Schmitt, J. B., Rieger, D., Rutkowski, O., & Ernst, J. (2018): Counter-messages as prevention or promotion of extremism?! The potential role of YouTube recommendation algorithms. In: Journal of Communication, 68, S. 780–808. https://doi.org/10.1093/joc/jqy029.

    CrossRef  Google Scholar 

  • Schmitt, J. B., Riesmeyer, C., Ernst, J., Rieger, D., Nienierza, C., Fawzi, N., Reinemann, C. & Roth, H.-J. (2019): Jugendliche und extremistische Propaganda. Kontakt – Schulische Prävention – Pädagogische Herausforderungen. In: Praxis der Rechtspsychologie, 1, S. 67–90.

    Google Scholar 

  • Smith, A., Toor, S. & van Kessel (2018): Many Turn to YouTube for Children’s Content, News, How-To Lessons, online verfügbar: https://www.pewresearch.org/internet/2018/11/07/many-turn-to-youtube-for-childrens-content-news-how-to-lessons/–an-analysis-of-random-walks-through-the-youtube-recommendation-engine [Stand: 14.07.2020].

  • Statista (2020): Statista-Dossier zu YouTube, online verfügbar: https://de.statista.com/statistik/studie/id/12089/dokument/youtube-statista-dossier/ [Stand: 13.07.2020].

  • Vo, N. & Lee, V. (2018): The Rise of Guardians: Fact-checking URL Recommendation to Combat Fake News. In: The 41st International ACM SIGIR Conference on Research & Development in Information Retrieval (SIGIR '18). Association for Computing Machinery, New York, NY, USA, S. 275–284. https://doi.org/10.1145/3209978.3210037.

  • Vo, N., & Lee, K. (2019): Learning from Fact-checkers: Analysis and Generation of Fact-checking Language. Proceedings of the 42nd International ACM SIGIR Conference on Research and Development in Information Retrieval. S. 335–344. https://doi.org/10.1145/3331184.3331248.

  • Ziegele, M., Jost, P., Frieß, D. & Naab, T. (2019): Aufräumen im Trollhaus. Zum Einfluss von Community-Managern und Aktionsgruppen in Kommentarspalten, online verfügbar: https://diid.hhu.de/wp-content/uploads/2019/04/DIID-Precis_Ziegele_V3.pdf [Stand: 11.11.2020].

  • Zuckerberg, M. (2018): A Blueprint for Content Governance and Enforcement, online verfügbar: https://www.facebook.com/notes/mark-zuckerberg/a-blueprint-for-content-governance-and-enforcement/10156443129621634/ [Stand: 11.11.2020].

Download references

Author information

Authors and Affiliations

Authors

Corresponding author

Correspondence to Josephine B. Schmitt .

Editor information

Editors and Affiliations

Rights and permissions

Reprints and Permissions

Copyright information

© 2022 Der/die Autor(en), exklusiv lizenziert durch Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature

About this chapter

Verify currency and authenticity via CrossMark

Cite this chapter

Schmitt, J.B. (2022). Virtuelle Welten und künstliche Intelligenzen als Herausforderungen und Chancen digitaler Gegenrede. In: Ernst, J., Trompeta, M., Roth, HJ. (eds) Gegenrede digital. Interkulturelle Studien. Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-36540-0_3

Download citation

  • DOI: https://doi.org/10.1007/978-3-658-36540-0_3

  • Published:

  • Publisher Name: Springer VS, Wiesbaden

  • Print ISBN: 978-3-658-36539-4

  • Online ISBN: 978-3-658-36540-0

  • eBook Packages: Social Science and Law (German Language)