Skip to main content
Log in

Creation of a Russian Stop Word List

  • AUTOMATED TEXT PROCESSING
  • Published:
Automatic Documentation and Mathematical Linguistics Aims and scope

Abstract

This article describes three identifying characteristics of stop words—statistical, semantic, and morphological—and postulates new principles for the creation of stop word lists based on these characteristics. The application of the principles is demonstrated by creating a Russian-language general stop word list based on the analysis of existing sources and frequency distributions in the Russian National Corpus. The resulting list contains 535 stop words.

This is a preview of subscription content, log in via an institution to check access.

Access this article

Price excludes VAT (USA)
Tax calculation will be finalised during checkout.

Instant access to the full article PDF.

Similar content being viewed by others

Notes

  1. Fox used the term general text.

  2. The list arranged in the frequency is given in [6].

REFERENCES

  1. Francis, W.N. and Kucera, H., Computational Analysis of Present Day American English, Providence: Brown Univ. Press, 1967.

    Google Scholar 

  2. Roelleke, T. and Wang, U., TF-IDF uncovered: A study of theories and probabilities (and physics), ACM SIGIR 2008, Singapore, 2008, pp. 435–442. http://www.eecs. qmul.ac.uk/~thor/2008/TF-IDF-Uncovered-SIGIR-Talk.pdf.

  3. Yatsko, V.A., TF*IDF revisited, Int. J. Comput. Linguist. Nat. Lang. Process., 2013, vol. 2, no. 6, pp. 385–387. https://docs.google.com/file/d/0B306nMx7wiLyZ0tFelo4MzY5SWc/edit.

  4. Yatsko, V.A., A new method of automatic text document classification, Autom. Doc. Math. Linguist., 2021, vol. 55, no. 3, pp. 122–133.  https://doi.org/10.3103/S0005105521030080

    Article  Google Scholar 

  5. Fox, C., A stop list for general text, ACM SIGIR Forum, 1989, vol. 24, nos. 1–2, pp. 19–21.  https://doi.org/10.1145/378881.378888

  6. Lyashevskaya, O.N and Sharov, S.A., Chastotnyi slovar’ sovremennogo russkogo yazyka (na materialakh Natsional’nogo korpusa russkogo yazyka) (Frequency Vocabulary of Modern Russian Language (On Materials of the National Corpus of Russian Language)), Moscow: Azbukovnik, 2009. http://dict.ruslang.ru/freq.php?act= show&dic=freq_freq&title=%D7%E0%F1%F2%EE% F2%ED%FB%E9%20%F1%EF%E8%F1%EE%EA% 20%EB%E5%EC%EC.

  7. Zipf’s and Heap’s law, Northeastern Univ., Khoury College of Computer Sciences, 2009. https://www.ccs. neu.edu/home/ekanou/ISU535.09X2/Handouts/Review_Material/zipfslaw.pdf.

  8. Yatsko, V.A., Rassuzhdenie kak tip nauchnoi rechi (Reasoning as a Type of Scientific Speech), Abakan: Izd-vo Khakasskogo Gos. Univ., 1998.

  9. Porter, M., The Porter stemming algorithm, 2006. https://tartarus.org/martin/PorterStemmer/.

  10. Savoy, J., IR multilingual resources at UniNE, 2005. http://members.unine.ch/jacques.savoy/clef/.

Download references

Funding

This study was supported by the Russian Foundation for Basic Research, grant no. 20-07-00124.

Author information

Authors and Affiliations

Authors

Corresponding author

Correspondence to V. A. Yatsko.

Ethics declarations

The author declares that he has no conflicts of interest.

Additional information

Translated by A. Ovchinnikova

APPENDICES

APPENDICES

APPENDIX A

Modified Porter’s List, 312 Terms

, без, бесспорно, более, больше, будем, будет, будете, будешь, будто, буду, будут, будучи, будь, бы, бывало, был, была, были, было, быть, вам, вами, вас, вдруг, ведь, вероятно, весь, видимо, видимому, во, возможно, вон, вообще, вот, впрочем, вряд, все, всё, всегда, всего, всей, всем, всеми, всему, всех, всею, всю, вся, вы, где, говорил, говорила, говорили, говорят, да, даже, два, для, до, должен, должна, должны, другой, его, едва, ее, её, ей, ему, если, есть, еще, ею, ж, же, за, зачем, здесь, и, из, или, им, имевший, имеем, имеемый, имеет, имеете, имеешь, имей, имейте, имел, имела, имели, имело, именно, иметь, имею, имеют, имеющий, имея, ими, иногда, их, к, кажется, кажись, казалось, как, какая, какой, когда, конечно, короче, который, кроме, кстати, кто, куда, ли, лишь, лучше, между, меня, мне, много, мной, мною, мог, моги, могите, могла, могли, могло, могу, могут, моему, можем, может, можете, можешь, можно, мой, мочь, моя, мы, на, над, надо, наконец, нам, нами, наоборот, например, напротив, нас, нашему, не, него, нее, неё, ней, ней, нельзя, нему, несомненно, нет, нею, ни, нибудь, никогда, ним, ними, них, ничего, но, ну, нужно, о, об, обычно, один, однако, он, она, они, оно, опять, от, откуда, отчего, очевидно, перед, по, под, поди, пожалуй, позволь, позвольте, помилуй, помилуйте, помимо, после, потом, потому, похоже, почему, почти, при, примерно, про, прочим, проще, раз, разве, разумеется, с, сам, сама, сами, самим, самими, самих, само, самого, самой, самом, самому, самою, саму, свою, себе, себя, сегодня, сейчас, сказал, сказала, сказали, сказать, сколько, скорее, следовательно, случайно, смог, смоги, смогите, смогла, смогли, смогут, сможем, сможете, сможешь, со, собой, собою, собственно, совсем, судя, та, так, такой, там, твоему, те, тебе, тебя, тем, теми, теперь, тех, то, тобой, тобою, тогда, того, тоже, той, только, том, тому, тот, точнее, тою, ту, тут, ты, у, уж, уже, хоть, чего, чей, чем, через, что, чтоб, чтобы, чуть, эта, эти, этим, этими, этих, это, этого, этой, этом, этому, этот, этою, эту, я.#

APPENDIX B

Full List of Russian-Language Stop Words, 535 Terms

, алло, без, безусловно, бесспорно, близко, более, больше, будем, будет, будете, будешь, будто, буду, будут, будучи, будь, бы, бывает, бывало, был, была, были, было, быть, в, вам, вами, вас, ваш, ваша, ваше, вашему, ваши, вверх, вверху, ввиду, вдруг, ведь, везде, вернее, верно, вероятнее, вероятно, весь, видимо, видимому, видишь, видно, вне, вниз, внизу, внутри, во, возможно, вокруг, вон, вообще, вот, вперёд, вперед, впрочем, вряд, все, всё, всегда, всего, всей, всем, всеми, всему, всех, всею, всю, всюду, вся, вы, г, где, говорил, говорила, говорили, говорит, говоря, говорят, да, давно, даже, далеко, дальше, данным, действительно, дело, для, до, довольно, должен, должна, должно, должны, допустим, другая, другие, других, другого, другое, другой, е, ё, его, едва, ее, её, ей, ему, если, есть, еще, ещё, ею, ж, же, жаль, за, затем, зато, зачем, здесь, значит, знаете, знаешь, значит, и, из, известно, или, им, имевший, имеем, имеемый, имеет, имеете, имеешь, имей, имейте, имел, имела, имели, имело, именно, иметь, имею, имеют, имеющий, имея, ими, иначе, иногда, их, к, каждая, каждое, каждые, каждый, кажется, кажись, казалось, как, какая, какой, кем, когда, кого, ком, кому, конечно, короче, которая, которого, которой, которые, который, которых, кроме, кругом, кстати, кто, куда, ли, лишь, лучше, м, мало, между, меня, мимо, мне, мнению, много, мной, мною, мог, моги, могите, могла, могли, могло, могу, могут, мое, моему, моё, можем, может, можете, можешь, можно, мои, мой, мочь, моя, мы, на, наверно, наверное, наверху, над, надо, назад, наконец, нам, нами, наоборот, например, напротив, нарочно, нас, наш, наша, наше, нашему, наши, не, него, недалеко, недавно, нее, неё, ней, некоторая, некоторого, некоторой, некотором, некоторому, некоторую, некоторые, некоторый, некоторым, некоторых, некоторых, нельзя, нем, нём, нему, несомненно, нет, нею, ни, нибудь, низко, никакой, никогда, никого, никому, никто, никуда, ним, ними, них, ничего, ничему, ничто, но, ну, нужно, нх, о, об, оба, обе, обеим, обеими, обеих, обоим, обоими, обоих, обычно, общем, однако, однажды, оказывается, около, он, она, они, оно, опять, особенно, от, отовсюду, отсюда, отчего, очевидно, очень, перед, по, под, поди, пожалуй, пожалуйста, позади, позволь, позвольте, позже, пока, помилуй, помилуйте, помимо, понятно, попросту, пор, пора, поскольку, после, посреди, потом, потому, похоже, почему, почти, поэтому, при, примерно, примеру, про, просто, против, прочим, прочь, проще, раз, разве, разумеется, раньше, с, сам, сама, сами, самим, самими, самих, само, самого, самой, самом, самому, самою, саму, самый, свое, своё, своего, своей, свои, своих, свой, свою, своя, себе, себя, сегодня, сейчас, сзади, сих, скажем, сказал, сказала, сказали, сказать, сколько, скольку, скорее, следовательно, слишком, случайно, слушай, слушайте, смог, смоги, смогите, смогла, смогли, смогло, смогут, сможем, сможете, сможешь, смотри, смотрите, сначала, снова, со, собой, собою, собственно, совсем, соответственно, спасибо, сразу, став, ставший, стал, стала, стали, стало, становимся, становитесь, становится, становиться, становишься, становлюсь, становятся, судя, суть, сути, сущности, считаю, считал, считаешь, считали, считаем, считаете, считает, считают, сюда, т, та, так, такая, также, такие, таким, такими, таких, такого, такое, такой, такому, там, твое, твоё, твоей, твоему, твои, твоим, твоих, твой, твоя, те, тебе, тебя, тем, теми, теперь, тех, то, тобой, тобою, тогда, того, тоже, той, только, том, тому, тот, точнее, тою, ту, туда, тут, ты, у, уж, уже, хоть, хотя, хочу, хочешь, хотите, хочет, хотим, хотят, частности, часто, чего, чей, чем, чему, через, что, чтоб, чтобы, чуть, эта, эти, этим, этими, этих, это, этого, этой, этом, этому, этот, этою, эту, я, являемся, являетесь, является, являешься, являюсь, являются, якобы.#

About this article

Check for updates. Verify currency and authenticity via CrossMark

Cite this article

Yatsko, V.A. Creation of a Russian Stop Word List. Autom. Doc. Math. Linguist. 56, 138–144 (2022). https://doi.org/10.3103/S0005105522030049

Download citation

  • Received:

  • Published:

  • Issue Date:

  • DOI: https://doi.org/10.3103/S0005105522030049

Keywords:

Navigation