예제 #1
0
        public void TestVocabBuildInTokens()
        {
            Vocab vocab = new Vocab("enuSpm.vocab");

            Assert.IsTrue((int)SENTTAGS.START == vocab.GetWordIndex(BuildInTokens.BOS));
            Assert.IsTrue((int)SENTTAGS.END == vocab.GetWordIndex(BuildInTokens.EOS));
            Assert.IsTrue((int)SENTTAGS.UNK == vocab.GetWordIndex(BuildInTokens.UNK));

            Assert.IsTrue(vocab.GetString((int)SENTTAGS.START) == BuildInTokens.BOS);
            Assert.IsTrue(vocab.GetString((int)SENTTAGS.END) == BuildInTokens.EOS);
            Assert.IsTrue(vocab.GetString((int)SENTTAGS.UNK) == BuildInTokens.UNK);
        }