网络 字符串分隔类;字符串标记;标记化文字
Why do I need a tokenizer for each language?
为什么我需要为每种语言的标记?
With the tokenizer, it is easy to decode the processing instructions.
有了 tokenizer,就很容易译码处理指令。
If the tokenizer encounters neither token, it returns a lexical error.
如果记号赋予器未遇到这两个记号,则返回词法错误。
A good lexer example can help a lot with learning how to write a tokenizer.
一个好的 lexer 例子会非常有助于学习如何编写断词器(tokenizer)。
What the parser fills in depends on the path it takes through the tokenizer.
解析器填入的内容取决于它通过记号赋予器所采用的路径。