• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            隨筆 - 17  文章 - 48  trackbacks - 0
            <2013年7月>
            30123456
            78910111213
            14151617181920
            21222324252627
            28293031123
            45678910

            常用鏈接

            留言簿(3)

            隨筆檔案

            搜索

            •  

            最新評論

            閱讀排行榜

            評論排行榜

            實現正則表達式的想法很早就有,各種原因導致沒有做,最近花了點時間先實現了幾個簡單的正則語法,分別是concatenation、alternation和closure,其他語法及metacharacter等有時間了有想法了之后再擴展。

             

            這三種基本的語法分別是對應這樣的:

            concatenation: abc    表示匹配字符串abc

            alternation: abc|def   表示匹配字符串abc或者def

            closure: a*               表示匹配零個到多個a構成的字符串

             

            我們知道正則表達式最終需要轉換成自動機才能用來匹配字符串,我實現的正則通過如下幾個步驟把正則表達式轉換成自動機:

            正則表達式->Parse成AST->生成邊(字符)集合->生成NFA->NFA subset construction->轉換成DFA->DFA minimization

            最后用DFA minimization之后構造的自動機來匹配字符串。

             

            正則語法的分析

            一個正則表達式寫出來,要讓這個正則表達式匹配字符串等操作之前,我們先需要從正則表達式中提取需要的信息并在正則語法錯誤的時候提示錯誤,這個過程自然少不了parser。一個parser通常是從一個lexer里面獲取一個token,而正則表達式的token都是字符,那么lexer不需要做任何的分詞操作,只需要簡單的把字符返回給parser即可。

            那三種基本的正則語法對應的BNF為:

            re ::= alter
            re_base ::= char | char_range | '(' re ')'
            alter ::= alter_base alter_end
            alter_base ::= concat
            alter_end ::= '|' alter_base alter_end | epsilon
            concat ::= concat_base concat_end
            concat_base ::= re_base | closure
            concat_end ::= concat_base concat_end | epsilon
            closure ::= re_base '*'

            這個parser分析了正則表達式之后產生AST,AST的node類型為:

            class ASTNode
            {
            public:
                ACCEPT_VISITOR() = 0;
                virtual ~ASTNode() { }
            };
             
            class CharNode : public ASTNode
            {
            public:
                explicit CharNode(int c) : c_(c) { }
             
                ACCEPT_VISITOR();
             
                int c_;
            };
             
            class CharRangeNode : public ASTNode
            {
            public:
                struct Range
                {
                    int first_;
                    int last_;

                    explicit Range(int first = 0, int last = 0)
                        : first_(first), last_(last)
                    {
                    }
                };

                CharRangeNode() { }

                void AddRange(int first, int last)
                {
                    ranges_.push_back(Range(first, last));
                }
             
                void AddChar(int c)
                {
                    chars_.push_back(c);
                }
             
                ACCEPT_VISITOR();
             
                std::vector<Range> ranges_;
                std::vector<int> chars_;
            };
             
            class ConcatenationNode : public ASTNode
            {
            public:
                void AddNode(std::unique_ptr<ASTNode> node)
                {
                    nodes_.push_back(std::move(node));
                }
             
                ACCEPT_VISITOR();
             
                std::vector<std::unique_ptr<ASTNode>> nodes_;
            };
             
            class AlternationNode : public ASTNode
            {
            public:
                void AddNode(std::unique_ptr<ASTNode> node)
                {
                    nodes_.push_back(std::move(node));
                }
             
                ACCEPT_VISITOR();
             
                std::vector<std::unique_ptr<ASTNode>> nodes_;
            };
             
            class ClosureNode : public ASTNode
            {
            public:
                explicit ClosureNode(std::unique_ptr<ASTNode> node)
                    : node_(std::move(node))
            {
                }
             
                ACCEPT_VISITOR();
             
                std::unique_ptr<ASTNode> node_;
            };

            其中ASTNode作為AST的基類,并提供接口實現Visitor模式訪問ASTNode類型。

             

            字符(邊)集的構造

            AST構造好了之后,需要把AST轉換成NFA。語法中有[a-zA-Z0-9]這種字符區間表示法,我們可以用最簡單原始的方法轉換,就是把區間中的每個字符都轉化成相應的一條邊(NFA中的邊),這樣一來會導致字符區間越大,對應邊的數量會越多,使得對應的NFA也越大。因此,我們需要構造區間字符集合來減少邊的數量。

            比如正則表達式是:a[x-z]|[a-z]*e

            那么我們希望對應的字符集合是這樣:[a-a] [b-d] [e-e] [f-w] [x-z]

            這需要構造一個字符集,每次插入一個區間的時候,把新插入的區間與已存在的區間進行分割,初始時已存在的區間集為空,那么正則表達式a[x-z]|[a-z]*e的劃分步驟如下:

            已存在區間集合{},插入[a-a],得到{[a-a]}

            已存在區間集合{[a-a]},插入[x-z],得到{[a-a], [x-z]}

            已存在區間集合{[a-a], [x-z]},插入[a-z],得到{[a-a], [b-w], [x-z]}

            已存在區間集合{[a-a], [b-w], [x-z]},插入[e-e],得到{[a-a], [b-d], [e-e], [f-w], [x-z]}

            這個區間構造完成了之后,還需要在后面轉換成NFA邊的時候,根據字符區間查詢出在這個集合中,由哪幾個區間構成,比如:

            查詢區間[a-a],得到[a-a]

            查詢區間[x-z],得到[x-z]

            查詢區間[a-z],得到區間[a-a] [b-d] [e-e] [f-w] [x-z]

            在轉換成NFA時,集合中的每個區間都對應一條邊,這樣相對于每個字符對應一條邊,邊的數量不會太多。

            有了這么一個集合構造的類之后,把正則的AST中的字符信息提取出來構造出這么個集合即可,這樣只需要寫個visitor就完成了:

            class EdgeSetConstructorVisitor : public Visitor
            {
            public:
                explicit EdgeSetConstructorVisitor(EdgeSet *edge_set)
                    : edge_set_(edge_set)
                {
                }
             
                EdgeSetConstructorVisitor(const EdgeSetConstructorVisitor &) = delete;
                void operator = (const EdgeSetConstructorVisitor &) = delete;
             
                VISIT_NODE(CharNode);
                VISIT_NODE(CharRangeNode);
                VISIT_NODE(ConcatenationNode);
                VISIT_NODE(AlternationNode);
                VISIT_NODE(ClosureNode);

            private:
                EdgeSet *edge_set_;
            };

            邊集合構造完成之后,下一步就是生成NFA了。

            posted on 2013-07-05 13:30 airtrack 閱讀(4415) 評論(3)  編輯 收藏 引用

            FeedBack:
            # re: 正則表達式實現(一) 2013-07-05 23:31 陳梓瀚(vczh)
            # re: 正則表達式實現(一) 2013-07-06 01:34 airtrack
            @陳梓瀚(vczh)
            哈哈,早知道陳祖寫過正則引擎的系列文章,一直沒看,是想在我自己思考之后如果遇到問題的時候再看,啊哈哈。  回復  更多評論
              
            # re: 正則表達式實現(一) 2013-07-06 20:13 溪流
            學習了  回復  更多評論
              
            久久经典免费视频| 久久精品国产精品亚洲毛片 | 狠狠色婷婷久久综合频道日韩 | 久久国产热这里只有精品| 久久婷婷五月综合成人D啪| 精品国产乱码久久久久久郑州公司| 91精品国产高清久久久久久91| 亚洲美日韩Av中文字幕无码久久久妻妇 | 99蜜桃臀久久久欧美精品网站| AV无码久久久久不卡蜜桃| 国产精品久久久久久影院| 久久久亚洲AV波多野结衣| 久久综合色之久久综合| 伊人久久无码中文字幕| 国产毛片久久久久久国产毛片| 久久99国产精品久久99果冻传媒| 乱亲女H秽乱长久久久| 看久久久久久a级毛片| 久久精品国产第一区二区| 97久久国产综合精品女不卡| 91久久精品国产91性色也| 无码人妻久久一区二区三区| 亚洲人成网亚洲欧洲无码久久 | 欧美激情精品久久久久久久九九九 | 国内精品伊人久久久久av一坑 | 久久久国产精品亚洲一区| 亚洲精品无码久久不卡| 国产成人无码精品久久久免费| 久久久一本精品99久久精品66| 中文字幕无码久久久| 人妻系列无码专区久久五月天| 久久精品夜色噜噜亚洲A∨| 99久久99久久精品免费看蜜桃| 久久精品免费一区二区| 欧美日韩中文字幕久久久不卡| 国产高潮国产高潮久久久91 | 久久精品国产免费观看三人同眠| 亚洲国产婷婷香蕉久久久久久| 狠狠色伊人久久精品综合网| 欧美日韩成人精品久久久免费看| 久久精品国产99国产精品|