• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            隨筆 - 17  文章 - 48  trackbacks - 0
            <2025年5月>
            27282930123
            45678910
            11121314151617
            18192021222324
            25262728293031
            1234567

            常用鏈接

            留言簿(3)

            隨筆檔案

            搜索

            •  

            最新評論

            閱讀排行榜

            評論排行榜

            實現正則表達式的想法很早就有,各種原因導致沒有做,最近花了點時間先實現了幾個簡單的正則語法,分別是concatenation、alternation和closure,其他語法及metacharacter等有時間了有想法了之后再擴展。

             

            這三種基本的語法分別是對應這樣的:

            concatenation: abc    表示匹配字符串abc

            alternation: abc|def   表示匹配字符串abc或者def

            closure: a*               表示匹配零個到多個a構成的字符串

             

            我們知道正則表達式最終需要轉換成自動機才能用來匹配字符串,我實現的正則通過如下幾個步驟把正則表達式轉換成自動機:

            正則表達式->Parse成AST->生成邊(字符)集合->生成NFA->NFA subset construction->轉換成DFA->DFA minimization

            最后用DFA minimization之后構造的自動機來匹配字符串。

             

            正則語法的分析

            一個正則表達式寫出來,要讓這個正則表達式匹配字符串等操作之前,我們先需要從正則表達式中提取需要的信息并在正則語法錯誤的時候提示錯誤,這個過程自然少不了parser。一個parser通常是從一個lexer里面獲取一個token,而正則表達式的token都是字符,那么lexer不需要做任何的分詞操作,只需要簡單的把字符返回給parser即可。

            那三種基本的正則語法對應的BNF為:

            re ::= alter
            re_base ::= char | char_range | '(' re ')'
            alter ::= alter_base alter_end
            alter_base ::= concat
            alter_end ::= '|' alter_base alter_end | epsilon
            concat ::= concat_base concat_end
            concat_base ::= re_base | closure
            concat_end ::= concat_base concat_end | epsilon
            closure ::= re_base '*'

            這個parser分析了正則表達式之后產生AST,AST的node類型為:

            class ASTNode
            {
            public:
                ACCEPT_VISITOR() = 0;
                virtual ~ASTNode() { }
            };
             
            class CharNode : public ASTNode
            {
            public:
                explicit CharNode(int c) : c_(c) { }
             
                ACCEPT_VISITOR();
             
                int c_;
            };
             
            class CharRangeNode : public ASTNode
            {
            public:
                struct Range
                {
                    int first_;
                    int last_;

                    explicit Range(int first = 0, int last = 0)
                        : first_(first), last_(last)
                    {
                    }
                };

                CharRangeNode() { }

                void AddRange(int first, int last)
                {
                    ranges_.push_back(Range(first, last));
                }
             
                void AddChar(int c)
                {
                    chars_.push_back(c);
                }
             
                ACCEPT_VISITOR();
             
                std::vector<Range> ranges_;
                std::vector<int> chars_;
            };
             
            class ConcatenationNode : public ASTNode
            {
            public:
                void AddNode(std::unique_ptr<ASTNode> node)
                {
                    nodes_.push_back(std::move(node));
                }
             
                ACCEPT_VISITOR();
             
                std::vector<std::unique_ptr<ASTNode>> nodes_;
            };
             
            class AlternationNode : public ASTNode
            {
            public:
                void AddNode(std::unique_ptr<ASTNode> node)
                {
                    nodes_.push_back(std::move(node));
                }
             
                ACCEPT_VISITOR();
             
                std::vector<std::unique_ptr<ASTNode>> nodes_;
            };
             
            class ClosureNode : public ASTNode
            {
            public:
                explicit ClosureNode(std::unique_ptr<ASTNode> node)
                    : node_(std::move(node))
            {
                }
             
                ACCEPT_VISITOR();
             
                std::unique_ptr<ASTNode> node_;
            };

            其中ASTNode作為AST的基類,并提供接口實現Visitor模式訪問ASTNode類型。

             

            字符(邊)集的構造

            AST構造好了之后,需要把AST轉換成NFA。語法中有[a-zA-Z0-9]這種字符區間表示法,我們可以用最簡單原始的方法轉換,就是把區間中的每個字符都轉化成相應的一條邊(NFA中的邊),這樣一來會導致字符區間越大,對應邊的數量會越多,使得對應的NFA也越大。因此,我們需要構造區間字符集合來減少邊的數量。

            比如正則表達式是:a[x-z]|[a-z]*e

            那么我們希望對應的字符集合是這樣:[a-a] [b-d] [e-e] [f-w] [x-z]

            這需要構造一個字符集,每次插入一個區間的時候,把新插入的區間與已存在的區間進行分割,初始時已存在的區間集為空,那么正則表達式a[x-z]|[a-z]*e的劃分步驟如下:

            已存在區間集合{},插入[a-a],得到{[a-a]}

            已存在區間集合{[a-a]},插入[x-z],得到{[a-a], [x-z]}

            已存在區間集合{[a-a], [x-z]},插入[a-z],得到{[a-a], [b-w], [x-z]}

            已存在區間集合{[a-a], [b-w], [x-z]},插入[e-e],得到{[a-a], [b-d], [e-e], [f-w], [x-z]}

            這個區間構造完成了之后,還需要在后面轉換成NFA邊的時候,根據字符區間查詢出在這個集合中,由哪幾個區間構成,比如:

            查詢區間[a-a],得到[a-a]

            查詢區間[x-z],得到[x-z]

            查詢區間[a-z],得到區間[a-a] [b-d] [e-e] [f-w] [x-z]

            在轉換成NFA時,集合中的每個區間都對應一條邊,這樣相對于每個字符對應一條邊,邊的數量不會太多。

            有了這么一個集合構造的類之后,把正則的AST中的字符信息提取出來構造出這么個集合即可,這樣只需要寫個visitor就完成了:

            class EdgeSetConstructorVisitor : public Visitor
            {
            public:
                explicit EdgeSetConstructorVisitor(EdgeSet *edge_set)
                    : edge_set_(edge_set)
                {
                }
             
                EdgeSetConstructorVisitor(const EdgeSetConstructorVisitor &) = delete;
                void operator = (const EdgeSetConstructorVisitor &) = delete;
             
                VISIT_NODE(CharNode);
                VISIT_NODE(CharRangeNode);
                VISIT_NODE(ConcatenationNode);
                VISIT_NODE(AlternationNode);
                VISIT_NODE(ClosureNode);

            private:
                EdgeSet *edge_set_;
            };

            邊集合構造完成之后,下一步就是生成NFA了。

            posted on 2013-07-05 13:30 airtrack 閱讀(4415) 評論(3)  編輯 收藏 引用

            FeedBack:
            # re: 正則表達式實現(一) 2013-07-05 23:31 陳梓瀚(vczh)
            # re: 正則表達式實現(一) 2013-07-06 01:34 airtrack
            @陳梓瀚(vczh)
            哈哈,早知道陳祖寫過正則引擎的系列文章,一直沒看,是想在我自己思考之后如果遇到問題的時候再看,啊哈哈。  回復  更多評論
              
            # re: 正則表達式實現(一) 2013-07-06 20:13 溪流
            學習了  回復  更多評論
              
            久久99精品久久久久久9蜜桃| 伊人色综合久久天天人守人婷| 久久免费的精品国产V∧| 人妻精品久久无码区 | 色99久久久久高潮综合影院| 午夜精品久久久久成人| 女人高潮久久久叫人喷水| 香蕉久久夜色精品升级完成| 99久久www免费人成精品| 亚洲?V乱码久久精品蜜桃| 精品久久久久中文字幕日本| 久久久久无码精品国产app| 亚洲国产精品无码久久久秋霞2| 久久久久久久尹人综合网亚洲| 亚洲国产成人久久一区WWW| 人妻精品久久无码专区精东影业 | 久久精品黄AA片一区二区三区| 国产亚洲精午夜久久久久久| 日韩精品久久无码人妻中文字幕| 国产福利电影一区二区三区久久老子无码午夜伦不 | 囯产精品久久久久久久久蜜桃| 久久精品国内一区二区三区| 性色欲网站人妻丰满中文久久不卡| 国产免费久久精品99久久| 久久99国产精品久久99| 无码AV波多野结衣久久| 一本色道久久88综合日韩精品 | 99久久精品国产一区二区| 久久夜色撩人精品国产| 青青草原综合久久大伊人精品| 久久久久无码精品国产不卡| 久久这里的只有是精品23| 久久亚洲欧洲国产综合| 久久久久久一区国产精品| 久久国产福利免费| 精品久久人人做人人爽综合| 99久久国产热无码精品免费久久久久| aaa级精品久久久国产片| 久久精品国产半推半就| 99国产精品久久久久久久成人热| 久久综合香蕉国产蜜臀AV|