網絡協議設計者不應當設計一個單一、巨大的協議來為所有形式的通信規定完整的細節，而應把通信問題劃分成多個小問題，然后為每一個小問題設計一個單獨的協議。這樣做使得每個協議的設計、分析、時限和測試比較容易。協議劃分的一個主要原則是確保目標系統有效且效率高。為了提高效率，每個協議只應該注意沒有被其他協議處理過的那部分通信問題；為了主協議的實現更加有效，協議之間應該能夠共享特定的數據結構；同時這些協議的組合應該能處理所有可能的硬件錯誤以及其它異常情況。為了保證這些協議工作的協同性，應當將協議設計和開發成完整的、協作的協議系列（即協議族），而不是孤立地開發每個協議。
在網絡歷史的早期，國際標準化組織（ISO）和國際電報電話咨詢委員會（CCITT）共同出版了開放系統互聯的七層參考模型。一臺計算機操作系統中的網絡過程包括從應用請求（在協議棧的頂部）到網絡介質（底部） ，OSI參考模型把功能分成七個分立的層次。圖1表示了OSI分層模型。
圖1 OSI七層參考模型
第一層負責最后將信息編碼成電流脈沖或其它信號用于網上傳輸。它由計算機和網絡介質之間的實際界面組成，可定義電氣信號、符號、線的狀態和時鐘要求、數據編碼和數據傳輸用的連接器。如最常用的RS-232規范、10BASE-T的曼徹斯特編碼以及RJ-45就屬于第一層。所有比物理層高的層都通過事先定義好的接口而與它通話。如以太網的附屬單元接口（AUI），一個DB-15連接器可被用來連接層一和層二。
第二層 數據鏈路層 數據鏈路層通過物理網絡鏈路提供可靠的數據傳輸。不同的數據鏈路層定義了不同的網絡和協議特征，其中包括物理編址、網絡拓撲結構、錯誤校驗、幀序列以及流控。物理編址（相對應的是網絡編址）定義了設備在數據鏈路層的編址方式；網絡拓撲結構定義了設備的物理連接方式，如總線拓撲結構和環拓撲結構；錯誤校驗向發生傳輸錯誤的上層協議告警；數據幀序列重新整理并傳輸除序列以外的幀；流控可能延緩數據的傳輸，以使接收設備不會因為在某一時刻接收到超過其處理能力的信息流而崩潰。數據鏈路層實際上由兩個獨立的部分組成，介質存取控制（Media Access Control,MAC）和邏輯鏈路控制層（Logical Link Control,LLC）。MAC描述在共享介質環境中如何進行站的調度、發生和接收數據。MAC確保信息跨鏈路的可靠傳輸，對數據傳輸進行同步，識別錯誤和控制數據的流向。一般地講，MAC只在共享介質環境中才是重要的，只有在共享介質環境中多個節點才能連接到同一傳輸介質上。IEEE MAC規則定義了地址，以標識數據鏈路層中的多個設備。邏輯鏈路控制子層管理單一網絡鏈路上的設備間的通信，IEEE 802.2標準定義了LLC。LLC支持無連接服務和面向連接的服務。在數據鏈路層的信息幀中定義了許多域。這些域使得多種高層協議可以共享一個物理數據鏈路。
第三層 網絡層 網絡層負責在源和終點之間建立連接。它一般包括網絡尋徑，還可能包括流量控制、錯誤檢查等。相同MAC標準的不同網段之間的數據傳輸一般只涉及到數據鏈路層，而不同的MAC標準之間的數據傳輸都涉及到網絡層。例如IP路由器工作在網絡層，因而可以實現多種網絡間的互聯。
第四層 傳輸層 傳輸層向高層提供可靠的端到端的網絡數據流服務。傳輸層的功能一般包括流控、多路傳輸、虛電路管理及差錯校驗和恢復。流控管理設備之間的數據傳輸，確保傳輸設備不發送比接收設備處理能力大的數據；多路傳輸使得多個應用程序的數據可以傳輸到一個物理鏈路上；虛電路由傳輸層建立、維護和終止；差錯校驗包括為檢測傳輸錯誤而建立的各種不同結構；而差錯恢復包括所采取的行動（如請求數據重發），以便解決發生的任何錯誤。傳輸控制協議（TCP）是提供可靠數據傳輸的TCP/IP協議族中的傳輸層協議。
第五層 會話層 會話層建立、管理和終止表示層與實體之間的通信會話。通信會話包括發生在不同網絡應用層之間的服務請求和服務應答，這些請求與應答通過會話層的協議實現。它還包括創建檢查點，使通信發生中斷的時候可以返回到以前的一個狀態。
第六層 表示層 表示層提供多種功能用于應用層數據編碼和轉化，以確保以一個系統應用層發送的信息可以被另一個系統應用層識別。表示層的編碼和轉化模式包括公用數據表示格式、性能轉化表示格式、公用數據壓縮模式和公用數據加密模式。
公用數據表示格式就是標準的圖像、聲音和視頻格式。通過使用這些標準格式，不同類型的計算機系統可以相互交換數據；轉化模式通過使用不同的文本和數據表示，在系統間交換信息，例如ASCII（American Standard Code for Information Interchange，美國標準信息交換碼）；標準數據壓縮模式確保原始設備上被壓縮的數據可以在目標設備上正確的解壓；加密模式確保原始設備上加密的數據可以在目標設備上正確地解密。
表示層協議一般不與特殊的協議棧關聯，如QuickTime是Applet計算機的視頻和音頻的標準，MPEG是ISO的視頻壓縮與編碼標準。常見的圖形圖像格式PCX、GIF、JPEG是不同的靜態圖像壓縮和編碼標準。
第七層 應用層 應用層是最接近終端用戶的OSI層，這就意味著OSI應用層與用戶之間是通過應用軟件直接相互作用的。注意，應用層并非由計算機上運行的實際應用軟件組成，而是由向應用程序提供訪問網絡資源的API（Application Program Interface，應用程序接口）組成，這類應用軟件程序超出了OSI模型的范疇。應用層的功能一般包括標識通信伙伴、定義資源的可用性和同步通信。因為可能丟失通信伙伴，應用層必須為傳輸數據的應用子程序定義通信伙伴的標識和可用性。定義資源可用性時，應用層為了請求通信而必須判定是否有足夠的網絡資源。在同步通信中，所有應用程序之間的通信都需要應用層的協同操作。
OSI的應用層協議包括文件的傳輸、訪問及管理協議（FTAM） ，以及文件虛擬終端協議（VIP）和公用管理系統信息（CMIP）等。
TCP/IP分層模型 TCP/IP分層模型（TCP/IP Layening Model）被稱作因特網分層模型（Internet Layering Model）、因特網參考模型（Internet Reference Model）。圖2表示了TCP/IP分層模型的四層。
圖2 TCP/IP四層參考模型
TCP/IP協議被組織成四個概念層，其中有三層對應于ISO參考模型中的相應層。ICP/IP協議族并不包含物理層和數據鏈路層，因此它不能獨立完成整個計算機網絡系統的功能，必須與許多其他的協議協同工作。
TCP/IP分層模型的四個協議層分別完成以下的功能： 第一層 網絡接口層 網絡接口層包括用于協作IP數據在已有網絡介質上傳輸的協議。實際上TCP/IP標準并不定義與ISO數據鏈路層和物理層相對應的功能。相反，它定義像地址解析協議（Address Resolution Protocol,ARP）這樣的協議，提供TCP/IP協議的數據結構和實際物理硬件之間的接口。
第二層 網間層 網間層對應于OSI七層參考模型的網絡層。本層包含IP協議、RIP協議（Routing Information Protocol，路由信息協議），負責數據的包裝、尋址和路由。同時還包含網間控制報文協議（Internet Control Message Protocol,ICMP）用來提供網絡診斷信息。
第三層 傳輸層 傳輸層對應于OSI七層參考模型的傳輸層，它提供兩種端到端的通信服務。其中TCP協議（Transmission Control Protocol）提供可靠的數據流運輸服務，UDP協議（Use Datagram Protocol）提供不可靠的用戶數據報服務。
第四層 應用層 應用層對應于OSI七層參考模型的應用層和表達層。因特網的應用層協議包括Finger、Whois、FTP（文件傳輸協議）、Gopher、HTTP（超文本傳輸協議）、Telent（遠程終端協議）、SMTP（簡單郵件傳送協議）、IRC（因特網中繼會話）、NNTP（網絡新聞傳輸協議）等。