Protokoły, które tworzą stos protokołów TCP/IP mogą zostać opisane w terminologii używanej w modelu odniesienia OSI. W modelu OSI, warstwy dostępu do sieci oraz aplikacji modelu TCP/IP zostały podzielone, aby móc opisać szczegółowe funkcje, realizowane w tych warstwach.
W warstwie dostępu do sieci stos protokołów TCP/IP nie określa, którego z protokołów należy użyć do transmisji danych przez fizyczne medium. Opisuje on tylko sposób przekazania danych z warstwy Internetu do protokołów warstwy fizycznej. W przypadku modelu OSI, warstwy 1 i 2 opisują konieczne procedury dostępu do medium oraz określają w jaki sposób fizycznie dane mogą być przesyłane przez sieć.
Jak pokazano na rysunku, kluczowe podobieństwo pomiędzy dwoma modelami występuje w 3 i 4 warstwie modelu OSI. Warstwa 3 modelu OSI (warstwa sieci) jest prawie uniwersalnie wykorzystywana do opisu procesów, które mają miejsce we wszystkich sieciach danych, do adresowania oraz przekazywania wiadomości przez intersieć. Protokół internetowy IP (ang. Internet Protocol) jest protokołem należącym do stosu TCP/IP, który zawiera funkcjonalność opisaną w warstwie 3 modelu OSI.
Warstwa 4 (warstwa transportowa) modelu OSI opisuje ogólne usługi i funkcje, które mogą zapewnić uporządkowane i niezawodne dostarczanie danych pomiędzy hostami źródłowymi i docelowymi. Funkcje te zawierają potwierdzenie dostarczenia, odzyskanie danych po wystąpieniu błędu transmisji oraz ich sekwencjonowanie. Wykorzystywane w tej warstwie protokoły modelu TCP/IP takie jak protokół TCP (ang. Transmission Control Protocol) oraz protokół UDP (ang. User Datagram Protocol) są w stanie zapewnić wymaganą funkcjonalność opisaną przez model OSI.
Warstwa aplikacji modelu TCP/IP zawiera wiele protokołów, które udostępniają określone funkcjonalności dla różnych aplikacji użytkowników końcowych. Warstwy 5, 6 i 7 modelu OSI są używane przez programistów aplikacji oraz dostawców usług jako elementy modelu odniesienia, aby ich produkty mogły korzystać z przesyłania danych przez infrastrukturę sieciową.