Die Weiterleitung von Daten auf der Grundlage von Wegentscheidungen wird als Vermittlung bezeichnet. Vermittlungsprotokolle werden in der zweiten Schicht des DoD-Kommunikationsmodells (Internet Layer) bzw. in der dritten des ISO/OSI-Modells (Network Layer) beschrieben. Sie legen fest, wie die von einer Anwendung über ein Transportprotokoll kommenden Daten in einem Verbund von Netzwerken zu einem anderen Rechner geleitet und dort für das dortige Transportprotokoll aufbereitet werden, damit sie von diesem der entsprechenden Anwendung zugestellt werden können.
Auf einem Rechner werden Daten durch Bitfolgen realisiert, die physikalisch dargestellt werden. Sie können durch physikalische Vorgänge, zum Beispiel elektrischer oder optischer Art, von einem Rechner zu einem anderen übertragen werden. Derart miteinander verbundene Rechner bilden ein physikalisches Netzwerk. Auf die dafür entwickelten, vielfältigen Techniken wird im Abschnitt 6.2.3 (Bitübertragung) noch etwas näher eingegangen. Physikalische Netzwerke unterscheiden sich unter anderem darin, wie die in ihnen miteinder verbundenen Rechner adressiert werden. Die zugehörigen Bitmuster sind gänzlich unterschiedlich aufgebaut. Sie heißen MAC-Adressen, wobei MAC für Medium Access Control steht. Jeder Rechner hat in dem physikalischen Netzwerk, zu dem er gehört, eine eindeutige netzwerkspezifische MAC-Adresse. Sie wird in der DoD-Netzzugangsschicht den Daten hinzugefügt. Man vergleiche dazu den Abschnitt 6.2.1 (Paketrahmen).
Um unterschiedliche physikalische Netze miteinander zu verbinden, braucht man Geräte, die von den technischen Gegebenheiten der einzelnen Netze abstrahieren. Da sie Daten zwischen physikalischen Netzwerken vermitteln müssen, heißen sie Vermittlungsrechner oder Router. Durch sie entsteht ein Verbund physikalischer Netze. Das Internet ist beispielsweise ein solcher Verbund. Es besteht aus vielen tausend physikalischen Netzwerken. Die folgende Grafik zeigt zwei Anwendungen auf zwei verschiedenen Rechnern in einem Netzwerkverbund, die möglicherweise miteinander kommunizieren wollen:
Um von den unterschiedlichen MAC-Adressen zu abstrahieren, werden sogenannte logische Adressen eingeführt, die dann in allen physikalischen Netzen des Verbunds verwendet werden. Es ist eine zentrale Aufgabe eines Vermittlungsprotokolls, die zu verwendenden logischen Adressen festzulegen. Man spricht von der Hostadressierung. Die IP-Adressen des Internet sind ein Beispiel für solche logischen Adressen. Es bedarf dann einer Abbildung von diesen logischen auf die MAC-Adressen, denn eine Datenübertragung erfolgt immer über letztere. Durch das Abstrahieren von den technischen Gegebenheiten der physikalischen Netzwerke entsteht ein durch die Router gegliedertes logisches Netzwerk, das den Verbund physikalischer Netze als eine Einheit betrachtet, in der jeder Rechner unabhängig von dem physikalischen Netzwerk, zu dem er gehört, neben seiner MAC-Adresse eine logische Adresse besitzt, mit der er angesprochen werden kann. Das Internet ist ein Beispiel für ein logisches Netzwerk. Die folgende Grafik soll die Beziehung zwischen physikalischen Netzwerken und einem logischem anschaulich machen:
Bei der Konzeption eines Vermittlungsprotokolls muss wie bei der Konzeption eines Transportprotokolls (vgl. die Abschnitte 4.3 (User Datagram Protocol) und 4.4.1 (Byteströme und Segmente)) festgelegt werden, ob die zu übertragenden Daten verbindungsorientiert oder verbindungslos vermittelt werden sollen. Von Verbindungsorientierung wird gesprochen, wenn das Vermittlungsverfahren die Einhaltung einer Reihenfolge bei der Datenübertragung garantiert. Bei Verbindungslosigkeit werden die Übertragungseinheiten unabhängig voneinander vermittelt. Es gibt Vermittlungsprotokolle, die beide Vermittlungsarten zulassen. Ein Beispiel ist das ehemalige Datex-P-Netz der deutschen Telekom. Es erlaubte konzeptionell sowohl eine verbindungsorientierte als auch eine verbindungslose Vermittlung, realisierte jedoch lediglich einen verbindungsorientierten Vermittlungsdienst. Im Gegensatz dazu wurde bei der Konzeption des Internet ausschließlich eine verbindungslose Vermittlung festgelegt.
Auf der sendenden Seite werden die zu vermittelnden, von einem Transportprotokoll kommenden Daten, das sind die Quelldaten, von dem Vermittlungsprotokoll an ein Protokoll der DoD-Netzzugangsschicht übergeben und in diesem der Bitübertragung zugeführt. Sie müssen deshalb so aufbereitet werden, dass sie physikalisch transportiert werden können. Alle derzeit relevanten physikalischen Netzwerke übertragen Datenpakete. Diese haben eine bestimmte Mindestgröße und dürfen eine bestimmte Maximalgröße nicht überschreiten. Das weit verbreitete Ethernet (IEEE 802.3) beispielsweise überträgt Datenpakete mit minimal 38 und maximal 1.492 Bytes an Nutzdaten. Das sind Daten ohne den Protokollkopf. (Man vergleiche dazu den Abschnitt 6.3 (Ethernet).)
Ist auf der sendenden Seite der Umfang der Quelldaten für einen physikalischen Transport zu groß, dann müssen sie aufgeteilt werden. Dieser Vorgang wird als Fragmentierung der Quelldaten bezeichnet. Diese Fragmentierung muss so erfolgen, dass auf der Empfängerseite die entstandenen Datenfragmente wieder in der richtigen Reihenfolge zusammengesetzt werden können. Das Wiederzusammensetzen von Datenfragmenten wird Reassemblierung (der Fragmente) genannt. Man beachte, dass Quelldaten auf ihrem Weg zum Zielrechner unterwegs möglicherweise feiner fragmentiert werden müssen. In diesem Zusammenhang muss ein Vermittlungsprotokoll auch festlegen, an welchen Stellen die durch das Fragmentieren entstandenen, möglicherweise sehr kleinen Datenfragmente wieder reassembliert werden sollen.
Eine weitere, grundlegende Aufgabe für ein Vermittlungsprotokoll besteht in der Festlegung, ob die zu vermittelnden Daten auf einem festen - vielleicht am Anfang vereinbarten - Weg durch den Verbund logischer Netzwerke geleitet werden sollen, oder ob Wegentscheidungen dynamisch, Transporteinheit für Transporteinheit zu treffen sind. Ein Vermittlungsprotokoll muss also festlegen, wie das sogenannte Routing der Daten zu erfolgen hat.