1970年代中頃、ネットワーク機器各社独自のネットワークアーキテクチャーが次々に発表され始めた（IBMのSNA、富士通のFNA、日立製作所のHNA、日本電気のDINA、電電公社のDCNAなど）。機器を一つのメーカー製で揃えられるのであれば問題は無いが現実的には難しく、異なる機種同士を接続する為の標準化が急がれていた。

ISO（国際標準化機構）の情報処理システム技術委員会は1977年3月にSC16を設置、OSIの国際標準化を開始する。

しかし、CCITT（国際電信電話諮問委員会）がOSI参照モデル案を参考として独自の検討を開始。CCITTとSC16での意見のすり合わせを行い、基本的な意見を合意。1982年にトランスポート層の標準、1983年にセッション層の標準の草稿が完成。

1984年、情報処理システム技術委員会はSC16からSC21にOSIの標準化を引き継がせ、1985年に応用層の新プロトコルを標準化項目に追加。 その後現在まで、拡張や新たなプロトコルの制定が続けられている。