Kao godina osnivanja Instituta „Mihajlo Pupin“ uzima se 1946., kada Srpska Akademija Nauka (SAN) osniva dva instituta i to: Institut za telekomunikacije i Institut za elektroniku. Iz sastava ova dva instituta Vlada FNRJ osniva 1947. godine Centralni radio-institut Vlade FNRJ, a potom 1948. godine, iz njegovog sastava Ministarstvo za elektroprivredu osniva Institut za elektroprivredu.
Srpska Akademija Nauka (SAN) 1950. godine objedinjuje ova četiri instituta u Institut „Nikola Tesla“ za ispitivanje električnih pojava. Izvršno veće Narodne skupštine Narodne Republike Srbije 1959. godine iz sastava Instituta „Nikola Tesla“ odvaja grupu naučnika i istraživača, i osniva Institut za elektroniku i telekomunikacije „Mihajlo Pupin“ i tada se prvi put pominje u nazivu Instituta ime našeg velikog naučnika Mihajla Pupina. Izvršno veće Skupštine Narodne Republike Srbije i suosnivači: Elektrotehnički fakultet, Ei Niš i Energoprojekt, izdvajaju 1961. godine dve laboratorije iz Instituta za nuklearne nauke „Boris Kidrič“ i to: Laboratoriju za automatiku i Laboratoriju za digitalnu tehniku, i priključuju ih Institutu za automatiku i telekomunikacije „Mihajlo Pupin“ i pri tome istovremeno vrše njegovu temeljnu reorganizaciju.
U periodu od 1961. do 1998. godine Institut „Mihajlo Pupin“ prolazi organizacione promene od: Organizacije udruženog rada (1974.) sa osam OOUR-a, zatim jedinstvene Radne organizacije sa osam radnih jedinica (1980.), preko Naučno-istraživačke organizacije (1989.), potom Deoničarskog društva u mešovitoj svojini (1990.), Društvenog preduzeća (1995.), Društvenog naučnoistraživačkog preduzeća Institut „Mihajlo Pupin“ (1998.), do sadašnjeg Društva sa ograničenom odgovornošću koji čini sistem od jednog matičnog i pet zavisnih preduzeća.
Međutim, bez obzira na svoj pravni status Institut „Mihajlo Pupin“ je potpuno tržišno orijentisana kompanija čiji opstanak na tržištu zavisi od toga šta od svog naučnoistraživačkog rada može da pretoči u projekte i proizvode (sam ili sa svojim kooperantima) i plasira na domaćem ili međunarodnom tržištu.
Zbog toga se Institut razvijao i kao naučnoistraživačka i razvojna institucija i kao high-tech kompanija.
Od svog osnivanja Institut je regionalni lider, a u nekim slučajevima i svetski lider u primeni novih tehnologija.