Слово «микрофон» и собственно устройство, им обозначенное, появились в разное время. Слово придумал в 1827 г. некий Чарлз Уитстоун. Обозначало оно нехитрый инструмент для усиления звуков слабослышащим. Он представлял собой две тонкие рейки. Один конец такой рейки приставляли, например, к поверхности стола или иной поверхности, а второй вставляли в ухо. Само же устройство, изобретенное в 1876 г. для преобразования акустических колебаний в электрические, поначалу называлось liquid transmitter (жидкостный передатчик), поскольку в качестве мембраны там использовалась жидкость.

Угольный микрофон, похожий на современный, изобрел в 1877 г. Эмиль Берлингер. В нем роль мембраны играл угольный порошок, сопротивление которого менялось в такт звуку при разговоре. Далее последовал конденсаторный микрофон американца Э. Венте, в котором акустические колебания меняли величину воздушной прослойки между обкладками конденсатора (1917 г.), и многие другие конструкции.

Первым динамическим микрофоном стал изобретенный в 1924 г. немецкими инженерами Э. Герлахом и В. Шоттки микрофон ленточного типа. Они расположили в магнитном поле гофрированную ленточку из очень тонкой (около 2 мкм) алюминиевой фольги. Такие микрофоны до сих пор применяют в студиях.

Пьезоэлектрический микрофон, сконструированный советскими учеными С.Н. Ржевкиным и А.И. Яковлевым в 1925 г., имеет в качестве датчика звукового давления пластинку из вещества, обладающего пьезоэлектрическими свойствами. Тот же принцип используют и в гидрофонах, которые позволяют записать сверхнизкочастотные звуки, издаваемые обитателями морей.

В 1931 г. американцы Э. Венте и А. Терас изобрели динамический микрофон с катушкой, приклеенной к тонкой мембране из полистирола или фольги. Такие микрофоны, наряду с пьезоэлектрическими, позволили создать эффективные слуховые аппараты, а также ларингофоны.