Попов родился 4 [16] марта 1859 г. пос. Турьинские Рудники Верхотурского уезда Пермской губернии в семье священника. Был четвертым из семерых детей. Учиться грамоте начал только в одиннадцать лет. Из-за недостатка средств родители отдали мальчика в духовное училище, в котором обучение было бесплатным. В 1873 г. Попов поступил в Пермскую духовную семинарию, где получил от товарищей прозвище «математик». Окончив семинарию в 1877 г., приехал в Петербург. Блестяще сдав вступительные экзамены, был принят на физико-математический факультет Петербургского университета. В университете Попов все свободное время проводил в физической лаборатории, занимаясь опытами по электричеству. Еще будучи студентом, он исполнял обязанности ассистента при кафедре физики. Учась на 4-м курсе, поступил на службу в товарищество «Электротехник», где ему приходилось заниматься монтажными работами и эксплуатацией мелких электрических станций. Эти навыки оказались весьма полезными при заведовании электростанцией на территории ярмарки в Нижнем Новгороде, где Попов ежегодно работал в летние месяцы с 1889 по 1897 гг.. По окончании университета в 1882 г. защитил диссертацию на тему: «О принципах магнито- и динамоэлектрических машин постоянного тока» и был оставлен при университете для научной работы и подготовки к профессорскому званию.

Однако условия работы в университете не удовлетворили Попова, и в 1883 г. он принял предложение занять должность ассистента в Минном офицерском классе в Кронштадте, единственном в России учебном заведении, в котором видное место занимала электротехника и велась работа по практическому применению электричества (в морском деле). В Минном офицерском классе Попов проработал 18 лет, сочетая педагогическую деятельность с научными исследованиями. Здесь он начал изучение электромагнитных волн, завершившееся изобретением радио. Попов не пропускал ни одного открытия или изобретения в области энергетики. После опубликования в 1888 работ
Г. Герца, открывшего «лучи электрической силы», Попов стал изучать электрические явления. С 1890 по 1900 гг. Попов преподавал также в Морском инженерном училище в Кронштадте.

С 1889 г. воспроизводя на лекциях и докладах опыты Герца, Попов видоизменил их, стремясь найти наиболее чувствительный индикатор «электрических волн». В 1894 г. занялся изучением влияния электрических разрядов на проводимость металлических порошков и сконструировал первый свой (изобретенный Кальцекки-Онести и Э. Бернулли) достаточно чувствительный когерер для обнаружения электромагнитных волн – в виде стеклянной трубки с металлическими опилками. Под действием электромагнитных волн проводимость опилок резко увеличивается.

К началу 1895 г. Попов создал «грозоотметчик», который позволял надежно регистрировать приближение грозы на расстоянии до 30 км. В это устройство входили когерер — приспособление со звонком для автоматического восстановления чувствительности когерера встряхиванием, реле, приводившее в действие звонок, и даже приемная антенна в виде длинного вертикального провода. Таким образом, Попов создал прототип первой приемной радиостанции. Он продемонстрировал его 25 апреля [7 мая] 1895 г. на заседании физического отделения Российского физико-химического общества и прочитал доклад «Об отношении металлических порошков к электрическим колебаниям», причем высказал мысль о возможности применения грозоотметчика для передачи сигналов на расстояние. 12 [24] марта 1896 г. на заседании физического отделения Российского физико-химического общества Попов при помощи своих приборов наглядно продемонстрировал передачу сигналов на расстояние 250 м, передав первую в мире радиограмму из двух слов «Генрих Герц». Несколько позднее создал подобные же приборы и провел с ними эксперименты итальянский физик и инженер Г. Маркони. В 1897 он получил патент на применение электромагнитных волн для беспроволочной связи. Благодаря большим материальным ресурсам и энергии Маркони, не имевший специального образования, добился широкого применения нового способа связи. Попов же свое открытие не запатентовал.

В начале 1897 г. Попов осуществил радиосвязь между берегом и кораблем, а в 1898 г. дальность радиосвязи между кораблями была доведена до 11 км. Большой победой Попова и едва зародившейся радиосвязи было спасение 27 рыбаков с оторванной льдины, унесенной в море. Радиограмма, переданная на расстояние 44 км, позволила ледоколу своевременно выйти в море. Работы Попова были отмечены золотой медалью на Всемирной выставке 1900 г. в Париже. В 1901 г. на Черном море Попов в своих опытах достигал дальности в 148 км. К этому времени в Европе уже существовала радиопромышленность. Работы Попова в России не получили развития. Отставание России в этой области угрожающе нарастало. И когда в 1905 г. в связи с начавшейся русско-японской войной потребовалось большое количество радиостанций, ничего не оставалось, как заказать их иностранным фирмам.

Отношения Попова с руководством морского ведомства обострились, и в 1901 г. он переехал в Петербург, где был профессором, а затем первым выборным директором Электротехнического института. Заботы, связанные с выполнением ответственных обязанностей директора, совсем расшатали здоровье Попова и он скоропостижно скончался от кровоизлияния в мозг 31 декабря 1905 [13 января 1906].

Даже получив большую известность, Попов сохранил все основные черты своего характера: скромность, внимание к чужим мнениям, готовность идти навстречу каждому и посильно помогать нуждающимся в помощи.
Когда работы по применению радиосвязи на кораблях привлекли к себе внимание заграничных деловых кругов, Попов получил ряд предложений переехать для работы за границу. Он решительно отверг их. Вот его слова: «Я горд тем, что родился русским. И если не современники, то, может быть, потомки наши поймут, сколь велика моя преданность нашей родине и как счастлив я, что не за рубежом, а в России открыто новое средство связи».