Первые промышленные образцы «современной» гранаты появились ещё в годы первой мировой войны. Практически одновременно были созданы первые серийные образцы ружейных гранат и ружейные гранатомёты.

К концу первой мировой войны штабс-капитан М. Г. Дьяконов разработал для русской армии ружейный гранатомёт с мортиркой, который был испытан, но не поступил в войска. В 1920-е годы его конструкция была доработана автором, его приняли на вооружение и стали использовать в частях Красной Армии. Заряжание гранатомёта было ручное, что значительно ограничивало его скорострельность. Повысить скорострельность оружия, а, следовательно, его эффективность, можно было применением автоматического или полуавтоматического заряжания.

К тому времени, в конце 1920-х – начале 1930-х годов, во многих промышленно развитых странах интенсивно проводились работы по совершенствованию автоматического стрелкового и артиллерийского вооружения для использования на земле, в море и в воздухе. Разрабатывалось большое количество образцов такого оружия, было предложено множество оригинальных технических решений по автоматике, станкам, боеприпасам и др. Тогда же начались первые работы по автоматическим гранатомётам, и произошло это в нашем Отечестве – в Советском Союзе. Необходимо отметить, что в то время высококвалифицированных и опытных специалистов в области разработки вооружения у нас было недостаточно. Шла интенсивная подготовка инженерных и научных кадров. Через военную разведку закупались передовые зарубежные образцы. Поэтому нет ничего странного в том, что разрабатывать автоматические гранатомёты начал студент Я. Г. Таубин. Идея этого оружия возникла при первом знакомстве будущего конструктора с гранатомётом Дьяконова, долгие годы остававшегося на вооружении Красной Армии. Разработка гранатомёта так увлекла Таубина, что не позволила ему закончить высшее образование.

Первый вариант проекта автоматического гранатомета Таубин разработал в августе 1931 года под ружейную гранату Дьяконова. Отсюда и появился калибр его системы в 40,8-мм. Вскоре после оформления проект был направлен в Артиллерийское управление РККА. После рассмотрения его в АУ был выдан заказ на изготовление опытных образцов оружия. На Ковровском инструментальном заводе №2 было изготовлено два первых опытных образца гранатомёта, получившего обозначение «АГ-ТБ» (автоматический гранатомёт – Таубина и Бергольца). Испытания гранатомёта были проведены в 1933 году. В 1934 году для продолжения работ по гранатомётам на основе конструкторской группы было создано специальное КБТ (конструкторское бюро Таубина) под руководством Я. Г. Таубина. С 1937 года оно получило наименование ОКБ-16 Наркомата оборонной промышленности. Долгие годы шла отработка конструкции автоматического гранатомёта в цехах предприятий имастерских, на заводских и полигонных испытаниях.