Как принято в российской бюрократической машине, Путина перевели с повышением. В марте 1997 г. Чубайс стал первым заместителем премьер-министра (место руководителя Администрации президента занял будущий зять Ельцина Валентин Юмашев). Поддерживавшие Путина Чубайс и Юмашев быстро сумели провести через президента новое назначение Путина. 25 марта 1997 г. Путин стал заместителем руководителя администрации президента и начальником Главного контрольного управления (ГКУ). На этом посту он сменил другого представителя "петербургской команды Чубайса", бывшего заместителя Собчака и старого знакомого Путина Алексея Кудрина, назначенного заместителем министра финансов. Собственно, именно Кудрин рекомендовал назначить вместо себя Путина, и так как Путина поддержали еще и Чубайс с Юмашевым, назначение на высокую должность прошло. В числе причин, по которым Юмашев одобрил кандидатуру Путина, называют преданность, продемонстрированную Путиным по отношению к бывшему начальнику - Собчаку, и отсутствие у Путина излишней политизированности.
Из тесного офиса на Варварке Путин перебрался на Старую Площадь, в роскошный кабинет, который некогда принадлежал председателю Комитета партийного контроля при ЦК КПСС члену советского политбюро Арвиду Пельше. Рассказывая о планах на новой должности, Путин сообщил о планируемых им проверках различных государственных структур, естественных монополий, вооруженных сил и военно-промышленного комплекса. Он рассчитывал выявить в этих структурах злоупотребления и, таким образом, улучшить ситуацию с государственным бюджетом. Путин подчеркнул, что деятельность ГКУ носит консультативный характер и сведения о выявленных правонарушениях будут передаваться в Генеральную прокуратуру, а сами проверки должны будут осуществляться в сотрудничестве с Генпрокуратурой и другими правоохранительными органами. Основным направлением работы ГКУ под руководством Путина была борьба с нецелевым использованием бюджетных средств в регионах страны и в федеральном центре. Первым документом, подписанным Путиным на посту руководителя ГКУ, было распоряжение о начале проверки именно в этой области.
На новой должности Путин активно собирает информацию о 89 субъектах Российской федерации, прежде всего о губернаторах. При Путине из недр ГКУ в Кремль стали поступать толковые сводки о положении дел в регионах. Участились и более жестко стали проводиться центром организованные ГКУ региональные проверки. Некоторые губернаторы справедливо предполагали, что Путин таким образом собирает на них компромат, что было не сложно. В региональных прокуратурах за ельцинские годы скопилось много незавершенных дел о коррупции местного руководства. Нецелевое использование бюджетных средств происходило повсеместно. Может быть, именно эти компрометирующие губернаторов материалы стали золотым ключиком к их сердцам: за год работы в ГКУ Путин ни с кем из губернаторов не разругался, со всеми нашел общий язык, даже со строптивым губернатором Красноярского края Александром Лебедем.
В мае 1998 г. в администрации Ельцина прошли крупные кадровые перестановки. 25 мая Путин был назначен заместителем руководителя администрации, ответственным за региональную политику. В отличие от своей предшественницы - старой соратницы Ельцина Виктории Митиной, - Путин получил должность первого заместителя главы администрации. Однако он не долго совмещал обе должности. 1 июня на посту руководителя ГКУ его сменил генерал-лейтенант госбезопасности Николай Патрушев, также выходец из Санкт-Петербурга, которого в Москву перетащил Путин. Он же рекомендовал назначить Патрушева своим преемником.
Отставку Митиной и назначение на ее место Путина связывали с желанием администрации установить жесткий контроль над региональным руководством (в частности, в свете подготовки к выборам 2000 г.), - Митина, по мнению наблюдателей, с этой задачей не справлялась. Ожидалось, что работа Путина, который, будучи директором ГКУ, установил контакты с руководителями регионов и освоил рычаги влияния на них, будет более эффективной.
4 июня, в ходе своей первой пресс-конференции в новой должности, Путин сообщил, что руководство страны будет уделять больше внимания региональной политике, контроль за выполнением президентских поручений, распоряжений и указов на местах усилится, однако не следует ожидать "закручивания гаек". Путин также рассказал о результатах своей деятельности на посту главы ГКУ - выявленных злоупотреблениях (в частности, в виде нецелевого использования бюджетных средств) и возбужденных уголовных делах. Так, Путин указал на нарушения, обнаруженные в финансовой деятельности компании "Росвооружение", и продолжающуюся проверку этой организации.
Проверка была вызвана прежде всего тем, что во главе этой организации стоял человек, поставленный Коржаковым, - Евгений Ананьев. Путин же задумал поставить руководителем этого третьего после нефти и газа лакомого куска российской экономики своего знакомого, офицера действующего резерва ФСБ. Эту шахматную партию Путин выиграл с блеском. Он добился увольнения Ананьева, реструктуризировал Росвооружение и поставил во главе новой организации своего сослуживца по разведке Андрея Бельянинова (первым заместителем Бельянинова стал Чемезов).
15 июля 1998 г. Путин был назначен вместо Сергея Шахрая главой Комиссии при президенте России по подготовке договоров о разграничении полномочий между федеральными органами государственной власти и органами государственной власти субъектов Российской Федерации. С тех пор ни один такой договор подписан не был.