年1月13日，中国共产*第四届全国人民代表大会第一次会议，经过长期酝酿终于召开了。周恩来抱病做了*府工作报告，提出了“在20世纪内，全面实现农业、工业、国防和科学技术的现代化，使中国的国民经济走在世界的前列。”的宏伟目标。大会任命周恩来继续担任国务院总理，同时任命邓小平、张春桥、李先念、陈锡联、纪登奎、华国锋、陈永贵、吴桂贤、王震、余秋里、谷牧、孙健等12位同志为国务院副总理。陈永贵作为农民代表，排名第七。
陈永贵对中央的任命，感到压力很大，也挺犯愁，因为就他那文化水平，在这样一个来来往往全凭信函、文件的环境，确实无所适从。他私下里跟昔阳的老部下说：“我咋能干得了这个?批文件咱也不行，写还不会写哩。”还专门回了趟昔阳，在会上向昔阳**干部谈了自己的压力：“我就一农民，连字还认不得哩，还得批文件。有人告诉我说这还是个宰相哩，我怎么能当这个呢？”
陈永贵知道自己不是当宰相的料，在周恩来住院期间找他谈话，说要让他出任副总理一职时，陈永贵当时就把头摇得像拨浪鼓：“总理，我文化水平不行，实在当不了。我不当这个副总理。”周恩来既亲切又严肃地说：“看你永贵，你是不是*员？是*员就得接受*的安排。这事主席同意，*治局其他同志也同意，你还是服从安排吧。你是个农民代表，你当副总理，负责把大寨精神推向全国。”
周恩来在陈永贵心里是除了毛主席之外最敬仰的人，见总理动完手术又瘦了一圈，还在病房抱病工作，知道总理在四届人大的人事安排上，遇到了前所未有的挑战和压力，不忍心让总理为自己的事为难，只好亦喜亦忧地答应了下来。
陈永贵当上副总理后，知道批阅文件不是自己的长项，明白自己的优势在于熟悉基层，自己的作用在于上下沟通，并在全国推广农业学大寨运动，自己是凭着大寨和昔阳这块基地上来的，因此，他想出了一个扬长避短的办法，于5月1日给毛主席写了一封信，请求毛主席批准他经常下去跑跑，提出“三分之一时间在中央工作，三分之一时间在全国搞调查研究，三分之一时间在大寨、昔阳蹲点。”信中还请求搬出钓鱼台。
钓鱼台国宾馆是中国国家领导人进行外事活动的重要场所，更是国家接待各国元首和重要客人的超星级宾馆。陈永贵从年10月29日起就暂住在钓鱼台3号楼，这是个威严又清静的地方，除了端茶送水的服务员悄然出没，偌大的地方连点声音都没有，陈永贵每天除了面对堆积如山的文件大口抽烟，无所事事，可把他憋坏了。
年5月3日，毛泽东召集在京的*治局委员开会，毛泽东走进会议室，在主席的沙发坐下，问道：“永贵同志在哪里？”陈永贵赶紧站起来回答：“我在这儿呢！”
毛泽东指着身边的沙发招呼陈永贵：“哎，这来坐，来！”陈永贵连忙坐到毛主席身边。
毛泽东把陈永贵给他的那封关于三个三分之一的工作计划和搬出钓鱼台的信还给陈永贵，在信的上边批示：“同意，钓鱼台无鱼可钓。”
毛泽东在随后的会议上表扬陈永贵说：“永贵呀，你那个三三制很好啊！”又对全体与会人员说：“深入实际，调查研究，工作态度值得肯定。”
陈永贵搬出钓鱼台后，就到交道口的一个小胡同的小院里居住。小院分成前后两部分，前院住了一个警卫班，后院住着陈永贵及他的秘书焦焕成、内卫张艮昌、炊事员石头和司机汤占兴，这几个人都是陈永贵从昔阳带来的。按照规定，应该给陈永贵配一名服务员的，陈永贵认为让一个姑娘家伺候几个老爷们不合适，拒绝了。中央提出可以换个岁数大的，陈永贵认为让岁数大的人伺候，更不合适，说我已经有那么多人照顾了，不用再添人了。
作为*治局委员，陈永贵要带家属当然可以，但他不愿搞特殊，还要树立榜样，让老婆带孩子仍然留在大寨挣工分，连城市户口也不让她们转。山西方面曾背着陈永贵给他的家属转过户口，想把她们一家子送进北京，手续都办齐全了，等最后跟陈永贵打招呼时。陈永贵拍着桌子吼道：“谁办的！我不同意！”结果，又给退了回去。
不但老婆孩子拿着农村户口挣工分吃饭，连陈永贵本人也没有城市户口。没有城市户口就没有粮本和粮票，因此，每年秋收后，大寨分粮食，要专门把陈永贵的那份口粮拿公社粮店，换成全国通用粮票，再让人捎给陈永贵。粮食问题解决了，可由于陈永贵不算城市居民，自然也就没有正式国家干部的工资，除了大赛大队给他这位国务院副总理每天记一个壮劳力工分（折合1.5元人民币）外，山西省每月发给他60元补助，中央再给他每天1.2元的生活补贴。
陈永贵搬出钓鱼台后，山西尤其是昔阳的干部，还有全国各地的劳模到北京来，都要到陈永贵家作客，陈永贵留客人吃饭，除了面条、土豆丝，没有更好的东西了。秘书焦焕成按照规定，向院里申请客饭补助，国务院很快就批了下来，陈永贵知道后，坚决退了回去，说：“报什么客饭？我的客人咋能让国家报哩？退掉！”
汤占兴说既然国家有规定，为什么不要？陈永贵说：“农民挣个钱不容易，我够花了嘛。”山西方面虽然后来把每月的补助提高到元，可炊事员石头还是感到依然紧巴巴的。有一天同事纪登奎和陈锡联要到陈永贵家吃石头做的山西拉面，石头就买了一只鸡。
陈永贵见了问道：“买鸡干啥？我不吃鸡。”石头说：“客人来么，熬汤。”陈永贵说：“不用，人家是来吃面的嘛。咱就这伙食。”结果，当天三位副总理围着一张桌子，吃着土豆白菜配山西拉面，大家呼噜噜吃得不亦乐乎，也算是中外史上的一道奇观。
要说陈永贵有奢侈的地方，那就是他的烟瘾非常大，每天要抽上两到三盒香烟，当然不会抽贵的，更不抽带过滤嘴的，最常抽的烟是“阿尔巴尼亚”牌，每盒0.18元，好一点的则是“三七”香烟，每盒0.38元，每天算下来也是一笔“巨款”。在那个年代，各级干部都很廉洁，连*治局开会喝的茶、抽的烟，人民大会堂每个月都要开出收费单，派人到*治局委员家里收取，如果吃过饭，那就更多了。
陈永贵这个*治局委员、国务院副，日子就这样日复一日，年复一年地过着。直到十一届三中全会召开后，随着农业学大寨热潮消退，陈永贵主动提出辞去副总理职务。年8月30日，五届人大三次接受陈永贵的请求，解除其国务院副总理职务。
退下来的陈永贵无官一身轻，说“不在其位，不得其禄”，逼着秘书和卫士三天两头到国务院机关事务管理局催着要搬家。管理局让秘书告诉陈永贵，他不用搬，可以继续住在原地方，陈永贵不干，说：“咱是没职务的人了，该搬就搬嘛，不然影响不好。”管理局拗不他，就在木樨地22号楼分了一套部长级的住宅给他。陈永贵不用炊事员，把家属从大寨迁来，自己亲自提个菜篮子出去买菜，依然过着朴素而充实的生活。
