1950年8月，公安部制定了《关于特种人口管理的暂行办法（草案）》，对反革命分子或可疑分子实行监视和控制，以“搞好社会治安，保障安全”。同年11月，第一次全国治安工作会议召开，要求先在城市开展户籍管理工作，并指出，“户口工作任务是保证居民居住、迁徙自由，安心从事生产建设”。1951年7月，经政务院批准，公安部颁布实施了《城市户口管理暂行条例》，规定在城市中一律实行户口登记。当时户籍管理重点是大城市、工矿所在地、水上、军事要塞及周围地区。
随着人民民主政权的巩固以及国民党残余势力被肃清，新中国第一届人民代表大会的选举提上了议事日程。1953年4月政务院发布《为准备普选进行全国人口调查登记的指示》，并制定《全国人口调查登记办法》。规定按常住人口进行调查登记，每人均应在其常住地登记为常住人口，一个人只能在一个住所登记为常住人口。登记的项目有：与户主关系、姓名、性别、年龄、民族、本人居住地等六项。这次人口普查不仅为人民代表大会的选举作好了准备，也使农村建立了简易的户口登记制度。
1954年12月，内务部、公安部、国家统计局发出联合通知，要求建立农村户口登记制度，加强人口统计工作。同时确立了农村户口登记由内务部主管；城镇、水上、工矿区、边防要塞区等户口登记由公安部主管；人口统计资料的汇总业务由国家统计局负责的户籍管理格局。1955年6月，国务院发布《关于建立经常户口登记制度的指示》，规定人口的出生、死亡、迁徙（迁出与迁入）、离婚、分居、失踪、收养、认领等户口变动应作登记。同时还规定全国户口管理工作由内务部和县以上人民委员会的民政部门主管。办理户口登记的机关，在城市集镇是公安派出所；在乡和未设公安派出所的集镇是乡、镇人民委员会。这初步确立了“户警一体”的户籍管理体制。
1956年2月，国务院指示，把全国的户口登记管理工作及人口资料的统计汇总业务全部交给公安机关。从此，城乡的户口管理工作和管理机构得到了统一，“户警一体”的管理体制也正式确立。同年3月，全国第一次户口工作会议明确规定了当前户籍管理的三项基本任务是，“证明公民身份，便利公民行使权利和履行义务；统计人口数字，为国家经济、文化、国防建设提供人口资料；发现和防范反革命和各种犯罪分子活动，密切配合斗争”。
《户籍、身份与社会变迁——中国户籍法律史研究》称，从建国初到第一个五年计划结束这段时期内，新中国的户籍制度初步成型。城乡户口管理基本上由公安机关负责，登记户口、发放簿册，“肃反”工作，就业安置，粮食供应计划，以及公共秩序维护等几乎连为一体。这一时期户籍虽对公民的居住和迁徙没有提出任何限制，公民居住和迁徙相对自由。但“户警一体”的管理形式，以及户籍三项任务之一——“发现和防范反革命和各种犯罪活动，密切配合斗争”，表明了我国户籍制度一开始就承载了不属于它的政治功能，并开始渐渐趋向于“以界定和区分家庭和个人身份，对人进行分类控制为目标”。
随着第一个五年计划的完成，我国计划经济的框架逐步构建完成，并选择了一条发展重工业的道路，一系列问题迅速暴露出来：一方面，工业积累在一定程度上转化为重工业的内部循环，效益不佳，第二产业难以带动第三产业和社会发展事业，同时重工业本身是资本密集型产业，对劳动力的吸收能力也有限，因而工业化过程不仅无法使农村剩余劳动力实现产业转移，并且城市本身也面临着巨大就业压力。因此政府只得采取行政措施迫使大量农村剩余劳动力留在农村从事农业生产，并动员、遣返大量城市工人、知识青年去广阔的农村，接受贫下中农的再教育，既支援农业生产又减缓了城市就业压力。
另一方面，在没有外来资本的情况下，一个农业国要建设资本密集型重工业所需的资本，只能来源于农业剩余。政府通过工农业产品之间的“剪刀差”获取重工业所需的资金。即对农产品实行低价垄断收购，再以低价售给工人以降低人工成本，同时又通过提高工业制品的价格以获取超额利润。工农业产品交换中的价格扭曲，使享受低价农产品的人口只能是少数以工资为主要收入来源的城市居民。而政府为了维持低工资制度，又不得不向城市居民提供大量的住房、医疗、粮食、教育等补贴。但有限的财力迫使政府只能向有限的人口提供补贴。在这种情形下，城市本身人口亦显得日益饱和。因此，政府只得限制农村人口进城以控制城市人口数量，并将部分城市人输送到农村，从而减轻城市就业以及基本生活资料供应、住房、交通、公用事业等多方面的压力。
1957年12月，中共中央、国务院联合发出《关于制止农村人口盲目外流的指示》，要求城乡户口管理部门严格户籍管理，制止农村人口盲目外流找工。1958年1月，《户口登记条例》正式颁布。条例不仅将户籍管理首次纳入了法制轨道，并且正式确立了户口迁移审批制度和凭证落户制度,首次以法规形式限制农村人口迁往城镇。条例规定：“公民由农村迁往城市，必须持有城市劳动部门的录用证明，学校的录取证明，或者城市户口登记机关的准予迁入证明，向常住地户口登记机关申请办理迁出手续。”这表明政府限制农民进城的二元户籍制度开始以立法形式正式确定下来。
第二个五年计划一开始，由于指导失误，导致1959年至1961年初国民经济严重困难，农村出现大饥荒，城市粮食供应也出现危机。1961年中共中央发出《关于减少城镇人口和压缩城镇粮销量的九条办法》，要求三年内城镇人口必须减少2000万以上，1961年以内至少减少1000万。新中国开始了第一次以行政命令支配的反城市化运动。
1961年12月，公安部要求对户口进行彻底检查，健全户口管理机构。与此同时，公安部将农业户数和人数这一统计指标改为“非农业人口户数和人数”。1962年12月，公安部又出台了《关于加强户口管理工作的意见》，再一次要求严格限制从农村迁往城市，并且对迁往北京、上海、天津、武汉、广州等大城市实行特别控制。1963年以后，公安部在人口统计中又把是否吃国家计划供应的商品粮作为划分户口性质的标准，吃国家计划供应商品粮户即城镇居民户就划分为“非农业户口”。
“文革”期间，经济每况愈下，物资紧缺。因而户政工作的重点依然是严格控制农业人口转变为城镇户口，限制农民迁往城镇。1977年12月，国务院批转了公安部《关于处理户口迁移的规定》，确立了处理户口迁移的主要原则是：“从农村迁往市镇（含矿区林区等，下同），由农业人口转为非农业人口，以及从其他城市迁往北京、天津、上海三市的，要严格控制。从一般农村迁往市郊、镇郊农村或国营农场、蔬菜队、经济作物区的，应适当控制。”至此，首次提出了“农转非”这一新的名词概念，隔断城市间城乡间自由迁移的户籍管理制度完全形成。
此后，公安部又出台了农转非控制指标措施，规定各市镇每年批准迁入该市镇和转为非农业户口的人数不得超过该市镇非农业人口数的15‰，对农转非实行政策与指标双重管理体制。农转非指标的出现进一步强化了户口价值意识，使“城里人”和“乡下人”之间出现了认同的边界。同时，城市间户口迁移的限制，也使城镇规模与户口价值联系起来，强化了城市户口等级意识。户籍愈加游离了其本身的人口信息功能，而成为界定人们身份、分配权利、利益以及义务的重要依据，而且在一定意义上已成为人们默认和接受的价值。