红旗渠的修建离不开党的领导和人民群众的艰苦奋斗。时任河南林县（今林州市）县委第一书记的杨贵作为红旗渠总设计师，勇于担当，克服重重阻力，历时10年，终于建成被誉为“人工天河”的红旗渠水利工程。
该不该修红旗渠：55万群众的迫切要求。地处太行山区的河南省林县，县域绝大部分地方都干旱缺水，十年九旱，水贵如油。全县500多个行政村中，就有307个村人畜吃水困难。由于缺水灌溉，农业基本上靠天吃饭，大旱绝收，小旱薄收，正常年景小麦亩产不超过35公斤，秋粮亩产不超过100公斤。“汗水浇土风洗面，茅草刷锅泪洗碗”，正是林县广大群众备受干旱缺水之苦的生动写照。
杨贵担任中共安阳地委办公室副主任时，曾两度带领工作组到林县帮助抗旱。1954年调任林县县委书记后，他又对林县县域作了多次调研，“亲自摸一摸大自然的脾气”。在分析了林县县情后，他更加深刻地认识到，缺水是导致林县贫困的主要矛盾。
于是杨贵带领林县人民修建了几十座中小型水库，但这些水库在1959年的大旱中未能发挥作用。大家这才认识到：在天上无水蓄、地下无水汲的情况下，唯一的出路只有引漳河水入林县。这不仅是林县干部们的共识，也是林县55万群众的迫切要求。
虽然林县人民祖祖辈辈都没人干过这么大的工程，但杨贵当时的想法是：从实际出发搞水利，符合党的政策，创造性地搞建设，符合党和毛泽东的一贯教导。等上级表态，单靠上级物质上的支持，不考虑群众的最大利益，不考虑国家的困难，那不是共产党人应有的态度。
在河南省与山西省协调好引水问题后，1960年2月，杨贵带领林县干部群众开始动工修建红旗渠。
修渠之初，县委对施工难度估计不足，采取全线开工、全员上阵、一字摆开的办法，结果战线拉得太长，影响了工程进度和施工质量。面对困难，有些人不相信建渠能够成功，各种流言蜚语不一而足。是继续修渠还是半途而废？这是一个攸关红旗渠生死存亡的关键节点。杨贵抱定一个决心：在林县进行社会主义建设，就要首先做好“水”字这篇大文章，打一场彻底摆脱缺水、逃水荒、不能生存的翻身仗。要奋斗就会有牺牲！为了林县人民的根本利益，红旗渠决不能半途而废！杨贵和县委经过研究，根据实际情况，将全线开工改为逐段开工，采用集中力量打歼灭战、段段突击的方法，使得修渠工作逐渐科学化。
敢不敢修红旗渠：做好了被撤职的思想准备。作为修建红旗渠的主要决策者，杨贵深知劈山修渠的艰巨和复杂。作出引漳河水入林县的决策，他需要比其他人承担更大的压力。
1961年是国家极为困难的一年，人民饥饿，物资紧张。在县委书记会议上，杨贵做好了被撤职的思想准备，反映林县的实际情况：当年干旱缺水，16万人翻山越岭取水吃；大部分建渠民工已经下山，只留少部分人在凿青年洞；林县县、社、队三级还有一定数量的储备粮，绝不是像有些人所说的那样；尽快建渠引水，也是为干渴的林县群众着想。
杨贵晚年回忆起修建红旗渠时，非常感激县委一班人对他的无私支持：在修建红旗渠的过程中，县委一班人是铁了心的。只要是大家认准的道儿，我们就手挽手、肩并肩走到底，有福同享，有难同当，坚持真理，修正错误，全心全意为人民服务，因而起到了县委所应起到的作用。
能不能修好红旗渠：真为杨贵同志捏了把汗。1961年9月，河南省委书记处书记杨蔚屏到林县检查指导工作，杨蔚屏在看了群众生活、储备粮、红旗渠建设情况后说：“这次看了林县的情况我才放了心，我真为杨贵同志捏了把汗，如果红旗渠出了问题，你们太不好交代，要成千古罪人，现在眼睛盯住你们的大有人在。”
杨蔚屏的提醒让杨贵保持时刻警醒，他在战略上坚决要修红旗渠，在战术上如临深渊如履薄冰，对工程质量和技术问题紧抓不放，务必确保红旗渠修好了能成功通水。
虽然林县此前也修过一些水库，但对于红旗渠这么大的工程，就显得“三无一少”了：一无技术、二无经验、三无材料，经济物资又短少。不但资金缺乏、物资缺乏，甚至连钢钎、镐头、抬筐、抬杠等简单工具也很缺乏。在这种情况下，工地党委提出了勤俭建渠、艰苦创业的方针：“自力更生是法宝，众人拾柴火焰高，建渠不能靠国家，全靠双手来创造。”
修渠没有路，群众就自己修路，没有工具自己造，没有房子自己盖，没有石灰自己烧。在国家财政极其困难的情况下，杨贵号召自力更生。据统计，工程总投资6868.64万元，其中林县人民自筹5839.66万元。县委还发动群众精打细算，一个钱要当好几个钱用，工地出现了很多“以土代洋，废物利用”的勤俭办水利现象。抬杠坏了改为洋镐把，洋镐把坏了改为锤把，锤把坏了改为镢寨，镢寨磨得不能用了，也要当柴烧石灰。群众还发明了空中运输线、土罐车、土吊车、土铁轨，创造了明窑烧石灰、自制炸药、大炮爆破等施工方法。
在非常艰苦的条件下，林县人民以“重新安排林县河山”的大无畏气概和愚公移山的强大精神力量，自力更生、艰苦奋斗，削平1250座山头，架设157座渡槽，打通211个隧道，修建了1500公里的“人工天河”。红旗渠建成后，54万亩耕地得到灌溉，56万人口及牲畜的饮水困难得到解决，粮食亩产提高到460公斤。
杨贵晚年感叹，红旗渠建设中有经济上的困难，有精神上的压力，风风雨雨，几经周折：“要干好一件事，应该无私无畏，忍辱负重，在任何情况下，都要以人民的利益为重，实事求是，坚持真理，盯住目标，锲而不舍，如果碰到风险遇到艰难就退缩，再好的事情也办不成。”