1960年初，他參與紅旗渠工程設計。為了盡快繪制出紅旗渠施工藍圖，確保工程順利動工，他和其他工程技術人員一起，不畏艱險，爬山越嶺，實地勘測，翻閱大量資料，精心設計，每天工作到深夜。在短短的時間內，拿出第一本藍圖——《林縣引漳入林灌溉工程初步設計書》。紅旗渠要通過山崖河澗，地形地貌十分復雜，他和同事們在工作中解決了許多難題，設計出一些切合實際的建筑物。如青年洞一段，原擬繞山挖明渠，工程量大，施工難度大，經過反復考慮比較，吳祖太改進設計方案，采用鑿隧洞，讓渠道通過天險絕壁。在總干渠跨越濁河的地方，他晝夜思考，拜訪附近山村老人。掌握河道地質基礎和水文資料后，和其他工程技術人員研究，科學地設計出“空心壩”，讓渠水從壩心通過，河水從壩頂溢流，解決渠水與河水交叉的矛盾。

1960年2月，紅旗渠工程動工后，吳祖太擔任工程股副股長，負責工程設計，既要依據勘測實況，繪制每項工程設計圖紙，還要考慮每個工段施工的安