新华院选址在济南北郊官扎营街西。官扎营街一带，过去叫关家茔，是一片荒凉的坟地，在农田园畦中间，夹杂着一些低矮简陋的民房。因为救国训练所不能满足大批训练战俘、大批向日本本土输送劳工的需求，1942年9月，日军酝酿在这里建一个集中营。于是，他们便强拆民房，霸占农田，圈地盖房，大兴土木。
1943年2月，日本华北方面军参谋部向第十二军下达电令：“因大东亚圣战之需要，兹决定在中国鲁省济南建立一大型战俘集中营拟定名为‘新华院’，该集中营一俟建成，一应事务由十二军辖制，帝国圣战必胜。”
新华院前期一直是由驻济南日军第十二军筹建和管辖的。1944年，第十二军参加中原作战后，由新组建的日军第四十三军（代号秀岭第1700部队）管辖。具体管理的部队为驻鲁日军仁字第2350部队（后改为依字第2350部队）。
新华院占地二十五万平方米。院内，分东西两院；西院较大，为新华院本部，东院是看管战俘的日本驻军。院外，东到虹桥，西到胜利庄，所有农田都被占为新华院战俘劳工服劳役的两个农园。
新华院的办公楼设在东院迎门花坛后面，为合署办公楼。在办公楼西北隅有几排平房，设有新华院总队部、办公室、经理部、辅佐官室、兴亚建设队以及总队部人员宿舍和被俘国民党高级将领宿舍。
新华院的四周有壕沟、围墙和电网。壕沟宽五米，深五米，内蓄污水，沟边设铁丝网。沟内围墙高三米三，上面架设着密密麻麻的铁蒺藜和高压电网；围墙四角有岗楼，内有日军荷枪实弹瞭望警戒，外围有日军昼夜站岗巡逻。大门口两旁各站着一名手持长枪的日本兵，卫兵向外两步远的地方，横着一道由铁蒺藜和木料扎制的活动鹿砦。
新华院设内禁区和特禁区。设在内禁区第一道高约两米的电网之内的有：干部队、图书室、医务室、伙房队等，均为兵营式平房。在第二道铁丝网之内的为“特禁区”，训练队就设在里面，是集中囚禁俘虏的地方，是院中之院。有前后两排六幢仓库式的大厦，每幢大厦内能容纳千人左右，厕所设在门外对过，入口由警备队把守。铁丝网外每隔二十米设一个岗哨，日夜值班，以监视被囚人员的行动。四周电网夜间通电。
禁区之外的大门始终紧闭，只开旁边门，有日军一个班常驻看守，门外有铁丝鹿砦挡道。在值班室旁设禁闭室。在东院驻军营地豢养着一群狼狗，日军专门加以训练，夜间放出巡逻，以加强警戒。警犬日夜狂吠，令人毛骨悚然。
日军办公楼北面设有方圆四百平方米的一个操场。靠东墙有一个半人高的土台子，是对全院俘虏点名、训话和阅兵的地方。台子东边矗着一根高高的旗杆，一面很大的太阳旗在旗杆顶端飘动。俘虏每日早晚两次集中在这里，早晨按中、小队排列点名、升旗，报验增减人数后，参加“跑步训练”或罚劳役。晚上再一次集中在这里点名、降旗。操场的南端，架有高约十米的瞭望台，中间钉着几块长条木板，上面写着“大东亚圣战”的标语和《大东亚进行曲》歌词；台顶上设有一个岗楼，上有荷枪实弹的日军全天候站岗，站在瞭望台上鸟瞰全院，可以一览无余。整座院落，透着森森杀气。
新华院由驻济日军参谋部高级参谋山田、铃木一郎少佐等直接控制，先后担任院长的有□子、渡边正雄、增田一郎、青井真光等。在院长领导下设有办公室、经理室、辅助官室和日本警备队。经常有一个排的日军负责集中营警戒。
为了向外输送战俘劳工，1944年1月，新华院日伪管理人员与华北劳工协会济南办事处勾结，在济南办事处驻地成立了“兴亚建设队”，由华北劳工协会济南办事处主任中川久平负责，由赵大因和岛田寿任正副队长。1944年3月，该队迁至新华院内，正式设科，赵大因、岛田寿任正副科长，下设审问、文书、劳工、事务四股和卫生室。1944年9月，中川久平调往张店，华北劳工协会又派橘重敏、阿部来负责，兴亚建设队演变为劳工训练所，设主事室（负责该所的一切事务），下设总务、会计、指导、卫生四个科。这个时期，新华院对外又称济南劳工训练所。劳工训练所协同原新华院日军，承担了新华院对战俘劳工奴化教育、管理输送的工作。劳工训练所主事室和各科负责人大都是日本职员，只有少数办事员是中国职员。
日军在新华院采取“以华制华”“以俘治俘”的政策，在日军管理人员的领导下，设立了庞大的俘虏人员管理机构，在日军所部领导下，首先设立了总队部。总队部是全院俘虏管理人员的最高组织，设总队长一人，总队副两人，文书若干人。总队部直接领导参事室、审问课、警备队、干部队、训练队、工场队、农场队、抽血队、卫生班、病号房等，总队以下设大队、中队、小队，小队下为班，每个班四五十人。
审问课负责俘虏的收容、登记、输送和死亡人数核实工作；根据各地转来的战俘档案和名册，进行逐个点名问讯，核实后送入训练队；平时则掌握输送劳工及增减人数、残废人数的统计工作，每天向驻济南日本军部上报。除此之外，还进行案情的复审和行刑。1944年担任审问课长的是日本人高桥、副课长是国民党被俘军官。
警备队由日军从战俘中挑选一些青少年编组而成，敌人利用他们年幼无知，生活上给予优待，训练他们如何守夜和管制战俘。
干部队是1944年12月成立的，专门培养、训练管理战俘的中小队长及骨干分子，其成员是从训练队里挑出来的。
训练队是集中营的普通俘虏，凡进入新华院的人，都要编入训练队进行训练。
工场队、农场队是新华院的监狱工场，凡年老体弱或有手工技术的俘虏才能被选用，设有织布、织袜、制鞋、菜园等班组。日军利用中国俘虏的无偿劳动为其服务，菜园所生产的蔬菜供应新华院的日军和全院食用。
4 非人的生活
新华院1943年3月1日正式启用，很快就押进三千多人。这些人有八路军战俘，有国民党军战俘，也有无故被抓的平民百姓；由日军作战“扫荡”被俘被捕的，还有交枪投降日军后被押进来的。日军名为对“罪行”较轻的战俘进行收容感化劳动改造，实际是对战俘进行审讯、折磨、奴役、残害。原日本驻伪山东省顾问园田庆幸1955年3月15日在接受审问时，对新华院有这样的交代：
日军美其名为“劳动改造的集中营”，作欺瞒宣传，可是实际上是对爱国抗日的中国人民“最高至上”的“镇压虐杀机关”，附属于济南军法会议。由各地日军部队、宪兵队送来的“俘虏”“犯人”，先收容监禁在该院，进行区别整理及预审审问。之后根据军司令部的命令，送至军法会议。但在此预审的过程中，加以殴打、水刑、火刑、吊打等过于残酷的拷问，夺去了好多人的生命。军法会议审问，是扣留在军法会议拘留所审问。军法会议判决后，判处死刑的就直接带至琵琶山死刑场执行死刑；判处有期和无期徒刑者，则重新送回新华院，监禁在充满虐待和虐杀恐怖的监狱中作苦役，在此苦役中被虐杀的也不少。在这样残酷无德的苦役中呻吟着的爱国抗日的中国人民（包括八路军军政人员及一切抗日的人民）达几千名。当然在此监禁的人员是经常变动的，但一般来说，经常有两千人左右。他们在日军虐待者的酷刑和监视下，还拼命地继续作抗日斗争。
济南新华院比救国训练所条件更恶劣。建院初期，曾从石家庄集中营调来一些日本管理人员，并把石家庄集中营的一些管理办法带了过来。如战俘劳工押进集中营点名查数后，先要进行洗澡消毒。不管春夏秋冬，即使是隆冬腊月，也要脱得一丝不挂，跳进含有石碳酸溶剂的冷水中洗涮一下；并把战俘劳工带进去的衣物全部收走，发给原集中营战俘脱下的旧衣服，或从战俘尸体上扒下的带有污血溃脓的脏衣服。接着给战犯劳工抽血验血，说是给战俘劳工检查身体，实际上是抽战俘的血供给日本伤兵用。有的战俘因战场折磨体质虚弱，加之抽血过多，当场昏迷不醒。
然后进行预审。被认定为是重要战俘或反日分子的，送济南军法会议复审判刑后，再押回来服苦役。被认定是普通战俘的，则直接编入训练队，根据其表现和身体状况，分别安排在当地服劳役或外送当劳工。
战俘劳工住的大牢房，两边是土炕大通铺，中间是只能容一人行走的通道，几百人住在一个屋里非常拥挤；宿舍阴暗潮湿，满地污垢，空气令人窒息。睡觉前先要报数，排队入室，听到口令“脱衣”，要马上把所有衣服脱光，慢一点就要挨打。再一次口令“卧倒”，就要按顺序卧下。人多躺不下时，只能一个靠一个地坐着睡。躺下后不准说活，不准抬头张望，否则就被处罚。如果要上厕所，先要喊“报告”，请示批准才能去。为防止逃跑，晚上上厕所不准穿衣服，即使是冬天，也只准披件上衣，不准穿裤子。一个战俘劳工患腹痛憋不住，大便流在地下，于是在遭到一顿拳打脚踢后，竟罚他赤着身子跪在两块立着的砖上，一直到天亮。
新华院战俘劳工的伙食给养，每人每天的口粮标准是十四小两（旧秤一斤为十六两）。数量本来不多，再经管理人员层层克扣，吃到战俘嘴里则很少了。每日三餐，早上每人一碗稀饭，中、晚餐只能吃上一平碗满是蛀虫的小米干饭，两人同喝一碗汤。有时连这种发霉的小米也吃不上，只能吃到一个高粱面饭团子，甚至是一小块豆饼。每次开饭，先要点名站队排成两列队形，在屋中面对面站好，听到“蹲下”的口令，便立即蹲在地下，或端端正正地对坐在两排大通铺的过道边沿上。每小队一木桶饭，值班班长盛饭，先领到的不准先吃，像上供一样安安稳稳地放在自己面前，稍微一动就要挨打，等全班、全小队盛完后，队长宣布“开吃”，大家这才狼吞虎咽地几口吃下去。
饭给的少，水也不够喝。特别是炎热的夏天，战俘劳工在阳光下炙烤，大汗淋淋，口干得冒烟，也不准随便喝水，只在午间休息时给一点剩水喝。有的人干渴难忍，趴在地上喝雨后洼地的积水，竟被日军唆使的军犬，撕咬得血肉模糊。长期的饥饿和疲劳折磨，使他们皮包骨头，形似骷髅。很多人为维持生存，偷着喝车间里的糨糊，或捉老鼠烧着吃。
战俘劳工穿的衣服，冬不御寒，夏不遮体。有的上衣纽扣全掉了，战俘劳工只得将棉衣左右掩起，腰间用稻草绳系住，以御寒冷。终年无衣更换，虱子、跳蚤成团。不少人没有鞋穿，常年赤脚干活。大冬天不得不赤脚站在雪地里，实在不行就撕破上衣的破棉絮或找些破布包一包，用绳子捆一捆，借以御寒，很多人在严冬中被冻坏双脚。手脚冻裂，鲜血直流，走路艰难，但也要支撑着参加训练和劳动，不然就遭毒打或关禁闭。
每天早上五点钟，新华院的号音就响了，接着便是中、小队的哨音和班长的呼喊斥责声，必须在三分钟内起身，并在房门前列好队，跑步、点名。在训练场跑步，本来是一种身体训练，但对饥寒交迫的战俘劳工来说，却是一种难熬的折磨。在操场上，一个队（呈四路纵队）围一个圈子跑，小队长站在中央。口令一下，无休止地跑，谁掉队就挨打。由于天气寒冷，加上体力衰弱，一些战俘累得弓腰驼背，全身摇晃。经常有人在跑步中昏倒在地。一个被抓来的农民，因不会做“齐步走”和“左右转”的动作，便被拉出来单独操练，每错一式，带操的就拳打脚踢，直打得他口鼻流血，神志恍惚。
战俘劳工进入集中营后，都要被编入各种劳役队，或开矿，或垦荒，或搬运，或做工。每天都要从事十几个小时的繁重劳动。日军经常押解战俘劳工去白马山劈山开石，修飞机场，挖沟埋汽油桶。战俘劳工稍有怠慢就遭毒打，有的被沉重的石块磨烂手脚，有的则被打断筋骨，鲜血直流。虽然劳役繁重，但却只能吃到少量的小米饭，真是不如牛马。因此，很多人的身体都消耗折磨得瘦弱如柴，直到死去。
5 残忍的酷刑
日军野蛮屠杀战俘的手段绝世无双，有着无穷尽的残暴杀人的方法。新华院对战俘审讯，经常使用殴打、水刑、火刑、吊刑等刑罚。殴打，即用竹刀、木刀、皮鞭等抽打；水刑，即往嘴里灌凉水和辣椒水；火刑，即用蜡烛、蚊香和烧红的火筷子、烙铁等烧烫器官和皮肉；吊刑，即用绳索捆绑手脚和手指，吊起来殴打。新华院在预审用刑中，就夺走了很多战俘的生命。
新华院规定了许多清规戒律，如劳动时不准东张西望，违者就受棒打、罚跪等惩罚。对所谓表现不好或有越轨行为的施以酷刑，有的被剥光衣服爬烟囱，有的让头顶石头绕场转，有的被日本兵抓住生殖器绕场示众，有的还被关禁闭、放狗咬、关水牢。水牢是一个地下室，里面有齐胸深的臭水，人们被浸泡在里面，不给饮食，不能坐卧，只好在水中日日夜夜地站立，等支撑不住时，一头倒在深水里就被淹死。
一个战俘劳工在外出干活时，因在地上拣了个尚未熄灭的烟头，吸了几口，被监视的日军发现后，先用军犬扑咬，用枪托皮带没头没脸地打，后来又用铁丝吊在树上，用刺刀活活挑死。外出劳动，要列队前进，一般四人一排，互相牵着手走路，如果四人中少了一个，其余三人就会大祸临头，轻则毒打，重则丧命。