一九四九年秋，建国大典的礼炮声中，北京城里一片欢娱，清查特务的事情也在紧张地进行。土刀唐胡同里，方才接收了旧警察局的年青派出所所长肖鼎力正忙着维持群众游行的秩序，偶遇一个熟知火器的教书匠冯静波，这引发了他的思疑。为了查清冯静波的身份，肖鼎力搬进了土刀胡同十五号院，与冯静波做了街坊。冯的真实身份确实是公民党的潜伏特务，代号"5182"。恶霸四阎王为他发了委任状，接收"白眼镜"的敕令。深夜，"白眼镜"前来交待使命，冯的特务生涯从此拉开了序幕。"白眼镜"为冯送电台时被肖鼎力等人击成重伤，临死前只说出5182几个字。肖鼎力认为冯有重大嫌疑，让他注意四阎王的行踪，借此对冯拐弯抹角。曾在倡寮做使唤丫头的大眉子加入了夜校扫盲班，她爱慕冯老师的才华，常自动为他做家务。冯为了掩护自己的身份，请鼎力保媒娶大眉子为妻。鼎力找大眉子谈心，借题发挥说冯是特务，可大眉子自觉身世轻贱，亲事全凭鼎力做主。
肖鼎力有时听到从冯祖传出用作联络记号的乐曲，便也买了一台短波收音机，费尽心血地进行研究，吃饭睡觉都不忘琢磨那首名为《博览会上的丹青》的曲子，在朋友们眼里他似乎是着了魔。冯从鼎力的妃耦刘亚琴那里据说此事，不由暗暗心惊，深知自己处境艰难，只得若无其事地敷衍这一切。他托辞挖出一夜壶金子，将活动经费充了公，被评为抗美援朝积极份子。学富五车的冯静波邂逅了校长的女儿徐小妤，两人一见仍旧。小妤敬慕冯的才华，冯也倾心于美丽又有知识的小妤。二人荡舟湖上，面对小妤炽热的目光，冯在欢欣之余也深感痛苦，表情沉痛地说自己是负罪之人，预备自首，但在鼎力面前却半吐半吞。晚上，冯突然不见了踪迹，鼎力紧张地认为他是畏罪潜逃。敏感的亚琴直奔小妤的宿舍，正好撞见这对偷情的情人。东窗事发，冯家乱成一团。大眉子不依不饶，要跟那个破坏她家庭的女人"撞头"。冯终于鼓起勇气提出和她离婚，不意遭到鼎力等人的诘问诘责与阻挠。校长更以解雇作威逼，不许他离婚。气愤的大利巴冯反锁在茅厕里，让他好好检讨汗青问题。静波与小妤迫于压力，只得黯然离婚。
冯静波在黉舍从未有过激言行，是小我人称赞的好老师，鼎力挑不出他的偏差，迫不得已。街道组织朋友们进修宪法，请冯为世人讲解。冯对镇压反革命的条则心不足悸。特务身份的重压使冯隐忍地生活着，这竟使他在历次运动中躲过了劫难，而且由于他为人驯良，处处助人，竟被评为区劳模。而坚信冯是特务的肖鼎力却被诬以"特务"的罪名送进了劳改农场，亚琴自杀身亡。大眉子不测埠发明冯的委任状，偷偷地烧掉了。
四十年过去了，肖鼎力重又穿上了警服，他依旧执迷不悔地监视着冯的一举一动。此时的冯已由一名好老师酿成好校长，他确实感应坦荡做人的快感，同时也更感应自己心底那块石头的沉重。肖鼎力的儿子新桅和冯静波的女儿抗美两小无猜，却因父辈的恩仇没法走到一路。往日给冯发委任状的四阎王已成了海外合作项目的投资者，这令冯惊讶不解。肖鼎力的铮铮铁骨令冯自惭形秽，也恰是肖鼎力的所作所为，让冯领会了共产党。冯终于翻然悔过，给鼎力写了自首信，请他饶恕"昨天的仇敌"，并在女儿的扶持下走进了公安部的大门。
