张振生从唐县兵营回来种地后，他的大哥张信生买了一把手枪。他对那把手枪真的是视若珍宝，常常用油布包住，轻易不示于人。
有一天，同族的小奎上他家去玩，正赶上他擦枪。两个人便一边闲聊着，一边擦着枪。正在这时，有人在院子外喊老队长出去，说是商量个事儿。老队长便和小奎一起，一前一后走出屋子。临走出屋门，小奎还有意识地回头看了看老队长放在床上的那把手枪。
原来是后小庄儿的五光子，说是想上饶良街去买牛，让老队长一路去挎挎眼，省得买亏了。小奎看老队长和五光子在说话，就一个人走开了。
等五光子和老队长说完话，老队长请五光子上屋去坐一会儿，五光子说还有别的事儿，就告辞而去。
老队长回到屋里，正要继续擦枪，可他仔细一看，床上空空荡荡的，什么也没有了。连手枪和包枪的油布全都不翼而飞。他明明记得他是和小奎一起走出的屋门，是他亲自把手枪放在床上的。这枪能上哪儿去？人心隔肚皮，虎心隔毛羽。难不成是小奎趁他和五光子说话的时候，教枪拿走了？老队长也是经历过很多事情的人，他控制住自己的情绪，强迫自己镇静下来。想了又想，除了小奎，再也没有第二个人。按老队长的推理，有两种可能。一是小奎爱财，把枪偷跑了；二是小奎只是给他开个玩笑，把枪藏起来了。不过，他也理解小奎的心情，年轻人一时的糊涂，他就是把枪拿走，再跟他要，他也不会不给。老队长思虑再三，这才去找小奎要枪。
见到小奎，老队长非常客气，也说得很开明，“你要是想玩，你就拿着玩两天。不过，你教枪藏哪儿去了，你得给我说说，教我心里也好有个底儿。”
令老队长意想不到的是，小奎竟然矢口否认，他不止一遍地说，“咱俩是一路儿走出的屋子，到门外，我还故意回头看了看，那枪还在你的床上放着。信生哥，你可不能乱讹人啊！”
一个是坚信对方把枪藏起来了，一个却大喊冤枉。枪到底弄哪儿去了，成了一个难解的谜团。
后来，老队长的三弟张振生因修枪而意外身亡，留下他的儿子和遗孀。他同族的兄弟群生看上了寡妇薛姐儿，不长的时间，就和薛姐儿勾搭在一起。为此，老队长很是愤怒。也因此而得罪了弟媳和群生。小奎便趁着这个机会，和群生他们走到了一起，他们三人合伙买了一杆长枪，终于在一个刚喝了汤的时候，老队长被他们的黑枪暗害在自己家门口。
老队长被打黑枪了，惊动了官亲族人。其实，庄儿上人都清楚这是谁干的事儿。不过，都不说出口罢了。群生为了给自己洗白，指天画地的说，“都想着信生哥这一死，有我的事儿。我今儿给咱大家伙赌个咒，谁要是谋害了信生哥，教他死到日头落。”
这三个谋杀者，打黑枪打死了老队长，他们密谋之后，认为老队长的儿子文华是个特别聪明的人，如果不斩草除根，日后必定成为后患。于是，他们三人就要对文华叔下手。
文华叔到亲戚家躲了几年之后，又回到牛庄。后来，几个仇人最终也没有把他给杀死。他反倒为父亲报了血仇。就在文华叔报仇期间，他的三婶，群生以及小奎他们三个，害怕死到文华叔手里，各奔前程，纷纷逃离牛庄。最终，他还是亲手枪杀了他的三婶。而小奎却信影无踪，成了个失踪人员。群生跑到了洛阳，正赶上那一年日本鬼子进攻中原，在洛阳不断有日本鬼子的飞机往下扔炸弹，群生在洛阳不幸被炸死。也正好应验了他赌的咒，“死到日头落”。难道说苍天真的不饶过任何一个人吗？
再说老队长那把手枪。那一天老队长和小奎一同走出屋子，小奎他们到外边，老队长和五光子说话，小奎便离开了。偏巧庄儿上一个名叫黑二少的惯偷从那儿路过，他趁老队长不注意，便溜进屋中。进屋一看，床上放着一把手枪，旁边是包手枪用的油布。他快速地用油布把手枪一包，转身到门外的一个粪坑边，随手把手枪塞进了粪堆中。
老队长和小奎因为丢失了手枪，翻脸成了仇人。因此闹得风风雨雨的。等这件事在庄儿上落滚以后，黑二少在一个夜间取走了手枪。找到那时还是保长的老书燕，请老书燕去吸大烟。
黑二少在庄儿上也是一个干浪搅耗皮，家里穷得连一根上吊的绳子都没有，他上哪儿有钱去吸大烟啊？老书燕对他理也不理。黑二少便从怀里掏出那把手枪，神秘地说，“有这东西，到大牙那儿他还敢不教咱吸？”
老书燕惊慌地问：你是从哪儿弄的呀？
黑二少也不背老书燕，从头到了把得枪的始末说了一遍。老书燕劝他说，“去吧，把枪还给老队长吧！”
黑二少一笑说：我没有听说过，有几个贼偷了东西又还给人家的。你要不想去吸大烟，我自己去，你可别说我没喊你。
黑二少说完，迈腿就走。老书燕只好跟黑二少一起，到大牙的大烟馆，把老队长的那把手枪换成了大烟。好在老书燕和黑二少一样，都是帚头瘾，有人请了吸上两口。没人请了不吸也没事儿。
而这拿枪换大烟的细节，一直到解放后，老书燕和一群村民们躺在已经倾塌的寨墙根边晒太阳时，老书燕亲口说出来的。