Почему та часть ствола оружия, куда вставляется патрон называется казенной?

Ответы:

К казне, то есть государственному имуществу, имеет сама пушка. А на задней части ствола, где впоследствии разместились патронник и затвор, производилось клеймение государственного(каз­ённого) образца.

Поэтому, чтобы не произносить лишних слов и матов для рекрутированного крестьянина, эта часть ствола называется казённой или казенником. Совершенно аналогично с «сеном» и «соломой»(лево и право, кто не в курсе).