根据我国相关法律法规的规定，张贴小广告需要处罚，但是处罚机关是城市人民政府市容环境卫生行政主管部门或者其委托的单位，而不是
公安机关。法律依据：《城市市容和环境卫生管理条例》第十七条 一切单位和个人，都不得在城市建筑物、设施以及树木上涂写、刻画。
单位和个人在城市建筑物、设施上张挂、张贴宣传品等，须经城市人民政府市容环境卫生行政主管部门或者其他有关部门批准。
《城市市容和环境卫生管理条例》第三十四条 有下列行为之一者，城市人民政府市容环境卫生行政主管部门或者其委托的单位除责令其纠正违法行为、采取补救措施外，可以并处警告、罚款：
（一）随地吐痰、便溺，乱扔果皮、纸屑和烟头等废弃物的；
（二）在城市建筑物、设施以及树木上涂写、刻画或者未经批准张挂、张贴宣传品等的；
（三）在城市人民政府规定的街道的临街建筑物的阳台和窗外，堆放、吊挂有碍市容的物品的；
（四）不按规定的时间、地点、方式，倾倒垃圾、粪便的；
（五）不履行卫生责任区清扫保洁义务或者不按规定清运、处理垃圾和粪便的；
（六）运输液体、散装货物不作密封、包扎、覆盖，造成泄漏、遗撒的；
（七）临街工地不设置护栏或者不作遮挡、停工场地不及时整理并作必要覆盖或者竣工后不及时清理
和平整场地，影响市容和环境卫生的。
