Hola Bruce, puedes configurarlo para que los usuarios no puedan ver las ediciones de las publicaciones con la configuración edit_history_visible_to_public, pero creo que aún pueden ver el lápiz sin poder pulsarlo.
Si deseas ocultarlo, hay algunas guías útiles en Documentation, como esta. La guía de CSS está un poco fuera del alcance en la categoría de soporte.