En Administración > Controles de Temas y Diseño > Conjunto de Smileys e Iconos de Mensajes
En dicha sección puedes agregar, y activar paquetes de Smileys. En la pestaña de configuración activas la opción de
Usar smileys personalizados. que te dará control total de los Smileys (caritas), ya sea para cambiar los atajos, descripciones, subir y agregar más, así como elegir si aparecen en la ventana de más o debajo de los BBC.
Hablando de los BBC's, basta con que utilices el buscador en el modsite:
http://custom.simplemachines.org/mods/ y vayas buscando los BBC que te parezca adecuado y que necesites en tu foro, hay una gran variedad y se instalan como cualquier otro mod en el manejador de paquetes.
Tutoriales para crear BBC no estoy seguro si existe alguno.
Saludos