Попытался собрать воедино вариант с категориями смайлов. На мой взгляд такой вариант будет легче как пользователю в освоении, так и при реализации.

Страница админки

Страница админки если нет наборов

При редактировании стандартного набора

При редактировании собственного набора

В форме ответов

Разделы/категории смайлов я обозвал "наборами".
Пользователь может создавать собственные наборы смайлов или использовать Стандартный. Стандартный набор нельзя ни удалить, ни изменить его название, но можно сменить стиль стандартных смайлов и добавить в него своих смайлов. Все наборы можно скрыть или показать. После загрузки смайл попадает в первый видимый набор (или выбирается пользователем). Если наборов не создано, смайл размещается в Стандартном наборе. Все загруженные пользователем смайлы в Стандартный набор размещаются после смайлов от сервиса. Наборы и смайлы можно перемещать мышкой.

После сохранения настроек, смайлы сортируются в зависимости от положения набора. Колонка с полями "Название" — описание смайла при наведении на него в форме ответа и сообщении (теги title и alt). При редактировании набора можно выбирать права доступа, которые позволяют или запрещают определенной группе использовать этот набор при создании тем или сообщений. Всю остальную логику работы описывал в 34 сообщении.

Интерфейс на скриншотах постарался сделать в рамках сервисной админки, никаких своих элементов не добавлял, поэтому верстка не должна занять значительного времени.