1.Загружаем картинку на которую вы ходите делать рамку.
2.Переводим картинку в RGB режим(image->mode->RGB).
3.Создаем новый слой (Layer->new->Layer)
4Используйте Polygonal lasso tool(L) 
чтобы нарисовать рамку вокруг картинки. (Держите Shift чтобы сделать прямые линии)
5.Сейчас надо добавить Stroke .делаем правый клик на картинке и выбирая Stroke из меню.И установите настройки такие как на картинке,после чего жмем OK:
Должно получиться примерно такое:
6.Снимите выделение пунктирной линии (Cntrl+ D). И настроим Blending Options как показано на рисунках.(Layer->Layer style->Blending options)
Также не обязательно делать точно такие же настройки
Должно получиться примерно такое:
Вот и все 
