На некоторых сайтах, я видел что картинки отображаются в пропорционально уменьшенном виде, а если кликнунь на эту картинку, то она плавно увеличивается до реального размера. Есть ли такой плагин, или это внешний JavaScript, если это так, тогда как интегировать в nucleus?

Эту функцию выполняют плагины:

http://wakka.xiffy.nl/colorbox
http://wakka.xiffy.nl/greybox
http://wakka.xiffy.nl/lightbox
http://wakka.xiffy.nl/lightbox2
http://wakka.xiffy.nl/thickbox

Когда я захотел себе добавить такую функциональность на блог www.opilki.com существовали только greybox и lightbox, и у них была проблема с позиционированием изображения в опере при длинной странице, поэтому я немного их изменил используя аналог lytebox.
Возможно в colorbox или lightbox2 уже исправлена эта ошибка, если нет гуглите по lytebox (можете посмотреть как это работает сликнув на любое изображение на сайте www.opilki.com)

Спасибо за ответ.

Хочется сделать как тут: creep.ru

Какой лучше подойдет?

Смотрите в примерах, я не знаю особенности каждого плагина