В fancybox домашней странице (http://fancybox.net/home) там пример, который открывает iFrame, определенный размеры как 75% экрана.
Я не могу получить его путем изменения свойств ширины и высоты на .js файле, как описано на сайте.
Вам следует попробовать следующее:
$('iframeLink').fancybox({
'width':300,
'height':200,
'type':'iframe',
'autoScale':'false'
});