при использовании jQuery $.ajax() ответ будет иметь свойство responseJSON, если ответ был JSON, это можно было бы проверить следующим образом:
jQuery $.ajax()
responseJSON
if (xhr.hasOwnProperty('responseJSON')) {}