ошибка: не транслируемый выходной операнд с формой (3,1) не соответствует форме трансляции (3,3)

pass.equals("S") означает, что ваш пароль всегда должен быть S для успешного входа в систему.

Вам нужно запросить базу данных и затем сравнить ее.

Result rs = st.executeQuery(S);
String queryPass = null;
if(rs.next()){
   queryPass = rs.getString("password");
}

if (pass.equals(queryPass)) {
  jOptionPane1.showMessageDialog(null, "YOU HAVE SUCCESSFULLY LOGGED IN");
  MAINPAGE at = new MAINPAGE();
  jDesktopPane1.add(at);
  at.show();

} else {
  jOptionPane1.showMessageDialog(null, "WRONG PASSWORD!!");
}

BTW, неплохо передать параметры непосредственно в ваш sql, вам нужно использовать PreparedStatement вместо Statement , чтобы избежать SQL Injection