Я заметил, что ваше использование API отличается от того, что выражается Javadoc:
Попробуйте передать параметры в этом порядке
ResultSet.TYPE_FORWARD_ONLY,
ResultSet.CONCUR_READ_ONLY,
ResultSet.FETCH_FORWARD
Я бы просто оставил это как комментарий, но я не могу (слишком низкая репутация), но пытаюсь упростить ваш код:
DSolve[{D[y1[t, y2[t]], t] == 3*y1[t, y2[t]], D[y2[t], t] == 2*y1[t, y2[t]], y1[0, 0]
== 0,
y2[0] == 2}, {y1[t, y2[t]], y2[t]}, t]
выдает ошибку
DSolve::ivar2: The independent variable t should not appear in two different arguments of the dependent variable y1[t,y2[t]].
Так что я не совсем уверен, сможете ли вы заставить Mathematica делать то, что вы просите, если я правильно понимаю, что вы хотели. Я предлагаю спросить в Mathematica Stack Exchange , так как они, скорее всего, гораздо более опытны с этими типами проблем.