Потому что он обрабатывает 1 и 3 как целые числа, поэтому округляет результат до 0, так что это целое число.
Чтобы получить результат, который вы ищете, прямо скажите java, что числа удваивается так:
double g = 1.0/3.0;