Как насчет использования регулярного выражения?
String firstWord = filename.replaceAll("\\..*","")
Это заменяет все от первой точки до конца на «" (т. е. очищает ее, оставляя вам то, что вы хотите)
Вот тест:
System.out.println("abc.def.hij".replaceAll("\\..*", "");
Выход:
abc