Awk угадывает тип.
Строка «10» меньше строки «4», потому что символ «1» предшествует «4». Принудительный разговор типа, используя добавление нуля:
min=`awk 'BEGIN{a=1000}{if ($1<0+a) a=$1} END{print a}' mydata.dat`
max=`awk 'BEGIN{a= 0}{if ($1>0+a) a=$1} END{print a}' mydata.dat`