// this is how I always do it
for (i = n; --i >= 0;){
...
}
Statistics :: Descriptive :: Discrete позволяет делать это аналогично Statistics :: Descriptive, но оптимизировано для использования с большими наборами данных. (В документации сообщается об улучшении использования памяти на два порядка (100x), например).
Вы не можете выполнить точное стандартное отклонение и среднее значение, если не сохраните все это в памяти или дважды не прогоните данные.
ОБНОВЛЕНИЕ Хотя вы не можете выполнить точное stddev ЗА ОДИН ПРОХОД, есть приближенный однопроходный алгоритм, ссылка находится в комментарии к этому ответу.
Остальное совершенно тривиально (нет необходимости в модуль) сделать в 3-5 строках Perl. STDDEV / Median может быть выполнен за 2 прохода довольно тривиально (я только что развернул скрипт, который делал именно то, что вы описали, но по причинам IP я почти уверен, что мне не разрешено публиковать его в качестве примера для вас, извините )
Пример кода:
my ($min, $max)
my $sum = 0;
my $count = 0;
while (<>) {
chomp;
my $current_value = $_; #assume input is 1 value/line for simplicity sake
$sum += $current_value;
$count++;
$min = $current_value if (!defined $min || $min > $current_value);
$max = $current_value if (!defined $max || $max < $current_value);
}
my $mean = $sum * 1.0 / $count;
my $sum_mean_diffs_2 = 0;
while (<>) { # Second pass to compute stddev (use for median too)
chomp;
my $current_value = $_;
$sum_mean_diffs += ($current_value - $mean) * ($current_value - $mean);
}
my $std_dev = sqrt($sum_mean_diffs / $count);
# Median is left as excercise for the reader.
Почему бы вам просто не запросить в базе данных значения, которые вы пытаетесь вычислить?
Среди прочего, функции MySQL GROUP BY (Агрегатные) функции . Для отсутствующих функций все, что вам нужно, это небольшой SQL .
PDL может предоставить возможное решение:
Взгляните на предыдущий ответ SO, в котором показано, как получить средства, std dev и т. Д. . . 1257] Вот соответствующая часть кода, повторенная здесь:
use strict;
use warnings;
use PDL;
my $figs = pdl [
[0.01, 0.01, 0.02, 0.04, 0.03],
[0.00, 0.02, 0.02, 0.03, 0.02],
[0.01, 0.02, 0.02, 0.03, 0.02],
[0.01, 0.00, 0.01, 0.05, 0.03],
];
my ( $mean, $prms, $median, $min, $max, $adev, $rms ) = statsover( $figs );
Это в основном не проверено, поэтому используйте его с осторожностью. Поскольку у меня плохая память, я проверил алгоритм по Википедии . Мне не известен алгоритм вычисления медианы из потока чисел, но это не значит, что его нет.
#!/usr/bin/perl
use strict;
use warnings;
use MooseX::Declare;
class SimpleStats {
has 'min' => (is => 'rw', isa => 'Num', default => 9**9**9);
has 'max' => (is => 'rw', isa => 'Num', default => -9**9**9);
has 'A' => (is => 'rw', isa => 'Num', default => 0);
has 'Q' => (is => 'rw', isa => 'Num', default => 0);
has 'n' => (is => 'rw', isa => 'Int', default => 0);
has 'n_nonzero' => (is => 'rw', isa => 'Int', default => 0);
has 'sum_w' => (is => 'rw', isa => 'Int', default => 0);
method add (Num $x, Num $w = 1) {
$self->min($x) if $x < $self->min;
$self->max($x) if $x > $self->max;
my $n = $self->n;
if ($n == 0) {
$self->A($x);
$self->sum_w($w);
}
else {
my $A = $self->A;
my $Q = $self->Q;
my $sum_w_before = $self->sum_w;
$self->sum_w($sum_w_before+$w);
$self->A($A + ($x-$A) * $w/$self->sum_w);
$self->Q($Q + $w*($x-$A)*($x-$self->A));
}
$self->n($n+1);
$self->n_nonzero($self->n_nonzero+1) if $w != 0;
return();
}
method mean () { $self->A }
method sample_variance () {
$self->Q * $self->n_nonzero() /
( ($self->n_nonzero-1) * $self->sum_w )
}
method std_variance () { $self->Q / $self->sum_w }
method std_dev () { sqrt($self->std_variance) }
# slightly evil. Just don't reuse objects
method reset () { %$self = %{__PACKAGE__->new()} }
}
package main;
my $stats = SimpleStats->new;
while (<STDIN>) {
s/^\s+//;
s/\s+$//;
my ($x, $w) = split /\s+/, $_;
if (defined $w) {
$stats->add($x, $w);
} else {
$stats->add($x);
}
}
print "Mean: ", $stats->mean, "\n";
print "Sample var: ", $stats->sample_variance, "\n";
print "Std var: ", $stats->std_variance, "\n";
print "Std dev: ", $stats->std_dev, "\n";
print "Entries: ", $stats->n, "\n";
print "Min: ", $stats->min, "\n";
print "Max: ", $stats->max, "\n";