Хорошая библиотека Python для разработки mmo? Основанный на агенте дизайн [закрывается]

Сложность обучения для методов логистической регрессии с градиентной оптимизацией: O ((f + 1) csE), где:

• f - количество признаков (+1 из-за предвзятости). Умножение каждого признака на его вес (f операций, +1 для смещения). Еще f + 1 операций для суммирования всех их (получения прогноза). Используя градиентный метод для улучшения весов, рассчитывается для одного и того же количества операций, поэтому в итоге мы получаем 4 * (f + 1) (два для прямого прохода, два для обратного), что просто O (F + 1) .
• c - количество классов (возможных выходов) в вашей логистической регрессии. Для двоичной классификации это единица, поэтому этот термин исключается. Каждый класс имеет соответствующий набор весов.
• с - количество выборок в вашем наборе данных, я думаю, этот довольно интуитивно понятен.
• E - количество эпох, которые вы хотите выполнить градиентным спуском (целые проходы через набор данных)

Примечание: эта сложность может изменяться в зависимости от на такие вещи, как регуляризация (еще одна операция c), но идея, стоящая за этим, выглядит следующим образом.

Сложность прогнозов для одной выборки: O ((f + 1) c)

• f + 1 - вы просто умножаете каждый вес на значение функции, добавляете в конечном итоге сложить все это вместе.
• c - вы делаете это для каждого класса, 1 для двоичных предсказаний.

Сложность прогнозов для многих выборок: O ((f + 1) cs)

• (f + 1) c - см. Сложность для одной выборки [ 1113]
• с - количество выборок

Разница между логистической и линейной регрессией с точки зрения сложности: функция активации.

Для мультиклассовой логистической регрессии это будет softmax , в то время как линейная регрессия, как следует из названия, имеет линейную активацию (фактически без активации). Это не меняет сложность, используя большие обозначения O, но это еще одна операция c * f во время обучения (не хотелось загромождать картинку дальше), умноженная на 2 для backprop.