Как Aws Sagemaker обеспечивает среду нескольких экземпляров и балансировку нагрузки для конечных точек
Просто установите свойство MaxJsonLength в методе действия MVC
JsonResult json= Json(classObject, JsonRequestBehavior.AllowGet);
json.MaxJsonLength = int.MaxValue;
return json;
-1
задан Abhishek Chudekar 17 January 2019 в 05:52
поделиться
1 ответ
Вы, вероятно, создали свою конечную точку следующим образом:
Forextor = estimator.deploy (initial_instance_count = 1, instance_type = 'ml.m4.xlarge')
Если вы установили initial_instance_count более чем на 1, SageMaker автоматически назначает это количество экземпляров вашей конечной точке. Запросы прогнозирования будут автоматически сбалансированы по нагрузке, и больше ничего не нужно делать.
При необходимости вы также можете настроить автоматическое масштабирование для обработки изменений трафика: https://docs.aws.amazon.com/sagemaker/latest/dg/endpoint-auto-scaling.html [ 114]
0
ответ дан Julien Simon 17 January 2019 в 05:52
поделиться
Другие вопросы по тегам: