Как отправить несколько запросов в AWS Sagemaker Endpoint при одном вызове?
Оператор == всегда предназначен для сравнения ссылок на объекты, тогда как метод сравнения строк .equals () переопределяется для сравнения содержимого:
String s1 = new String("abc");
String s2 = new String("abc");
System.out.println(s1 == s2); // It prints false (reference comparison)
System.out.println(s1.equals(s2)); // It prints true (content comparison)
1 ответ
Согласно документу invoke_endpoint () поддерживает несколько экземпляров в теле.
https://boto3.amazonaws.com/v1/documentation/api/latest/reference/services/sagemaker- runtime.html # SageMakerRuntime.Client.invoke_endpoint https://docs.aws.amazon.com/sagemaker/latest/dg/cdf-inference.html
Я использовал это для встроенных алгоритмов снова и снова. Вы можете посмотреть в этом блокноте пример: https://github.com/awslabs/amazon-sagemaker-examples/blob/master/introduction_to_amazon_algorithms/blazingtext_text_classification_dbpedia/blazingtext_text_classification_dbpedia.ipynb 117 [112] мне интересно, ведут ли себя контейнеры Deep Learning по-другому. Я постараюсь выяснить. Не могли бы вы рассказать мне немного больше о вашем сценарии использования и почему вы хотите предсказать несколько экземпляров одновременно? Рад прочитать ваши отзывы и передать их команде SageMaker.
В качестве альтернативы, если вам на самом деле не нужна конечная точка HTTPS (т.е. нет необходимости в прогнозировании в реальном времени), то пакетное преобразование может решить вашу проблему:
https://docs.aws .amazon.com / sagemaker / последний / дг / EX1-периодического transform.html