Modo local offline do SageMaker — treinamento com scikit-learn¶
Treina contra um endpoint S3/STS suportado pelo moto através da biblioteca sagemaker-local (sem AWS). O trabalho é executado em um contêiner Docker local.
Conjunto de dados: california_housing (regressão), carregado dentro do contêiner de scikit-learn. A imagem construída sagemaker-local:latest já inclui scikit-learn 1.6.1.
import os
from dataclasses import replace
from sagemaker.deserializers import JSONDeserializer
from sagemaker.serializers import JSONSerializer
from sagemaker.sklearn.estimator import SKLearn
from sagemaker_local.config import config_from_env
from sagemaker_local.session import make_local_session
cfg = replace(
config_from_env(),
bucket="sagemaker-scikit-learn",
image_tag="sagemaker-scikit-learn:train",
)
boto_session, sm_session = make_local_session(cfg)
print(cfg)
Treinamento¶
est.fit() é executado sincronicamente em um contêiner local; train.py carrega california_housing e escreve model.joblib para /opt/ml/model, que o SDK carrega para moto.
est = SKLearn(
entry_point="train.py",
source_dir=os.path.join(
os.environ.get("SAGEMAKER_LOCAL_REPO_PATH", "/workspace"),
"projects",
"sagemaker_scikit_learn",
"src",
"sagemaker_scikit_learn",
),
role=cfg.role_arn,
instance_type="local",
instance_count=1,
image_uri=cfg.image_tag,
sagemaker_session=sm_session,
output_path=f"s3://{cfg.bucket}/models",
hyperparameters={"dataset": "california_housing"},
)
est.fit()
Implantar e prever¶
A implantação inicia um contêiner de serviço local. As entradas são matrizes JSON 2-D, então o manipulador de entrada de serviço padrão as interpreta corretamente.
predictor = est.deploy(
initial_instance_count=1,
instance_type="local",
serializer=JSONSerializer(),
deserializer=JSONDeserializer(),
)
result = predictor.predict([[8.3, 41.0, 6, 1, 1, 1, 38.0, -121.0]])
print("predicted median house value:", result)
Limpeza¶
Exclua o endpoint para que o contêiner de serviço seja liberado e a porta 8080 seja liberada.
predictor.delete_endpoint()