Më në fund, Amazon SageMaker mbështet pikat fundore pa server.

Në këtë video, unë demonstroj këtë aftësi të sapolançuar, të quajtur "Inference pa server". Duke u nisur nga një model DistilBERT i para-trajnuar në qendrën e modelit Hugging Face, unë e rregulloj atë për analizën e ndjenjave në rishikimin e filmit IMDB dataset. Më pas, e vendos modelin në një pikë fundore pa server dhe ekzekutoj standarde me shumë fije me sekuenca të shkurtra dhe të gjata të shenjave. Së fundi, unë grafikoj numrat e vonesës dhe llogarit kuantilet e vonesës.

⭐️⭐️⭐️ Mos harroni të bëni subscribe për t'u njoftuar për videot e ardhshme ⭐️⭐️⭐️

Fletore: https://gitlab.com/juliensimon/huggingface-demos/-/tree/main/serverless-inference

Dokumentacioni: https://docs.aws.amazon.com/sagemaker/latest/dg/serverless-endpoints.html

I ri në Transformers? Shikoni kursin Hugging Face në https://huggingface.co/course

Më shumë përmbajtje në plainenglish.io. Regjistrohu për buletinin tonë javor falas këtu.