Hugging Face Inference API
גישה לאלפי מודלים בקוד פתוח — מ-LLMs ועד זיהוי תמונה, בלי לארח את המודל בעצמך.
על ה-API
Hugging Face הוא GitHub של מודלי AI — יש בו מעל 500,000 מודלים, רובם בקוד פתוח. ה-Inference API מאפשר לך להריץ אותם מרחוק בלי להתקין שום דבר. שימושי במיוחד למודלים ייחודיים (עברית, רפואה, משפט) שלא קיימים ב-OpenAI. ה-free tier מוגבל אבל שימושי לפיתוח.
למי זה מתאים
חוקרים ומחקר אקדמי
מודלים ספציפיים לעברית
פרויקטים שדורשים קוד פתוח
POCs וניסויים
איך להשתמש
- 1צור חשבון ב-huggingface.co וקבל API token.
- 2בחר מודל (לדוגמה: 'dicta-il/dictalm2.0' לעברית).
- 3שלח POST לכתובת api-inference.huggingface.co/models/<model>.
התקנה והגדרה
`npm install @huggingface/inference` או `pip install huggingface_hub`. שמור את ה-token כ-HF_TOKEN ב-env.
דוגמאות קוד
import { HfInference } from "@huggingface/inference";
const hf = new HfInference(process.env.HF_TOKEN);
const out = await hf.textGeneration({
model: "dicta-il/dictalm2.0",
inputs: "שלום, מה שלומך היום?",
});
console.log(out.generated_text);מבנה תגובה לדוגמה
[
{
"generated_text": "שלום, מה שלומך היום? טוב מאוד, תודה ששאלת…"
}
]שאלות נפוצות
כן — DictaLM, AlephBERT, Hebrew-Mistral ועוד רבים.
טיפים ומה להיזהר ממנו
סנן מודלים לפי language=hebrew ב-huggingface.co/models.
לפרודקשן — אל תסתמך על ה-serverless. השתמש ב-dedicated endpoint או הרם בעצמך.