גוגל משיקה את EmbeddingGemma: מודל הטמעה לאינטליגנציה מלאכותית במכשירים הקצה

EmbeddingGemma: מהפכת ה-AI הנייד מגיעה ממנוע החיפוש הענק

גוגל חושפת את EmbeddingGemma - מודל הטמעת טקסט רב-לשוני המיועד לרוץ ישירות על מכשירי קצה כמו טלפונים ניידים ולפטופים. המודל החדש מבוסס על ארכיטקטורת Gemma 3 הקלה ומאפשר פיתוח יישומי AI ניידים עם דגש על פרטיות.

מפרט טכני ויכולות עיקריות:

• 308 מיליון פרמטרים בגרסת הבסיס
• תמיכה ביותר מ-100 שפות שונות
• דורש פחות מ-200MB זיכרון RAM (באמצעות טכנולוגיית quantization)
• חלון הקשר של 2K טוקנים
• ממדי פלט הניתנים להתאמה (768 עד 128 ממדים)
• תאימות עם כלי פיתוח מובילים כולל:
  • Sentence-transformers
  • llama.cpp
  • MLX ו-Ollama
  • LangChain ו-LlamaIndex

יישומים אפשריים:

• סמנטיק סרץ' (חיפוש סמנטי) מקומי במכשיר
• פיתוח צינורות RAG (Retrieval-Augmented Generation) ניידים
• אפליקציות מבוססות AI עם הגנת פרטיות מובנית

המודל זמין כעת להורדה מ:

• Hugging Face
• Kaggle
• Vertex AI

תיעוד מלא זמין בפורטל המפתחים של גוגל: ai.google.dev