Go Llm، الذي تم تطويره بواسطة Mutablelogic، هو مكتبة وأدوات قائمة على Go تساعد في تضمين نماذج اللغة الكبيرة في تطبيقات Go. يقدم واجهة برمجة تطبيقات موحدة لربط مزودي الخدمة السحابية والبيئات المحلية، بالإضافة إلى خادم MCP لمشاركة الأدوات والسياقات، واستجابة البث، واستدعاء الدوال. يستهدف المشروع مطوري Go ومهندسي الذكاء الاصطناعي الذين يحتاجون إلى نمذجة الوكلاء، ودمج مخرجات النموذج في الخدمات، والتجربة مع النماذج المحلية في سير العمل الحالي.
ما المهام التي يمكنك استخدامها فعلاً من أجلها؟
تعمل المكتبة كطبقة تكامل واحدة بين برامج Go ونماذج اللغة، مما يسمح للكود والأدوات باستدعاء النماذج الخارجية أو المحلية وكشف الخدمات المدفوعة بالنموذج. تشمل الطرق الرئيسية:
استدعاءات نموذج مباشرة إلى OpenAI وAnthropic وGoogle Gemini وMistral وGroq
الوصول إلى النموذج المحلي عبر Ollama
تنفيذ خادم MCP لربط النماذج بالأدوات المحلية
كما تتضمن أدوات سطر الأوامر للتجارب العشوائية.
ما مدى موثوقية مخرجات النموذج الخاصة به؟
يقوم الأداة بإعادة توجيه الطلبات إلى المزودين المختارين أو أوقات التشغيل المحلية، لذا فإن المحتوى الناتج يعكس سلوك النموذج المختار. يساعد دعم الاستجابات المتدفقة واستدعاء الدوال/الأدوات في تنسيق واستهلاك المخرجات برمجياً، لكن الدقة الواقعية تعتمد على النموذج الأساسي وتصميم المطالبة. اعتبر النص الناتج كنقطة انطلاق وتحقق من النتائج الحرجة قبل استخدامها في سير العمل الإنتاجي.
ما المدخلات والبيئات التي يحتاجها؟
يتوقع المشروع وجود بيئة تطوير Go للبناء، أو يمكن للمستخدمين تشغيل الثنائيات المجمعة مسبقاً عبر Windows وmacOS وLinux. يتكامل مع Ollama لتشغيل النماذج على الجهاز ويرتبط بمزودي السحابة من خلال واجهات برمجة التطبيقات الخاصة بهم. تقبل أدوات سطر الأوامر المطالبات التفاعلية وتدعم مخرجات النموذج المتدفقة، بينما يتطلب استخدام النموذج المحلي تشغيل وقت الاستضافة لقبول الطلبات.
هل من العملي أن تعتمد فرق الهندسة عليه؟
يكشف قاعدة الكود عن واجهة برمجة تطبيقات نظيفة وهندسة قابلة للتوسيع لإضافة مزودين مخصصين ورؤوس أدوات، مما يساعد على مركزية أعمال التكامل. تتيح أدوات سطر الأوامر للمهندسين تصميم نماذج أولية دون تضمين الكود على الفور. يتم صيانة المشروع بنشاط، مما يقلل من خطر تدهور البيانات على المدى الطويل. يجب على الفرق غير المألوفة مع Go توقع منحنى تعلم مرتبط بأدوات Go وعمليات البناء.
اختيار عملي لفرق Go التي تبني أدوات LLM المتكاملة
لأنه مكتوب بلغة Go ويترجم إلى ملف ثنائي واحد، يمكن للفرق تعبئة الوكلاء والأدوات كتنفيذات مستقلة للنشر. إنه خيار عملي للمطورين الذين يقبلون إدارة تنوع المزودات وأوقات التشغيل المحلية. التوصيات العملية: مركزية كود المحول، إضافة اختبارات الانحدار لمخرجات النموذج، وطلب خطوات التحقق قبل دفع المحتوى المولد إلى المستخدمين النهائيين.
تختلف القوانين الخاصة باستخدام هذا البرنامج من بلد لآخر. نحن لا ننصح باستخدام هذا البرنامج ولا نقر استخدامه إذا كان ذلك مخالفًا لهذه القوانين. قد تحصل Softonic على رسوم إحالة إذا قمت بالنقر على المنتجات المعروضة هنا أو شرائها.
