العلامة التقنية

موقع تقني عربي متخصص في أخبار التكنولوجيا والذكاء الاصطناعي

دليل شامل لتشغيل نماذج OpenAI GPT-OSS في Google Colab

بقلم: فريق تحرير العلامة التقنية التصنيف: الذكاء الاصطناعي
دليل شامل لتشغيل نماذج OpenAI GPT-OSS في Google Colab

استكشف كيفية تشغيل نماذج OpenAI GPT-OSS في Google Colab مع دليل شامل عن الإعداد والاستدلال.

في هذا الدليل، نستعرض كيفية تشغيل نماذج OpenAI ذات الوزن المفتوح GPT-OSS في Google Colab مع التركيز على سلوكها التقني، ومتطلبات النشر، وطرائق الاستدلال العملية.

إعداد البيئة

نبدأ بإعداد الحزم المطلوبة لتنفيذ النماذج المعتمدة على Transformers، والتحقق من توفر GPU، ثم تحميل النموذج openai/gpt-oss-20b مع التكوين الصحيح باستخدام تقنية MXFP4 للكمية، وتفعيل torch.bfloat16.

للبدء، نحتاج إلى تنفيذ الأوامر التالية في Google Colab:

!pip install -q --upgrade pip
!pip install -q transformers>=4.51.0 accelerate sentencepiece protobuf
!pip install -q huggingface_hub gradio ipywidgets
!pip install -q openai-harmony

تحميل نموذج GPT-OSS

بعد تثبيت الحزم، نقوم بتحميل النموذج باستخدام الكود التالي:

from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
MODEL_ID = "openai/gpt-oss-20b"

print(f"\nLoading model: {MODEL_ID}")

tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(MODEL_ID, torch_dtype=torch.bfloat16, device_map="auto", trust_remote_code=True)
pipe = pipeline("text-generation", model=model, tokenizer=tokenizer)

عند تحميل النموذج، يمكننا التأكد من أنه تم تحميله بنجاح والتحقق من نوع البيانات المستخدمة. كما يمكننا التحقق من الذاكرة المتاحة على وحدة المعالجة الرسومية.

أمثلة على الاستدلال الأساسي

نقوم الآن بتنفيذ بعض الأمثلة الأساسية للاستدلال:

def generate_response(messages, max_new_tokens=256, temperature=0.8, top_p=1.0):
    output = pipe(messages, max_new_tokens=max_new_tokens, do_sample=True, temperature=temperature, top_p=top_p, pad_token_id=tokenizer.eos_token_id)
    return output[0]["generated_text"][-1]["content"]

messages = [{"role": "user", "content": "What is the Pythagorean theorem? Explain briefly."}]
response = generate_response(messages)
print(f"User: {messages[0]['content']}")
print(f"\nAssistant: {response}")

هذه الأمثلة توضح كيفية الحصول على إجابات بسيطة، وإنشاء أكواد، وكتابة نصوص إبداعية.

تعديل مستوى التفكير

يدعم GPT-OSS مستويات مختلفة من التفكير يمكن التحكم فيها من خلال معلمات النظام:

  • منخفض - إجابات سريعة وموجزة.
  • متوسط - توازن بين التفكير والردود.
  • مرتفع - تفكير عميق مع تسلسل كامل للأفكار.

يمكننا استخدام ReasoningEffortController للتحكم في مستوى التفكير المطلوب.

إنتاج مخرجات منسقة (JSON)

يمكننا أيضًا تشكيل المخرجات في صيغة JSON وفقًا لمخطط محدد. سنقوم بإنشاء صنف StructuredOutputGenerator لهذا الغرض:

class StructuredOutputGenerator:
    def generate_json(self, prompt: str, schema: dict):
        schema_str = json.dumps(schema, indent=2)
        ...

هذا سيمكننا من إنتاج نتائج منظمة تسهل التعامل معها في التطبيقات المختلفة.

خاتمة

من خلال هذا الدليل، تعلمنا كيفية إعداد وتشغيل نماذج GPT-OSS في Google Colab، وكيفية التعامل مع الاستدلالات المختلفة. يعتبر هذا النموذج من الأدوات القوية التي يمكن استخدامها في مجالات متعددة مثل إنشاء المحتوى، والإجابة على الأسئلة، وتوليد الأكواد.

المصدر: MarkTechPost

أحدث في الذكاء الاصطناعي

مقالات سابقة في الذكاء الاصطناعي