self-attention mechanism

تعد آلية الانتباه الذاتي مكونًا رئيسيًا في نموذج المحولات المستخدم في GPT. يسمح للنموذج بالتركيز بشكل انتقائي على أجزاء مختلفة من تسلسل الإدخال عند توليد المخرجات ، مما يتيح معالجة لغة طبيعية أكثر كفاءة وفعالية.