أطلقت فرق من جوجل ريسيرتش وجامعة جنوب كاليفورنيا إطار عمل جديد يُسمى Mobility-Embedded POIs (ME-POIs)، يدمج بيانات حركة المستخدمين الإجمالية في التمثيلات النصية للأماكن. الفكرة الأساسية أن نماذج اللغة تصف ما هو المكان، لكنها لا تعكس كيفية استخدامه فعليًا، فمقهيان قد يشتركان في التصنيف والعنوان وتمثيل نصي واحد، بينما يخدم أحدهما الزبائن العابرين والآخر يحتفظ بهم لمدة ساعة ونصف.

يعمل الإطار بترميز كل زيارة كمتجه سياقي، ثم يستخدم التعلم التباعدي لمحاذاة تلك الزيارات مع نموذج واحد قابل للتعلم لكل مكان. عبر خمس مهام على بيانات الحركة في لوس أنجليس وهيوستن، حسّن دمج ME-POIs نتائج 34 من 35 مزدوجة نموذج-مهمة في لوس أنجليس، مع مكاسب نسبية وصلت إلى 81.9% في قياس نية الزيارة، وتقليل بنسبة 24.7% في متوسط الخطأ المطلق لمؤشر الازدحام.

الإطار يحتاج إلى إعادة بناء وليس نموذجًا جاهزًا للتحميل. أطلقت جوجل الورقة البحثية دون توفير الأكواد أو الأوزان العامة. معايير الحسابات منخفضة نسبيًا، حيث يحتوي النموذج على حوالي 53.7 مليون معامل وتم تدريبه مسبقًا على معالج واحد NVIDIA Tesla V100 بذاكرة 16GB، لكن العائق الحقيقي يكمن في البيانات التي تتطلب سجلات حركة مرخصة أو سجلات زيارات داخلية إلى جانب مضلعات الأماكن.

تمثل كل زيارة ثلاثية من الإحداثيات ووقت الوصول والمغادرة، وينالها ثلاثة أجهزة ترميز متخصصة تتعامل مع الموقع الجغرافي والأوقات. يمر المتجه المدمج عبر طبقات تحويل بـ 4 طبقات و8 رؤوس انتباه لإنتاج تمثيلات زيارات سياقية. الهدف الأساسي تباعدي يجذب كل زيارة نحو نموذج مكانها الخاص بينما يدفعها بعيدًا عن الأماكن الأخرى في الدفعة.

تشكل الندرة التحدي الرئيسي، إذ لم تتجاوز نسبة الأماكن التي حققت حد التثبيت 9.07% في لوس أنجليس و7.04% في هيوستن. يستخدم الإطار نوى غاوسية معايرة عند ثلاث نطاقات مختلفة لنقل بيانات الأماكن الموثوقة إلى الأماكن النادرة. أظهرت النسخة المدربة على بيانات الحركة وحدها أداء متفوقة على تمثيلات Gemini في تصنيف مستويات الأسعار، مما يشير إلى أن السلوك الجماعي قد يفوق البيانات النصية المستخدمة لوصف المكان.