تخطط وكالة خدمات الحدود الكندية لتنفيذ تطبيق يستخدم تقنية التعرف على الوجه لتتبع الأشخاص الذين صدر أمر بترحيلهم من البلاد.

سيستخدم تطبيق الإبلاغ عبر الهاتف المحمول البيانات الحيوية لتأكيد هوية الشخص وتسجيل بيانات موقعه عند استخدامه للتطبيق لتسجيل الوصول. تشير المستندات التي تم الحصول عليها من خلال الوصول إلى المعلومات إلى أن وكالة خدمات الحدود الكندية اقترحت مثل هذا التطبيق منذ عام 2021.

وأكد متحدث باسم الوكالة أن تطبيقًا يسمى ReportIn سيُطلق هذا الخريف. وقالت الوكالة في تعليق لاحق إن التطبيق يمكن استخدامه أيضًا للمقيمين الدائمين والمواطنين الأجانب الذين يخضعون لجلسات عدم القبول.

ويشير الخبراء إلى العديد من المخاوف، ويشككون في صحة موافقة المستخدم والسرية المحتملة حول كيفية اتخاذ التكنولوجيا لقراراتها.

في كل عام، يفشل حوالي 2000 شخص صدرت لهم أوامر بمغادرة البلاد في الحضور، مما يعني أن وكالة خدمات الحدود الكندية "يجب أن تنفق موارد كبيرة في التحقيق وتحديد مكان هؤلاء العملاء وفي بعض الحالات احتجازهم"، وفقًا لوثيقة عام 2021.

طرحت الوكالة تطبيقًا للهواتف الذكية باعتباره "حلًا مثاليًا".

وقالت إن الحصول على تحديثات منتظمة من خلال التطبيق حول "عنوان إقامة الشخص، وعمله، وحالته العائلية، من بين أمور أخرى، سيسمح لوكالة خدمات الحدود الكندية بالحصول على معلومات ذات صلة يمكن استخدامها للاتصال بالعميل ومراقبته بحثًا عن أي مؤشرات مبكرة لعدم الامتثال".

"بالإضافة إلى ذلك، ونظراً للتشغل الالى، فمن المرجح أن يشعر العميل بالانخراط وسيتعرف على مستوى الرؤية التي تتمتع بها خدمات الحدود في قضيته".

بالإضافة إلى ذلك، أشارت الوثيقة إلى أنه: "إذا فشل العميل في الظهور للترحيل، فإن المعلومات التي تم جمعها من خلال التطبيق ستوفر أدلة تحقيقية جيدة لتحديد مكان العميل".

ذكر تقييم التأثير الخوارزمي للمشروع - لم يتم نشره بعد على موقع الحكومة الفيدرالية على الإنترنت - أن تقنية الصوت البيومترية التي حاولت CBSA استخدامها يتم التخلص منها تدريجيًا بسبب "التكنولوجيا الفاشلة"، وقد طورت تطبيق ReportIn ليحل محلها.

وقالت إن "البيانات الحيوية للوجه وموقع الشخص، التي توفرها أجهزة الاستشعار و/أو نظام تحديد المواقع العالمي (GPS) في الجهاز المحمول/الهاتف الذكي" يتم تسجيلها من خلال تطبيق ReportIn ثم يتم إرسالها إلى نظام CBSA الخلفي.

بمجرد أن يقدم الأشخاص الصور، فإن "خوارزمية مقارنة الوجه" ستولد درجة تشابه مع صورة مرجعية.

إذا لم يؤكد النظام تطابق الوجه، فإنه يطلق عملية للضباط للتحقيق في القضية.

وقالت الوثيقة "يتم أيضًا جمع موقع الأفراد في كل مرة يبلغون فيها وإذا فشل الفرد في الامتثال لشروطهم". وأشارت الوثيقة إلى أن الأفراد لن يتم "تعقبهم باستمرار".

يستخدم التطبيق تقنية من Amazon Web Services. هذا خيار لفت انتباه بريندا ماكفيل، مديرة التعليم التنفيذي في برنامج السياسة العامة في المجتمع الرقمي بجامعة ماكماستر.

وقالت إنه في حين أن العديد من شركات التعرف على الوجه تقدم خوارزمياتها للاختبار إلى المعهد الوطني الأمريكي للمعايير والتكنولوجيا، فإن أمازون لم تفعل ذلك طواعية أبدًا.

وقال متحدث باسم Amazon Web Services إن تقنية Amazon Rekognition "تم اختبارها على نطاق واسع - بما في ذلك من قبل أطراف ثالثة مثل Credo AI، وهي شركة متخصصة في الذكاء الاصطناعي المسؤول، وiBeta Quality Assurance".

وأضاف المتحدث أن Amazon Rekognition هو "نظام قائم على السحابة على نطاق واسع وبالتالي لا يمكن تنزيله كما هو موضح في إرشادات المشاركة في NIST".

وقال المتحدث: "لهذا السبب تم تقديم Rekognition Face Liveness الخاص بنا بدلاً من ذلك للاختبار وفقًا لمعايير الصناعة إلى iBeta Lab"، المعتمد من قبل المعهد كمختبر اختبار مستقل.

تقول وثيقة CBSA أن الخوارزمية المستخدمة ستكون سرًا تجاريًا. في موقف يمكن أن يكون له عواقب تغير الحياة، سأل ماكفيل عما إذا كان "من المناسب استخدام أداة محمية بأسرار تجارية أو أسرار ملكية والتي تحرم الناس من الحق في فهم كيفية اتخاذ القرارات بشأنهم حقًا".

قالت كريستين توماسن، الأستاذة المساعدة ورئيسة قسم القانون والروبوتات والمجتمع في جامعة وندسور، إن الإشارة إلى الأسرار التجارية هي إشارة إلى أنه قد تكون هناك عوائق قانونية تمنع المعلومات حول النظام.

وأوضحت أن هناك قلقًا منذ سنوات بشأن الأشخاص المعرضين لأخطاء في الأنظمة والمحظورين قانونًا من الحصول على مزيد من المعلومات بسبب حماية الملكية الفكرية.

واوضحت المتحدثة باسم CBSA ماريا لادوسور إن الوكالة "طورت تطبيق الهاتف الذكي هذا للسماح للمواطنين الأجانب والمقيمين الدائمين الخاضعين لشروط إنفاذ الهجرة بالإبلاغ دون الحضور شخصيًا إلى مكتب CBSA".

وقالت إن الوكالة "عملت بالتشاور الوثيق" مع مكتب مفوض الخصوصية بشأن التطبيق. "سيكون التسجيل في ReportIn طوعيًا، وسيحتاج المستخدمون إلى الموافقة على استخدام التطبيق واستخدام صورهم للتحقق من هويتهم".

وقالت بيترا مولنار، المديرة المساعدة لمختبر قانون اللاجئين بجامعة يورك، إن هناك اختلالًا في التوازن بين الوكالة التي تنفذ التطبيق والأشخاص على الطرف المتلقي.

"هل يمكن لأي شخص أن يوافق حقًا في هذا الموقف حيث يوجد فرق كبير في القوة؟"

وقالت لادوسور إنه إذا لم يوافق الفرد على المشاركة، فيمكنه الإبلاغ شخصيًا كبديل.

كما حذرت توماسن من وجود خطر حدوث أخطاء في تقنية التعرف على الوجه، وأن الخطر أعلى بالنسبة للأفراد من ذوي البشرة الداكنة .

وقال مولنار إنه "من المقلق للغاية أنه لا يوجد أي نقاش حول تأثيرات حقوق الإنسان في الوثائق".

وقال المتحدث باسم CBSA إن Credo AI راجعت البرنامج بحثًا عن تحيز ضد المجموعات الديموغرافية، ووجدت معدل تطابق للوجه بنسبة 99.9 في المائة عبر ست مجموعات ديموغرافية مختلفة، مضيفًا أن التطبيق "سيتم اختباره باستمرار بعد الإطلاق لتقييم الدقة والأداء".

سيتم اتخاذ القرار النهائي من قبل إنسان، مع إشراف الضباط على جميع الطلبات، لكن الخبراء لاحظوا أن البشر يميلون إلى الثقة في الأحكام الصادرة عن التكنولوجيا.

قالت توماسن إن هناك "ميلًا نفسيًا معترفًا به على نطاق واسع إلى حد ما ... للناس للامتثال لخبرة نظام الكمبيوتر"، حيث يُنظر إلى أنظمة الكمبيوتر على أنها أقل تحيزًا أو أكثر دقة.