فاش شدن استفاده کانادا از هوش مصنوعی برای غربالگری مهاجرین؛ هوش مصنوعی دقیقا چگونه عمل می‌کند؟

فناوری هوش مصنوعی به تازگی به برخی از مقامات کمک می‌کند تا برخی از افراد را از کانادا دور نگه دارند. جالب است بدانید عده‌ای بر این باورند که این مسئله مشکل‌ساز خواهد بود.
«پروژه کوانتوم»، همانطور که از اسمش پیداست، یک پروژه آزمایشی ناشناخته است که با استفاده از هوش مصنوعی در آژانس خدمات مرزی کانادا در حال انجام است و مسافران هوایی را قبل از پرواز به کانادا بررسی می‌کند. این آژانس در این آزمایش در سال‌های اخیر حداقل یک نفر از هزار مورد را قبل از سوار شدن به هواپیما متوقف کرده است. به گفته‌ی مقامات، این برنامه طرحی است که افرادی که ممکن است تهدیدی برای کشور کانادا باشند را مشخص می‌کند.

با این حال، اینکه دولت چه کسانی را در فرودگاه‌های بین‌المللی متوقف می‌کند و معیارهای مورد استفاده‌اش چیست هنوز مشخص نیست. این موضوع واکنش برخی از منتقدان را برانگیخته است. آنها می‌پرسند: «ما چگونه باید بدانیم که این برنامه افراد مناسبی را انتخاب می‌کند و در فرآیند انتخاب خود هیچگونه تبعیضی برای آنها قائل نمی‌شود؟»

مهاجرت غیرقانونی به کانادا

لازم به ذکر است که طبق وبسایت آژانس خدمات مرزی کانادا، این برنامه برای رسیدگی به موضوع مهاجرت غیرقانونی است. البته که برخی در پی این مسئله هم نگران سخت‌تر شدن پروسه‌ی پناهندگی در کانادا هستند. گفتنی است که موضوع پناهندگی قبل از اینها هم با توافق کانادا و ایالات متحده کمی محدود شده بود. با این حال، مقامات می‌گویند که ارزیابی خطرات قبل از پرواز، اطلاعات شخصی مسافران از شرکت‌های هواپیمایی را با شاخص‌های از پیش تعیین شده مقامات مرزی مطابق می‌دهد. آنها افزودند که مدل‌هایش شناسایی ریسک پرواز بر اساس همین اطلاعات توسط این آژانس توسعه می‌یابند.

پروژه‌ی کوانتوم از زمان آغاز به کار خود در سال ۲۰۱۹ تا پایان سال گذشته، ۱۳ هزار و ۸۶۳ مسافر را برای ارزیابی بیشتر به کشور خودشان ارجاع داده است. آژانس خدمات مرزی در مجموع، تا کنون از ورود ۶ هزار و ۱۸۲ مسافر به کانادا جلوگیری کرده است. گفتنی است که این برنامه در پی افزایش محدودیت‌های مهاجرت غیرقانونی به کانادا ارائه شده است. اتاوا و واشنگتن در اوایل سال جاری توافقنامه‌ی دوجانبه‌ای را برای ممانعت از دسترسی اتباع خارجی به پناهندگی در سراسر مرزهای کانادا و ایالات متحده امضا کردند که در نتیجه همین اتفاق تعداد مهاجران غیرقانونی به این دو کشور به شدت دچار کاهش شد.

روشن است که با توجه به جغرافیای منحصر به فرد کانادا و نحوه محافظت از آن توسط ایالات متحده، استفاده از هوش مصنوعی در فرآیند پذیرش مسافران، محدودیت بیشتری را بر پناهجویان اعمال می‌کند. «بنجامین پریمن»، استاد حقوق دانشگاه نیوبرانزویک، در این باره می‌گوید: «هدف این استراتژی این است که مرزها را تا جایی که ممکن است محدود کند. این فناوری جدید با خطرات قابل توجهی از نقض حقوق بشر همراه است که ما تا به حال آن را در مناطق دیگر هم تجربه کرده‌ایم. عدم وجود شفافیت و نظارت دقیق بر این فرآیند، عده‌ی زیادی از افراد را در نگرانی فرو برده است.»

آژانس خدمات مرزی کانادا که در سال ۲۰۰۳ با هدف کمک به اداره‌ی مهاجرت تاسیس شد، تنها سازمان امنیت عمومی‌ای است که هیچ نهاد غیرنظامی خارجی بر آن نظارت ندارد. گفتنی است که این مسئله علیرغم مجوز افسران مرزی این سازمان مبنی بر حمل سلاح گرم، دستگیری و بازداشت مردم در حال رخ دادن است. دولت لیبرال از زمان به قدرت رسیدنش در سال ۲۰۱۵ وعده داده بود که برای این سازمان یک ناظر را در نظر بگیرد. با این حال، هنوز لایحه‌ای برای ایجاد چنین زیرساختی به تصویب نرسیده است.

«ژاکلین رابی»، سخنگوی آژانس خدمات کانادا در این باره گفت: «این برنامه‌ی آزمایشی در وهله‌ی اول به دنبال برطرف کردن مسئله مهاجرت غیرقانونی در مسافران هوایی است. به همین دلیل است که می‌توان گفت این یک رویکرد هدفمند و یک روش عملیاتی است که از افسران سازمان ما برای شناسایی فعالیت‌های غیرقانونی پرخطر و بالقوه استفاده می‌کند. این فعالیت‌ها شامل تروریسم یا جنایات مرتبط با ترور، قاچاق انسان یا سایر جنایات جدی بین‌المللی و فرامرزی است.»

با این وجود، منتقدان و مخالفان این پروژه معتقدند که شاخص‌های این آزمایش ممکن است مملو از سوگیری‌های ناخواسته باشد و از آن برای شناسایی و جلوگیری از برخی مسافرانی استفاده شود که شاید پناهجویان مناسبی برای کشور باشند.

ارجاعات پروژه کوانتوم

«گاوبر لوکاچ»، بنیانگذار و رئیس Air Passenger Rights، می‌گوید که اطلاعات عمومی بسیار کمی درباره این برنامه‌ی آزمایشی در دسترس است. او خودش هم صرفا از طریق یکی از پرونده‌های قضایی‌اش که شامل دو مسافر از رم بود با این مسئله مواجه شد. در این پرونده، مسافران اجازه‌ی ورود به پرواز Air Transat از لندن را نداشتند. اسناد مهاجرت حاکی از آنند که این زوج بر اساس «ارجاع پروژه کوانتوم» از پرواز خود جا مانده بودند.

این زوج قرار بود با یکی از اعضای خانواده‌ی خود در کانادا ملاقات کنند که قبلا درخواست پناهندگی کرده بود و حالا اقامت دائم داشت. با این حال، طی فرآیند بررسی پروژه کوانتوم، مجوز الکترونیکی سفر این زوج بنا به دلایل نامعلوم لغو و تنها شرط ورود معاف از ویزای آنها باطل شد.

لوکاچ در این پرونده به سوالاتی برخورد که همگان را به فکر فرو می‌برد. از جمله این سوالات می‌توان به موارد زیر اشاره کرد:

آیا قومیت‌های خاص به عنوان یکی از معیارهای این پروژه شناخته می‌شود؟
آیا اطلاعات یکی از پناهندگان اسبق کانادا در روند تایید ورود این دو مسافر تاثیرگذار بوده است؟

گفتنی است که آژانس خدمات مرزی کانادا از پاسخ به این سوالات خودداری کرد و گفت که انجام این کار ممکن است یکپارچگی سیستم کوانتوم را دچار اختلال کند.

تعصبات نژادی و قومیتی در خدمات مرزی کانادا

یکی از مشکلات جدی هوش مصنوعی که نگرانی بسیاری از افراد را برانگیخته کرده است این است که دارای پتانسیل بسیار بالایی برای تعصبات نژادی و قومیتی است. لوکاچ در این باره گفت: «این هنوز برای من روشن نیست که آیا این نرم‌افزار به اندازه‌ی کافی آموزش دیده است تا بین مدعیان پناهندگی و مجرمان تمایز ایجاد کند یا خیر.»

نگرانی لوکاچ تا حدی قابل تامل است. دلیل این مسئله هم آن است که بخش مهاجرت آژانس خدمات مرزی کانادا در سال ۲۰۱۷ در یک بیانیه کتبی به استفاده از سیستم‌های تجزیه و تحلیل پیشرفته و پیش‌بینی رفتارهای آینده افراد و ترکیب آن با ویژگی‌های شخصی‌شان و ارتباط آنها با رد و تایید درخواست ورودشان به کانادا اشاره کرد. در این سند آمده است: «هدف ما در آینده، پیش‌بینی رفتارهای نامطلوب مانند جنایت یا ادعای پناهندگی است.»

این آژانس در نهایت به هیچ وجه تایید نمی‌کند که پناهندگان بالقوه در این روند شناسایی می‌شوند یا خیر، با این حال، اعلام کرده است که پروژه‌ی کوانتوم بخش از برنامه ملی تشخیص افراد یا کالاهاییست که ممکن است تهدیدی برای امنیت و ایمنی کشور باشند. این فناوری برای شناسایی این خطرات با کمک هوش انسانی، از منابع اطلاعاتی پیشرفته خودکار استفاده می‌کند.

تعداد ارجاعات و بررسی پروازهای پروژه‌ی کوانتوم به تازگی دچار افزایش شده و از ۱۸ پرواز در سال ۲۰۱۹ به ۳۲ مورد در فوریه ۲۰۲۲ رسیده است. آژانس خدمات مرزی درباره‌ی ارتباط بررسی پروازها با خطوط هواپیمایی چیزی نگفت، با این حال، اعلام کرد که این فرآیند بخشی از این پروژه‌ی آزمایشی است که باید انجام شود.

اگر مسافری با معیارهای این پروژه مطابقت داشته باشد، مرکز ملی هدفگیری تهدیدات کشوری به افسر مربوطه در خارج از کشور هشدار می‌دهد تا پرونده را بررسی کند. افسر مذکور هم در صورت کسب مجوز، با یکی از مسئولین پرواز و یا خود مسافر در تماس خواهد بود تا حکم نهایی را صادر کند.

مرکز ملی هدفگیری تهدیدات کشوری که در سال ۲۰۱۲ در اتاوا تاسیس شد، در کنار سایر مسئولیت‌هایی که دارد، شبکه‌ی افسران رابط را نیز اداره می‌کند و در حال حاضر در ۴۰ کشور بیش از ۶۰ افسر دارد.

سخنگوی آژانس خدمات مرزی کانادا همچنین از افشای نحوه انتخاب پروازها یا مسیرها، ارزیابی مدل‌ها در مناطق مختلف یا شاخص‌هایی که در سنجش مسافران مورد استفاده قرار می‌گیرند، خودداری کرد و گفت که انجام این کار یکپارچگی سیستم کوانتوم را تحت تاثیر قرار می‌دهد.

منتقدان فقدان اطلاعات و شفافیت در این پروژه را نگران‌کننده می‌دانند. لازم به ذکر است که در حال حاضر پرونده‌های قضایی مختلفی علیه این سازمان وجود دارد که یکی از آنها مربوط به یک زوج مجارستانی است که برای ملاقات با یکی از اعضای خانواده‌شان که قبلا پناهنده‌ی کانادا بوده، اجازه‌ی پرواز نداشتند.

شاخص‌های تصمیم‌گیری در خدمات مرزی کانادا

لوکاچ در این باره گفت: «اگر CBSA ارتباط با پناهندگان را به عنوان یک شاخص در نظر بگیرد که در آن افراد قصد انجام کارهای شرورانه مانند اقامت بیش از حد یا بدتر از آن را دارند، مشکلات بزرگی خواهیم داشت. اما مسئله‌ی بزرگتر این است که ما باید بدانیم این فناوری به طور کلی از چه داده‌ها و شاخص‌هایی برای تصمیم‌گیری استفاده می‌کند.»

رابی در پاسخ به این مسئله اعلام کرد که آژانس خدمات مرزی کانادا نگرانی‌های فعلی مردم را در نظر خواهد گرفت و در ابزار بعدی خود حتما منشور حقوق و آزادی‌های کانادا را اعمال خواهد کرد. وی افزود: « CBSA برای از بین بردن هرگونه نژادپرستی سیستماتیک یا سوگیری ناخودآگاه در عملیات تلاش خواهد کرد و تضمین می‌کند که جوامع اقلیت در معرض رفتارهای ناعادلانه قرار نخواهند گرفت. به علاوه، مقامات نیز باید یکسری دستورالعمل‌های سختگیرانه برای محافظت از حریم خصوصی مسافران و خدمه تصویب کنند و داده‌های سیستم را در یک سیستم امن ذخیره کنند که فقط توسط پرسنل مجاز قابل دسترسی باشد. استفاده از این داده‌ها با نظارت افراد حاذق صورت خواهد گرفت و مسئول هرگونه سواستفاده از آن خود کاربران هستند.»

با این حال، گفتنی است که سیستم تصمیم‌گیری پروژه‌ی کوانتوم در حال حاضر تحت نظارت فدرال قرار ندارد. رابی در این باره در ایمیلی گفت: «ارزیابی تاثیر الگوریتم هیئت خزانه‌داری در این پروژه اعمال نمی‌شود. آژانس خدمات مرزی کانادا برای تصمیم‌گیری نهایی در این حوزه به دانش، آموزش، تخصص و تجربه‌ی افسران متکی است.»

لازم به ذکر است که CBSA به شرکت‌های هواپیمایی هم دستورالعمل‌هایی ارائه داده است که پیروی یا عدم پیروی از آنها بر عهده‌ی خود آنهاست. پریمن در این باره گفت: «این طرح هم سوالاتی را درباره حقوق و اختیارات مقامات کانادایی برای مشارکت در اجرای بین‌المللی و انطباق این دستورالعمل‌ها با منشور حقوق و قوانین بین‌المللی حقوق بشر ایجاد می‌کند. من موافقم که جنبه‌های خاصی از تکنیک‌های تحقیقاتی این سازمان برای موثر بودن این پروژه باید محرمانه بماند، اما شفافیت و نظارت کافی را نباید نادیده گرفت.»

وی افزود: «پروفایل کاربران بر اساس نژادشان چیزی است که پلیس کانادا قبلا از آن استفاده می‌کرد، اما زمانی که طیف آن تکمیل شد، مراجع قانونی اعلام کردند که از آن استفاده نخواهند کرد. البته من با این بحث کاملا مخالف نیستم، اما معتقدم این مسئله چیزی است که نیاز به درجات بالایی از دقت و شفافیت دارد.»

آژانس خدمات مرزی کانادا در نهایت اعلام کرد، مسافرانی که اجازه‌ی ورود به پروازهای کانادا را ندارند می‌توانند از طریق وبسایت این سازمان یا اداره‌ی پست شکایات خود را پیگیری کنند.