هوش مصنوعی به بازوی سرکوب فرامرزی حکومت‌ها تبدیل شده است

یافته‌های یک پژوهش تازه نشان می‌دهد ابزارهای هوش مصنوعی مولد، دیگر تنها در چارچوب فعالیت‌های مدنی، تجاری یا دانشگاهی به کار گرفته نمی‌شوند، بلکه به شکلی روزافزون به خدمت دستگاه‌های امنیتی و اطلاعاتی حکومت‌های اقتدارگرا برای پیگرد، شناسایی و ارعاب مخالفان سیاسی در خارج از مرزها درآمده‌اند.
حکومت‌هایی چون چین و ایران با بهره‌گیری از مدل‌های زبانی پیشرفته و دستیارهای هوش مصنوعی، الگوهای سنتی جاسوسی و نظارت بر فعالان مدنی، اقلیت‌های مذهبی و دگراندیشان را متحول کرده‌اند. این پژوهش بر پایه داده‌های تیم اطلاعات تهدیدات شرکت «انتروپیک»، سازنده مدل هوش مصنوعی کلاود، تدوین شده و جزئیاتی از نحوه استفاده عملیاتی از این فناوری را فاش کرده است. ردپای کارزارهای وابسته به حکومت ایران وجود دارد. بر اساس مستندات، عوامل وابسته به حکومت ایران دست‌کم در سه عملیات نفوذ سایبری از مدل‌های زبانی بزرگ برای پیشبرد اهداف تبلیغاتی و امنیتی خود بهره برده‌اند.این کارگزاران از هوش مصنوعی برای نگارش راهنماهای تفصیلی عملیاتی، ایجاد هویت‌های جعلی پیچیده در شبکه‌های اجتماعی و ساماندهی کارزارهای چندزبانه بهره گرفته‌اند. هدف عمده این فعالیت‌ها، هدف قرار دادن چهره‌های برجسته اپوزیسیون ایرانی در تبعید و همچنین تشدید فشارها بر اقلیت‌های مذهبی تحت ستم در ایران، به‌ویژه بهائیان است.همچنین یک عامل وابسته به ایران با اتکا به قابلیت‌های کدنویسی کلاود، یک افزونه ویژه برای مرورگر فایرفاکس طراحی کرده که وظیفه آن استخراج داده‌ها و بررسی انبوه اطلاعات کاربران در رسانه‌های اجتماعی به منظور کشف پیوندهای سیاسی و فردی بوده است. این شواهد نشان می‌دهد دستیارهای زبانی می‌توانند شکاف‌های فنی تیم‌های سایبری را پر کنند و سرعت اقدامات اطلاعاتی را افزایش دهند.
پرونده سوریه و اویغورها: تبدیل ردپای دیجیتال به ابزار باج‌گیرییکی از مهم‌ترین موارد است، عملیات نهادهای وابسته به پکن علیه اقلیت اویغور در سوریه است. اویغورها که عمدتاً در منطقه سین‌کیانگ در شمال غرب چین زندگی می‌کنند، در سال‌های اخیر هدف کارزارهای گسترده نظارتی، بازداشت‌های جمعی و فشارهای سیستماتیک دولت چین بوده‌اند. بخشی از اعضای این جامعه به کشورهای خاورمیانه از جمله سوریه مهاجرت کرده‌اند، اما شواهد تازه نشان می‌دهد مرزهای جغرافیایی مانع از پیگیری امنیتی آنان نشده است.
عوامل مرتبط با چین از دستیار هوش مصنوعی کلاود برای تجزیه و تحلیل داده‌های پراکنده در فضای مجازی استفاده کرده‌اند. مدل‌های زبانی این امکان را برای کارگزاران امنیتی فراهم کرده‌اند که با وجود ناآشنایی با زبان عربی، متون و پیام‌هایی با لهجه‌های بومی سوری تولید کنند، با افراد محلی ارتباط برقرار سازند و از میان جامعه اویغور دست به عضوگیری برای خبرچینی بزنند. هوش مصنوعی با پردازش پیام‌ها و ردپاهای آنلاین، افراد آسیب‌پذیرتر را شناسایی کرده؛ مشخصاً کسانی که دچار بحران‌های حاد مالی بودند یا هنوز اعضای درجه یک خانواده‌شان در سین‌کیانگ تحت فشارهای امنیتی زندگی می‌کردند. این اطلاعات به بازجویان و مأموران امنیتی امکان داده تا از روابط خانوادگی و ضعف‌های اقتصادی افراد به عنوان اهرم فشاری برای وادار کردن آنان به همکاری علیه دیگر پناهجویان استفاده کنند. دگرگونی بنیادین در اقتصاد سرکوب
ورود هوش مصنوعی مولد به حوزه سرکوب سیاسی، اساساً «اقتصاد سرکوب» را متحول کرده است. در الگوهای گذشته، نظارت فرامرزی نیازمند استخدام کارشناسان زبده زبان‌شناسی، تحلیلگران ارشد اطلاعاتی و توسعه‌دهندگان گران‌قیمت نرم‌افزار بود؛ عواملی که هزینه‌های مالی و زمانی سنگینی را به حکومت‌ها تحمیل می‌کرد.اکنون هوش مصنوعی نقش این کارشناسان را بر عهده گرفته است. مدل‌های پیشرفته می‌توانند انبوهی از داده‌های عمومی منتشرشده در پلتفرم‌های اجتماعی، پایگاه‌های داده، پیام‌رسان‌ها و رسانه‌های محلی را در چند دقیقه ساختاردهی کنند. این فرایند به نهادهای امنیتی امکان می‌دهد شبکه روابط شخصی افراد را بازسازی کنند، گرایش‌های فکری‌شان را بسنجند و موقعیت دقیق جغرافیایی آن‌ها را ترسیم کنند. در مواردی که در چین ثبت شده، یک پیمانکار امنیتی توانسته با ادغام این مدل در سازوکار کاری خود،

روزانه بولتن‌های امنیتی مستمری از وضعیت فعالان سیاسی، روزنامه‌نگاران خارجی و اقلیت‌ها تولید کند و حتی پیشنهادهایی را برای اقدامات تنبیهی یا بازداشت به‌ دستگاه‌های دولتی ارائه دهد. در واقع هوش مصنوعی نظارت امنیتی را از یک فعالیت مقطعی به یک فرایند بوروکراتیک و خودکار اداری تبدیل کرده است.پیوند نظارت مجازی با خطرات جانی در دنیای واقعی مسئله نگران‌کننده‌ای که پژوهشگران بر آن دست گذاشته‌اند، انتقال پیامدهای این نظارت‌ها از فضای سایبری به دنیای واقعی است. تحلیل‌های به دست آمده از پردازش داده‌ها تنها در آرشیوهای اطلاعاتی باقی نمی‌مانند، بلکه مبنای اقداماتی چون تعقیب فیزیکی، آزار خیابانی، بازداشت اعضای خانواده در داخل مرزها، و حتی سناریوهای ربایش و ترور قرار می‌گیرند. عوامل سایبری با کمک هوش مصنوعی دست به جمع‌آوری اطلاعات معماری، نقشه‌های ساختمانی و ورودی‌های مراکز مذهبی اقلیت‌ها زده‌اند. یک بازیگر مرتبط با چین مسیرهای دقیق راهپیمایی‌های اعتراضی در شهر ونکوور کانادا، نشست‌های اویغورها در ترکیه و جزئیات امنیتی همایش‌های حقوق بشری مانند «مجمع آزادی اسلو» را از طریق این مدل بررسی کرده است. علاوه بر این، در یک مورد دیگر مربوط به مالی، یک پیمانکار با استفاده از طراحی‌های نرم‌افزاری حاصل از کلاود، سامانه‌ای به نام «لاکانا ۳۶۰» برای پایش حدود ۲۵ میلیون سیم‌کارت پیاده‌سازی کرده است. این سامانه روی سرورها و مدل‌های محلی نصب شده و بسته شدن حساب کاربری در شرکت سازنده، مانع از تداوم فعالیت آن نشده است. این رویدادها نشان می‌دهند که داده‌های پردازش‌شده به‌طور مستقیم بسترساز تهدید جانی منتقدان حکومت‌ها می‌شوند. مشکلات مهار سامانه‌های هوشمند پژوهشگران سیتیزن‌لب می‌گویند تدابیر فنی کنونی شرکت‌های بزرگ فناوری برای مهار استفاده‌های سوء، کافی نیست. هرچند سیستم‌های ایمنی مدل‌هایی چون کلاود در وهله نخست درخواست‌های امنیتی یا ناقض حقوق افراد را ردمی‌کنند، اما کاربران آموزش‌دیده امنیتی با بازنویسی ماهرانه دستورها می‌توانند فیلترها را دور بزنند.
به‌عنوان نمونه، درخواست یک دانش‌آموخته دانشکده پلیس در چین برای تولید گزارش‌های نظارتی که در ابتدا از سوی مدل مسدود شده بود، پس از تغییر لحن و ساختار پرسش مورد پذیرش قرار گرفت و به شناسایی و ثبت داده‌های ۱۰ فرد منجر شد. پژوهشگران حقوق بشر بر این باورند که شرکت‌های توسعه‌دهنده هوش مصنوعی به جای تکیه بر فیلتر کردن کلمات کلیدی، باید الگوهای رفتاری مشکوک را شناسایی کنند؛ الگوهایی که ترکیبی از مکان‌یابی، تحلیل گرایش‌های سیاسی، پایش شبکه‌های اجتماعی و آسیب‌پذیری‌سنجی کاربران را به نمایش می‌گذارند. وظایف پیش روی غول‌های سیلیکون‌ولی بر اساس «اصول راهنمای سازمان ملل در زمینه تجارت و حقوق بشر»، شرکت‌های تجاری موظف هستند تدابیری اتخاذ کنند تا تولیدات آن‌ها به ابزاری برای نقض سازمان‌یافته حقوق بنیادین نظیر حق حریم خصوصی، آزادی بیان و آزادی تجمعات بدل نشود. پژوهشگران سیتیزن‌لب سه وظیفه عمده را متوجه شرکت‌های فناوری می‌دانند:
نخست، ایجاد یک چارچوب شفاف و فراگیر برای افشای تهدیدها و اطلاع‌رسانی منظم به گروه‌ها و افرادی که هدف این اقدامات قرار گرفته‌اند. اگرچه شرکت‌هایی نظیر گوگل یا اپل سامانه‌هایی برای آگاه‌سازی اهداف حملات سایبری دولتی دارند، شرکت‌های هوش مصنوعی سازوکار مدونی در این زمینه تعریف نکرده‌اند.
دوم، شرکت‌ها باید سیستم‌های امتناع و شناسایی خود را به‌طور خاص بر مقابله با سرکوب فراملی متمرکز کنند و جلوی بهره‌برداری از هوش مصنوعی برای تولید کدهای نظارتی مستقل را بگیرند.
سوم، ثبت و نگهداری مستندات دیجیتال و الگوهای رفتاری کشف‌شده در جریان شناسایی این تهدیدها است. این داده‌ها می‌توانند در آینده در پرونده‌های قضایی بین‌المللی و کیفری به عنوان شواهد مستند برای اثبات اقدامات مجرمانه کارگزاران امنیتی مورد استفاده قرار گیرند. گزارش اخیر نشان می‌دهد سرکوب مخالفان در خارج از مرزها وارد مرحله‌ای تازه‌ شده است که در آن مرزهای جغرافیایی دیگر سپری در برابر فناوری‌های پردازش داده به‌شمار نمی‌روند و هوش مصنوعی ابعاد فشار حکومت‌ها را به زندگی خصوصی و امنیت فیزیکی تبعیدیان تحمیل کرده است./ با تلخیص از رادیو زمانه

اتحاد بازنشستگان
@etehad_bazn