در عرصه پرتلاطم بحرانهای انسانی و مخاصمات میان دولتها، سامانههای هوش مصنوعی دیگر صرفاً ابزاری جانبی نیستند، بلکه به بازیگرانی کلیدی در فرایندهای تصمیمسازی و پیشبینی ریسک بدل شدهاند. این گذار، پرسشهای بنیادین حقوقی را در باب مشروعیت، مسئولیت و نظارت بر فناوریهای خودکار مطرح میسازد. در محیطهای ناپایدار و مملو از اطلاعات نامتجانس، غیرقابلاعتماد یا جهتدار، کیفیت و اعتبار دادههای ورودی مستقیماً بر دقت و صحت خروجیهای هوش مصنوعی تأثیر میگذارد و خطر تصمیمگیریهای نادرست را تشدید میکند. لذا، هرگونه استفاده از این فناوریها در شرایط اضطراری، باید با رعایت معیارهای سختگیرانه «دقت قابلتوجه» (Reasonable Accuracy)، «قابلیت ممیزی» (Auditability) و «کنترلپذیری انسانی» (Human Controllability) همراه باشد تا پایههای حقوقی استفاده از آنها مستحکم گردد.
تعارض میان سرعت عمل و حمایتهای حقوق بشری
فراهم آوردن سرعت عمل در تصمیمگیری، که در شرایط بحران یک ضرورت انکارناپذیر است، نباید به بهای تضعیف حمایتهای بنیادین حقوق بشری تمام شود. پیادهسازی الگوریتمهای تحلیل ریسک جمعی، سامانههای تشخیص هویت خودکار، و ابزارهای پیشبینی تحرکات جمعیتی، هرچند کارآمد، اما بالقوه قادرند با ایجاد عدم توازن در جمعآوری و پردازش دادهها، آزادیهای فردی را مخدوش کرده، منجر به تبعیضهای ناروا، برچسبگذاری اشتباه، و نقض حریم خصوصی شوند.
حقوق فناوری در این مقام، وظیفه خطیری بر عهده دارد:
۱. برقراری یک توازن ظریف و پایدار میان کارآمدی اضطراری؛
۲. صیانت از اصول جهانشمول حقوق بشر.
مسئولیت حقوقی و انتساب خسارت
از منظر مسئولیت حقوقی، هرگونه تصمیم خودکار که در بستر جنگ یا شرایط اضطراری، موجب خسارت مادی یا معنوی، یا نقض حقوق بنیادین اشخاص شود، نیازمند استقرار یک نظام حقوقی روشن برای انتساب و جبران خسارت است. ادعای «فشار زمان» یا «وضعیت اضطرار» هرچند ممکن است در برخی نظامهای حقوقی بهعنوان عامل موجهه یا رافع مسئولیت پذیرفته شود، ولی نباید بهطور مطلق، مسئولیت توسعهدهندگان، اپراتورهای بهرهبردار، یا مراکز تصمیمگیر را رفع کند.
چشمانداز آینده
در چشمانداز آینده، طراحی و پیادهسازی چارچوبهای حکمرانی هوش مصنوعی در شرایط بحران، باید بهطور بنیادین بر حقوق بشردوستانه بینالمللی، اصول پیشگیرانه در مدیریت آسیب و سازوکارهای نظارت فراملی و مستقل استوار باشد. واقعیت آن است که آینده امنیت انسانی و کارآمدی راهبردی در مواجهه با تهدیدات پیچیده، نه صرفاً با اتکا به صرف توانمندیهای ابزارهای هوشمند، بلکه با معماری هوشمندانه حقوقی و نظارتی تضمین خواهد شد؛ تا بتواند همگام با پیشرفت فناوری، چارچوبهای اخلاقی و حقوقی مناسب را بازتعریف و اجرا نماید.