مذاکرات ایمنی هوش مصنوعی آمریکا و چین گامی حیاتی برای مدیریت خطرات فزاینده این فناوری، بهویژه در ابعاد سایبری و نظامی، محسوب میشود. هدف این گفتوگوها، که ریشه در توافقات سطح بالا دارد، ایجاد چارچوبهای بینالمللی برای توسعه مسئولانه هوش مصنوعی، جلوگیری از سوءاستفاده بازیگران غیردولتی و کاهش تنشهای ژئوپلیتیکی است تا ثبات و نوآوری در این حوزه حفظ شود.
مقررات جدید هوش مصنوعی اتحادیه اروپا، موسوم به قانون هوش مصنوعی اروپا (EU AI Act)، نخستین چارچوب قانونی جامع جهان است که با هدف تضمین توسعه و استقرار مسئولانه و اخلاقی هوش مصنوعی تدوین شده است. این قانون سیستمهای هوش مصنوعی را بر اساس سطح ریسک طبقهبندی کرده و الزامات سختگیرانهای برای شفافیت، برچسبگذاری محتوای تولید شده توسط هوش مصنوعی و نظارت بر مدلها تعیین میکند تا از حقوق اساسی شهروندان محافظت نماید.
متخصصان برجسته هوش مصنوعی، از جمله پدرخوانده AI جفری هینتون، درباره سرعت سرسامآور توسعه هوش مصنوعی هشدار میدهند. این پیشرفت بیسابقه، خطرات جدی مانند جایگزینی مشاغل، سوگیری الگوریتمی، نقض حریم خصوصی، و حتی تهدیدات وجودی را به همراه دارد. آنها بر لزوم کنترل هوش مصنوعی، تدوین مقررات بینالمللی و تضمین امنیت سایبری برای جلوگیری از پیامدهای جبرانناپذیر تأکید میکنند تا توسعه آن با ارزشهای انسانی همراستا باشد.
