هدف از همکاری با نهاد ایمنی هوش مصنوعی چیست؟

آنتروپیک و اوپنایآی مدلهای هوش مصنوعی را با نهاد ایمنی آمریکا به اشتراک میگذارند

به گزارش دانشجو دو شرکت پیشرو در صنعت هوش مصنوعی یعنی آنتروپیک و اوپنایآی با موسسه امنیت هوش مصنوعی ایالات متحده به توافقنامهای رسیدهاند. بر اساس این توافق هر دو شرکت مدلهای پیشرفته خود را پیش از انتشار عمومی در اختیار این نهاد دولتی قرار میدهند تا ارزیابیهای امنیتی لازم ان جام شود.

هدف از همکاری با نهاد ایمنی هوش مصنوعی چیست؟

موسسه امنیت هوش مصنوعی آمریکا که زیرمجموعه مؤسسه ملی استاندارد و فناوری NIST فعالیت میکند ماموریت تست و بررسی آسیبپذیریهای سیستمهای هوشمند را بر عهده دارد. این نهاد در سال ۲۰۲۳ با دستور مستقیم رئیسجمهور جو با یدن تا سیس شده و نایب رئیس کامالا هریس بر نقش حیاتی آن در مقابله با تهدیدهای سایبری و سوءاستفاده از تکنولوژی تأکید کرده است.

سام آلتمن مدیرعامل اوپنایآی پیش از این به مذاکرات با دولت آمریکا برای اشتراکگذاری دادهها اشاره کرده بود. اکنون به نظر میرسد این توافق به مرحله اجرا در آمده و شرکت آنتروپیک نیز در همین مسیر گام برمیدارد. اگرچه توافقنامهها بیشتر جنبه یادداشت تفاهم دارند و تضمین قانونی خاصی ایجاد نمیکنند اما دولت امکان دسترسی سریع به مدلهای حیاتی قبل از عرضه عمومی را خواهد داشت.

الیزابت کلی رئیس موسسه امنیت هوش مصنوعی در بیانیه اخیر خود بر ضرورت ایمنی در نوآوریهای فناوری تأکید کرد و همکاری با این دو شرکت را گامی در جهت پیشرفت علم هوش مصنوعی خواند. موسسه همتای بریتانیا نیز در این همکاری شریک خواهد بود و دادههای مهم بین دو طرف تبادل میشود.

قوانین جدید ایالتی برای کنترل هوش مصنوعی

ایمنی سرویسهای هوش مصنوعی به یکی از اولویتهای اصلی نهادهای نظارتی تبدیل شده است. ایالت کالیفرنیا اخیرا قانونی را تصویب کرده که بر اساس آن شرکتهایی که هزینه محاسباتی مدلهایشان بیش از صد میلیون دلار است موظفند استانداردهای ایمنی را رعایت کنند و کلید قطع اضطراری در محصولات خود تعبیه نمایند. دادستان کل ایالت تهدید کرده است شرکتهای متخلف از این قانون مورد پیگرد قضایی قرار خواهند گرفت.