هوش مصنوعی و یادگیری ماشینی
،
جغرافیایی خاص
،
فناوری های نسل بعدی و توسعه ایمن
Anthropic به ENISA یک مکان در Mission Glasswing ارائه می دهد
Anthropic به آژانس امنیت سایبری اتحادیه اروپا ENISA اجازه ورود به Project Glasswing را داده است، ترتیبی که سازمانها را برای دسترسی کنترلشده اولیه به مدل هوش مصنوعی Mythos آسیبپذیرش میدهد.
همچنین ببینید: چگونه هوش مصنوعی خطر قرار گرفتن در معرض داده های سازمانی را افزایش می دهد
لورا هووینک، سخنگوی ENISA این پیشنهاد را روز دوشنبه تایید کرد. بلومبرگ گزارش شده است در همان روزی که Anthropic به آژانس اجازه دسترسی به Mythos را داد.
هووینک به ISMG گفت: «آنها از ما دعوت کردهاند که دسترسی داشته باشیم و ما در حال بررسی راه کار کردن دسترسی بالقوه – شرایط و غیره هستیم.
اکنون نزدیک به دو ماه از آنتروپیک می گذرد وجود را آشکار کرد پیشنمایش Mythos، فعالیتهای زیادی را در بخش امنیت سایبری برانگیخت. Mythos یک تغییر مرحله ای را در توانایی مدل های هوش مصنوعی مولد برای شناسایی و بهره برداری از آسیب پذیری های نرم افزار نشان داد. نگرانی گسترده ای وجود دارد که به محض انتشار گسترده تری چنین مدلی، قدرت هک بی سابقه ای به افراد عادی می دهد.
آنتروپیک ماه ها به هیچ سازمان مستقر در اتحادیه اروپا اجازه دسترسی به Glasswing و Mythos را نداد. این امر باعث فشار شدید قانونگذاران بر کمیسیون اروپا شد که گفتند این قاره آسیب پذیر است. معاون اجرایی کمیسیون، هنا ویرکونن در ماه مه گفت که سازمانهای دولتی و خصوصی فقط باید به «ابزارهای سایبری پیشرفته در دسترس» بسنده کنند تا سیستمهای خود را برای یافتن اشکال اسکن کنند (نگاه کنید به: اروپا برای مقابله با مدلهای AI با یافتن اشکال آماده میشود).
در اواسط ماه مه، OpenAI رقیب Anthropic گفت که این کمیسیون را خواهد داد دسترسی به مدل جدید GPT-5.5-Cyber، که دارای قابلیت های مشابه Mythos است تجزیه و تحلیل توسط موسسه امنیت هوش مصنوعی دولت بریتانیا. OpenAI همچنین دسترسی به مدل پیشرفته شکار اشکال خود را محدود می کند.
در حال حاضر مشخص نیست که کدام آژانس اروپایی می تواند از مدل جدید OpenAI استفاده کند. دفتر هوش مصنوعی نوپای کمیسیون از ماه اوت قدرت تقاضا را به دست خواهد آورد، اما ENISA نیز یک احتمال است.
هووینک روز دوشنبه گفت که ENISA در حال مذاکره با Anthropic و OpenAI برای نهایی کردن شرایط دسترسی است. او گفت که آژانس و شرکتهای هوش مصنوعی هر کدام شرایطی دارند، اما مشخص نکرد که اینها چه هستند.
هووینک گفت: “ما امیدواریم در روزها یا هفته های آینده اخبار بیشتری داشته باشیم.” آنتروپیک به درخواستی برای اظهار نظر پاسخ نداد.
ظهور مدلهای جدید نگرانی خاصی را در بخش مالی ایجاد کرده است، به طوری که بانک مرکزی اروپا، صندوق بینالمللی پول و تنظیمکننده مالی آلمان بافین همگی در چند هفته گذشته هشدارهای فوری صادر کردهاند (نگاه کنید به: بانک مرکزی اروپا: هوش مصنوعی یعنی بانک های اروپایی باید سرعت امنیت سایبری را افزایش دهند).
بانک های اروپایی هنوز به Mythos دسترسی ندارند، اما Mistral فرانسه رقیبی برای این مدل ایجاد کرده است و با بانک هایی مانند BNP Paribas مستقر در پاریس صحبت می کند تا ابزارهایی برای تقویت دفاعی خود به آنها ارائه دهد، رسانه آلمانی Heise. گزارش شده است.
مارک کامو، مدیر ارشد اطلاعات BNP، “تغییر بازی سرعتی است که ما باید با آن آسیب پذیری ها و مقیاس را برطرف کنیم. تعداد زیادی از آنها به طور همزمان کشف می شوند.” گفت در یک کنفرانس مطبوعاتی با Mistral هفته گذشته. این دو شرکت از همکاری عمیق تر در زمینه امنیت سایبری خبر دادند. کامو گفت: «بنابراین ما باید خود را برای آن آماده کنیم و این چیزی است که ما واقعاً روی آن بسیار بسیار سخت کار می کنیم.
