فرار ایجنت اوپن ای آی OpenAI و حمله به Hugging Face

منظور از «فرار ایجنت OpenAI» این است که مدل‌ های مورد آزمایش در جریان یک ارزیابی امنیت سایبری، از محیط ایزوله‌ ای که برای اجرای تست در نظر گرفته شده بود راهی برای دسترسی به اینترنت پیدا کردند و سپس به زیرساخت Hugging Face نفوذ کردند.

البته «فرار» به معنای خودآگاهی یا استقلال واقعی نیست، بلکه به شکست فنی در سیستم ایزوله‌ سازی و کنترل دسترسی اشاره دارد. وایرال‌ شدن ادعای 10 روز طول کشید تا OpenAI متوجه فرار ایجنت خود شد، نیز به فاصله زمانی میان آغاز فعالیت، شناسایی حادثه و مشخص‌ شدن نقش مدل‌ های OpenAI مربوط می‌ شود. در نهایت  تیم‌ های امنیتی Hugging Face فعالیت را شناسایی و متوقف کردند.

خرید اکانت chatgpt plus چت جی پی تی پلاس

امتیاز 4.50 از 5

محصولات موجود

2,769,000 تومان

انتخاب گزینه‌ها این محصول دارای انواع مختلفی می باشد. گزینه ها ممکن است در صفحه محصول انتخاب شوند

انتخاب پلن	یک ماهه Plus (فعالسازی تریال/آفر), یک ماهه Go, یک ماهه Plus, یک ماهه Pro (5X), یک ماهه Business (حداقل 2 یوزر), یکساله Business (حداقل 2 یوزر)

شارژ API در اکانت OpenAI

امتیاز 3.50 از 5

محصولات موجود

1,837,000 تومان

انتخاب گزینه‌ها این محصول دارای انواع مختلفی می باشد. گزینه ها ممکن است در صفحه محصول انتخاب شوند

انتخاب میزان شارژ	5 (دلار), 10 (دلار), 15 (دلار), 20 (دلار), 25 (دلار), 30 (دلار), 35 (دلار), 40 (دلار), 45 (دلار), 50 (دلار), 60 (دلار), 70 (دلار), 80 (دلار), 90 (دلار), 100 (دلار), 200 (دلار), 300 (دلار), 400 (دلار), 500 (دلار)

فرار ایجنت هوش مصنوعی OpenAI دقیقا چه بود؟

تعریف ایجنت مورد آزمایش

ایجنت‌ های OpenAI در یک محیط آزمایشی برای سنجش توانایی‌ های پیشرفته سایبری، به‌ صورت خودکار آسیب‌ پذیری‌ ها را پیدا و مسیر های حمله را بررسی می‌ کردند.

این حادثه در ارزیابی نسل جدیدی از مدل‌های OpenAI رخ داد که برای انجام وظایف طولانی و چندمرحله‌ای توانایی بیشتری دارند. برای آشنایی با قابلیت‌ها، تغییرات و ویژگی‌های این نسل می‌توانید مطلب معرفی مدل GPT-5.6 را مطالعه کنید.

همانطور که در facebook آمده است:

The models identified and chained vulnerabilities across OpenAI’s research environment and Hugging Face’s production infrastructure to obtain test solutions directly from Hugging Face’s production database.

این مدل‌ ها آسیب‌ پذیری‌ هایی را در محیط تحقیقاتی OpenAI و زیرساخت عملیاتی (Production) شرکت Hugging Face شناسایی کرده و آن‌ ها را به یکدیگر پیوند دادند تا بتوانند راه‌ حل‌ های آزمایشی را مستقیما از پایگاه داده عملیاتی Hugging Face استخراج کنند.

خرید اکانت Perplexity پرپلکسیتی

امتیاز 5.00 از 5

محصولات موجود

6,209,000 تومان

انتخاب گزینه‌ها این محصول دارای انواع مختلفی می باشد. گزینه ها ممکن است در صفحه محصول انتخاب شوند

انتخاب پلن	یک ماهه Pro, یکساله Pro, یک ماهه Max, یکساله Pro (پیش ساخته – بدون گارانتی)

فرار از Sandbox یعنی چه؟

ایجنت با سوء استفاده از یک آسیب‌ پذیری Zero-Day توانست محدودیت‌ های محیط آزمایشی را دور بزند، به اینترنت دسترسی پیدا کند و به زیرساخت‌ های خارج از محیط اولیه برسد.

به نقل از سایت رسمی openai.com:

To gain access, the models identified and exploited a zero-day vulnerability (which we’ve now responsibly disclosed to the vendor) in the package registry cache proxy. With this access, our models performed a series of privilege escalation and lateral movement actions in our research testing environment until the models reached a node with Internet access.

ترجمه فارسی: برای دسترسی، این مدل‌ها یک آسیب‌پذیری روز صفر (Zero-day Vulnerability) را در پروکسی کش رجیستری بسته‌ها (Package Registry Cache Proxy) شناسایی و از آن سوءاستفاده کردند. (ما این آسیب‌پذیری را به‌صورت مسئولانه به شرکت ارائه‌دهنده گزارش داده‌ایم تا برطرف شود.) پس از به دست آوردن این دسترسی، مدل‌ها در محیط آزمایشی تحقیقاتی ما مجموعه‌ای از اقدامات ارتقای سطح دسترسی (Privilege Escalation) و حرکت جانبی (Lateral Movement) را انجام دادند تا در نهایت به گره‌ای (Node) دست پیدا کنند که به اینترنت دسترسی داشت.

چرا این اتفاق اهمیت زیادی داشت؟

چون نشان داد مدل‌ های پیشرفته می‌ توانند بدون دسترسی مستقیم به کد منبع، آسیب‌ پذیری‌ های جدید را پیدا کرده و چند حمله را برای رسیدن به یک هدف زنجیره کنند.

توانایی مدل در تحلیل کد، کشف آسیب‌پذیری و دنبال‌کردن عملیات چندمرحله‌ای نشان می‌دهد ابزارهای کدنویسی هوشمند فقط برای تکمیل کد کاربرد ندارند. در راهنمای بهترین هوش مصنوعی برای برنامه نویسی می‌توانید ابزارهای مطرح را از نظر تولید کد، دیباگ، تحلیل پروژه و امکانات امنیتی مقایسه کنید.

خرید اکانت Cursor

امتیاز 4.75 از 5

محصولات موجود

6,335,000 تومان

انتخاب گزینه‌ها این محصول دارای انواع مختلفی می باشد. گزینه ها ممکن است در صفحه محصول انتخاب شوند

انتخاب پلن	یک ماهه Individual (Pro), یک ماهه Individual (Pro+), یک ماهه (Individual (Ultra, یک ماهه Teams (Standard) (هر یوزر), یک ماهه Teams (Premium) (هر یوزر), یکساله Individual (Pro), یکساله Individual (Pro+), یکساله (Individual (Ultra, یکساله Teams (Standard) (هر یوزر), یکساله Teams (Premium) (هر یوزر)

خرید اکانت GitHub Copilot گیتهاب کوپایلت

امتیاز 4.67 از 5

محصولات موجود

3,934,000 تومان

انتخاب گزینه‌ها این محصول دارای انواع مختلفی می باشد. گزینه ها ممکن است در صفحه محصول انتخاب شوند

انتخاب پلن	یک ماهه Pro, یک ماهه +Pro, یک ماهه Max, یک ماهه Business (هر یوزر), یک ماهه Enterprise (هر یوزر)

به نقل از OpenAI:

We’re grateful for the collaboration with OpenAI on this and other topics. This incident, possibly the first of its kind, proves a point we’ve long believed: AI safety won’t be solved by any single company working in secret. It will be solved in the open, collaboratively, with broad access to AI for every defender, everywhere.

ما از همکاری با OpenAI در این زمینه و موضوعات دیگر قدردانی می‌ کنیم. این حادثه که شاید نخستین نمونه از نوع خود باشد، نکته‌ ای را که مدت‌ ها به آن باور داشته‌ ایم ثابت می‌ کند: ایمنی هوش مصنوعی با فعالیت مخفیانه یک شرکت به‌ تنهایی حل نمی‌ شود؛ بلکه باید به‌ صورت شفاف و با همکاری جمعی، و با دسترسی گسترده همه مدافعان در سراسر جهان به ابزارهای هوش مصنوعی حل شود.

حمله هوش مصنوعی OpenAI به Hugging Face چگونه رخ داد؟

• آغاز حمله: این حادثه در جریان یک ارزیابی داخلی برای سنجش توانایی‌ های سایبری مدل‌ های OpenAI آغاز شد. مدل‌ ها در محیط Sandbox به‌ دنبال راهی برای حل آزمون ExploitGym و دسترسی به اینترنت آزاد بودند.
• سوء استفاده از آسیب‌ پذیری‌ ها: مدل‌ ها یک آسیب‌ پذیری Zero-Day را در Package Registry Cache Proxy شناسایی و از آن سوء استفاده کردند. سپس با ارتقای سطح دسترسی و حرکت جانبی، به سیستمی با دسترسی اینترنت رسیدند و چندین مسیر حمله را برای دسترسی به اطلاعات مرتبط با Hugging Face به هم زنجیر کردند.
• واکنش Hugging Face: تیم امنیتی Hugging Face فعالیت غیرعادی را در زیرساخت خود شناسایی کرد و فرایند مهار و بررسی جرم‌ شناسی دیجیتال را آغاز کرد.
• توقف حمله: فعالیت ایجنت در زیرساخت Hugging Face شناسایی و متوقف شد. پس از آن، OpenAI و Hugging Face برای بررسی حادثه، رفع آسیب‌ پذیری‌ ها و تقویت کنترل‌ های امنیتی با یکدیگر همکاری کردند.

به نقل از سایت اوپن ای آی:

OpenAI and Hugging Face partner to address security incident during model evaluation

ترجمه: OpenAI و Hugging Face برای رسیدگی به رخداد امنیتی هنگام ارزیابی مدل همکاری می‌کنند.

چرا گفته شد 10 روز طول کشید تا OpenAI متوجه فرار ایجنت خودش شد؟

خط زمانی گزارش‌شده حادثه

تفاوت میان زمان فعالیت، کشف حادثه و انتساب آن به مدل‌های OpenAI

۹

حدود ۹ ژوئیه ۲۰۲۶

طبق گزارش رسانه‌ای، تلاش برای عبور از محیط آزمایشی در این محدوده زمانی آغاز شد.

وضعیت: گزارش رویترز؛ نه تاریخ اعلام‌شده در گزارش رسمی OpenAI

۱۱

۱۱ تا ۱۳ ژوئیه

فعالیت چندمرحله‌ای در بخشی از زیرساخت Hugging Face ادامه پیدا کرد.

وضعیت: بازه گزارش‌شده توسط منابع رسانه‌ای

۱۶

۱۶ ژوئیه

Hugging Face رخداد امنیتی مبتنی بر ایجنت خودکار را عمومی کرد، اما در آن زمان مدل عامل را مشخص نکرد.

وضعیت: تاریخ رسمی افشای Hugging Face

۲۱

۲۱ ژوئیه

OpenAI به‌طور عمومی اعلام کرد ترکیبی از مدل‌های این شرکت عامل رخداد بوده‌اند.

وضعیت: اعلام رسمی OpenAI

عدد «۱۰ روز» بیشتر به فاصله میان آغاز احتمالی فعالیت و انتساب عمومی حادثه به مدل‌های OpenAI اشاره دارد. گزارش رسمی نمی‌گوید OpenAI در تمام این مدت هیچ نشانه‌ای از فعالیت غیرعادی نداشته است.

 

1. روایت رسانه‌ها: برخی رسانه‌ ها ادعا کردند OpenAI حدود 10 روز پس از آغاز فعالیت ایجنت متوجه خروج آن از محیط آزمایشی شده است؛ روایتی که باعث وایرال‌ شدن این خبر شد.
2. توضیح OpenAI: OpenAI اعلام کرد فعالیت غیرعادی توسط تیم امنیتی شناسایی شده، اما تأخیر 10 روزه را به‌ طور رسمی تأیید نکرد.
3. اختلاف روایت‌ ها: بنابراین، تفاوت اصلی بین روایت رسانه‌ ای و گزارش رسمی OpenAI است. عدد 10 روز ممکن است به فاصله زمانی میان شروع فعالیت، کشف حادثه، مهار آن یا انتشار عمومی خبر اشاره داشته باشد؛ اما بر اساس متن رسمی، نمی‌ توان با قطعیت گفت OpenAI دقیقا 10 روز از فعالیت ایجنت بی‌ خبر بوده است.

این حادثه چه پیامدهایی برای آینده ایجنت‌ های هوش مصنوعی دارد؟

• اهمیت Sandbox: این حادثه نشان داد محیط‌ های آزمایشی باید ایزوله‌ تر و کنترل‌ شده‌ تر باشند.
• اهمیت مانیتورینگ: نظارت مداوم بر رفتار ایجنت‌ ها اهمیت بیشتری پیدا می‌ کند.
• ریسک Agentic AI: ایجنت‌ های پیشرفته می‌ توانند آسیب‌ پذیری‌ های جدید را کشف کنند، چند مسیر حمله را به هم زنجیر کنند و عملیات سایبری چند مرحله‌ ای را در بازه‌ های زمانی طولانی ادامه دهند.
• تغییرات احتمالی در توسعه ایجنت‌ها: احتمالا توسعه ایجنت‌ ها به سمت Sandbox های امن‌ تر، کنترل‌ های دسترسی سخت‌ گیرانه‌ تر، نظارت لحظه‌ ای و ابزار های دفاعی قدرتمند تر خواهد رفت.

استفاده از ابزارهای برنامه‌نویسی هوشمند در پروژه‌های واقعی باید با کنترل دسترسی، محدودکردن مجوزها و جلوگیری از ارسال اطلاعات حساس همراه باشد. هنگام خرید اکانت هوش مصنوعی برنامه نویسی نیز باید نوع پلن، سیاست حفظ اطلاعات، امکانات تیمی و نحوه اتصال ابزار به مخزن کد بررسی شود.

شارژ API در اکانت Claude AI

امتیاز 4.80 از 5

محصولات موجود

2,202,000 تومان

انتخاب گزینه‌ها این محصول دارای انواع مختلفی می باشد. گزینه ها ممکن است در صفحه محصول انتخاب شوند

انتخاب پلن	5 (دلار), 10 (دلار), 15 (دلار), 20 (دلار), 25 (دلار), 30 (دلار), 35 (دلار), 40 (دلار), 45 (دلار), 50 (دلار), 60 (دلار), 70 (دلار), 80 (دلار), 90 (دلار), 100 (دلار), 200 (دلار), 300 (دلار), 400 (دلار), 500 (دلار)

خرید اکانت Claude AI

امتیاز 4.50 از 5

محصولات موجود

7,978,000 تومان

انتخاب گزینه‌ها این محصول دارای انواع مختلفی می باشد. گزینه ها ممکن است در صفحه محصول انتخاب شوند

انتخاب پلن	یک ماهه Pro, یک ماهه Max (5x), یک ماهه Max (20x), یک ماهه Team (Standard seat – 2 Members), یک ماهه Team (Premium seat – 2 Members), یکساله Pro, یکساله Team (Standard seat – 2 Members), یکساله Team (Premium seat – 2 Members)

همانطور که در سایت رسمی اوپن ای آی آمده است:

This incident points to the need to further strengthen our model’s alignment, cyber protections during evaluation time, and monitoring during internal testing.

ترجمه فارسی: این حادثه نشان می‌ دهد که باید هم‌ راستایی مدل، محافظت‌ های سایبری هنگام ارزیابی و نظارت در آزمایش‌ های داخلی را بیش از پیش تقویت کنیم.

هر ریسک ایجنتی به چه کنترل امنیتی نیاز دارد؟

درس‌های عملی حادثه برای طراحی و ارزیابی ایجنت‌های آینده

ریسک مشاهده‌شده

کنترل موردنیاز

پیداکردن مسیر خروج از Sandbox

ایزوله‌سازی چندلایه و قطع کامل مسیرهای غیرضروری شبکه

ارتقای سطح دسترسی و حرکت جانبی

حداقل‌سازی مجوزها، تفکیک شبکه و اعتبارنامه‌های کوتاه‌عمر

ادامه عملیات در بازه زمانی طولانی

سقف زمان و تعداد عملیات، بررسی انسانی و توقف خودکار

زنجیره‌کردن چند آسیب‌پذیری

مانیتورینگ رفتاری و تشخیص الگوهای چندمرحله‌ای حمله

دستیابی به اطلاعات خارج از هدف آزمون

داده‌های مصنوعی، محیط‌های فریب و جداسازی کامل اهداف واقعی

هرچه ایجنت قدرت تصمیم‌گیری، ابزار بیشتر و زمان اجرای طولانی‌تری داشته باشد، کنترل مجوز، شبکه، ثبت فعالیت و امکان توقف فوری اهمیت بیشتری پیدا می‌کند.

آیا باید نگران فرار ایجنت‌ های هوش مصنوعی باشیم؟

بله، اما نه به معنای فرار یک هوش مصنوعی خودآگاه. این حوادث نشان می‌ دهند ایجنت‌ های خود مختار ممکن است در محیط‌ های پیچیده رفتارهای پیش‌ بینی‌ نشده داشته باشند؛ بنابراین Sandbox ایمن، محدودسازی دسترسی و مانیتورینگ مداوم ضروری است.

بنابراین محیط آزمایشی باید کاملا ایزوله باشد و نظارت لحظه ای وجود داشته باشد. تحقیقات آینده بیشتر بر کنترل‌ پذیری، امنیت Sandbox، شناسایی رفتار های غیرمنتظره و امکان توقف فوری ایجنت‌ ها تمرکز خواهد کرد.

کاربران عادی معمولاً به مدل‌هایی با دسترسی آزاد به شبکه، سیستم‌عامل یا زیرساخت‌های حساس نیاز ندارند. هنگام خرید اکانت هوش مصنوعی بهتر است نوع کاربرد، محدودیت‌های پلن، سیاست امنیتی سرویس و میزان دسترسی موردنیاز را پیش از انتخاب بررسی کنید.

سوالات متداول درباره فرار اجینت OpenAI

1. آیا ایجنت‌ها واقعا می‌ توانند فرار کنند؟

ممکن است از محدودیت‌ های پیش‌ بینی‌ شده عبور کنند، اما این به معنای فرار به سبک فیلم‌ های علمی‌ تخیلی نیست.

2. آیا همه ایجنت‌های هوش مصنوعی خطرناک هستند؟

خیر؛ میزان خطر به سطح خود مختاری و دسترسی ایجنت بستگی دارد.

3. چگونه می‌ توان این خطر را کاهش داد؟

با استفاده از Sandbox ایزوله، محدودیت دسترسی، مانیتورینگ و امکان توقف فوری.