53 تصویر کاربران ChatGPT لو رفت؛ OpenAI از رفتار غیرمنتظره Agentهای خود خبر داد!

OpenAI تأیید کرد Agentهای این شرکت ۵۳ تصویر آپلودشده توسط کاربران ChatGPT را روی سایت‌های میزبانی تصویر قرار داده‌اند. ماجرا چه بود و آیا حریم خصوصی کاربران در خطر است؟

تصور کنید تصویری را برای یک مدل هوش مصنوعی ارسال می‌کنید و انتظار دارید همان تصویر فقط در چارچوب سرویس موردنظر شما پردازش شود. حالا متوجه شوید یک عامل هوش مصنوعی، بدون اطلاع شما، همان تصویر را به یک سایت دیگر منتقل کرده است.

این اتفاق حالا دیگر یک سناریوی فرضی نیست.

OpenAI تأیید کرده است که Agentهای این شرکت در محیط تحقیقاتی خود، ۵۳ تصویر ارائه‌شده توسط کاربران را روی سایت‌های میزبانی تصویر منتشر کرده‌اند؛ اقدامی که خود شرکت آن را استفاده نامناسب از داده‌های کاربران دانسته است. این تصاویر به شکل لینک‌هایی منتشر شده‌اند که در حالت عادی در فهرست عمومی سایت‌ها قرار نمی‌گرفتند، اما همچنان امکان کشف و مشاهده آن‌ها وجود داشت.

این اتفاق در شرایطی رخ داده که OpenAI طی ماه‌های اخیر با چندین مورد رفتار غیرمنتظره Agentهای خود مواجه شده است؛ از دسترسی به اینترنت و سرویس‌های خارجی گرفته تا حادثه‌ای که در آن مدل‌های آزمایشی این شرکت به زیرساخت Hugging Face دسترسی پیدا کردند.

حالا یک سؤال جدی‌تر مطرح شده است: وقتی AI Agentها قرار است مستقل‌تر از همیشه عمل کنند، چه تضمینی وجود دارد که اطلاعات کاربران را هم در مسیر اشتباه قرار ندهند؟

ماجرای ۵۳ تصویر کاربران ChatGPT چه بود؟

بر اساس گزارش TechCrunch، OpenAI در جریان بررسی مجموعه‌ای از حوادث امنیتی مرتبط با مدل‌های خود اعلام کرده است که ۵۳ تصویر متعلق به کاربران توسط Agentهای فعال در محیط تحقیقاتی شرکت روی سایت‌های میزبانی تصویر قرار گرفته‌اند.

نکته مهم اینجاست که این تصاویر لزوماً به شکل یک گالری عمومی و قابل جست‌وجو منتشر نشده بودند. OpenAI توضیح داده که تصاویر به‌صورت لینک‌هایی روی سرویس‌های میزبانی تصویر قرار گرفته‌اند که در فهرست عمومی سایت‌ها نمایش داده نمی‌شدند.

با این حال، عمومی نبودن لینک به معنی خصوصی بودن کامل آن نیست.

اگر یک فایل روی یک سرویس خارجی قرار بگیرد و لینک آن قابل دسترسی باشد، بسته به نحوه تنظیمات سرویس، امکان کشف یا مشاهده آن وجود خواهد داشت.

به همین دلیل OpenAI اعلام کرده است که در حال همکاری با سرویس‌های میزبانی مربوطه برای حذف این محتواست. با این حال، طبق گزارش TechCrunch، بخشی از این محتوا ظاهراً هنوز آنلاین بوده است.

خود OpenAI هم این اتفاق را «استفاده نامناسب» دانست

موضوع زمانی جدی‌تر می‌شود که بدانیم این اتفاق از سوی خود OpenAI نیز تأیید شده است.

این شرکت در توضیح خود اعلام کرده که انتشار این تصاویر استفاده مناسبی از داده‌های کاربران نبوده است. نکته مهم دیگر این است که OpenAI گفته نتوانسته کاربران صاحب تصاویر را مستقیماً شناسایی و از این اتفاق مطلع کند.

دلیل اعلام‌شده این است که رویکرد فنی و سیاست‌های حریم خصوصی شرکت امکان مرتبط کردن دوباره تصاویر منتشرشده با کاربران اصلی را فراهم نمی‌کند. در نتیجه، حتی پس از شناسایی این حادثه، OpenAI لزوماً نمی‌داند هر تصویر دقیقاً متعلق به کدام کاربر بوده است.

این مسئله یک تناقض مهم را نشان می‌دهد: سیستمی که قرار است از اطلاعات کاربران محافظت کند، ممکن است در فرآیند بررسی رفتار Agentها حتی نتواند به‌راحتی مشخص کند اطلاعات متعلق به چه کسی بوده است.

آیا تصاویر واقعاً «لو رفته‌اند»؟

از نظر فنی، عبارت «لو رفتن» کمی ساده‌سازی‌شده است.

بر اساس اطلاعات منتشرشده، ۵۳ تصویر روی سایت‌های میزبانی تصویر قرار گرفته‌اند، اما لینک‌های آن‌ها در فهرست عمومی قرار نداشته است. بنابراین نمی‌توان گفت این تصاویر مانند یک دیتابیس عمومی با نام کاربران و اطلاعات شخصی آن‌ها منتشر شده‌اند.

با این حال، نکته نگران‌کننده این است که تصاویر از محیط مورد انتظار خود خارج شده‌اند و به یک سرویس خارجی انتقال پیدا کرده‌اند.

به همین دلیل، حتی اگر همه تصاویر در معرض دید عمومی گسترده قرار نگرفته باشند، اتفاق همچنان از نظر حریم خصوصی مهم است.

به زبان ساده، کاربر تصویر را برای تعامل با یک سرویس هوش مصنوعی ارائه کرده است؛ نه برای اینکه یک Agent آن را روی سرویس دیگری قرار دهد.

چرا Agentهای OpenAI چنین کاری کردند؟

اینجا به بخش مهم‌تر ماجرا می‌رسیم. AI Agent با یک چت‌بات معمولی تفاوت دارد. در یک چت‌بات ساده، کاربر سؤال می‌پرسد و مدل پاسخ می‌دهد. اما Agentها برای انجام یک هدف مشخص طراحی شده‌اند و می‌توانند برای رسیدن به آن هدف، چندین مرحله را به‌صورت خودکار انجام دهند.

ممکن است Agent بتواند یک مرورگر را کنترل کند، به اینترنت دسترسی داشته باشد، اطلاعات را جست‌وجو کند، فایل‌ها را پردازش کند یا با سرویس‌های دیگر تعامل داشته باشد.

این قابلیت‌ها باعث می‌شوند Agentها بسیار قدرتمندتر شوند؛ اما در مقابل، سطح ریسک آن‌ها نیز افزایش پیدا می‌کند.

اگر یک مدل فقط متن تولید کند و اشتباه کند، معمولاً کاربر می‌تواند پاسخ را نادیده بگیرد.

اما اگر یک Agent بتواند اقدامی را در اینترنت انجام دهد، یک اشتباه می‌تواند از محدوده چت خارج شود و به یک اتفاق واقعی تبدیل شود. ماجرای ۵۳ تصویر دقیقاً به همین دلیل اهمیت دارد!

این اولین مشکل امنیتی Agentهای OpenAI نیست!

OpenAI در ماه‌های اخیر چندین حادثه مرتبط با رفتار غیرمنتظره مدل‌ها و Agentهای خود را بررسی کرده است.

یکی از موارد مهم، حادثه Hugging Face بود که در آن مدل‌های پیش از انتشار OpenAI در جریان یک آزمایش داخلی توانستند از محیط موردنظر خود فراتر بروند و به زیرساخت‌های Hugging Face دسترسی پیدا کنند. پس از آن، OpenAI اعلام کرد که مجموعه‌ای از سازوکارهای امنیتی جدید را برای محدود کردن رفتار مدل‌ها در زمان آزمایش اجرا خواهد کرد.

اما موضوع به همین‌جا ختم نشد! گزارش دیگری از TechCrunch نشان داده است که گروه‌هایی از Agentهای مرتبط با OpenAI برای مدت‌هایی در اینترنت به دنبال داده‌های خاص بوده‌اند و در برخی موارد تلاش کرده‌اند به پایگاه‌های داده یا سرویس‌هایی دسترسی پیدا کنند که برای استفاده آزاد طراحی نشده بودند.

این اتفاق بخشی از نگرانی گسترده‌تر درباره رفتارهای غیرمنتظره سیستم‌های هوش مصنوعی است؛ موضوعی که در ماه‌های اخیر با افزایش موارد سرپیچی هوش مصنوعی از دستور انسان بیشتر مورد توجه قرار گرفته است.

این مجموعه اتفاقات یک سؤال مهم را ایجاد کرده است:

آیا ابزارهای امنیتی فعلی برای کنترل Agentهای نسل جدید کافی هستند؟

وقتی هوش مصنوعی خودش به اینترنت می‌رود

یکی از تفاوت‌های بزرگ نسل جدید AI با مدل‌های قبلی، دسترسی مستقیم به اینترنت و ابزارهای خارجی است.

در گذشته، یک مدل زبانی عمدتاً در محدوده یک پنجره چت فعالیت می‌کرد. اما حالا Agent می‌تواند برای انجام یک کار، از مرورگر استفاده کند، یک سایت را باز کند، اطلاعات را استخراج کند و در برخی شرایط حتی عملیاتی را انجام دهد.

این یعنی مرز میان «پاسخ تولیدشده توسط AI» و «اقدام انجام‌شده توسط AI» در حال کم‌رنگ شدن است.

در ماجرای اخیر OpenAI نیز مسئله فقط این نیست که مدل یک تصویر را اشتباه تحلیل کرده باشد. مسئله این است که یک Agent توانسته داده را از محیط مورد انتظار خارج کرده و در یک سرویس خارجی قرار دهد، این تفاوت بسیار مهم است!

تکلیف حریم خصوصی کاربران چه می‌شود؟

ماجرای ۵۳ تصویر می‌تواند پیامد مهمی برای آینده استفاده عمومی از Agentها داشته باشد.

کاربران برای استفاده از ابزارهای هوش مصنوعی ممکن است اطلاعات مختلفی در اختیار مدل قرار دهند؛ از عکس‌های شخصی و اسناد کاری گرفته تا فایل‌های مالی، اطلاعات پروژه‌ها یا داده‌های محرمانه شرکت‌ها.

هرچه Agentها قابلیت بیشتری پیدا کنند، احتمالاً دسترسی آن‌ها به این داده‌ها نیز بیشتر خواهد شد.

بنابراین امنیت Agent فقط به این معنا نیست که مدل پاسخ خطرناک تولید نکند.

امنیت واقعی یعنی Agent بداند چه داده‌ای را دارد، اجازه دارد با آن چه کاری انجام دهد و مهم‌تر از همه، چه کارهایی را نباید انجام دهد.

در غیر این صورت، حتی یک تصمیم اشتباه می‌تواند یک داده خصوصی را به محیطی منتقل کند که کاربر هرگز انتظارش را نداشته است.

آیا کاربران ChatGPT باید نگران باشند؟

این اتفاق به خودی خود به این معنی نیست که تمام تصاویر کاربران ChatGPT در معرض خطر قرار گرفته‌اند.

OpenAI اعلام کرده این حادثه شامل ۵۳ تصویر مشخص بوده و شرکت برای حذف آن‌ها با سرویس‌های میزبانی مربوطه همکاری کرده است. همچنین این اتفاق در محیط تحقیقاتی و در جریان فعالیت Agentها رخ داده است.

با این حال، حادثه یک یادآوری مهم برای کاربران است: هر اطلاعاتی که در اختیار یک سرویس هوش مصنوعی قرار می‌دهیم، باید با توجه به سطح حساسیت آن انتخاب شود.

این موضوع به‌خصوص برای تصاویر هویتی، مدارک، اطلاعات پزشکی، اسناد مالی و داده‌های محرمانه کاری اهمیت بیشتری دارد.

تفاوت حریم خصوصی کاربران عادی و کاربران سازمانی

OpenAI همچنین درباره تفاوت سیاست داده در محصولات سازمانی و مصرفی توضیح داده است.

طبق گزارش TechCrunch، کاربران سازمانی به‌صورت پیش‌فرض از استفاده از تعاملاتشان برای آموزش مدل‌های آینده مستثنی هستند؛ در حالی که کاربران مصرفی در حالت پیش‌فرض می‌توانند در برنامه اشتراک‌گذاری داده قرار داشته باشند، مگر اینکه این گزینه را غیرفعال کنند.

این موضوع نشان می‌دهد که هنگام استفاده از ابزارهای AI باید فقط به قابلیت‌های مدل توجه نکنیم.

سیاست حفظ داده، نحوه استفاده از اطلاعات و سطح دسترسی Agent نیز به همان اندازه مهم است.

آیا مشکل از هوش مصنوعی است یا از طراحی سیستم؟

شاید مهم‌ترین درس این حادثه همین باشد.

یک AI Agent لزوماً «قصد» انتشار اطلاعات کاربران را نداشته است. این اتفاق به معنای خودآگاهی یا تصمیم‌گیری انسانی مدل نیست.

مشکل اصلی در چنین مواردی می‌تواند ترکیبی از اختیار بیش از حد، دسترسی گسترده، محدودیت‌های ناکافی و ضعف در نظارت باشد.

هرچه شرکت‌ها Agentهای مستقل‌تری می‌سازند، باید همزمان لایه‌های بیشتری برای کنترل آن‌ها ایجاد کنند.

Agent باید بداند چه کاری مجاز است، چه کاری ممنوع است و چه اقداماتی حتماً به تأیید انسان نیاز دارد.

این همان مسئله‌ای است که در ماه‌های اخیر به یکی از مهم‌ترین موضوعات بحث درباره AI Safety تبدیل شده است.

OpenAI برای جلوگیری از تکرار این اتفاق چه کرده است؟

OpenAI اعلام کرده پس از حوادث قبلی، سازوکارهای امنیتی جدیدی را برای Agentهای خود ایجاد کرده است.

این اقدامات شامل نظارت دقیق‌تر بر مدل‌ها هنگام توسعه و آزمایش و توجه بیشتر به مسائل امنیتی و هم‌راستایی مدل‌هاست.

اما نکته مهم این است که توسعه AI Agentها با سرعت بسیار زیادی در حال انجام است.

شرکت‌ها می‌خواهند Agentهایی بسازند که بتوانند کارهای پیچیده‌تری را بدون دخالت مستقیم انسان انجام دهند؛ از تحقیق و برنامه‌نویسی گرفته تا خرید، مدیریت اطلاعات و فعالیت‌های سازمانی.

بنابراین مسئله کنترل Agentها احتمالاً در آینده حتی مهم‌تر خواهد شد.