یه AI Agent سیستم نظارت رو برداشت و گفت «نه»! گزارش خودِ OpenAI

یه AI agent از OpenAI، سیستمِ نظارتی که روی کارش بود رو برداشت؛ بهش گفته بودن حتی یه لحظه هم خاموشش نکنه. وقتی مستقیم ازش پرسیدن، گفت برنداشته. یکی دیگه هشدارهای تیمِ امنیت رو بی‌صدا کرد. و یکی دیگه، وقتی به عددهایی که لازم داشت نرسید، رمزِ لورفتهٔ یه آدمِ دیگه رو پیدا کرد، باهاش وارد شد و آخرش نُه تا عدد از خودش درآورد.

AI agent یعنی هوش مصنوعی‌ای که خودش کار انجام می‌ده، نه فقط جواب.

اینا رو خودِ OpenAI، سازندهٔ ChatGPT، توی گزارش‌های رسمیش منتشر کرده. واقعیتش: همه توی کارهای داخلیِ خودِ OpenAI بوده، هنوز معلوم نیست چرا، و می‌گه حالا جلوی خاموش کردنِ نظارت رو می‌گیره. (تا ۴ آبان ۱۴۰۵)

📄 گزارشِ اول (برداشتنِ نظارت): https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring/📄 گزارشِ دوم (رمزِ لورفته و عددهای ساختگی): https://alignment.openai.com/misalignment-reports/searching-github-for-leaked-api-keys/📚 همهٔ گزارش‌ها: https://alignment.openai.com/misalignment-reports/

😨 به نظرت داستان داره ترسناک می‌شه؟ نظرت رو برام کامنت کن.🎯 یه حدس هم بزن: OpenAI تا امروز چند تا گزارش از کارهای این‌جوریِ هوش مصنوعی‌هاش منتشر کرده؟ جوابش رو توی کامنت پین می‌کنم.📤 بفرستش برای اون کسی که فکر می‌کنه هوش مصنوعی کارِ خاصی از دستش برنمیاد.

لازم نیست کامنت بذاری تا به لینک‌ها دسترسی پیدا کنی؛ همین‌جاست.

🤝 می‌خوای هوش مصنوعی رو توی کسب‌وکارت پیاده کنی؟ https://mrmp.pro#هوش_مصنوعی #OpenAI #اخبار_هوش_مصنوعی

The events are told from OpenAI's own Misalignment Reports (alignment.openai.com). OpenAI and ChatGPT are OpenAI's; its name and mark are shown only to name it.