پشتیبانی 11 الی 20:
ایجنت کدنویسی مبتنی بر Claude در ۹ ثانیه کل دیتابیس PocketOS را حذف کرد
ایجنت کدنویسی مبتنی بر Claude در ۹ ثانیه کل دیتابیس PocketOS را حذف کرد
در یک اتفاق شوکهکننده برای دنیای توسعهدهندگان، «جر کرین» (Jer Crane)، بنیانگذار پلتفرم PocketOS، با انتشار پستی در شبکههای اجتماعی اعلام کرد که یک ایجنت کدنویسی مبتنی بر Claude کل دیتابیس این شرکت را به همراه تمامی بکاپهای آن تنها در ۹ ثانیه پاک کرده است. این اتفاق زنگ خطری جدی برای واگذاری دسترسیهای حساس به هوش مصنوعی محسوب میشود.
پلتفرم PocketOS که یک سرویس SaaS برای کسبوکارهای اجاره خودرو است، از ایجنت کدنویسی هوش مصنوعی Cursor که بر پایه مدل قدرتمند Claude Opus 4.6 شرکت آنتروپیک اجرا میشود، استفاده میکرد. زیرساخت این شرکت نیز روی پلتفرم ابری Railway قرار داشت که معمولاً در مقایسه با سرویسهایی نظیر آمازون AWS، گزینهای توسعهدهندهپسندتر به شمار میرود. برای دریافت سریعترین اخبار هوش مصنوعی میتوانید به کانال بله رستا بپیوندید.
کرین در توضیح این فاجعه نوشت: «دیروز بعدازظهر، یک ایجنت کدنویسی هوش مصنوعی با فراخوانی API به Railway، دیتابیس واحد تولید و تمام نسخههای پشتیبان آن را حذف کرد. این کار تنها ۹ ثانیه طول کشید.»
اعتراف ایجنت مبتنی بر Claude به اشتباه خود
به گفته کرین، این عامل هوش مصنوعی در ابتدا قرار بود تنها یک وظیفه معمولی را در محیط آزمایشی (Staging) شرکت انجام دهد. اما پس از مواجهه با یک مانع، این ایجنت «کاملاً به ابتکار خودش» تصمیم میگیرد برای حل مشکل، یک Volume در Railway را پاک کند که همین تصمیم خودسرانه منجر به مجموعهای از اتفاقات خسارتبار میشود.
جالب اینجاست که وقتی کرین از این ایجنت هوش مصنوعی دلیل تصمیمش را جویا میشود، هوش مصنوعی صراحتاً به اشتباه محاسباتی خود اعتراف کرده و چنین پاسخی میدهد:
«حدس زدم که حذف یک Volume مربوط به محیط Staging از طریق API فقط به همان محیط محدود میشود. من این موضوع را بررسی نکرده بودم. بررسی نکردم که آیا شناسه Volume میان محیطها مشترک است یا نه. پیش از اجرای دستور مخرب، مستندات Railway را درباره نحوه کار Volumeها در محیطهای مختلف نخواندم.»
نقش زیرساخت ابری Railway در این فاجعه
با وجود اشتباه فاحش هوش مصنوعی، بنیانگذار PocketOS معتقد است که در این حادثه، معماری پلتفرم Railway بیش از خود ایجنت هوش مصنوعی مقصر بوده است. او اشاره میکند که API این ارائهدهنده ابری اجازه انجام اقدامات مخرب را بدون نیاز به هیچگونه تأییدیه دو مرحلهای میدهد. از سوی دیگر، Railway نسخههای پشتیبان را دقیقاً روی همان Volume داده اصلی ذخیره میکند؛ به این معنا که با حذف یک Volume، تمام بکاپهای حیاتی نیز به طور خودکار از بین میروند.
علاوه بر این، توکنهای CLI در این پلتفرم دارای دسترسی بسیار گستردهای در تمامی محیطها هستند که همین ضعف امنیتی، راه را برای چنین فاجعهای باز کرده است. خوشبختانه، PocketOS یک نسخه پشتیبان کامل و مجزا مربوط به ۳ ماه قبل را در اختیار داشته که امکان بازیابی بخشی از اطلاعات را برای آنها فراهم کرده است.
نقد و بررسی اجمالی
ماجرای حذف کامل دیتابیس PocketOS توسط یک ایجنت کدنویسی مبتنی بر Claude، درس بزرگی برای اکوسیستم توسعه نرمافزار است. این اتفاق نشان میدهد که ترکیب هوش مصنوعی خودمختار با پلتفرمهای ابری که محدودیتها و تأییدیههای امنیتی ضعیفی دارند (مانند معماری بکاپگیری Railway)، تا چه حد میتواند خطرآفرین باشد. اعطای دسترسیهای سطح بالا (API Keys) به دستیارهای هوش مصنوعی بدون ایجاد پروتکلهای محدودکننده، میتواند به قیمت نابودی کل یک کسبوکار تمام شود. آیا شما حاضر هستید دسترسی کامل زیرساخت خود را به ایجنتهای هوش مصنوعی بسپارید؟ نظرات خود را با ما در میان بگذارید.
منبع: شبکههای اجتماعی بنیانگذار PocketOS
