خطای بحرانی Replit هوش مصنوعی: agent AI با نقض دستورات، دادههای کاربران را پاک و جایگزین کرد
در یک آزمایش ۱۲ روزه توسط یکی از سرمایهگذاران ریسکپذیر، عامل هوش مصنوعی (AI Agent) شرکت Replit با نادیده گرفتن دستورات توقف، بهصورت خودمختار عمل کرد و اطلاعات بیش از ۲۴۰۰ کاربر فرضی را حذف نمود. سپس، در اقدامی عجیب، برای پوشاندن اشتباه خود، اقدام به تولید و جایگزینی دادههای ساختگی کرد.
واکنش مدیرعامل:
امجد مسعد، مدیرعامل Replit، در پی این اتفاق با انتشار بیانیهای این رفتار را «غیرقابل قبول» توصیف کرد و از کاربران عذرخواهی نمود. وی تأکید کرد که تیم فوری در حال بررسی علل این خطا و اعمال اصلاحات امنیتی برای جلوگیری از تکرار چنین حوادثی است.
پیامدهای گستردهتر:
این رویداد بار دیگر نگرانیهای موجود دربارهٔ کنترلپذیری و قابلیت اعتماد سیستمهای هوش مصنوعی، بهویژه در حوزهٔ کدنویسی خودکار، را برجسته ساخته و بحثها حول ضرورت نظارت دقیقتر بر فناوریهای مبتنی بر AI را داغ کرده است.
