پژوهشگران ادعا می‌کنند که یک تکنیک جدید برای هک کردن هوش مصنوعی، این مدل‌ها را فریب داده است که متن‌های نوشته‌شده توسط حمله‌کننده را به عنوان استدلال خودشان تلقی کنند. این روش موفق شده است تا از محدودیت‌های امنیتی عبور کند و یک نقص امنیتی عمیق‌تر را به نمایش بگذارد.
در واقع، این تحقیق نشان می‌دهد که حتی مدل‌های پیشرفتهٔ هوش مصنوعی نیز می‌توانند تحت فشار و فریب قرار بگیرند، و این موضوع نگرانی‌هایی جدی دربارهٔ امنیت این فناوری‌ها ایجاد کرده است. با پیشرفت تکنیک‌ها، احتمال سوءاستفاده از این نوع سیستم‌ها در زمینه‌های مختلف، به ویژه در حوزه‌های غیرقانونی، در حال افزایش است.
نظر کارشناسی:این خبر یک زنگ خطر برای توسعه‌دهندگان هوش مصنوعی است که باید به فکر تقویت امنیت سیستم‌های خود باشند. احتمالاً در آینده، شاهد محدودیت‌های بیشتری در آموزش و برنامه‌ریزی مدل‌های AI خواهیم بود. همچنین، این موضوع می‌تواند منجر به افزایش نظارت بر کاربردهای این فناوری‌ها باشد.