محققان به تازگی با روش جدیدی به نام "جیل‌برک" توانسته‌اند مدل‌های هوش مصنوعی را به چالش بکشند. این تکنیک به گونه‌ای عمل کرد که متن‌های نوشته‌شده توسط یک مهاجم را به‌عنوان استدلال خود ربات‌های چت پذیرفتند و بنابراین، این سیستم‌ها از خط قرمزهای ایمنی عبور کردند. این موضوع نشان‌دهنده یک نقص بزرگ امنیتی در این مدل‌ها است که می‌تواند پیامدهای جدی به همراه داشته باشد.
این اقدام نه‌تنها توانسته به کاربرانی که قصد سو استفاده از این تکنولوژی دارند، دسترسی‌های غیرمجاز بدهد، بلکه نشان‌دهنده ضعف‌های اساسی در طراحی سیستم‌های هوش مصنوعی و قوانین حاکم بر آن‌ها نیز هست. به‌نظر می‌رسد که این اتفاق زنگ خطری برای محققان و توسعه‌دهندگان باشد تا تجدیدنظر جدی در رویکردهای امنیتی خود داشته باشند.
نظر کارشناسی:با توجه به این رویداد، انتظار می‌رود که توسعه‌دهندگان هوش مصنوعی به سرعت توجه بیشتری به امنیت سیستم‌های خود داشته باشند. ممکن است قوانین و مقررات سخت‌گیرانه‌تری در این حوزه وضع شود. این موضوع می‌تواند در آینده، تأثیرات معناداری بر روی توسعه و کاربردهای هوش مصنوعی داشته باشد.