یک مطالعه جدید نشان میدهد که به رغم پیشرفتهای زیادی که در زمینهی هوش مصنوعی صورت گرفته، این فناوری هنوز هم در برابر حملات تزریق دستوری آسیبپذیر است. در حال حاضر، شرکتها به سرعت در حال بهرهبرداری از تکنولوژیهای AI هستند و وارد بازارهای عمومی میشوند، اما این مسئله نگرانیهایی را نیز به وجود آورده است.
تکنیک تزریق دستوری به دنبال سوءاستفاده از ظرفیتهای هوش مصنوعی است تا اطلاعات نادرست یا مخرب را به سیستمهای هوشمند وارد کند. این آسیبپذیری میتواند منجر به استفاده نا بهینه از AI شود و در نتیجه، اعتماد عمومی به این فناوری را تحتالشعاع قرار دهد.
نظر کارشناسی: با گسترش استفاده از AI، نیاز به امنیت سایبری در این حوزه بیشتر از همیشه اهمیت پیدا کرده است. به نظر میرسد که توسعهدهندگان باید به شدت روی ایمنسازی سیستمهای خود کار کنند تا از این نوع حملات جلوگیری شود. در غیر این صورت، ممکن است با کاهش کارایی و اعتبار فناوریهای هوش مصنوعی مواجه شویم.