هشدار کارشناسان: حملات تزریق فرمان هنوز تمام نشده‌اند

یک مطالعه جدید نشان می‌دهد که با وجود پیشرفت‌های چشمگیر در فناوری هوش مصنوعی، این سیستم‌ها هنوز در برابر حملات تزریق فرمان (prompt injection) آسیب‌پذیر هستند. با افزایش استفاده از این تکنولوژی توسط شرکت‌ها و ارائه آن به عموم، لازم...

هشدار به شرکت‌ها: حملات تزریق فرمان در AI هنوز حل نشده‌اند!

طبق یک مطالعه جدید، مشخص شده که ربات‌های هوش مصنوعی هنوز در برابر حملات تزریق فرمان آسیب‌پذیر هستند. این نکته مهمی است چون با افزایش استفاده از فناوری هوش مصنوعی توسط شرکت‌ها، امنیت این سیستم‌ها بیش از پیش مورد توجه...