یک شبیهسازی 15 روزه از عاملهای هوش مصنوعی نشان میدهد که چرا آزمایشهای کوتاهمدت ممکن است ریسکهای بلندمدت ناشی از ابزارها، قوانین و دیگر عاملها را نادیده بگیرند. به زبان سادهتر، یک هوش مصنوعی که در شرایط کنترل شده به نظر میرسد، ممکن است در تعاملات واقعی و در کنار دیگر عاملها، خطرات غیرقابل پیشبینی ایجاد کند.
برای مثال، اگر یک هوش مصنوعی تحت تأثیر فعالیتهای غیرقابل پیشبینی دیگر عاملها قرار بگیرد، ممکن است رفتارهایی را از خود بروز دهد که به سادگی نمیتوان آنها را در آزمایشهای کوتاه مدت شناسایی کرد. این موضوع نشاندهندهی اهمیت بررسی دقیقتر و عمیقتر هوشهای مصنوعی در محیطهای واقعی است.
نظر کارشناسی:با توجه به این شبیهسازی، باید به یاد داشت که تواناییهای هوش مصنوعی در شرایط نامناسب میتواند عواقب جدی در پی داشته باشد. همچنین، نهادها و شرکتها باید در ارزیابی سیستمهای هوش مصنوعی خود محتاطتر عمل کنند. پیشبینی میشود که این نوع از خطرات در سالهای آتی بیشتر خود را نشان دهند.
منبع: Cointelegraph (مشاهده متن اصلی)
magdigi.ir/post/4588
کپی شد!