یک شبیهسازی ۱۵ روزه از یک عامل هوش مصنوعی نشان میدهد که آزمونهای کوتاهمدت ممکن است خطرات بلندمدت را که توسط ابزارها، قوانین و دیگر عوامل شکل میگیرند، نادیده بگیرند. احتمالاً این نکته بارها در دنیای کریپتو شنیدهاید که یک سیستم یا ابزار با وجود ظاهر ایمن، میتواند در پیوند با شرایط نادرست به معضلات بزرگی تبدیل شود.
شاید فکر کنید که چون یک هوش مصنوعی به صورت ایمن و تحت نظارت طراحی شده، هیچگاه تبدیل به یک خطر نخواهد شد. اما واقعیت این است که با وجود آنکه شرایط اولیه ممکن است ایمن به نظر برسد، عوامل محیطی میتوانند به سرعت زنجیرهای از مشکلات بهوجود آورند و در نهایت، تاثیرات منفی بر روی عملکرد این سیستمها بگذارند.
نظر کارشناسی:به نظر میرسد کنترل و نظارت بر فناوریهای هوش مصنوعی حیاتی است، بهخصوص در شرایطی که این ابزارها به صورت گستردهتری به کار گرفته میشوند. همچنین، باید به وابستگیهای بینابینی این سیستمها و دیگر ابزارها توجه ویژهای داشته باشیم. در غیر این صورت، ممکن است در آینده با خطرات غیرقابل پیشبینی روبرو شویم.
منبع: Cointelegraph (مشاهده متن اصلی)
magdigi.ir/post/3564
کپی شد!