شرکت آنتراپیک (Anthropic)، یکی از پیشگامان توسعه هوش مصنوعی امن و خالق مدل زبانی Claude، اعلام کرده که شرکت مشاوره جهانی اکسنتچر (Accenture) را به‌عنوان نخستین «ارزیاب نهادینه» (Embedded Evaluator) خود انتخاب کرده است. این همکاری در راستای اجرای پیشنهاد آنتراپیک برای «کاهش سرعت» توسعه هوش مصنوعی و تضمین ایمنی مدل‌های پیشرفته انجام می‌شود.
بر اساس این توافق، اکسنتچر وظیفه دارد به‌صورت مستقل و در طول فرآیند توسعه، مدل‌های هوش مصنوعی آنتراپیک را ارزیابی کند و اطمینان حاصل کند که روند توسعه این مدل‌ها با استانداردهای ایمنی و خط‌مشی «مقیاس‌پذیری مسئولانه» این شرکت همسو است. هدف اصلی این ابتکار، جلوگیری از انتشار مدل‌هایی است که ممکن است خطرات جبران‌ناپذیری به همراه داشته باشند.
باید توجه داشت که این همکاری انحصاری نیست. آنتراپیک اعلام کرده که در هفته‌های آینده ارزیابان دیگری را نیز معرفی خواهد کرد و با آن‌ها هم خواهد کرد. این رویکرد نشان‌دهنده تعهد این شرکت به شفافیت و نظارت چندجانبه بر توسعه هوش مصنوعی است.
این اقدام در فضایی صورت می‌گیرد که بحث درباره ایمنی هوش مصنوعی و خطرات مدل‌های پیشرفته، به یکی از مهم‌ترین موضوعات صنعت فناوری تبدیل شده است. حضور یک شرکت مشاوره بین‌المللی معتبر مانند اکسنتچر می‌تواند اعتبار و استقلال بیشتری به فرآیند ارزیابی مدل‌های هوش مصنوعی ببخشد.
به نقل از مگ دیجی
این همکاری نشان‌دهنده یک تغییر مهم در نحوه مدیریت ریسک و حاکمیت در صنعت هوش مصنوعی است. آنتراپیک که همواره خود را به‌عنوان شرکتی متعهد به ایمنی هوش مصنوعی معرفی کرده، با انتخاب اکسنتچر به‌عنوان ارزیاب نهادینه، در واقع یک لایه نظارتی مستقل به فرآیند توسعه مدل‌های خود اضافه کرده است. نکته کلیدی این خبر، غیرانحصاری بودن این همکاری است؛ به این معنا که آنتراپیک قصد دارد یک شبکه از ارزیابان مختلف ایجاد کند که هر کدام از زوایای متفاوتی به بررسی مدل‌های پیشرفته بپردازند. این رویکرد چندجانبه می‌تواند استاندارد جدیدی برای شفافیت در صنعت هوش مصنوعی تعریف کند. طرح «کاهش سرعت» هوش مصنوعی که به آن اشاره می‌شود، در واقع به خط‌مشی مقیاس‌پذیری مسئولانه این شرکت بازمی‌گردد؛ سیاستی که می‌گوید توسعه مدل‌های خطرناک‌تر باید با اقدامات ایمنی قوی‌تر همراه باشد. حضور اکسنتچر که یک شرکت مشاوره جهانی با تجربه گسترده در حوزه امنیت و انطباق است، می‌تواند به اجرای عملی این سیاست کمک کند. از دیدگاه بازار، این حرکت می‌تواند فشار رقابتی بر رقبای آنتراپیک مانند OpenAI و گوگل را افزایش دهد تا اقدامات مشابهی برای شفافیت و ارزیابی مستقل مدل‌های خود انجام دهند. همچنین این همکاری می‌تواند مسیر را برای ایجاد استانداردهای صنعتی در ارزیابی هوش مصنوعی هموار سازد و به سرمایه‌گذاران نشان دهد که شرکت‌های هوش مصنوعی در حال جدی گرفتن ریسک‌های این فناوری هستند.