محدودیت علی بابا برای کلود کُد به خاطر نگرانی های امنیتی سازمانی

علی‌بابا استفاده از کلود کُد را به‌دلیل نگرانی‌های امنیتی محدود می‌کند

به‌گزارش یک منبع مطلع، علی‌بابا از تاریخ 10 ژوئیه ممنوعیت سراسری استفاده از کلود کُد آنتروپیک در محیط‌های کاری داخلی را صادر کرده است. این اقدام که گویا ناشی از نگرانی‌ها درباره احتمال وجود درِپشتی‌های جاسازی‌شده در دستیار برنامه‌نویسی است، به آنتروپیک فشار وارد می‌کند چون شرکت‌ها در حال بازنگری ریسک مدل‌های هوش مصنوعی و امنیت زنجیره تأمین هستند.

معنای محدودیت علی‌بابا

گفته می‌شود این محدودیت در تمام سیستم‌های داخلی علی‌بابا و محیط‌های توسعه‌دهندگان اعمال می‌شود. تا زمان انتشار گزارش، علی‌بابا بیانیه رسمی منتشر نکرده و منبع، جزئیات مربوط به یافته‌های امنیتی مشخص یا دامنه فنی دقیقِ ادعایی درِپشتی‌ها را افشا نکرده است.

تبعات برای شرکت‌ها و محدودیت‌های منطقه‌ای

این پسرفت اخیر پس از محدودیت‌های مشابه در سطح شرکت‌ها در هنگ کنگ رخ داده است، جایی که شرکت‌های بزرگ مالی دسترسی به مدل‌های کلود را محدود کرده‌اند. در ماه ژوئن گزارش‌ها حاکی از آن بود که جی‌پی‌مورگان به کارکنان خود در هنگ کنگ اجازه انتخاب کلود را در میان مدل‌های بزرگ زبانی تأییدشده نداده است به‌دلیل شرایط مجوز و سیاست‌های محدودسازی جغرافیایی. گلدمن ساکس نیز ظاهراً پس از تعیین اینکه شرایط آنتروپیک استفاده در سراسر منطقه چین بزرگ، از جمله هنگ کنگ را مستثنی می‌کند، محدودیت‌های مشابهی اعمال کرده است.

چرا بانک‌ها و فین‌تک‌ها محتاط‌اند

مؤسسات مالی و شرکت‌های فین‌تک نسبت به یکپارچه‌سازی هوش مصنوعی پیشرفته در جریان‌های کاری حیاتی مانند تولید کد، تحقیق خودکار و ابزارهای معامله‌گری روزافزون محتاط‌اند. نگرانی‌ها از انطباق قانونی و محل نگهداری داده تا روش‌های فرار از محدودیت مدل که ممکن است امکان سوءاستفاده فراهم کند، متغیر است. برای شرکت‌های رمزارزی و بلاک‌چین که به خطوط توسعه‌ای امن وابسته‌اند، احتمال وجود آسیب‌پذیری‌های پنهان در یک دستیار برنامه‌نویسی مبتنی بر هوش مصنوعی ریسک عملیاتی جدی محسوب می‌شود.

تحولات اخیر آنتروپیک در حوزه مقررات و ایمنی

آنتروپیک چند هفته پرتلاطمی را پشت سر گذاشته است. در 1 ژوئیه، این شرکت پس از لغو محدودیت‌های صادراتی ایالات متحده دسترسی عمومی به جدیدترین مدل‌های خود، کلود فِیبل 5 و مایتوس 5، را بازگرداند. آنتروپیک گفت پس از مذاکرات با مقامات آمریکایی و با افزودن طبقه‌بندهایی برای شناسایی و مسدودسازی وظایف مرتبط با امنیت سایبری، استقرارها را از سر گرفت، اقداماتی که برای کاهش مسیرهای فرار از محدودیت و سوءاستفاده طراحی شده‌اند.

موضع شرکت و همکاری با دولت

آنتروپیک از فناوری خود دفاع کرده و استدلال کرده است که فرارهای گزارش‌شده از محدودیت‌ها روش‌های فرار محدود و خاصی بوده‌اند نه فروپاشی کلی ایمنی مدل. این شرکت همچنین از گسترش همکاری با مقامات ایالات متحده در زمینه آزمایش مدل‌ها، ارزیابی‌های ایمنی و اشتراک‌گذاری اطلاعات مرتبط با سوءاستفاده احتمالی خبر داد. با این حال مشتریان سازمانی همچنان محتاط‌اند و پیش از بازگشت به استفاده از این ابزارهای هوش مصنوعی جوانب حقوقی، فنی و امنیتی را می‌سنجند.

پیامدها برای بخش رمزنگاری و بلاک‌چین

برای توسعه‌دهندگان بلاک‌چین، تیم‌های امور مالی غیرمتمرکز و شرکت‌های متمرکز بر رمزنگاری، این ماجرا بر ضرورت حاکمیت شدید بر هوش مصنوعی و رویه‌های توسعه امن تأکید می‌کند. با گسترش توکنیزه کردن، خودکارسازی قراردادهای هوشمند و توسعه کمک‌گرفته از هوش مصنوعی، سازمان‌ها باید نوآوری را با کنترل‌های قوی متعادل کنند تا یکپارچگی کد، کلیدهای خصوصی و الگوریتم‌های حساس معاملاتی محافظت شوند.

ممنوعیت علی‌بابا برای کلود کُد روندی رو به رشد را برجسته می‌کند: شرکت‌ها هنگام انتخاب شریک‌های هوش مصنوعی اولویت را به امنیت سایبری و تضمین زنجیره تأمین می‌دهند. گام‌های بعدی آنتروپیک، مانند شفافیت در مورد یافته‌های فنی، گسترش حسابرسی‌های شخص ثالث و سیاست‌های استفاده واضح‌تر، برای بازیابی اعتماد کاربران سازمانی حیاتی خواهد بود.