مایکروسافت برای رتبه بندی “ایمنی” مدل های AI که به مشتریان ابر فروخته می شود

قفل هضم ویرایشگر را به صورت رایگان باز کنید

رولا خلف ، سردبیر FT ، داستانهای مورد علاقه خود را در این خبرنامه هفتگی انتخاب می کند.

مایکروسافت بر اساس عملکرد ایمنی خود ، رتبه بندی مدل های هوش مصنوعی را آغاز خواهد کرد ، زیرا گروه نرم افزاری در تلاش است تا با مشتریان ابر اعتماد ایجاد کند ، زیرا آنها را از مواردی از Openai و Elon Musk's XAI به آنها می فروشد.

سارا پرنده ، رئیس مسئول AI Microsoft ، گفت که این شرکت به زودی یک دسته “ایمنی” را به “مدل رهبری مدل” خود اضافه می کند ، ویژگی ای که در این ماه برای توسعه دهندگان راه اندازی کرد تا تکرارها را از طیف وسیعی از ارائه دهندگان از جمله Deepseek چین و سوءاستفاده فرانسه رتبه بندی کند.

پیش بینی می شود که این تخته ، که توسط ده ها هزار مشتری با استفاده از پلت فرم توسعه دهنده Azure Foundry قابل دسترسی است ، انتظار می رود که مدل ها و برنامه های AI را از طریق مایکروسافت خریداری کنند.

مایکروسافت در حال حاضر سه معیار را در اختیار دارد: کیفیت ، هزینه و توان ، این است که به سرعت یک مدل می تواند یک خروجی تولید کند. پرنده به فایننشال تایمز گفت که رتبه جدید ایمنی باعث می شود “مردم فقط می توانند به طور مستقیم خرید و درک کنند” توانایی های مدل های هوش مصنوعی را هنگام تصمیم گیری در مورد خرید.

تصمیم به معیارهای ایمنی در حالی است که مشتریان مایکروسافت با خطرات احتمالی ناشی از مدل های جدید هوش مصنوعی به داده ها و حمایت از حریم خصوصی ، به ویژه هنگامی که به عنوان “عوامل” مستقل که می توانند بدون نظارت انسانی کار کنند ، دست و پنجه نرم می کنند.

متریک ایمنی جدید مایکروسافت بر اساس معیار سموم خود خواهد بود که سخنرانی از نفرت ضمنی را اندازه گیری می کند و مرکز سلاح های ایمنی هوش مصنوعی از معیار پروکسی کشتار جمعی است. مورد دوم ارزیابی می کند که آیا می توان از یک مدل برای اهداف مخرب مانند ساخت سلاح بیوشیمیایی استفاده کرد.

رتبه بندی کاربران را قادر می سازد هنگام انتخاب از کاتالوگ بیش از 1900 مدل AI ، به معیارهای عینی دسترسی پیدا کنند تا بتوانند انتخاب آگاهانه ای را برای استفاده از آن انجام دهند.

کاسی کوزیرکوف ، مشاور و دانشمند ارشد تصمیم سابق Google گفت: “هیئت های رهبر ایمنی می توانند به مشاغل کمک کنند تا سر و صدا را کاهش دهند و گزینه های باریک را کاهش دهند.” “چالش واقعی درک معاملات است: عملکرد بالاتر با چه هزینه ای؟ هزینه پایین تر در چه ریسکی؟”

در کنار آمازون و گوگل ، گروه مستقر در سیاتل یکی از بزرگترین “Hyperscalers” محسوب می شود که در کنار هم بر بازار ابر مسلط هستند.

مایکروسافت همچنین خود را به عنوان یک بستر آگنوستیک برای AI تولیدی قرار می دهد و معاملات فروش مدل های XAI و Anthropic را امضا می کند ، رقبایی را برای راه اندازی OpenAi که تقریباً با 14 میلیارد دلار سرمایه گذاری حمایت کرده است.

ماه گذشته ، مایکروسافت گفت که شروع به ارائه خانواده Grok از مدل های XAI با همان شرایط تجاری OpenAI می کند.

این اقدام علیرغم نسخه ای از Grok Raising Alarm هنگامی رخ داد که “اصلاح غیرمجاز” کد آن باعث شد که بارها و بارها به “نسل کشی سفید” در آفریقای جنوبی هنگام پاسخ به سؤالات در سایت رسانه های اجتماعی X مراجعه کند. XAI گفت که این سیاست نظارت جدید را برای جلوگیری از حوادث آینده ارائه می دهد.

پرنده گفت: “این مدل ها در یک بستر قرار می گیرند ، یک درجه از بررسی داخلی وجود دارد ، و سپس این وظیفه مشتری است که از معیارها استفاده کند تا آن را بفهمد.”

هیچ استاندارد جهانی برای آزمایش ایمنی هوش مصنوعی وجود ندارد ، اما قانون هوش مصنوعی اتحادیه اروپا در اواخر سال جاری وارد نیرو خواهد شد و شرکت ها را مجبور می کند تا آزمایش های ایمنی را انجام دهند.

برخی از سازندگان مدل از جمله OpenAI برای شناسایی و کاهش خطرات ، زمان و هزینه کمتری را اختصاص می دهند ، FT که قبلاً با استناد به چندین نفر که با فرآیندهای ایمنی راه اندازی آشنا شده اند ، گزارش شده است. این استارتاپ گفت که این کارآیی را بدون به خطر انداختن ایمنی شناسایی کرده است.

پرنده از اظهار نظر در مورد آزمایش ایمنی Openai خودداری کرد ، اما گفت که ارسال یک مدل با کیفیت بالا بدون سرمایه گذاری “مبلغ عظیم” در ارزیابی غیرممکن است و این فرایندها به صورت خودکار انجام می شود.

مایکروسافت در ماه آوریل همچنین “AI Read Teaming Agent” را راه اندازی کرد که با راه اندازی حملات برای شناسایی آسیب پذیری ها ، روند برنامه های رایانه ای استرس را خودکار می کند. برد گفت: “شما فقط خطر را مشخص می کنید ، مشکل حمله را مشخص می کنید. و سپس به سیستم شما حمله می کند.”

این نگرانی ها وجود دارد که بدون نظارت کافی مأمورین هوش مصنوعی می توانند اقدامات غیرمجاز را انجام دهند و صاحبان را به سمت بدهی ها باز کنند.

کوزیرکوف گفت: “خطر این است که هیئت های رهبر بتوانند تصمیم گیرندگان را به یک احساس کاذب امنیت تبدیل کنند.” “معیارهای ایمنی یک نقطه شروع است ، نه یک چراغ سبز.”