آموزش چت بابات دشوار است. ماه گذشته ، Openai به روزرسانی را به چتپپ برگرداند زیرا “شخصیت پیش فرض” آن بیش از حد sycophantic بود. (شاید داده های آموزش این شرکت از رونوشت جلسات کابینه رئیس جمهور دونالد ترامپ رئیس جمهور ایالات متحده گرفته شده است.)
این شرکت اطلاعاتی مصنوعی می خواست Chatbot خود را بصری تر جلوه دهد اما پاسخ های آن به سوالات کاربران نسبت به حمایت بیش از حد و متمایز از آن استفاده شده است. این شرکت در یک پست وبلاگ گفت: “فعل و انفعالات sycophantic می تواند ناراحت کننده ، نگران کننده باشد و باعث پریشانی شود. ما کوتاه افتادیم و در حال کار کردن برای درست کردن آن هستیم.”
برنامه ریزی مجدد Chatbots Sycophantic ممکن است مهمترین معضل با Openai نباشد اما با بزرگترین چالش خود را صدا می کند: ایجاد یک شخصیت قابل اعتماد برای شرکت به طور کلی. این هفته ، OpenAi مجبور شد آخرین به روزرسانی برنامه ریزی شده شرکت خود را طراحی کند تا این شرکت را به یک نهاد انتفاعی تبدیل کند. در عوض ، آن را به یک شرکت منافع عمومی منتقل می کند و تحت کنترل یک هیئت غیرانتفاعی باقی می ماند.
این تنش های ساختاری در هسته OpenAi را برطرف نمی کند. الون مسک ، یکی از بنیانگذاران این شرکت را برآورده نمی کند ، که به دنبال این است که از هدف اصلی خود اقدام به انجام اقدامات قانونی علیه Openai کند. آیا این شرکت برای خوشحال کردن پشتیبانان مالی خود ، استقرار محصول AI را تسریع می کند؟ یا آیا این یک رویکرد علمی مشروط تر را دنبال می کند تا به اهداف بشردوستانه خود صادق باشد؟
Openai در سال 2015 به عنوان یک آزمایشگاه تحقیقاتی غیرانتفاعی که به توسعه اطلاعات عمومی مصنوعی به نفع بشریت اختصاص یافته است ، تأسیس شد. اما مأموریت این شرکت – و همچنین تعریف AGI – از آن زمان تار شده است.
سام آلتمن ، مدیر اجرایی اوپای ، به سرعت فهمید که این شرکت برای پرداخت استعدادهای تحقیق و قدرت محاسباتی که برای ماندن در خط مقدم تحقیقات هوش مصنوعی مورد نیاز است ، به سرمایه زیادی نیاز دارد. برای این منظور ، Openai یک شرکت تابعه انتفاعی را در سال 2019 ایجاد کرد. این موفقیت برکنار Chatbot Chatgpt بود که سرمایه گذاران خوشحال بودند که پول خود را پرتاب کنند و در آخرین سرمایه گذاری خود Openai را با قیمت 260 میلیارد دلار ارزیابی کردند. با استفاده از کاربران هفتگی 500 میلیون ، OpenAi به یک غول اینترنت “تصادفی” مصرف کننده تبدیل شده است.
آلتمن ، که در سال 2023 توسط هیئت غیرانتفاعی اخراج و مجدداً مورد استفاده قرار گرفت ، اکنون می گوید که می خواهد “مغز برای جهان” بسازد که ممکن است صدها میلیارد دلار ، اگر نه تریلیون ، دلار سرمایه گذاری بیشتر باشد. تنها مشکل جاه طلبی چشمان وحشی او این است-همانطور که وبلاگ نویس فناوری اد زیترون با اصطلاحات فزاینده ای شور وخیم است-Openai هنوز یک مدل تجاری مناسب را تهیه نکرده است. سال گذشته ، این شرکت 9 میلیارد دلار هزینه کرد و 5 میلیارد دلار از دست داد. آیا ارزیابی مالی آن مبتنی بر توهم است؟ فشار زیادی بر روی Openai از سرمایه گذاران به سرعت برای تجاری سازی فناوری آن وجود خواهد داشت.
علاوه بر این ، تعریف AGI تغییر می کند. به طور سنتی ، به این نکته اشاره کرده است که ماشین ها در طیف گسترده ای از وظایف شناختی از انسان پیشی می گیرند. اما در مصاحبه اخیر با بن تامپسون Stratechery ، آلتمن اذعان كرد كه این اصطلاح “تقریباً كاملاً كاهش یافته است”. او با این حال ، تعریف باریک تری از AGI را به عنوان یک عامل برنامه نویسی خودمختار پذیرفت که می تواند نرم افزار و همچنین هر انسانی بنویسد.
در این امتیاز ، به نظر می رسد شرکت های بزرگ هوش مصنوعی فکر می کنند که نزدیک AGI هستند. یک هدیه در شیوه های استخدام خود منعکس شده است. براساس داده های Zeki ، 15 شرکت برتر هوش مصنوعی ایالات متحده با شدت استخدام مهندسین نرم افزار با نرخ حداکثر 3000 در ماه ، در کل 500000 نفر بین سالهای 2011 و 2024 جذب می شوند.
یک مقاله تحقیقاتی اخیر از Google DeepMind ، که همچنین مایل به توسعه AGI است ، چهار خطرات اصلی مدل های هوش مصنوعی به طور فزاینده خودمختار را برجسته کرد: سوء استفاده توسط بازیگران بد. سوء استفاده از سیستم هوش مصنوعی کارهای ناخواسته انجام می دهد. اشتباهاتی که باعث آسیب غیر عمدی می شوند. و خطرات چند عامل هنگامی که تعامل غیرقابل پیش بینی بین سیستم های AI نتایج بدی ایجاد می کند. اینها همه چالش های خمیده ذهن است که برخی از خطرات بالقوه فاجعه بار را به همراه دارد و ممکن است به برخی از راه حل های مشترک نیاز داشته باشد. هرچه مدل های هوش مصنوعی قدرتمندتر شوند ، توسعه دهندگان محتاط تر باید در استقرار آنها باشند.
بنابراین چگونه شرکت های AI مرزی اداره می شوند ، بنابراین فقط برای هیئت مدیره شرکت ها و سرمایه گذاران بلکه برای همه ما موضوع نیست. Openai هنوز هم با انگیزه های متناقض ، از این نظر کمبود دارد. با نزدیک شدن به AGI ، کشتی با Sycophancy کمترین مشکلات آن خواهد بود ، اما شما آن را تعریف می کنید.
John.thornhill@ft.com
ارسال نظر شما
مجموع نظرات : 0 در انتظار بررسی : 0 انتشار یافته : 0