آن چه درباره هوش مصنوعی مولد باید بدانیم
تالیف و ترجمه: یاسمن حسینی
هوش مصنوعی مولد فقط یک فناوری یا یک مورد تجاری نیست بلکه بخش مهمی از جامعه‌ای است که در آن افراد و ماشین‌ها با هم کار می‌کنند. ما در این مقاله‌ها قصد داریم با تکیه بر بیان نتایج پژوهش‌های گارتنر، شما را با هوش مصنوعی مولد، مزایا، خطرات و چالش‌ها و آن چه که در آینده رخ خواهد داد، آشنا کنیم تا با درک این موضوعات مهم بتوانید بهره لازم را از این تکنولوژی رو به رشد که تحول عظیمی در جهان ایجاد خواهد کرد و بر زندگی همه افراد موثر خواهد بود، ببرید.
هوش مصنوعی مولد چیست؟
هوش مصنوعی مولد می‌تواند از محصولات مصنوعی موجود یاد بگیرد تا محصولات مصنوعی جدید و واقعی تولید کند که ویژگی‌های داده‌های آموزشی را منعکس کند اما آن را تکرار نکند. این می‌تواند منجر به تولید انواع محتواهای جدید مانند تصاویر، ویدئو، موسیقی، گفتار، متن، کد نرم‌افزار و طرح‌های محصول شود. هوش مصنوعی مولد از تعدادی تکنیک استفاده می‌کند که همچنان در حال تکاملند. مهم‌ترین آنها مدل‌های پایه هوش مصنوعی‌اند که بر روی مجموعه گسترده‌ای از داده‌های بدون برچسب آموزش داده می‌شوند که می‌توانند برای کارهای مختلف و با تنظیم دقیق اضافی مورد استفاده قرار گیرند. ریاضیات پیچیده و قدرت محاسباتی عظیمی برای ایجاد این مدل‌های آموزش‌دیده مورد نیاز است امّا آنها در اصل الگوریتم‌های پیش‌بینی هستند. در حال حاضر، هوش مصنوعی مولد معمولاً در پاسخ به درخواست‌ها محتوا ایجاد می‌کند و نیازی به دانش یا وارد کردن کد ندارد امّا موارد استفاده سازمانی آن متعدد است و شامل نوآوری‌هایی در طراحی دارو و تراشه و توسعه علم مواد می‌شود. امّا تبلیغات همیشه در اثرگذاری بیشتر کلیه محصولات و خدمات و فناوری‌ها موثرند که در بخش بعدی به اثر تبلیغات بر هوش مصنوعی مولد می‌پردازیم.
پشت پرده تبلیغات ناگهانی در مورد هوش مصنوعی مولد چیست؟
گارتنر از سال 2020 هوش مصنوعی مولد را در Hype Cycle™ خود برای هوش مصنوعی ردیابی کرده‌است. علاوه بر آن، هوش مصنوعی مولد جزو برترین روندهای فناوری استراتژیک سال 2022 معرفی شد و در اواخر آن سال با راه‌اندازی ChatGPT، یک ربات چت که قادر به تعاملات زیاد انسانی است به سرفصل‌های اصلی تبدیل شد. ChatGPT که توسط OpenAI راه اندازی شد در کوتاهترین زمان ممکن، به سرعت محبوب شد و توجه عمومی را به خود جلب کرد. (ابزار DALL·E 2 OpenAI به طور مشابه تصاویر را از متن با یک نوآوری مولد هوش مصنوعی مرتبط تولید می‌کند). گارتنر نیز مانند دیگران مشاهده کرد که هوش مصنوعی مولد تبدیل به یک فناوری همه منظوره خواهد شد و اثر آن بر ایجاد تحول در دنیا مشابه موتور بخار، برق و اینترنت خواهد بود. ولی با شروع واقعیت پیاده‌سازی، هیاهوهای اولیه فروکش خواهد کرد امّا تاثیر هوش مصنوعی مولد با کشف برنامه‌های نوآورانه برای استفاده از این فناوری در کار و زندگی روزمره مردم و شرکت‌ها افزایش خواهد یافت.
مزایا و کاربردهای هوش مصنوعی مولد چیست؟
مدل‌های پایه، از جمله ترانسفورماتورهای از پیش آموزش‌دیده مولد که ChatGPT را هدایت می‌کنند از جمله نوآوری‌های معماری هوش مصنوعی‌اند که می‌توانند برای خودکارسازی، تقویت انسان یا ماشین‌ها و اجرای مستقل فرآیندهای تجاری و فناوری اطلاعات مورد استفاده قرار گیرند. مزایای هوش مصنوعی مولد شامل توسعه سریع محصول، افزایش تجربه مشتری و بهبود بهره‌وری کارکنان است امّا ویژگی‌ها به موارد استفاده بستگی دارند. پس کاربران نهایی در مورد ارزشی که به دنبال دستیابی به آن هستند به خصوص در زمانی که از یک سرویس استفاده می‌کنند که محدودیت‌های عمده‌ای دارد باید واقع‌بین باشند. هوش مصنوعی مولد محصولات مصنوعی را ایجاد می‌کند که می‌توانند نادرست یا مغرضانه باشند به همین دلیل اعتبارسنجی انسانی برای بررسی آن ضروری است. البته گارتنر توصیه می‌کند که موارد استفاده را به KPI ها متصل کنید تا اطمینان حاصل شود که آن باعث بهبود هر پروژه یا کارایی عملیاتی می‌شود یا درآمد خالص جدید یا تجربیات بهتر ایجاد می‌کند. بر اساس نظرسنجی اخیر گارتنر در وبیناری با حضور بیش از 2500 مدیر، 38% نشان دادند که تجربه و حفظ مشتری هدف اصلی سرمایه‌گذاری‌های مولد آنها در هوش مصنوعی است و پس از آن رشد درآمد (26%)، بهینه‌سازی هزینه (17%) و تداوم کسب‌وکار (7%) قرار دارد و درصدی (12%) هم به هیچ یک از این موارد اعتقادی نداشتند.
خطرات هوش مصنوعی مولد چیست؟
خطرات مرتبط با هوش مصنوعی مولد قابل توجهند و به سرعت در حال تکاملند. طیف گسترده‌ای از عوامل تهدید از این فناوری برای جعل یا کپی‌هایی از محصولات و تولید محصولات مصنوعی برای پشتیبانی از کلاهبرداری‌های پیچیده مورد استفاده قرار گرفتند. به طور کلی ChatGPT و ابزارهای دیگر مانند آن بر روی مقادیر زیادی از داده‌های در دسترس عموم آموزش داده شدند. آنها به گونه ای طراحی نشدند که مطابق با مقررات حفاظت از داده‌های عمومی (GDPR) و سایر قوانین حق چاپ باشند بنابراین ضروری است که در هنگام استفاده از پلتفرم‌ها در شرکت‌های خود به آنها توجه زیادی داشته باشید.
پس، خطرات نظارتی برای نظارت عبارتند از:
عدم شفافیت: مدل‌های مولد هوش مصنوعی و ChatGPT غیرقابل پیش‌بینی‌اند و حتی شرکت‌های پشتیبان آنها همیشه همه چیز را در مورد نحوه کار با آنها نمی‌دانند.
دقت: سیستم‌های هوش مصنوعی مولد گاهی پاسخ‌های نادرست و ساختگی تولید می‌کنند. قبل از تکیه بر اطلاعات یا توزیع عمومی آنها شما باید تمام خروجی‌ها را از نظر دقت، مناسب بودن و سودمندی به صورت واقعی ارزیابی کنید.
جانبداری: شما به سیاست‌ها یا کنترل‌هایی نیاز دارید تا خروجی‌های مغرضانه را شناسایی کنید و با آنها به شیوه‌ای سازگار با خط‌مشی شرکت و هرگونه الزامات قانونی مرتبط برخورد کنید.
مالکیت معنوی (IP) و کپی رایت: در حال حاضر هیچ تضمینی برای نظارت بر داده‌ها و تضمین‌های حفاظتی در مورد اطلاعات محرمانه شرکت وجود ندارد. کاربران باید فرض کنند که هر داده یا درخواستی که وارد ChatGPT و رقبای آن می‌کنند به اطلاعات عمومی تبدیل می‌شوند و ما به شرکت‌ها توصیه می‌کنیم که کنترل‌هایی را برای جلوگیری از افشای ناخواسته IP اعمال کنند.
امنیت سایبری و کلاهبرداری: شرکت‌ها باید برای استفاده عوامل مخرب از سیستم‌های هوش مصنوعی مولد برای حملات سایبری و کلاهبرداری مانند مواردی که از جعلیات عمیق برای مهندسی اجتماعی پرسنل استفاده می‌کنند، آماده شوند و از اعمال کنترل‌های کاهش‌دهنده اطمینان حاصل کنند. پس لازم است که با ارائه‌دهنده بیمه سایبری خود مشورت کنید و میزان نقض‌های مربوط به هوش مصنوعی را بررسی نمایید.
پایداری: هوش مصنوعی مولد از مقدار قابل توجهی برق استفاده می‌کند. فروشندگانی را انتخاب کنید که مصرف برق را کاهش می‌دهند و از انرژی تجدیدپذیر با کیفیت بالا برای کاهش تأثیر بر اهداف پایدار شما استفاده می‌کنند.
پس، علاوه بر آن چه که ذکر شد گارتنر همچنین توصیه می‌کند که به سؤالات زیر توجه کنید:
- به‌ویژه وقتی هنجارهای فرهنگی تکامل می‌یابند و رویکردهای مهندسی اجتماعی در مناطق جغرافیایی متفاوت است چه کسی استفاده مسئولانه از هوش مصنوعی مولد را تعریف می‌کند، چه کسی انطباق را تضمین می‌کند و عواقب استفاده غیرمسئولانه چیست؟
- در صورت بروز مشکل، افراد چگونه می‌توانند اقدام کنند؟
- از بحث حفظ حریم خصوصی چه می‌توان آموخت؟ کاربران چگونه رضایت می‌دهند و حذف می‌کنند (انتخاب یا انصراف)؟
- آیا استفاده از هوش مصنوعی مولد به اعتماد سازمان شما و به طور کلی موسسات کمک می‌کند یا آسیب می‌رساند؟
- چگونه می‌توانیم اطمینان حاصل کنیم که سازندگان و صاحبان محتوا کنترل IP خود را حفظ می‌کنند؟ ضمنا مدل‌های جدید اقتصادی چگونه باید باشند؟
- چه کسی عملکرد مناسب را در کل چرخه زندگی تضمین خواهد کرد و چگونه این کار را انجام خواهد داد؟ آیا برای مثال، هیئت مدیره سازمانها به یک سرنخ اخلاقی هوش مصنوعی نیاز دارند؟
- بهترین شیوه‌ها برای استفاده از هوش مصنوعی مولد چیست؟آیا باید یک خط مشی استفاده برای هوش مصنوعی مولد ایجاد کنم؟
در نهایت، نظارت مداوم بر تحولات نظارتی و دعاوی در مورد هوش مصنوعی مولد بسیار مهم است. چین و سنگاپور قبل از آن، مقررات جدیدی را در مورد استفاده از هوش مصنوعی مولد وضع کرده‌اند امّا ایتالیا به طور موقت و ایالات متحده، کانادا، هند، بریتانیا و اتحادیه اروپا در حال حاضر در حال شکل دادن به محیط‌های نظارتی خود هستند.
در نهایت، به علت گستردگی موضوع در مقاله‌های بعدی به بررسی هوش مصنوعی مولد از زوایای گوناگون خواهیم پرداخت. با ما همراه باشید.
تالیف و ترجمه: یاسمن حسینی
منبع:
https://www.gartner.com/en/topics/generative-ai, Gartner Experts Answer the Top Questions for Your Enterprise