شرکت AWS آمازون قصد دارد با عرضه چت بات Q و اقدامات ایمنی هوش مصنوعی مشتریان سازمانی بیشتری جذب کند.
شرکت آمازون قصد دارد با عرضه چت بات Q و اقدامات امنیتی هوش مصنوعی شرکت های بزرگ را جذب کند. شرکت AWS آمازون در کنفرانس سالانه محاسبات ابری آمازون که روز گذشته 28 نوامبر در لاس وگاس برگزار شد، اعلام کرد:« این ربات می تواند به کارگران در جمع بندی اسناد مهم، پشتیبانی از بلیط ها و چت از طریق برنامه های ارتباطی مانند Slack کمک کند. همچنین، این نرم افزار می تواند به طور خودکار تغییراتی در کد منبع کسب و کار ایجاد کند و سرعت توسعه را افزایش دهد.»
آمازون معتقد است که این ویژگی های جدید امکانات زیادی به سازمان های بزرگ ارائه می دهند. این ویژگی ها می توانند به شرکت ها کمک کنند تا با بالا بردن میزان بهره وری، هزینه ها و میزان ریسک را کاهش دهند.
AWS مخفف Amazon Web Services است. این یک پلتفرم خدمات ابری است که توسط شرکت آمازون ارائه می شود. AWS طیف گسترده ای از خدمات زیرساخت، محاسبات، ذخیره سازی، پایگاه داده، شبکه، تحلیل، یادگیری ماشینی، اینترنت اشیا و هوش مصنوعی را ارائه می دهد.
نرم‌افزار جدید حدود یک سال پس از ورود ChatGPT شرکت OpenAI به صحنه می‌آید. قبل از آن شرکت های Alphabet (GOOGL.O) و مایکروسافت از چت بات های خود رونمایی کردند. آنها می‌توانند مکالمه‌هایی شبیه انسان با کاربران داشته باشند و در انجام کارهای روزانه به آنها کمک کنند. آدام سلیپسکی، مدیر عامل AWS در کنفرانس سالانه از یک سری اقدامات محافظتی جدید در برابر محتوای اعتراض آمیز در برنامه های کاربردی هوش مصنوعی مولد به نام Guardrails for Bedrock خبر داد. او معتقد است که این سرویس به کاربران اجازه می دهد تا محتوای مضر را فیلتر کنند.
هوش مصنوعی مولد، نوعی از هوش مصنوعی است که می تواند محتوای جدیدی مانند متن، تصاویر یا صدا ایجاد کند. این هوش مصنوعی بر روی داده های عمومی در وب آموزش داده می شود و بنابراین می تواند محتوای توهین آمیز یا اعتراض آمیز را نیز تولید کند. این گونه نتایج می تواند برای کاربران جوان تر پیامدهای منفی داشته باشد:
• خطر قرار گرفتن محتوای توهین آمیز یا اعتراض آمیز در نتایج جستجو: این خطر در زمان درگیری های جهانی یا در طول انتخابات می تواند از طریق تغییر نظرات رای دهندگان، مشکل ساز شود.
• خطر خارج شدن هوش مصنوعی مولد از کنترل سازندگان: یعنی هوش مصنوعی مولد می تواند محتوای خطرناک تری را بدون هیچ نظارتی کنترل کند.
• خطر قرار گرفتن محتوای تأثیرگذار و متقاعدکننده در سایت های رسانه های اجتماعی: هوش مصنوعی مولد می تواند محتوای تأثیرگذار و متقاعدکننده را در رسانه های اجتماعی مانند X و Facebook (META.O) منتشر کنند. در نتیجه، به گسترش اطلاعات نادرست یا پروپاگاندا دامن بزنند.
ربات چت Q می‌تواند برای ارائه خدمات مختلفی مانند پشتیبانی مشتری، جمع‌بندی اسناد و ایجاد کد استفاده شود. آمازون علاوه براین اعلام کرد که به مشتریان خود در برابر دعاوی حقوقی مبنی بر نقض قوانین کپی رایت غرامت پرداخت خواهد کرد. این سرویس‌های جدید می تواند آمازون را به یک بازیگر مهم در صنعت هوش مصنوعی تجاری تبدیل می‌کند.
سلیپسکی، مدیر ارشد خدمات ابری آمازون، در این مراسم از اهمیت محدودیت‌های هوش مصنوعی صحبت می‌کند. او معتقد است که مشتریان باید بتوانند تعیین کنند که هوش مصنوعی می‌تواند چه کاری انجام دهد و چه کاری نمی‌تواند انجام دهد.
به عنوان مثال، یک بانک می‌تواند یک دستیار آنلاین را طوری پیکربندی کند که از ارائه مشاوره سرمایه‌گذاری خودداری کند. یک فروشگاه اینترنتی می‌تواند اطمینان حاصل کند که دستیار آنلاین آن از سخنان مشوق عداوت و تنفر یا توهین استفاده نمی‌کند. سلیپسکی علاوه براین گفت که چت بات Q به شرکت‌ها کمک می‌کند تا داده‌های حساس را از کارکنانی که نباید به آن دسترسی داشته باشند، حفظ کنند. قیمت این سرویس از 20 دلار برای هر کاربر در سال شروع خواهد شد.