توسعه مدل جدیدی از هوش مصنوعی که به اصول اخلاقی احترام میگذارد
تاریخ انتشار: ۲۲ بهمن ۱۴۰۲ | کد خبر: ۳۹۷۳۰۵۶۴
به گزارش خبرگزاری علم و فناوری آنا به نقل از تک کرانچ، هر شرکت یا سازمانی که یک مدل هوش مصنوعی ارائه میکند، باید تصمیم بگیرد که چه مرزهایی برای الگوریتم هوش مصنوعی خود در نظر بگیرد و چتبات آن درباره چه موضوعاتی صحبت و از ارائه اطلاعات در چه زمینههایی خودداری کند.
چتبات Goody-۲ (گودی-۲) که مبتنی بر الگوریتم هوش مصنوعی است، با امتناع از صحبت در مورد هر چیزی، تلاش برای حرکت در مسیر اخلاقمداری را به حد اعلا میرساند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
گودی-۲ چتبات جدید مبتنی بر هوش مصنوعی است که به تازگی توسعه یافته و تمرکز اصلی آن بر اخلاق و اصول اخلاقی در بحث و گفتگو است. این سیستم هوش مصنوعی بر اساس مجموعه قوانین و اصول اخلاقی برنامه ریزی شده است که در اثر آن، قادر به بحث در موضوعاتی که شامل جنبههایی از اخلاقیات یا اختلافات اخلاقی هستند، نیست.
به عنوان مثال، ممکن است در مورد تاریخچه پالم از این چتبات سوال پرسیده شود، این یک سوال ایمن تلقی میشود و چتبات مذکور به آن پاسخ میدهد، اما پرسیدن اینکه چگونه آن را در خانه بسازید و امثالهم ناایمن تلقی میشود و حتی ممکن است با سرزنش همراه باشد. اینکه دقیقاً چه چیزی مناسب است و چه چیزی مناسب نیست، موقعیتی است که چت بات جدید به آن پاسخ نمیدهد و به (گودی-۲) دستور داده شده است که به سؤالهای اینچنینی با طفره رفتن و توجیه مشابه پاسخ دهد.
یکی از ویژگیهای واضح گودی-۲ این است که هنگام بزرگترین نگرانیها مربوط به حریم خصوصی و احترام به افراد دیگر مناسب دیده میشود؛ هدف اصلی توسعه دهندگان چت بات مذکور این بود که مدلی از هوش مصنوعی را ایجاد کنند که قادر به انجام بحثهای کاربردی و مفید با افراد باشد، به همین دلیل گودی-۲ به طور قطعی هنگامی که بحثهایی مربوط به حریم خصوصی افراد مطرح باشد، از پاسخ دادن طفزه میرود.
همچنین، گودی-۲ مثل یک معلم اخلاق است که برخی از مسائل اخلاقی پیچیده را به صورت کاملا مستقیم و مشخص نمیتواند بحث کند. برای مثال، اگر به گودی-۲ بگویید عدالت اجتماعی چه معنا دارد؟ گودی-۲ به جای ارائه تعریف خاصی از عدالت اجتماعی، به شما کمک میکند تا نگرشهای مختلف به این مفهوم را بررسی کنید و بر اساس اطلاعات ارائه شده تصمیم بگیرید.
در کل، گودی-۲ به عنوان یک هوش مصنوعی از نظر اخلاقی بسیار روشنفکرانه عمل میکند. با این حال، اگر چه به بهبود ارتباط با انسانها کمک میکند، اما قادر به مشارکت در بحثهای پیچیده نیست.
انتهای پیام/
منبع: آنا
کلیدواژه: هوش مصنوعی فناوری چت جی پی تی هوش مصنوعی گودی ۲ چت بات
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت ana.press دریافت کردهاست، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۷۳۰۵۶۴ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
حمایت ایرانسل از رویداد استارتاپی «هوش مصنوعی از داده تا ثروت»
به گزارش گروه بازار خبرگزاری علم و فناوری آنا،رویداد استارتاپی «هوش مصنوعی؛ از داده تا ثروت»، توسط دانشگاه اراک، با حمایت ایرانسل، اداره کل ارتباطات و فناوری اطلاعات استان مرکزی، شهرداری و شورای شهر اراک، پارک علم و فناوری استان مرکزی، دانشگاه علوم پزشکی و خدمات بهداشتی درمانی اراک و شرکت آلومینیوم ایران، از چهارشنبه ۵ اردیبهشت ۱۴۰۳، در دانشکده فنی و مهندسی دانشگاه اراک و پارک علم و فناوری استان مرکزی، برگزار میشود. ایرانسل علاوه بر حمایت از این رویداد، به همراه تیم داوری ایرانسل لبز، در مرحله اختتامیه و داوری ایدههای نوآور حوزه هوش مصنوعی، مشارکت میکند.
این رویداد حوزه هوش مصنوعی، موضوعات رایانش تکاملی، یادگیری ماشین، رباتیک، بینایی ماشین، بازشناسی گفتار و پردازش رایانهای، ایدههای نوآور و فناور مرتبط با حوزههای مختلف از جمله صنعت، مدیریت شهری، فناوری اطلاعات، بهداشت و سلامت، سرویسهای مالی، آموزش، سرگرمی و بازی، تحلیل شبکههای اجتماعی و …، را مورد ارزیابی قرار میدهد و به نفرات و تیمهای برتر، جوایز ارزنده نقدی و امکان پذیرش در پارک علم و فناوری اراک را اهدا میکند. مخاطبین این رویداد نیز دانشجویان، اساتید، پژوهشگران، کارآفرینان و صنعتگران فعال در حوزه هوش مصنوعیاند.
این رویداد که از امروز چهارشنبه ۵ اردیبهشت ۱۴۰۳ آغاز شده است، با برگزاری بوتکمپ در روز چهارشنبه ۱۲ اردیهبشت ۱۴۰۳ ادامه پیدا میکند و مراسم اختتامیه و تقدیر از برگزیدگان نیز، شنبه ۲ خرداد ۱۴۰۳، در پارک علم و فناوری استان مرکزی، برگزار میشود. توسعه اشتغال دانشبنیان و استفاده از ظرفیت نخبگان در توسعه صنعت فناوریاطلاعات و ارتباطات، تسهیل و حمایت از ایجاد و توسعه زیستبوم نوآوری و افزایش عمق بومیسازی فناوریهای کلیدی در این صنعت و نیز تجاریسازی، ایجاد یا توسعه بازار برای شرکتهای دانشبنیان فعال در این حوزه، از جمله اهداف ایرانسل در حمایت از زیستبوم فناوری و نوآوری کشور است که با برگزاری و مشارکت در رویدادهای استارتاپی، اعلام فراخوانهای همکاری و امضای توافقنامهها با سازمانها، نهادها، دانشگاهها و بنیادهای علمی، حمایت از طرحهای تحقیقاتی، برگزاری کارگاههای آموزشی و…، توسط مجموعه ایرانسل لبز که بازوی تحقیق و توسعه ایرانسل است، پیگیری میشود.
انتهای پیام/