هوش مصنوعی از زبان افراد واقعی نقل قول جعلی میکند
تاریخ انتشار: ۲۹ خرداد ۱۴۰۲ | کد خبر: ۳۸۰۲۰۱۶۹
یک هوش مصنوعی در حال ابداع نقل قولهای جعلی از افراد واقعی است و آنها را به صورت آنلاین منتشر میکند.
به گزارش ایران اکونومیست و به نقل از فیوچریزم، در اینترنت مبتنی بر هوش مصنوعی، واقعا چه مقدار از وجهه عمومی خود را میتوانیم کنترل کنیم؟ در اوایل هفته، ما به طور تصادفی به وب سایتی به نام «The Enlightened Mindset» برخوردیم که به نظر میرسد چشماندازی تاریک از آینده وب مبتنی بر هوش مصنوعی باشد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
در میان موارد دیگری که باعث نگرانی میشود، هیچ اطلاعات تماسی وجود نداشت و هزاران مقاله در آرشیو بزرگ سایت تنها به ماه ژانویه سال ۲۰۲۳ باز میگشت. مهمتر از همه، اکثریت قریب به اتفاق هزاران داستان منتشر شده دارای نشانههایی از تولید توسط هوش مصنوعی بودند. متن عمومی است و فاقد لینک پشتیبان برای منابع است، و تصاویر ارائه شده آشفته، ناخوانا، خنده دار یا عجیب و غریب هستند و اغلب به نظر میرسد که توسط هوش مصنوعی تولید شدهاند.
بنابراین تعداد زیادی علامت خطر وجود دارد. پس از بررسی دقیقتر، متن مقالههای تولید شده توسط هوش مصنوعی این سایت اغلب مملو از اطلاعات نادرست، از جمله نقل قولهای ساختگی توسط هوش مصنوعی بود که به طور نگرانکنندهای، اغلب به افراد کاملا واقعی نسبت داده میشدند.
برای مثال، یک وبلاگ خاص در ژانویه ۲۰۲۳ متنی با عنوان «آیا نقش هاگرید توسط یک ربات ایفا میشود؟ کاوش در مورد امکان آن» مواجه شدیم.
اگرچه رابی کولترین(Robbie Coltrane) فقید نقش شخصیت محبوب هاگرید در سری فیلمهای هریپاتر را بازی کرده است، اما یک سر متحرک هاگرید گاهی اوقات در مجموعهی هری پاتر استفاده میشد. به نظر میرسد این مقاله موضوع درستی را پیش گرفته است و در آن نقل قولی از یک متخصص وجود دارد که میگوید: استفاده از ربات در نقش هاگرید اشکالاتی نیز دارد. به عنوان مثال، رباتها فاقد احساسات و تفاوتهای ظریفی هستند که یک بازیگر میتواند به نقش بیاورد.
دکتر روبن بینز (Reuben Binns) که استاد هوش مصنوعی در دانشگاه کمبریج است، اشاره میکند: رباتها ممکن است بتوانند احساسات را تقلید کنند، اما نمیتوانند آنها را مانند انسانها احساس کنند. این بدان معنی است که آنها ممکن است نتوانند همان سطح احساسات را به عنوان یک بازیگر منتقل کنند.
در نگاه اول، این یک ارزیابی منصفانه است. روبن بینز نیز یک شخص واقعی است و در واقع یک محقق هوش مصنوعی است که در یادگیری ماشینی، حفاظت از دادهها و تنظیم فناوری تخصص دارد.
اما همانطور که بینز واقعی به فیوچریزم گفته است، اگرچه او لزوما با این نقل قول تولید شده توسط هوش مصنوعی مخالف نیست، اما در واقع هرگز آن را نگفته است و البته او در آکسفورد کار میکند و نه در کمبریج.
بینز در پاسخ به سوالی دربارهی تجربهی نقل قول تقلبی از سوی او توسط هوشمصنوعی گفت: خواندن این نقل قول خندهدار بود، زیرا پیش از همه، در مورد من اشتباه نوشته بود. من استاد هوش مصنوعی در دانشگاه کمبریج نیستم، من استاد محاسبات انسان محور در دانشگاه آکسفورد هستم.
او افزود: و سپس در مورد خود نقل قول، من با آن مخالف نیستم. فکر میکنم به نوعی با آن موافقم.
بینز گفت که با این حال اگر او واقعا به موضوع بازیگران رباتی میپرداخت، حرف کمی متفاوتتری میزد و صرف نظر از اینکه این نقل قول قابل قبول باشد، این واقعیت را تغییر نمیدهد که او هرگز واقعا آن را نگفته است.
در واقع این نشان دهندهی از دست دادن کنترل بر وجههی عمومی خود است و متاسفانه، بینز واقعی گمان میبرد که این پدیده ممکن است تازه شروع شده باشد.
بینز گفت: غیرمنتظره نیست و اظهار داشت که در نهایت، این اتفاق برای تعداد زیادی از مردم خواهد افتاد. در چند سال آینده، این یک تجربهی غیرعادی برای کسی که نامش جایی در فضای اینترنت است، نخواهد بود.
او افزود: این فقط بخشی از زندگی خواهد بود. نام شما دیگر چیزی نیست که شما آن را کنترل کنید.
فیوچریزم مینویسد: در حین کاوش موارد مشابه بیشتری پیدا کردیم. این اسناد ساختگی عمدتا مربوط به دانشگاهیان بود که اغلب با عناوین و اسناد به همریخته مشابه و در مواردی با کتابهای موجود یا جوایز ناموفق همراه بود.
البته، اینطور نیست که نقل قول جعلی از بینز توسط یک هوش مصنوعی در مقالهی نیویورک تایمز نوشته شده باشد. وبسایت «Enlightened Mindset» به وضوح یک سایت به درد نخور است.
اما تا آنجا که سئوی آن پیش رفته، این سایت چیزی نیست که از آن رد شوید. بر اساس دادههای شرکت ابزار و منابع سئو Ahrefs، نشانی وب یا URL آن بیش از ۷۰ هزار بار بکلینک شده است و رتبه اعتبار دامنهی آن برای یک وبسایت واقعی بد، اما برای یک هرزنامه خوب است.
زمانی که یک صفحهی اینترنتی به صفحهی دیگری لینک میدهد، آن را «بک لینک» مینامند.
فرمول موفقیت این وبسایت، فرمولی است که سایر هرزنامهنویسان بالقوهی هوش مصنوعی ممکن است از آن پیروی کنند. به نظر میرسد که شخصی آدرس اینترنتی رها شده یک وبسایت معتبر سابق را خریده است و سپس آن URL را با هزاران صفحهی مملو از اطلاعات نادرست پر کرده است.
بینز گفت که اینترنت در حال حاضر مملو از هرزنامه است، و [هوش مصنوعی مولد] تنها بر آن میافزاید.
این موضوع دوباره تاکید میکند که هوش مصنوعی مولد در ساختن موارد جعلی مختلف بسیار خوب است. و اگر در چند دههی گذشته هر نوع حضور دیجیتالی داشتهاید، احتمالا سیستمهای هوش مصنوعی مولد از روی شما آموزش دیدهاند.
منبع: خبرگزاری ایسنا برچسب ها: دنیای هوش مصنوعی
منبع: ایران اکونومیست
کلیدواژه: دنیای هوش مصنوعی توسط هوش مصنوعی هوش مصنوعی نظر می رسد نقل قول
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت iraneconomist.com دریافت کردهاست، لذا منبع این خبر، وبسایت «ایران اکونومیست» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۰۲۰۱۶۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
ایسنا: تکذیب خبر فعال شدن سامانه دهک ریاست جمهوری
خبر فعال شدن سامانه دهک ریاست جمهوری و پرداخت مبلغی به خانوارها جعلی است.
به گزارش ایسنا، خبری با عنوان فعال شدن دهک ریاست جمهوری در فضای مجازی دقایقی است که به نقل از این خبرگزاری منتشر و لینکی هم برای ورود شهروندان معرفی شده است، اما این خبر واقعیت نداشته و جعلی است و ایسنا نیز چنین خبری را منتشر نکرده است.
مردم از باز کردن این لینک خودداری کنند.
این برای چند بار است که سودجویان و کلاهبرداران بهدنبال کلاهبرداری از شهروندان هستند.
کانال عصر ایران در تلگرام