در تولید محتوا؛

هوش مصنوعی اوپن ای آی توهم زد!

هوش مصنوعی اوپن ای آی توهم زد!

پی اچ پی و جی کوئری: ابزار هوش مصنوعی اوپن ای آی برای تبدیل صوت به متن، جملاتی می سازد و به متن می افزاید که موجب ایجاد چالش جدیدی شده است.


به گزارش پی اچ پی و جی کوئری به نقل از آسوشیتدپرس، شرکت «اوپن ای آی» ابزار رونویسی مبتنی بر هوش مصنوعی خود به نام «ویسپر» (Wisper) را با ادعای آنکه دقت و قدرتی معادل یک کاربر انسانی دارد، عرضه نموده است. اما ویسپر یک چالش اساسی دارد. بگفته مهندسان نرم افزار، توسعه دهندگان و پژوهشگران دانشگاهی ممکنست این ابزار قسمتی از متن یا حتی جملاتی کامل را خودش بنویسد. این کارشناسان معتقدند تعدادی از متن های اختراعی این ابزار ممکنست حاوی اظهارات نژادی، خشونت آمیز یا حتی درمان های پزشکی خیالی باشد. بگفته آنها چنین جملاتی مشکل ساز هستند برای اینکه از این ابزار در چند صنعت در سرتاسر جهان برای تبدیل مصاحبه ها، تولید متن در حوزه فناوری های مصرفی محبوب و ساخت زیرنویس برای ویدیوها استفاده می شود. نکته نگران کننده تر، عجله مراکز پزشکی جهت استفاده از ابزارهای مبتنی بر ویسپر برای رونویسی مشاوره های بیماران با پزشکان است. حال آنکه اوپن ای آی قبلا هشدار داده از این ابزار نباید در عرصه هایی با ریسک زیاد استفاده گردد. گستره کامل این مشکل را به سختی می توان تعیین کرد اما پژوهشگران و مهندسان اعلام نموده اند در فعالیت هایشان اغلب با توهمات ابداعی ویسپر روبرو شده اند. به عنوان مثال یک محقق دانشگاه میشیگان مشغول انجام تحقیقی از جلسات عمومی بود و در هر ۱۰ رونویسی کلیپ صوتی که او بررسی نموده بود ۸ مورد حاوی توهمات ویسپر بودند. بعد از آن وی تلاش خود برای ارتقای این مدل هوش مصنوعی را شروع کرد. یک مهندس یادگیری ماشینی نیز می گوید او بالاتر از ۱۰۰ ساعت نمونه رونویسی که ویسپر انجام داده بود را تحلیل و در حدود نیمی از آنها توهمات این هوش مصنوعی را مشاهده کرده است. محقق سومی نیز مدعی شده هنگام بررسی ۲۶ هزار متنی که با کمک ویسپر ابداع شده، تقریباً در هر یک از رونویسی ها توهمات این ابزار را مشاهده کرده است. این چالش حتی در رونویسی از نمونه های کوتاه و باکیفیت صوتی نیز وجود دارد.


منبع:

1403/08/06
10:53:25
5.0 / 5
83
تگهای خبر: تولید , شركت , فناوری , كاربر
این مطلب را می پسندید؟
(1)
(0)

تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب
لطفا شما هم نظر دهید
= ۲ بعلاوه ۳
پی اچ پی جی کوئری پی اچ پی PHP