باگ عجیب ChatGPT تصاویر خیلی عجیب و فجیع تولید می کند
دکور پرداز: کاربران در ایکس از باگ عجیب ChatGPT می گویند که نتیجه اش، ساخت تصاویر خیلی فجیع است.
زومیت: کاربران در ایکس از باگ عجیب ChatGPT می گویند که نتیجه اش، ساخت تصاویر خیلی فجیع است.
تعدادی کاربران از رفتار عجیب ابزار تولید تصویر چت جی پی تی اطلاع داده اند؛ رفتاری که موجب می شود مدل حتی بدون دریافت تصویر، تلاش کند نسخه ای خیالی از آنرا بازسازی کند.
ماجرا از توییتی شروع شد که در آن کاربری ادعا کرد با بهره گیری از یک دستور متنی خاص توانسته سیستم را وادار کند تصویری را بازسازی و ترمیم کند؛ در حالیکه هیچ عکسی برای مدل ارسال نشده بود.
در این دستور از چت جی پی تی خواسته می شود بدون پرسیدن سؤال و بدون درخواست باردیگر ی تصویر، عکس پیوست شده را بازسازی کند؛ در حالی که در عمل هیچ فایلی وجود ندارد.
به نقل از این کاربر، مدل در چنین سناریویی بجای اعلام نبود تصویر، آغاز به حدس زدن محتوای عکس می کند و تصویری بطورکامل ساختگی می سازد. او نتایج تولیدشده را به تصاویر عجیب و گاهی فجیع شبیه کابوس های دیجیتالی توصیف کرده است.
این پدیده نمونه ای از «توهم» در مدلهای هوش مصنوعی به شمار می رود؛ وضعیتی که در آن مدل بجای پذیرش کمبود اطلاعات، پاسخ یا محتوایی را برمبنای حدس و الگوهای آماری تولید می کند. در مدلهای تصویری، چنین رفتاری می تواند به خلق تصاویری منجر شود که هیچ ارتباطی با داده ی واقعی ندارند.
هنوز مشخص نیست این رفتار یک باگ واقعی در سیستم ی تولید تصویر چت جی پی تی به حساب می آید یا فقط نتیجه ی نحوه ی تفسیر این دستور خاص توسط مدل است. با این وجود، گزارش مورد اشاره بار دیگر توجه کاربران را به محدودیت ها و خطاهای احتمالی مدلهای مولد جلب کرد.
بطور خلاصه،
زومیت: کاربران در ایکس از باگ عجیب ChatGPT می گویند که نتیجه اش، ساخت تصاویر خیلی فجیع است.
تعدادی کاربران از رفتار عجیب ابزار تولید تصویر چت جی پی تی اطلاع داده اند؛ رفتاری که سبب می شود مدل حتی بدون دریافت تصویر، تلاش کند نسخه ای خیالی از آن را بازسازی کند.
ماجرا از توییتی آغاز شد که در آن کاربری ادعا کرد با استفاده از یک دستور متنی خاص توانسته سیستم را وادار کند تصویری را بازسازی و ترمیم کند؛ در صورتی که هیچ عکسی برای مدل ارسال نشده بود.
در این دستور از چت جی پی تی خواسته می شود بدون پرسیدن سؤال و بدون درخواست دوباره ی تصویر، عکس پیوست شده را بازسازی کند؛ در حالیکه در عمل هیچ فایلی وجود ندارد.
به نقل از این کاربر، مدل در چنین سناریویی بجای اعلام نبود تصویر، شروع به حدس زدن محتوای عکس می کند و تصویری بطورکامل ساختگی می سازد. او نتایج تولیدشده را به تصاویر عجیب و گاهی فجیع شبیه کابوس های دیجیتالی توصیف کرده است.
این پدیده نمونه ای از توهم در مدل های هوش مصنوعی به شمار می رود؛ وضعیتی که در آن مدل بجای پذیرش کمبود اطلاعات، پاسخ یا محتوایی را برمبنای حدس و الگوهای آماری تولید می کند.
مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب
لطفا شما هم در مورد این مطلب نظر دهید