گوگل به طور موقت ویژگی تولید تصویر افراد در اپلیکیشن هوش مصنوعی Gemini را متوقف کرده است. دلیل این تصمیم، نیاز به بهبود دقت برای اطمینان از صحت تصاویر است. این اقدام پس از بازخورد کاربران که به نادرستی ها و نتایج ناخوشایند تصاویر تولید شده اشاره کرده بودند، صورت گرفته است.
این ویژگی که با مدل هوش مصنوعی Imagen 2 کار می کرد، با مشکلاتی در ایجاد تصاویر مناسب مواجه شد. این امر باعث شد گوگل این ویژگی را به طور موقت متوقف کند. گوگل ضمن تایید این مشکلات، آنها را به چالش های تنظیم دقیق مدل هوش مصنوعی برای جلوگیری از نمایش های نامناسب یا مغرضانه در عین حال حفظ انصاف و احترام نسبت می دهد. با وجود تلاش هایی برای کاهش مشکلات مشاهده شده در فناوری های قبلی تولید تصویر، این ویژگی با موانع قابل توجهی روبرو شد. گاهی اوقات تصاویر غیرضروری تولید می کرد یا بیش از حد محتاطانه عمل می کرد و برای برخی درخواست ها تصویری تولید نمی کرد.
پرابهاکار راغوان، معاون ارشد گوگل، توضیح داد که هدف این است که قبل از فعال کردن مجدد این ویژگی، با بهبودهای گسترده و آزمایش های دقیق، این مشکلات را برطرف کنند. او همچنین به چالش های ذاتی در اطمینان از قابلیت اطمینان هوش مصنوعی، به ویژه در مورد موضوعات حساس اشاره کرد و بر تلاش های مداوم برای افزایش دقت این فناوری تأکید کرد.
بنابراین، به خاطر داشته باشید که در حال حاضر تولید تصاویر افراد در هوش مصنوعی جمینی در دسترس نیست. گوگل روی بهبود این ویژگی کار می کند تا مطمئن شود تصاویر با دقت و احترام تولید می شوند. حتی چهرههای سرشناسی مانند ایلان ماسک و رهبر جمهوریخواه، ویوک راماسوامی، از این ویژگی انتقاد کردهاند و گفتهاند که تصاویر تولید شده از نظر تاریخی نادرست و از نظر نژادی بیاحساس هستند.
حذف موقت این ویژگی بخشی از تلاشهای گستردهتر گوگل برای توسعه مسئولانه فناوری های هوش مصنوعی است و پیچیدگی های موجود در ایجاد سیستم های هوش مصنوعی که هم خلاق و هم دقیق هستند را تأیید میکند.
این شرکت اعلام کرده است که با جدیت برای رفع مشکلات اخیر تلاش میکند و به زودی نسخه بهبود یافتهای از ویژگی تولید تصویر را منتشر خواهد کرد. گوگل همچنین توصیه میکند برای دریافت آخرین و قابل اعتمادترین اطلاعات از جستجوی گوگل استفاده کنید.