Користувачі змусили Google вимкнути функцію генерації зображень людей у чат-боті Gemini

Google тимчасово призупинив функцію генерації зображень людей у своєму розмовному додатку Gemini, посилаючись на необхідність вдосконалення для забезпечення точності. Таке рішення було прийнято після відгуків користувачів, які вказували на неточності та образливі висловлювання у згенерованих зображеннях. Функція, що працює на основі ШІ-моделі Imagen 2, зіткнулася з проблемами при створенні відповідних і неупереджених зображень, що призвело до призупинення її роботи.

Компанія Google визнала ці проблеми, пояснивши їх труднощами з точним налаштуванням моделі штучного інтелекту, щоб уникнути невідповідних або упереджених зображень, одночасно прагнучи до інклюзивності. Попри зусилля, спрямовані на пом’якшення проблем, які спостерігалися в попередніх технологіях генерації зображень, ця функція зіткнулася зі значними перешкодами. Іноді вона створювала непотрібні зображення або ставала надто обережною, не генеруючи зображення на певні підказки.

Старший віцепрезидент Прабхакар Раґаван пояснив, що метою є виправлення цих проблем шляхом значних удосконалень і тестування перед тим, як знову зробити функцію доступною. Він також зазначив, що забезпечення надійності штучного інтелекту, особливо в чутливих темах, пов’язане з певними труднощами, і наголосив на постійних зусиллях, спрямованих на підвищення точності технології.

Навіть громадські діячі, зокрема Ілон Маск і лідер республіканців Вівек Рамасвамі, розкритикували цю функцію за створення зображень, які, на їхню думку, є історично неточними та расово нечутливими.

Призупинення є частиною більш широких зусиль Google щодо відповідального розвитку технологій штучного інтелекту, визнаючи складнощі, пов’язані зі створенням систем штучного інтелекту, які є одночасно креативними та точними. Компанія заявила, що старанно працює над вирішенням нещодавніх проблем і планує незабаром випустити покращену версію функції генерації зображень.

Google також радить користуватися Пошуком Google для отримання найактуальнішої та найнадійнішої інформації, яка надходить з широкого спектра вебресурсів через різні системи.