W ostatnich tygodniach internet obiegły wygenerowane przez Gemini AI ilustracje przedstawiające postaci takie jak Wikingowie, papieże, ojcowie-założyciele Stanów Zjednoczonych czy żołnierze Wehrmachtu. Kontrowersje wzbudził fakt, że na każdej ilustracji przedstawione osoby są wyraźnie afrykańskiego lub azjatyckiego pochodzenia, co prowadzi do groteskowych, a nawet obraźliwych rezultatów. Obrazy szybko zaczęły okrążać internet, przyciągając zarówno rozbawione, jak i oburzone reakcje. Jeden z użytkowników serwisu X za pomocą techniki “prompt injection” zmusił chatbota Gemini do wyjawienia przyczyny generowania takich rażąco niepoprawnych obrazów. Chatboty w pierwszej kolejności wykonują polecenia dewelopera, których nie widzi użytkownik, dlatego wiedzą, że na hasło “dinozaur”, mają wygenerować obraz dinozaura w stylu realistycznym. Jedno z takich z góry zaprogramowanych poleceń dla Gemini brzmi: “W przypadku każdego obrazu zawierającego ludzi należy wyraźnie określić różne płcie i grupy etniczne”. Z tego powodu model stara się wygenerować jak najbardziej różnorodne obrazy, nawet w momentach, gdy różnorodność jest zbędna, a nawet nie na miejscu. Istnieje jednak prawdopodobieństwo, że chatbot halucynował, odpowiadając na polecenie użytkownika. Przedstawiciele Google’a przyznali, że model został wypuszczony przedwcześnie, bez należytych testów. W Gemini AI wyłączono możliwość generowania obrazów ludzi. Źródło