Google hat Pläne angekündigt, sein generatives KI-Tool Gemini anzupassen, um die historische Genauigkeit der darin enthaltenen Bilder zu verbessern produziert. Diese Entscheidung folgt dem Feedback von Benutzern, die festgestellt haben, dass das Tool Rassenidentitäten in historischen Kontexten falsch darstellt. Benutzer hoben beispielsweise Fälle hervor, in denen Gemini einen indianischen Mann und eine indianische Frau als deutsches Paar aus den 1820er-Jahren, einen afroamerikanischen Gründervater und asiatische und indigene Soldaten als Mitglieder des deutschen Militärs von 1929 darstellte.
Umgang mit historischer Genauigkeit und Darstellung
Jack Krawczyk, Senior Director of Product bei Google und verantwortlich für Gemini, erkennt die Ungenauigkeiten an und versichert den Nutzern, dass das Team aktiv daran arbeitet, diese Probleme zu beheben. In seiner Erklärung betont Krawczyk, wie wichtig es ist, die vielfältige globale Nutzerbasis widerzuspiegeln und Repräsentation und Voreingenommenheit ernsthaft anzugehen. Er weist auch auf eine bevorstehende Anpassung des Tools hin, um historische Nuancen besser zu berücksichtigen, ohne seine Fähigkeit zu beeinträchtigen, „universelle“ Ergebnisse für nicht historische Anfragen zu liefern.
Wir sind uns bewusst, dass Gemini in einigen Fällen Ungenauigkeiten liefert Darstellungen bei der Generierung historischer Bilder, und wir arbeiten daran, dieses Problem umgehend zu beheben.
Als Teil unserer KI-Prinzipien https://t.co/BK786xbkey gestalten wir unsere Bilderzeugungsfunktionen so, dass sie unsere widerspiegeln globale Nutzerbasis, und wir…
– Jack Krawczyk (@JackK) 21. Februar 2024
Die Einbeziehung historisch korrekter Darstellungen wird als konstruktiver Schritt angesehen, um generative KI-Tools wie Gemini wertvoller und weniger anfällig für die Aufrechterhaltung von Stereotypen oder Vorurteilen zu machen. Diese Vorfälle verdeutlichen dies größere Herausforderung im Bereich der KI hinsichtlich der Datenintegrität und des Potenzials von KI-Modellen zur „Halluzination“ – der Erzeugung von Informationen, die nicht nur ungenau, sondern völlig erfunden sind.
Kontinuierliche Weiterentwicklung generativer KI-Tools
Googles Engagement für die Weiterentwicklung der Fähigkeiten von Gemini unterstreicht die anhaltenden Herausforderungen und Chancen, die generative KI-Technologien bieten. Da diese Tools immer stärker in verschiedene Bereiche integriert werden, darunter Bildung und Inhaltserstellung, wird das Gleichgewicht zwischen kreativer Freiheit und sachlicher Genauigkeit immer wichtiger. Diese Situation wirft auch ein Licht auf die Bemühungen der gesamten Branche, die inhärenten Vorurteile von KI-Technologien anzugehen und sicherzustellen, dass sie Inklusivität und Fairness fördern.
Neben der Aktualisierung von Gemini erforscht Google weiterhin das Potenzial generativer KI. Dies zeigt die Einführung von zwei kostenlosen KI-Modellen, die von Gemini inspiriert wurden, und die erwarteten Verbesserungen am KI-Modell der nächsten Generation, Gemini 1.5. Während Google und andere Unternehmen sich in diesen Gewässern bewegen, bleibt der Dialog zwischen KI-Entwicklern und der Benutzergemeinschaft von entscheidender Bedeutung, um ein Gleichgewicht zwischen Innovation und verantwortungsvoller Darstellung der Vielfalt und Komplexität der Menschheitsgeschichte zu erreichen.
