Google до сих пор не исправил предвзятый генератор изображений в Gemini
В феврале Google приостановил возможность своего чатбота Gemini, работающего на искусственном интеллекте, генерировать изображения людей после жалоб пользователей на исторические неточности. Например, попросив изобразить «римскую легию», Gemini показывал анакронистическую группу расно-различных солдат, а изображая «воинов Зулу», создавал стереотипно чернокожих.
Извинился глава Google Сундар Пичаи, а Демис Хассабис, сооснователь исследовательского подразделения искусственного интеллекта DeepMind, заявил, что исправление должно появиться «очень скоро» - в течение следующих нескольких недель. Однако мы уже в мае, и обещанное исправление остается неизвестным.
На этой неделе на ежегодной конференции разработчиков I/O Google представил много других функций Gemini, от индивидуальных чатботов до планировщика маршрутов отдыха и интеграции с Google Календарем, Keep и YouTube Music. Однако генерация изображений людей продолжает оставаться отключенной в приложениях Gemini в интернете и на мобильных устройствах, подтвердил представитель Google.
В чем причина задержки? Вероятно, проблема намного сложнее, чем предполагал Хассабис.
Наборы данных, используемые для обучения генераторов изображений, таких как Gemini, обычно содержат больше изображений белых людей, чем людей других рас и этнических групп, и изображения небелых людей в этих наборах данных подкрепляют негативные стереотипы. Google, явно пытающийся исправить эти предвзятости, внедрил грубое хардкодирование под капотом. И ему теперь сложно найти разумный путь, который избежал бы повторения исторических ошибок.
Достигнет ли Google успеха? Возможно. А может и нет. В любом случае, этот долгий процесс напоминает, что исправить неправильное поведение искусственного интеллекта не так просто - особенно когда предвзятость лежит в основе неправильного поведения.
Мы запускаем еженедельную рассылку AI! Подпишитесь здесь, чтобы начать получать ее 5 июня.
