Нейросеть Gemini ударилась в расизм
В мировых интернетах разворачивается один из самых весёлых скандалов недели, ув. друзья — это, как известно, гуглова нейросеть Gemini, создающая по запросам граждан изумительные изображения.
Как быстро убедились граждане планеты, Гемини практически не верит в существование белых вообще — и особенно белых мужчин. То есть она на просьбу «нарисуй мне папу римского» выдаёт индийских старушек в тиарах, на просьбу «нарисуй короля английского» выдаёт гигантский выбор негров в коронах, а просьбу «нарисуй белую семью» вообще отвергает, потому что расизм, а семья должна быть инклюзивной.
Вот так, по мнению нейросети, выглядят британские и американские женщины:
А вот так, по мнению нейросети, выглядит попа Римский:
Попытка сделать контроль ущерба («ну, это ещё молодая модель, она только обучается») провалилась, и сегодня утром гугол объявил о том, что «временно приостанавливает работу Gemini для доработки».
Данная новость более всего поражает на самом деле не тем, что «надо же, гугл — оказывается, политкорректный!»
Данная новость поражает тем, что гугл, как легко понять, долго тестировал свою модель у себя, сотнями лучших своих умов перед тем, как вывалить на мировой рынок и смешно опозориться.
И в ходе коллективного мозгового штурма сотнями лучших умов — ни у кого не возникло вопроса «блин, чёзафигня». Никто из огромного коллектива мощных специалистов не заметил, что нейросеть — безумная расистка. Или заметил, но рассудил, что энтузиазм наказуем и нефиг связываться.
Все смотрели мимо слона в комнате.
И это наглядно показывает нам, что зачастую даже самые мощные коллективные умы могут творить невообразимо идиотскую фигню. И поэтому вопить «да ты хоть знаешь, сколько гениев работает в гугле?! ты их капитализацию видел?!» — порой просто наивно.
PS. Зато анимешная нейросеть работает чотко (если кто не знает — нейросети дают фотографию реальных людей, а она делает из нее изображение в духе аниме-мультиков):
А кому теперь легко?
