На самом деле, не совсем так. Расисты тут люди. И технологии. А дело вот в чём:
В Австралии решили проверить, могут ли люди отличить сгенерированные ИИ лица от лиц настоящих людей. И оказалось, что не могут. Но только с лицами белых.
Причина банальна - ИИ непропорционально много обучается именно на белых лицах, поэтому, когда ему нужно снегенировать человека с другим цветом кожи... Он просто пользуется теми же схемами, что и при создании белых "господ".
Что интереснее - обычно люди, которые ошибаются в том, что перед ними фотография реального человека, больше всего уверены в собственной правоте (но это уже классика - "чем меньше я знаю, тем больше я уверен, что я знаю всё" и так далее).
Но как вообще получается, что люди обманываются каким-то там ИИ? Разве различать лица - это столь сложно? Ну, дело в том, что мы действительно замечаем несостыковки между реальностью и генерацией. Но при этом мы сами склонны отмечать подобную непропорциональность не как ошибку, а как признак большей человечности.
Но, возможно, скоро будет глупо полагаться даже на физические сигналы, ведь ИИ очень быстро развивается в последнее время. И, возможно, эпоха прорыва в подобных направлениях ещё не завершилась.
Ну и Австралийские учёные, как и многие их коллеги, отмечают, что подобные технологии могут быть использованы для краж и обмана, и что нужно просвещать население, и создать программу для выявления подобных ИИ-генераций. Всё как всегда.
P.S: Если они использовали ту картинку, что я приведу ниже (тыкайте, если опять опаздываю в комментах) и там не все лица созданы ИИ, то у меня претензий к обманчивости ИИ нет. Но если там всё создано ИИ, то... Это буквально так и выглядит.
#Cirno #Science #IT@cirno_nb
Мы в VK: https://vk.com/cirno_nb
