Бьюти-фильтр Bold Glamour от Tiktok беспокоит экспертов по искусственному интеллекту по поводу реальности

Nov 18, 2023

В последние недели TikTok заполонили спецэффекты в реальном времени: они подчеркивают подбородки, пухнут губы и создают контуры макияжа в стиле Кардашьян для всех, у кого есть смартфон. Хотя его рекламируют как удивительно убедительный фильтр красоты, исследователи искусственного интеллекта говорят, что этот эффект не оставляет следов его присутствия, давая ему беспрецедентную возможность манипулировать людьми внутри и за пределами приложения, что вызвало пристальное внимание правительств по всему миру.

Bold Glamour, который с момента его выпуска в прошлом месяце был загружен более 16 миллионов раз, предлагает один из самых убедительных эффектов, который любой человек со смартфоном может использовать для создания улучшенной версии или аватара самого себя в реальном времени, говорят независимые создатели фильтров. , исследователи и творческие технологи.

В отличие от других фотофильтров, Bold Glamour не колеблется, когда происходит слишком много движений или если рука проходит перед лицом пользователя. Он меняет лица в реальном времени, и накладных ресниц нет. Пользователи тянут щеки и дергают брови, потому что не могут поверить в то, что видят.

Представитель TikTok Алекса Юсефян отказалась обсуждать технологию, лежащую в основе фильтра, но пользователи и исследователи говорят, что фильтр считывает тон кожи людей, воспринимаемый пол и цвет волос, а затем определяет количество макияжа, наполнителей для губ и подтяжки кожи, которые необходимо применить для определенного SoCal. влиятельный взгляд. И ИИ может управлять этим процессом.

«Похоже, что фильтр использовал лицо Кайли Дженнер в качестве модели для алгоритма машинного обучения, а затем смешал ее лицо с моим», — рассказала The Washington Post Лаура Гуйон, создатель фильтра для социальных сетей.

По ее словам, эффект, вероятно, заключается в обучении технике макияжа. «В предыдущих бьюти-фильтрах на лицо пользователя накладывалась сетка, поэтому, если рука или волосы закрывали лицо, эффект не получался», — сказал Гуйон. «Этот фильтр, вероятно, использует технологию машинного обучения, чтобы совместить эти черты с вашим лицом».

Хани Фарид, профессор информатики Калифорнийского университета в Беркли, сказал, что фильтр, вероятно, использует «генеративный искусственный интеллект» — технологию, которая изучает миллионы изображений и образцов текста, часто скопированных из Интернета, для создания новых изображений или слов. (Фарид был членом консультативного совета по контенту TikTok с 2020 по 2022 год.)

Люк Херд, создатель фильтров Snapchat и Instagram, написал в Твиттере, что эффект Bold Glamour использует машинное обучение.

«Они используют так называемую генеративно-состязательную сеть», — сказал он. «Они берут изображение пользователя, затем сравнивают его с набором данных других изображений, а затем перерисовывают ваше лицо, пиксель за пикселем, на выходе вашей камеры».

Доступность фильтра — это то, что отличает его от предыдущих средств визуальной манипуляции, говорит Хэлси Бургунд, креативный технолог, работающий в Открытой лаборатории документального кино Массачусетского технологического института.

Как попробовать новую технологию искусственного интеллекта, о которой все говорят

«Способность правдоподобно манипулировать собой, а вскоре и другими, в видеороликах стала товаром [благодаря этому эффекту], и это настоящий скачок», — сказал он. «Эта технология какое-то время жила в лабораториях, компаниях и в более эзотерических местах в Интернете, но теперь каждый может сделать это бесплатно и посмотреть, как это работает».

Видео с Bold Glamour можно публиковать в Интернете без пометки, обозначающей, что пользователь применил эффект гиперреалистичности, и исследователи предупредили, что поверить в то, что реально в Интернете, будет становится все труднее.

«Эффект Bold Glam является признаком того, что очень скоро технологии, создающие дипфейки, также смогут стать мейнстримом», — сказал Мемо Актен, профессор компьютерного искусства и дизайна Калифорнийского университета в Сан-Диего. «Это не означает, что технология будет выпущена, просто это признак того, что она может быть выпущена».

Дипфейки — это видеоролики или другие средства массовой информации, которые используют искусственный интеллект, чтобы показать, как люди делают то, чего на самом деле никогда не происходило.

Крупные технологические компании осторожно действовали в отношении ИИ. Затем появился ChatGPT.